Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Apple will Full Disk Access einschränken, während KI-Agenten den ganzen Mac verlangen

Apple hat am 2. Oktober angekündigt, den Full Disk Access in macOS mit neuen Kontrollen zu versehen. Diese Berechtigung erlaubt einer App, Dateien, Mails, Nachrichten und den Browserverlauf zu lesen. Entwickler nutzen sie laut Apple inzwischen auf Wegen, die Nutzer gefährden können.

KI & ModelleNachrichtLena BrandtVeröffentlicht: 4. Oktober 20266 Min. LesezeitQuellen 11
Apple will Full Disk Access einschränken, während KI-Agenten den ganzen Mac verlangen

Die Ankündigung stand in einem Beitrag auf Apples Entwickler-Website. Das Unternehmen nannte keinen Zeitplan, keine technischen Details und keine Liste der betroffenen Apps. 9to5Mac berichtete am 2. Oktober über den Beitrag.

Wer einer App pauschalen Zugriff auf die Festplatte geben will, soll dafür bald einen bewussten Schritt tun müssen. Heute reicht ein Klick in einem versteckten Einstellungsfenster. Wie dieser Schritt aussehen wird, ist offen. Apple hat nicht gesagt, ob bestehende Berechtigungen beim Update entzogen werden oder welche Apps ihre bisherige Arbeitsweise verlieren. Zwischen dem Versprechen von Kontrollen und einer ausgelieferten Kontrolle liegt der größte Teil dieser Geschichte. Wie groß die Lücke wird, kann derzeit niemand außerhalb von Apple sagen.

Der Full Disk Access war für Backup-Software gedacht. Apples Beitrag schreibt, die Berechtigung umgehe "weitgehend" die Kontrollen, mit denen das Unternehmen private Daten schützt. Weiter heißt es, "einige Entwickler nutzen den Full Disk Access auf Wegen, die Nutzer gefährden könnten, indem sie alles auf ihren Systemen offenlegen, darunter Dateien, Mails, Nachrichten und sogar den Browserverlauf, ohne dass die Nutzer es vollständig wissen und verstehen". Derselbe Beitrag warnt, bei Messaging-Apps reiche die Offenlegung bis zu den Menschen, mit denen ein Nutzer schreibt.

Warum die Berechtigung jetzt zum Problem wird

Der Zeitpunkt ist wenig subtil. Dauerhaft laufende Assistenten wie Meta Muse und Dots von OpenAI verlangen breiten Zugriff auf persönliche Daten. 9to5Mac merkt an, Muse habe bereits Horrorgeschichten produziert, wie die Seite es nennt. Ein Agent, der jede Datei auf einem Laptop lesen kann, ist nützlicher und deutlich schwerer einzugrenzen.

Apple begründet die Änderung mit diesem Trend. "Je leistungsfähiger und autonomer KI-Agenten werden, desto stärker wachsen die Risiken, die mit diesem Zugriffsniveau verbunden sind", schrieb das Unternehmen. Es wolle, dass Nutzer die Risiken verstehen, bevor sie Zugriff gewähren.

Auch beim Browser kommen Agenten von der anderen Seite. Ein Entwicklerbeitrag von Marko Denic vom 3. Oktober beschreibt WebMCP, ein Chrome-Experiment. Eine Seite kann damit ihre Formulare und Funktionen als benannte Werkzeuge mit typisierten Eingaben für einen Agenten bereitstellen. Der Agent ruft dann eine Funktion auf, statt Pixel zu erraten. Drei HTML-Attribute an einem bestehenden Formular genügen. Browser ohne WebMCP-Unterstützung ignorieren sie.

Denics Beispiel ist ein Suchformular für einen Newsletter, versehen mit Werkzeugnamen und Beschreibung. Er rät, das Attribut für automatisches Absenden bei allem wegzulassen, was sendet, kauft oder löscht, damit ein Mensch noch bestätigt. Der Test läuft derzeit auf Chrome 149 und braucht ein Origin-Trial-Token. Die meisten Besucher werden ihn noch nicht sehen.

Das Messproblem hinter den Kontrollen

Berechtigungsdialoge setzen voraus, dass jemand hinsieht. Ein Paper von Emre Turan, auf arXiv veröffentlicht und auf den 8. Juni datiert, argumentiert, das menschliche Genehmigungstor sei der leichte Teil. Die Beurteilung dahinter sei es nicht. Bei 125 von Hand gelabelten Agenten-Aktionen stimmten die Prüfer nur mäßig darin überein, was als riskant gilt, mit einem Fleiss' kappa von 0,52.

Turan modelliert den Prüfer als jemanden, der ermüdet, je mehr Eskalationen auflaufen. Er kommt zu dem Ergebnis, dass die Sicherheit mit steigender Eskalationsrate eine umgekehrte U-Form bildet. Ab einem Punkt macht mehr menschliche Aufsicht ein System unsicherer, und die beste Einstellung eskaliert unterhalb der vollständigen Eskalation. Er betont ausdrücklich, dass die Mechanismen bereits bekannt sind, und verweist auf Arbeiten zu ermüdungsbewusstem Learning-to-defer und kostenempfindlicher Delegation. Er sagt auch, der Flooding-Angriff und die umgekehrte U-Form seien Modellierungsergebnisse, die eine Humanstudie anregen sollen.

"Das Tor ist der leichte Teil; das Schwere ist die Beurteilung", heißt es im Abstract des Papers.

Microsoft und Hugging Face veröffentlichten am 3. Oktober einen Benchmark, der etwas Angrenzendes misst: was ein Agent hinterlässt. ThinkingBox lässt Agenten gegen isolierte Werkzeugsitzungen laufen und bewertet den Endzustand des Backends statt der Antwort. Über 507 zustandsbehaftete Geschäftsabläufe, jeden 20-mal ausgeführt, umfasste die Ablation des gemeinsamen Satzes 121.680 gültige Durchläufe über 12 Modelle. 79.853 Versuche scheiterten an den ausführbaren Prüfungen.

Von diesen Fehlschlägen endeten 67,24% sauber, riefen ein zustandsänderndes Werkzeug auf und meldeten keinen Fehler. Die Prüfungen fanden dennoch in 77,61% davon falsche Feldwerte, in 43,30% zusätzliche Nebenwirkungen und in 25,36% fehlende erforderliche Wirkungen. Die Autoren fassen es in einem Satz zusammen, den man behalten sollte: Eine Trajektorie ist eine Behauptung, der Datenbankzustand ist der Beweis.

Was Entwickler tun, statt zu fragen

Die Werkzeuge rund um Agenten verschieben sich dahin, ihnen eigene Zugangsdaten und eigene Oberflächen zu geben statt denen eines Nutzers. Ein Beitrag von AgentID vom 4. Oktober legt dar, warum ein Agent ein eigenes Postfach und einen eigenen Anmeldeschlüssel bekommen sollte. Widerrufen heißt dann, diesen Schlüssel zu löschen, statt das eigene Passwort zu ändern.

Auf dem Desktop ist more-space eine kleine App, die ein Terminal auf eine endlose Tafel legt. Der Agent kann dort seinen Plan, seinen Fortschritt und seine Fragen zeichnen, begleitet von einem Avatar. In das Projekt installiert sie nichts.

easl, beschrieben von Tim Waldin am 4. Oktober, führt dieselbe Idee weiter. Es gibt jedem Repository eine unendliche Tafel, mit Agenten in echten Terminals neben den Diagrammen und Seiten, die sie erzeugen. Ein Tastenkürzel fügt, worauf man zeigt, dem nächsten Prompt hinzu. Waldin stützt sein Argument auf einen Beitrag von Andrej Karpathy, der sagte, wir würden viel mehr Zeit damit verbringen, die Ausgaben von Sprachmodellen zu verstehen.

Luke Wroblewski liefert am selben Tag das Design-Argument. Wenn Agenten den größten Teil des Frontends schreiben, wird ein Designsystem zur Steuerungsschicht. Es bringt Tokens und eine AGENTS.md-Datei mit, die jeder Agent liest, bevor er einen Button hinzufügt. In seinen Projekten ist der Code die Quelle der Wahrheit, nicht Figma.

Nichts davon löst die Berechtigung, um die Apple sich sorgt. Ein Designsystem hält einen Agenten konsistent. Es entscheidet nicht, ob dieser Agent Ihre Mails lesen darf.

Die Aufsichtslücke, die Apples Kontrollen nicht schließen

Anbieter verkaufen Governance als Antwort. Kimchi, am 4. Oktober gestartet, leitet jede Agentenanfrage durch eine einzige Durchsetzungsschicht. Es setzt harte Ausgabengrenzen pro Nutzer, Team, API-Schlüssel oder Modell und bietet an, in der eigenen Cloud eines Kunden zu laufen. Spawned, ebenfalls am 4. Oktober erschienen, richtet Infrastruktur im AWS-, GCP- oder Azure-Konto eines Kunden ein. Es bewirbt sich als Weg zu sehen, was Agenten gebaut haben.

Diese Produkte adressieren Kosten und Konfiguration. Sie adressieren nicht die Beurteilung, wo die Forschung immer wieder landet. Sandeep Archaryas Beitrag über Agentendrift vom 3. Oktober stellt die Frage, die Teams erwischt: Wenn niemand den Agenten geändert hat, warum hat sich sein Verhalten geändert? Die Antwort lautet, dass Modelle, Werkzeuge, Daten und andere Agenten sich darunter bewegen. Nur das Modell zu überwachen verpasst die Verschiebung.

Apples Antwort ist enger und konkreter. Das Unternehmen macht die Berechtigung schwerer zu erteilen. Ob das jemanden schützt, hängt an Details, die nicht veröffentlicht sind. Es hängt auch davon ab, ob die Agenten, die die Festplatte verlangen, ihre Arbeit mit weniger erledigen können.

Kommentare 0

Quellen

11
  1. 01Apple says it's tightening macOS privacy controls amid the rise of AI agentsEN
  2. 02Let AI agents use your site with 3 HTML attributesEN
  3. 03Oversight Has Capacity: Calibrating Agent Guards to a Subjective Fatiguing HumanEN
  4. 04The Agent Said It Was Done. The Database Disagreed.EN
  5. 05Give Your AI Agent Its Own IdentityEN
  6. 06Chalkboard and Avatar for AI AgentsEN
  7. 07Easl.sh – your agents diagrams need somewhere to liveEN
  8. 08Design Systems for AI AgentsEN
  9. 09Pi-based coding agent with hard budget capsEN
  10. 10Spawned: AIO cloud platform for humans and agentsEN
  11. 11Understanding Agent DriftEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Lena Brandt

Lena Brandt

KI, Modelle und Technik

Lena Brandt schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Herstellerangaben, Studien und öffentlich zugängliche Datensätze, statt Pressemitteilungen ungeprüft zu übernehmen. Bei Modellvergleichen kontrolliert sie Benchmark-Werte, Trainingsdaten und Versionsnummern und rechnet Angaben zu Rechenleistung und Kosten selbst nach. Sie spricht mit Entwicklern und Forschern, wartet auf angekündigte Updates und vergleicht Releases, bevor sie eine Einschätzung abgibt. Privat beschäftigt sie sich mit 3D-Druck, alten Rechnern und der Frage, wie Modelle aus Internetmüll lernen – Themen, die regelmäßig in ihre Texte einfließen. Sie publiziert keine Zahlen, deren Quelle sie nicht selbst überprüfen konnte.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.