Apple ogranicza Full Disk Access. Agenci AI chcą dostać całego Maca
Apple zapowiedziało 2 października, że doda nowe mechanizmy kontroli do Full Disk Access w macOS, uprawnienia, które pozwala aplikacji czytać pliki, pocztę, wiadomości i historię przeglądania. Deweloperzy zaczęli używać go w sposób, który według firmy może narażać użytkowników.

Zapowiedź pojawiła się we wpisie na stronie dla deweloperów Apple. Firma nie podała terminu, szczegółów technicznych ani listy aplikacji, o których myśli. 9to5Mac opisał wpis 2 października.
Dla użytkowników Maca przyznanie aplikacji pełnego dostępu do dysku ma wkrótce wymagać świadomego działania. Dziś wystarczy kliknięcie ukryte w panelu ustawień. Nadal nie wiadomo, jak to działanie będzie wyglądać. Apple nie powiedziało, czy aktualizacja odbierze dotychczasowe uprawnienia ani które aplikacje przestaną działać tak jak teraz. Między obietnicą kontroli a gotowym mechanizmem jest luka i w niej wciąż tkwi większość tej historii. Nikt spoza Apple nie umie jeszcze powiedzieć, jak duża będzie.
Full Disk Access powstał dla programów do kopii zapasowych. Wpis Apple stwierdza, że uprawnienie „w dużej mierze omija” mechanizmy ochrony prywatnych danych. Firma dodaje, że „niektórzy deweloperzy używają Full Disk Access w sposób, który może narażać użytkowników, odsłaniając wszystko na ich systemach, w tym pliki, pocztę, wiadomości, a nawet historię przeglądania, bez pełnej wiedzy i zrozumienia użytkowników”. Ten sam wpis ostrzega, że w przypadku komunikatorów odsłonięcie obejmuje też osoby, z którymi użytkownik rozmawia.
Dlaczego to uprawnienie stało się problemem właśnie teraz
Termin nie jest przypadkowy. Działające bez przerwy asystenci, tacy jak Meta Muse i Dots od OpenAI, proszą o szeroki dostęp do danych osobowych. 9to5Mac zauważa, że Muse dostarczył już historii, które nazywa strasznymi. Agent, który potrafi przeczytać każdy plik na laptopie, jest użyteczniejszy i znacznie trudniejszy do ograniczenia.
Apple uzasadniło zmianę tym trendem. „W miarę jak agenci AI stają się coraz bardziej zdolni i autonomiczni, ryzyko związane z takim poziomem dostępu będzie istotnie rosnąć” - napisała firma. Dodała, że chce, by użytkownicy rozumieli ryzyko, zanim przyznają dostęp.
Agenci wchodzą też do przeglądarki z drugiej strony. Wpis dewelopera Marko Denica z 3 października opisuje WebMCP, eksperyment Chrome. Pozwala stronie udostępnić agentowi swoje formularze i funkcje jako nazwane narzędzia z typowanymi danymi wejściowymi, więc agent wywołuje funkcję, zamiast zgadywać po pikselach. Wystarczą trzy atrybuty HTML w istniejącym formularzu. Przeglądarki, które nie obsługują WebMCP, po prostu je pomijają.
Przykładem Denica jest formularz wyszukiwania w newsletterze, oznaczony nazwą narzędzia i opisem. Autor radzi nie dodawać atrybutu automatycznego wysyłania do niczego, co wysyła, kupuje lub usuwa, żeby człowiek nadal potwierdzał. Test działa obecnie w Chrome 149 i wymaga tokenu origin trial. Większość odwiedzających go jeszcze nie zobaczy.
Problem pomiaru, który stoi za mechanizmami kontroli
Prośby o uprawnienia zakładają, że ktoś patrzy. Praca Emre Turana, opublikowana na arXiv i datowana na 8 czerwca, przekonuje, że ludzka zgoda to łatwa część. Ocena, która za nią stoi, już nie. Przy 125 ręcznie oznaczonych działaniach agentów recenzenci zgadzali się tylko umiarkowanie co do tego, które z nich są ryzykowne; kappa Fleissa wyniosła 0,52.
Turan modeluje recenzenta, który męczy się, gdy eskalacji przybywa. Wychodzi mu, że bezpieczeństwo układa się w odwróconą literę U w miarę wzrostu liczby eskalacji. Po pewnym punkcie większy nadzór ludzki zmniejsza bezpieczeństwo systemu, a najlepsze ustawienie eskaluje rzadziej niż pełna eskalacja. Autor wprost zaznacza, że opisane mechanizmy to wcześniejsze prace, powołuje się na uczenie się odkładania decyzji z uwzględnieniem zmęczenia i na prace o kosztownym odkładaniu. Mówi też, że atak zalewania i odwrócona litera U to wyniki modelowania, które mają uzasadnić badanie z ludźmi.
„Zgoda to łatwa część; trudna jest ocena” - głosi streszczenie pracy.
Microsoft i Hugging Face opublikowały 3 października benchmark, który mierzy coś pokrewnego: co agent zostawia po sobie. ThinkingBox uruchamia agentów w izolowanych sesjach narzędzi i ocenia końcowy stan backendu, nie odpowiedź. W 507 stanowych procesach biznesowych, każdym uruchamianym 20 razy, ablacja wspólnego zbioru objęła 121 680 poprawnych prób na 12 modelach. 79 853 próby nie przeszły sprawdzeń wykonywalnych.
Spośród tych niepowodzeń 67,24% zakończyło się czysto, wywołało narzędzie zmieniające stan i nie zgłosiło błędu. Sprawdzenia i tak wykryły w nich złe wartości pól w 77,61% przypadków, dodatkowe skutki uboczne w 43,30% i brak wymaganych efektów w 25,36%. Autorzy podsumowują to zdaniem, które warto zapamiętać: trajektoria to twierdzenie, stan bazy danych to dowód.
Co robią twórcy, zamiast pytać
Narzędzia wokół agentów idą w stronę dawania im własnych poświadczeń i własnych powierzchni, a nie dostępu do tego, co ma użytkownik. Wpis AgentID z 4 października przekonuje, żeby wydać agentowi własną skrzynkę i własny klucz logowania. Odebranie dostępu oznacza wtedy usunięcie tego klucza, a nie zmianę własnego hasła.
Na pulpicie more-space to mała aplikacja, która kładzie terminal na niekończącej się tablicy. Agent może tam rysować plan, postęp i pytania, a awatar dotrzymuje mu towarzystwa. Nic nie instaluje w projekcie.
easl, opisany przez Tima Waldina 4 października, rozwija podobny pomysł dalej. Daje jedną nieskończoną tablicę na repozytorium, z agentami w prawdziwych terminalach obok diagramów i stron, które tworzą. Skrót klawiszowy dodaje to, na co wskazujesz, do następnego promptu. Waldin opiera argument na wpisie Andreja Karpathy'ego, który powiedział, że będziemy spędzać znacznie więcej czasu, próbując zrozumieć, co wypuszczają modele językowe.
Luke Wroblewski tego samego dnia przedstawia argument projektowy. Jeśli agenci piszą większość front-endu, system projektowy staje się warstwą sterowania. Wnosi tokeny i plik AGENTS.md, który każdy agent czyta, zanim doda przycisk. W jego projektach źródłem prawdy jest kod, nie Figma.
Nic z tego nie rozwiązuje problemu uprawnień, o który martwi się Apple. System projektowy utrzymuje spójność agenta. Nie decyduje, czy ten agent powinien móc czytać twoją pocztę.
Luka w nadzorze, której mechanizmy Apple nie zamkną
Dostawcy sprzedają zarządzanie jako odpowiedź. Kimchi, uruchomiony 4 października, przepuszcza każde żądanie agenta przez jedną warstwę egzekwowania. Ustawia twarde limity wydatków na użytkownika, zespół, klucz API lub model i oferuje działanie w chmurze klienta. Spawned, również z 4 października, stawia infrastrukturę na koncie AWS, GCP lub Azure klienta. Reklamuje się jako sposób, żeby zobaczyć, co zbudowali agenci.
Te produkty dotyczą kosztów i konfiguracji. Nie dotyczą oceny, a właśnie na niej za każdym razem lądują badania. Wpis Sandeepa Archaryi o dryfie agentów, opublikowany 3 października, stawia pytanie, które zaskakuje zespoły: jeśli nikt nie zmienił agenta, dlaczego zmieniło się jego zachowanie? Odpowiedź brzmi: modele, narzędzia, dane i inni agenci ruszają się pod nim. Monitorowanie samego modelu nie wychwyci tej zmiany.
Odpowiedź Apple jest węższa i bardziej konkretna. Firma utrudni przyznanie uprawnienia. To, czy kogoś ochroni, zależy od szczegółów, których nie opublikowała. Zależy też od tego, czy agenci proszący o dostęp do dysku potrafią pracować z mniejszym.
Źródła
11- 01Apple says it's tightening macOS privacy controls amid the rise of AI agentsEN
- 02Let AI agents use your site with 3 HTML attributesEN
- 03Oversight Has Capacity: Calibrating Agent Guards to a Subjective Fatiguing HumanEN
- 04The Agent Said It Was Done. The Database Disagreed.EN
- 05Give Your AI Agent Its Own IdentityEN
- 06Chalkboard and Avatar for AI AgentsEN
- 07Easl.sh – your agents diagrams need somewhere to liveEN
- 08Design Systems for AI AgentsEN
- 09Pi-based coding agent with hard budget capsEN
- 10Spawned: AIO cloud platform for humans and agentsEN
- 11Understanding Agent DriftEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.