Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Apple ogranicza dostęp do dysku w macOS, żeby chronić dane przed agentami AI

Apple ogłosił 3 października, że zaostrza zasady przyznawania uprawnienia Pełny dostęp do dysku w macOS. Zmiana ma powstrzymać agentów AI przed czytaniem prywatnych danych bez wyraźnej zgody użytkownika.

AI i modeleNewsMarta ZielińskaOpublikowano: 3 października 20265 min czytaniaŹródła 12
Apple ogranicza dostęp do dysku w macOS, żeby chronić dane przed agentami AI

Apple zmienił zasady 3 października. Aktualizacja ogranicza sposób, w jaki agenci AI sięgają po prywatne dane.

Termin nie jest przypadkowy. Dwa tygodnie wcześniej dziennikarz technologiczny Jason Aten opisał, że agent Muse od Meta wysłał mu powiadomienie dotyczące prywatnego wątku w Apple Messages. Aten twierdził, że nie przyznał agentowi prawa do czytania swoich wiadomości. Według Ars Technica zdarzenie wywołało szerszą dyskusję. Pytano w niej, czy asystenci AI z dostępem do kalendarzy i maili przypominają elektronarzędzia, które przy niewłaściwym użyciu mogą wyrządzić realne szkody. Reakcja społeczności była szybka. Wielu deweloperów zaczęło się zastanawiać, czy obecne modele uprawnień wystarczą w przypadku autonomicznego oprogramowania. Takie oprogramowanie potrafi czytać, pisać i wykonywać polecenia bez człowieka przy każdej pojedynczej akcji. Incydent stał się katalizatorem nagłej zmiany polityki Apple. W kilka dni zamienił niszowy problem bezpieczeństwa w sprawę dotyczącą całej platformy.

CTO Meta David Singleton odparł te zarzuty. Napisał: „Integracja z Messages w aplikacji Muse na Maca jest opcjonalna”.

Singleton przekonywał, że Muse potrzebuje dwóch konkretnych działań użytkownika, żeby dotrzeć do wiadomości. Trzeba przyznać Pełny dostęp do dysku i włączyć konektor Messages. Ekspert od bezpieczeństwa macOS Patrick Wardle podważył jednak tę linię obrony. Zwrócił uwagę, że Pełny dostęp do dysku pozwala technicznie odczytać każdy plik poza tymi należącymi do roota, w tym historię przeglądania i czaty. Nowe ogłoszenie Apple przeczy sugestii Singletona, jakoby uprawnienie było ściśle ograniczone do konkretnych integracji. Wardle wskazał na zasadniczą wadę obecnego modelu bezpieczeństwa macOS. Jedno szerokie uprawnienie daje dostęp do niemal wszystkiego na dysku. Ten brak granularnej kontroli tworzy ogromną powierzchnię ataku dla każdego oprogramowania, które zdobędzie Pełny dostęp do dysku. Dzieje się tak niezależnie od jego celu ani od intencji użytkownika w chwili przyznawania zgody.

Apple podał, że część deweloperów używa Pełnego dostępu do dysku w sposób, który naraża użytkowników. Firma twierdzi, że odsłaniają pliki, pocztę i historię przeglądania bez pełnej wiedzy użytkownika. Podkreślił, że agenci AI stają się coraz bardziej zdolni i autonomiczni. W efekcie ryzyko związane z takim poziomem dostępu znacznie wzrośnie. Apple nie wymienił w oświadczeniu ani Meta, ani Muse. Termin ogłoszenia, po burzy w mediach społecznościowych, wskazuje jednak na bezpośredni związek ze zdarzeniem.

Narzędzia odchodzą od pamięci na rzecz nadzoru

Deweloperzy budują nowe warstwy do zarządzania zachowaniem agentów. Akcent przesuwa się z surowej pamięci na dokumentację.

Kevin Liao napisał 3 października, że agenci nie potrzebują wtyczek pamięci. Takie wtyczki wstrzykują podobne fragmenty z baz wektorowych. Jego zdaniem agenci potrzebują ustrukturyzowanej dokumentacji, na przykład wiki, żeby rozumieć kontekst i ograniczenia projektu. Takie podejście omija „lotterię” wyciągania niewłaściwej informacji z oderwanych fragmentów. Argument Liaoa podważa dominujący dziś paradygmat w rozwoju AI. Opiera się on w dużej mierze na systemach generowania wspomaganego wyszukiwaniem, które wyciągają fragmenty z dużych zbiorów danych. Liao opowiada się za bardziej deterministycznym podejściem, opartym na wyselekcjonowanych, ustrukturyzowanych bazach wiedzy. Twierdzi, że deweloperzy mogą znacznie ograniczyć halucynacje i poprawić niezawodność działań agentów. Ma to znaczenie w złożonych, wieloetapowych procesach, w których kontekst jest krytyczny.

Badacze bezpieczeństwa też tworzą narzędzia do monitorowania działań agentów. Deweloper Fred udostępnił agent-blackbox, rejestrator odporny na manipulacje, przeznaczony dla agentów kodujących takich jak Claude Code. Narzędzie zapisuje każdy prompt i każde wywołanie narzędzia w rejestrze tylko do dopisywania, połączonym łańcuchem skrótów i podpisanym. Zawiera silnik polityk, który zatrzymuje wywołania, gdy wykryje „zabójczą trójkę”: prywatne dane, niezaufaną treść i wywołanie na zewnątrz. Takie narzędzia są niezbędne organizacjom, które chcą wdrażać agentów AI w środowiskach produkcyjnych. Chronią własność intelektualną i wrażliwe dane przed potencjalnym wyciekiem. Rejestr tylko do dopisywania sprawia, że zapisanej akcji nie da się po cichu zmienić ani usunąć. Nie zmieni jej ani agent, ani żaden inny proces.

Projekt AgentSight oparty na eBPF zapewnia profilowanie całego systemu dla agentów AI. Wiąże prompty z ich rzeczywistymi skutkami na maszynie, takimi jak zmiany plików i aktywność sieciowa. Według repozytorium projektu na GitHub działa z zamkniętymi CLI bez potrzeby SDK ani proxy. Daje sposób na audyt tego, co agent faktycznie robi, a nie tylko tego, co deklaruje.

Infrastruktura korporacyjna się dostosowuje

Dostawcy chmury włączają mechanizmy kontroli przeznaczone dla agentów. Amazon Web Services zaktualizował Bedrock AgentCore, żeby zarządzać zgodą OAuth użytkowników końcowych. Nowy portal Consent pozwala użytkownikom uwierzytelnić się u firmowego dostawcy tożsamości i przyznać agentom konkretne uprawnienia. Dzięki temu tokeny są bezpiecznie powiązane z użytkownikiem, który je autoryzował. Rozwiązuje to potrzebę wiązania sesji w środowiskach korporacyjnych, gdzie agenci działają w imieniu pracowników. Implementacja wpisuje się w szerszy trend w oprogramowaniu dla firm. Zarządzanie tożsamością i dostępem staje się coraz bardziej złożone, bo w systemie przybywa podmiotów innych niż ludzie.

Epoch AI opublikował 3 października raport. Oszacował w nim, że chipy AI dostarczone do 2 027 roku mogłyby obsłużyć od dziesiątek do setek milionów równoczesnych agentów opartych na modelach frontier. Z obliczeń w raporcie wynika, że agenci ci mogliby dostarczyć tyle godzin pracy w tygodniu, ile 140 do 720 000 000 pracowników na pełny etat. Autorzy zaznaczyli jednak, że popyt musi rosnąć szybko, żeby uzasadnić inwestycję. Potencjalne wydatki na API mogłyby sięgnąć od 2,6 do 5,3 bln dolarów rocznie, gdyby wykorzystano 20% mocy.

Rozbudowa narzędzi dla agentów szybko przenosi się z kodu eksperymentalnego do infrastruktury korporacyjnej. W miarę jak agenci zyskują autonomię, uwaga się przesuwa. Celem nie jest już samo uczynienie ich mądrzejszymi, ale uczynienie ich audytowalnymi, ograniczonymi i bezpiecznymi. Niedawne zmiany uprawnień w macOS i rozwój narzędzi obserwowalności wskazują, że branża przygotowuje się na przyszłość. W tej przyszłości agenci są traktowani jako odrębne, odpowiedzialne podmioty w systemach cyfrowych.

Komentarze 0

Źródła

12
  1. 01Apple changes full-disk access permissions to curb abuse from AI agentsEN
  2. 02Agents don't need memory, they need documentationEN
  3. 03Agent-blackbox – a tamper-evident flight recorder for Claude CodeEN
  4. 04AgentSight: System-wide AI agent profiling and monitoring with eBPFEN
  5. 05Manage end-user OAuth consent for AI agents with Amazon Bedrock AgentCoreEN
  6. 06How many AI agents could run on the AI chips shipped through 2027?EN
  7. 07The Shoemaker's Elves: my agents draft the work before I askEN
  8. 08Television: GUI for your personal agentEN
  9. 09AI Agents Need a System of Record, Not Just a DashboardEN
  10. 10What Kubernetes' "monolith" lesson means for AI agent harnessesEN
  11. 11Leashterm – a new programming language for agentsEN
  12. 12How fast can a computer-use agent finish the job?EN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Marta Zielińska

Marta Zielińska

AI, modele i technologie

Marta Zielińska pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, preprintach i danych z API, a nie na zapowiedziach producentów. Przy każdej publikacji sprawdza karty modeli, parametry treningowe i benchmarki, a liczby porównuje z niezależnymi testami i wynikami z repozytoriów. Rozmawia z badaczami i inżynierami, czeka na kolejne wydania modeli i zestawia ich działanie z wcześniejszymi wersjami. Prywatnie drukuje w 3D, naprawia stare komputery i sprawdza, jak modele uczą się na śmieciach z internetu. Nie publikuje wyników, których nie może odtworzyć na własnym sprzęcie.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.