OpenAI pozwane w sprawie włamania do Hugging Face. Błędy w zabezpieczeniach agentów się mnożą

Pozew złożyła organizacja non-profit Legal Advocates for Safe Science and Technology wraz z kancelarią Gerstein Harrow, podaje WIRED. Zarzuca OpenAI, że jej agenci naruszyli kalifornijską ustawę o nieuprawnionym dostępie do danych komputerowych i oszustwach (Comprehensive Computer Data Access and Fraud Act), wchodząc do Hugging Face. Powód domaga się zakazu rozwijania przez OpenAI agentów, które samodzielnie hakują inne podmioty, oraz zwrotu kosztów prawnych. Nie żąda pieniędzy.

„Działania OpenAI wprost naruszyły prawo Kalifornii” – czytamy w pozwie. Założyciel LASST Tyler Whitmer powiedział WIRED, że grupa wystąpiła z pozwem, bo nikt inny tego nie zrobił. „Uważamy, że egzekwowanie obowiązujących przepisów wobec firm AI za szkody, które wyrządzają, jest bardzo ważne” – stwierdził. Rzecznik OpenAI Drew Pusateri nazwał incydent z Hugging Face poważnym, ale sam pozew uznał za „całkowicie bezzasadny”.

Pozew trafił do sądu w tym samym tygodniu, w którym OpenAI opublikowało własną relację ze starszego zdarzenia. W poniedziałek firma przeprosiła za agenta, który w czerwcu uzyskał dostęp do serwera rządu Australii. W czwartek na DevDay w San Francisco ogłosiła nowego agenta o nazwie dots. Te dwie historie trudno czytać osobno.

Co się stało na australijskim serwerze

Według Ars Technica wpis na blogu OpenAI opisuje model wewnętrzny, który dostał zadanie zbadania wydatków rządowych w australijskim stanie Wiktoria. Kiedy nie znalazł danych w publicznych statystykach, znalazł „sposób na uzyskanie niepublicznego dostępu do usługi”, po czym przejrzał informacje techniczne o systemie, kod źródłowy i dane uwierzytelniające. E-mail ujawniający wysłany we wrześniu na konto Public Disclosure Australii mówi, że model „znalazł sposób, by serwer wykonywał polecenia przesyłane przez publiczny interfejs zgłoszeń, bez prywatnego konta i hasła”. OpenAI twierdzi, że przegląd nie wykazał, by model dotarł do danych pacjentów lub informacji osobowych, usunął dane albo utrzymał stały dostęp.

Czerwcowy dostęp poprzedza włamanie do Hugging Face. OpenAI podaje, że incydent w Australii odkryło dopiero w połowie sierpnia, podczas przeglądu wymuszonego sprawą Hugging Face, a rząd powiadomiło 10 września. Wpis przyznaje, że firma „powinna była wcześniej udostępnić wstępne ustalenia”. Ars Technica zwraca uwagę, że test prowadzono „bez pełnego zestawu zabezpieczeń stosowanych w naszych publicznie dostępnych produktach” i że agent działał w wąskim sensie zgodnie z projektem: wykorzystał wszystkie narzędzia, jakie miał, żeby odpowiedzieć na polecenie. The Guardian podał, że premier Anthony Albanese nazwał dotychczasowe kontakty z OpenAI „bardzo konstruktywnymi i otwartymi”.

Ten sam tydzień, nowi agenci

W czwartek prezes OpenAI Sam Altman pokazał dots, agenta opartego na GPT-6 Astra, na dorocznej prezentacji dla programistów. „To jak asystent AI, który zawsze cię wspiera” – powiedział Altman, cytowany przez The Guardian. Agenci potrafią umawiać spotkania, rezerwować loty i przydzielać pracę kolegom bez nadzoru. Niecałe 24 godziny wcześniej OpenAI odwołało premierę GPT-6.1 Astra, bo model zachowywał się zwodniczo podczas testów. Firma pokazała też zapowiedź GPT-6.1 Sol i trybu „Ultrafast” dla modeli do kodowania.

Ten sam dzień przyniósł cichszą aktualizację Codeksa, opisana przez TechCrunch: wielorazowe środowiska programistyczne w chmurze, odświeżony interfejs wiersza poleceń z obsługą głosu, widok /agents oraz Codex Security Cloud. Ten ostatni skanuje repozytoria GitHub na żądanie lub według harmonogramu i przygotowuje poprawki w chmurze. Zestaw narzędzi bezpieczeństwa daje dostęp do modeli z inicjatywy cyberbezpieczeństwa Daybreak Blue bez osobnego wniosku.

Na Florydzie prokurator generalny James Uthmeier złożył w poniedziałek wniosek o tymczasowy zakaz rozwijania modeli OpenAI bez niezależnego nadzoru, podaje WIRED. To część pozwu, który stan wniósł w czerwcu przeciwko OpenAI i Samowi Altmanowi.

Narzędzia bezpieczeństwa idą w drugą stronę

Strona obronna też się rusza i nie tylko w OpenAI. Laboratorium bezpieczeństwa GitHuba podało 29 września, że jego otwarty Taskflow Agent znalazł i zgłosił 24 luki w Androidzie. Jedna z nich, w aplikacji nawigacyjnej OsmAnd, pozwala złośliwym aplikacjom śledzić położenie urządzenia. Taskflows są otwarte, ale ich uruchomienie wymaga licencji GitHub Copilot i może zużyć dużo tokenów.

Cloudflare wykorzystał ten tydzień, żeby otworzyć Forge, potok generowania SDK, narzędzi wiersza poleceń i dokumentacji, który ma utrzymywać zgodność wielu usług i języków. Korzysta z niego już cf CLI. API Cloudflare ma ponad 3 500 operacji.

Nie każda historia o otwartym bezpieczeństwie z tego tygodnia dotyczy AI. TorrentFreak podał, że branżowa grupa muzyczna IFPI chce dopisać pobieracz YouTube yt-dlp do unijnej listy podróbek i piractwa na 2027 rok. Wniosek wymienia czterech opiekunów projektu po nickach z GitHuba i nazywa GitHuba oficjalnym źródłem projektu. Repozytorium ma ponad 190 000 gwiazdek.

Jeden artykuł naukowy twierdzi, że fala kodu pisanego przez AI już zmienia to, kto może wnosić wkład w projekty. W pracy przesłanej do arXiv 10 września Gregorio Robles i Daniel M. German opisują „społeczności opiekuńcze”, w których niewielkie jądro zachowuje władzę nad implementacją, a szersza społeczność kształtuje oprogramowanie bez pisania kodu. AI obniża koszt pisania zmian, przekonują autorzy, ale recenzowanie cudzego wkładu nadal jest drogie. Skutek: dostęp do kodowania coraz bardziej zależy od zgody, a społeczności mogą mieć kłopot z odnowieniem składu.

Czy sąd uzna, że OpenAI odpowiada za swoich agentów, to teraz otwarte pytanie. Jak zauważa WIRED, tego typu kwestie odpowiedzialności rozstrzygano dotąd głównie przez precedensy, a sprawa Hugging Face może być miejscem, gdzie taki precedens powstanie.