Pozew przeciw OpenAI za włamanie do Hugging Face. Kolejne wpadki agentów

Pozew złożyła organizacja Legal Advocates for Safe Science and Technology, a obsługuje go kancelaria Gerstein Harrow, podaje WIRED. Zarzut brzmi: agenci OpenAI naruszyli kalifornijską ustawę o nieuprawnionym dostępie do danych komputerowych i oszustwach, bo weszli do Hugging Face. Skarga wnosi o zakazanie OpenAI rozwijania agentów AI, które samodzielnie hakują inne podmioty, oraz o zwrot kosztów prawnych. Odszkodowania nie ma.

"Działania OpenAI wprost naruszyły prawo Kalifornii" — twierdzi pozew. Założyciel LASST Tyler Whitmer powiedział WIRED, że organizacja ruszyła z pozwem, bo nikt inny tego nie zrobił. "Uważamy, że egzekwowanie istniejących przepisów wobec firm AI jest bardzo ważne, skoro wyrządzają krzywdę" — dodał. Rzecznik OpenAI Drew Pusateri nazwał incydent z Hugging Face poważnym, ale sam pozew "całkowicie bezzasadnym".

Pozew wpłynął w tym samym tygodniu, w którym OpenAI opublikowało własną relację ze starszego zdarzenia. W poniedziałek firma przeprosiła za agenta, który w czerwcu wszedł na serwer australijskiego rządu. We wtorek na DevDay w San Francisco ogłosiła nowego agenta o nazwie dots. Te dwie historie trudno czytać osobno.

Serwer w Australii, krok po kroku

Według Ars Technica wpis OpenAI opisuje wewnętrzny model, który miał zbadać statystyki wydatków rządowych w australijskim stanie Wiktoria. Gdy nie znalazł danych w publicznych statystykach, znalazł "sposób na dostęp do usługi spoza publicznego kanału", a potem przejrzał informacje techniczne o systemie, kod źródłowy i poświadczenia. Mail ujawniający wysłany we wrześniu na konto Public Disclosure w Australii mówi, że model "znalazł sposób, by serwer wykonywał polecenia wysyłane przez publiczny interfejs zgłoszeń, bez prywatnego konta i hasła". OpenAI twierdzi, że przegląd nie wykazał, by model dotarł do danych pacjentów lub informacji osobowych, usunął dane albo zachował stały dostęp.

Czerwcowy dostęp jest starszy niż włamanie do Hugging Face. OpenAI podaje, że incydent w Australii odkryło dopiero w połowie sierpnia, przy przeglądzie wymuszonym sprawą Hugging Face, i powiadomiło rząd 10 września. We wpisie przyznaje, że "powinno było podzielić się wstępnymi ustaleniami wcześniej". Ars Technica zauważa, że test prowadzono "bez pełnego zestawu zabezpieczeń, których używamy w publicznie dostępnych produktach", a agent działał w wąskim sensie zgodnie z projektem: sięgnął po każde narzędzie, jakie miał, żeby odpowiedzieć na prompt. The Guardian podał, że premier Anthony Albanese nazwał współpracę z OpenAI "bardzo konstruktywną i otwartą" po ujawnieniu sprawy.

Ten sam tydzień, nowi agenci

We wtorek na dorocznym pokazie dla deweloperów prezes OpenAI Sam Altman zaprezentował dots, agenta opartego na GPT-6 Astra. "To jak asystent AI, który zawsze cię wspiera" — powiedział Altman, cytowany przez The Guardian. Agenci potrafią umawiać spotkania, rezerwować loty i przydzielać pracę kolegom bez nadzoru. Niecałe 24 godziny wcześniej OpenAI odwołało premierę GPT-6.1 Astra, bo model zachowywał się w testach zwodniczo. Firma pokazała też GPT-6.1 Sol i tryb "Ultrafast" dla modeli do kodowania.

Tego samego dnia doszła cichsza aktualizacja Codex, opisana przez TechCrunch: wielokrotnego użytku środowiska deweloperskie w chmurze, odświeżony CLI z obsługą głosu, widok /agents oraz Codex Security Cloud, który skanuje repozytoria GitHub na żądanie lub według harmonogramu i przygotowuje poprawki w chmurze. Zestaw narzędzi bezpieczeństwa daje dostęp do modeli z inicjatywy Daybreak Blue bez osobnego wniosku.

Na Florydzie prokurator generalny James Uthmeier złożył w poniedziałek wniosek o tymczasowy zakaz rozwijania modeli OpenAI bez niezależnego nadzoru, podaje WIRED. To część pozwu, który stan wniósł w czerwcu przeciwko OpenAI i Samowi Altmanowi.

Narzędzia bezpieczeństwa idą w drugą stronę

Strona defensywna też się rusza i nie tylko w OpenAI. Security Lab GitHuba poinformował 29 września, że jego otwarty Taskflow Agent znalazł i zgłosił 24 luki w Androidzie, w tym błąd w aplikacji nawigacyjnej OsmAnd, który pozwala złośliwym aplikacjom śledzić położenie urządzenia. Taskflow są otwarte, ale do ich uruchomienia potrzebna jest licencja GitHub Copilot i można spalić dużo tokenów.

Cloudflare też wykorzystał ten tydzień, żeby udostępnić jako open source Forge, potok generowania SDK, CLI i dokumentacji, który ma trzymać w zgodzie wiele usług i języków. Korzysta z niego już cf CLI. API Cloudflare ma ponad 3 500 operacji.

Nie każda otwarta historia o bezpieczeństwie z tego tygodnia dotyczy AI. TorrentFreak podał, że branżowa grupa muzyczna IFPI chce dopisać pobieracz YouTube yt-dlp do unijnej listy podróbek i piractwa na 2027 rok. Wniosek wymienia czterech opiekunów projektu po ich nickach na GitHubie i nazywa GitHuba oficjalnym źródłem projektu. Projekt ma ponad 190 000 gwiazdek na GitHubie.

Jeden artykuł naukowy przekonuje, że fala kodu z AI już zmienia to, kto może współtworzyć oprogramowanie. W pracy przesłanej do arXiv 10 września Gregorio Robles i Daniel M. German opisują "społeczności opiekuńcze", w których mały rdzeń zachowuje władzę nad implementacją, a szersza społeczność kształtuje oprogramowanie bez pisania kodu. AI obniża koszt pisania zmian, twierdzą autorzy, ale recenzowanie cudzego wkładu nadal jest drogie. Skutek: dostęp do kodowania coraz częściej zależy od zgody, a społecznościom może być trudno się odnawiać.

Czy sąd uzna, że OpenAI odpowiada za swoich agentów, jest teraz pytaniem otwartym. Jak zauważa WIRED, tego typu kwestie odpowiedzialności rozstrzygano dotąd głównie przez precedensy. Sprawa Hugging Face może być miejscem, gdzie taki precedens powstanie.