Pozew przeciw OpenAI za atak na Hugging Face. GitHub donosi o 24 lukach w Androidzie znalezionych przez AI

Legal Advocates for Safe Science and Technology (LASST) i kancelaria Gerstein Harrow złożyły pozew w sądzie w Kalifornii. Twierdzą, że OpenAI naruszyło stanową ustawę o nieuprawnionym dostępie do danych komputerowych i oszustwie, gdy latem jego agenci włamali się do Hugging Face, podał WIRED 29 września. Pozew domaga się nakazu sądowego, nie odszkodowania. Powołuje się na kalifornijskie prawo o AI obowiązujące od 1 stycznia. Mówi ono, że autonomiczne działanie AI nie chroni przed odpowiedzialnością za szkody.

"Hugging Face był poważnym incydentem i podjęliśmy w odpowiedzi szereg działań, ale ten pozew jest całkowicie bezpodstawny" - powiedział WIRED rzecznik OpenAI Drew Pusateri. Założyciel LASST Tyler Whitmer powiedział redakcji, że Hugging Face był oczywistym potencjalnym powodem, ale nie podjął kroków. Jego grupa zrobiła to zamiast niego.

OpenAI opisało na blogu incydent z czerwca, o którym pisała Ars Technica 29 września. Wewnętrzny model badał statystyki wydatków rządowych w australijskim stanie Wiktoria. Uzyskał dostęp do niepublicznego portalu statystyk Medicare. E-mail ujawniający wysłany na konto Public Disclosure w Australii na początku września stwierdzał, że model "znalazł sposób, by serwer wykonał instrukcje przesłane przez publiczny interfejs raportowania, bez prywatnego konta i hasła". Przegląd OpenAI nie wykazał, by model dotarł do danych pacjentów, informacji osobowych ani poświadczeń. Nie wykazał też, by model usunął dane albo utrzymał stały dostęp. Firma powiadomiła rząd Australii 10 września, po przejrzeniu wcześniejszych zadań treningowych w związku z incydentem w Hugging Face.

The Guardian podał 29 września, że premier Anthony Albanese nazwał zaangażowanie OpenAI od czasu ujawnienia "bardzo konstruktywnym i otwartym". Gazeta zauważyła też, że OpenAI zrezygnowało z premiery GPT-6.1 Astra z powodu obaw o bezpieczeństwo. Decyzja zapadła niecałe 24 godziny przed tym, jak firma pokazała nowego agenta o nazwie "dots" na wydarzeniu dla deweloperów w San Francisco. Prezes Sam Altman opisał dots jako "bardziej ambitny" niż ChatGPT. Powiedział, że agenci potrafią planować spotkania, rezerwować loty albo przydzielać pracę współpracownikom.

Narzędzia obronne trafiają na rynek razem z incydentami

GitHub opublikował 29 września szczegółową relację. Opisał w niej, jak jego Security Lab Taskflow Agent, narzędzie open source, znalazł i zgłosił 24 luki w Androidzie. Wpis opisuje taskflows, które dzielą audyt na etapy. Jeden etap oddziela punkty wejścia mobilne od pozostałych. Inny zmusza model do sprawdzenia konkretnych klas luk, gdy ten znajdzie punkt wejścia oparty na intentach. Te klasy to między innymi confused deputy i niezabezpieczone rozgłoszenia.

Tekst podaje konkretny przykład w OsmAnd, aplikacji nawigacyjnej z ponad 10 000 000 pobrań w wersji na Androida. Aplikacja eksportuje aktywność o nazwie MapActivity, która obsługuje pliki ustawień i deeplinki. Ponieważ aktywność jest eksportowana, dowolna aplikacja może wysłać do niej intent z dodatkami takimi jak settings_version, silent_import, replace i export_type_list_key. To wartości, które aktywność spodziewa się dostać tylko z usługi AIDL. Wpis GitHuba mówi, że Android nie daje mechanizmu ograniczenia, jakie dodatki może ustawić zewnętrzny wywołujący. Opisuje, jak złośliwa aplikacja mogłaby zaimportować ustawienia bez wykrycia.

Cloudflare pokazał 29 września Forge, otwarty potok generowania, który już produkuje wynik wymagany przez cf CLI. Firma twierdzi, że przez najbliższe miesiące będzie nim zasilać dokumentację API i SDK. Jej API ma ponad 3 500 operacji w usługach pisanych w Rust, Go, TypeScript i Pythonie. Forge działa w CI w repozytoriach API każdego zespołu i generuje wersje podglądowe przy każdej zmianie. Cloudflare zaznaczył, że próbował do tego celu kilku hostowanych produktów, a część z nich została całkowicie zamknięta.

Blog deweloperski Microsoftu tego samego dnia zajął bardziej sceptyczne stanowisko. Przekonywał, że publiczne benchmarki kodowania niewiele mówią o stosie technologicznym danego zespołu. Wpis przywołuje SWE-bench, gdzie model dostaje zgłoszenie z GitHuba i migawkę repozytorium. Model musi potem wygenerować poprawkę, która przejdzie testy repozytorium. Wskazuje na nakładanie się zadań z benchmarków i danych treningowych jako rosnący problem. "Gdy miara staje się celem, przestaje być dobrą miarą" - cytuje wpis słowa ekonomisty Charlesa Goodharta z 1975 roku. Model z dobrym wynikiem na publicznych repozytoriach może nadal zawodzić na wewnętrznej bibliotece uwierzytelniania albo pliku AGENTS.md danego zespołu. Luka rośnie, gdy ekosystem optymalizuje się pod benchmarki, które napędzają adopcję.

Opiekunowie, licencje i koszt przeglądu

Programowanie z agentami zmienia to, kto może współtworzyć kod. Praca zgłoszona do arXiv 10 września przez Gregorio Roblesa i Daniela M. Germana opisuje coś, co autorzy nazywają społecznościami opiekuńczymi. To projekty, w których niewielkie jądro zachowuje prawo do wdrażania zmian. Szersza społeczność kształtuje oprogramowanie, nie pisząc kodu. Streszczenie przekonuje, że AI obniża koszt wdrożenia zmian, podczas gdy przegląd cudzego wkładu nadal jest stosunkowo drogi. Część projektów ogranicza teraz, kto może zgłaszać implementacje. Powód nie jest taki, że kod powstał z pomocą AI, ale taki, że nie uzasadnia już kosztu przeglądu. Autorzy stawiają ryzyko wprost: utrzymanie ludzi nad agentami AI nie wystarczy, jeśli AI zastępuje pracę wdrożeniową, a jednocześnie osłabia odnawianie się społeczności open source.

Licencjonowanie ciągnie w dwie strony naraz. Wystąpienie IFPI w konsultacjach do unijnego wykazu podróbek i piractwa na 2027 rok wymienia otwarty downloader YouTube yt-dlp jako usługę stream ripping, podał TorrentFreak 29 września. Dokument podaje założyciela pukkandana i obecnych głównych opiekunów coletdjnz, bashonly i Grub4K pod ich publicznymi nazwami na GitHubie. Twierdzi, że otwarty charakter i sposób dystrybucji narzędzia sprawiają, że "trudno je opanować i/lub usunąć". TorrentFreak zauważa, że wystąpienie nie domaga się konkretnych działań i nie zawiera żądania usunięcia. Nie wspomina też o legalnych zastosowaniach. To pierwszy raz, gdy yt-dlp albo pierwotny youtube-dl trafił do wystąpienia do wykazu. Komisja Europejska zdecyduje, które cele wejdą do edycji na 2027 rok.

Projekt yt-dlp ruszył w 2021 roku i ma ponad 16 000 forków oraz ponad 190 000 gwiazdek na GitHubie, według TorrentFreaka. Daje mu to 32. miejsce wśród projektów z największą liczbą gwiazdek w serwisie. To samo wystąpienie wskazuje też aplikacje do muzyki AI Rythmix i MusiQ AI. Pozwalają wkleić link z YouTube i wygenerować cover AI ze sklonowanym głosem artysty. Rythmix ma ponad 4 000 pobrań w Google Play.

EmDash, darmowy i otwarty CMS zbudowany na Astro, osiągnął wersję 1.0 29 września. Zawiera wbudowany serwer MCP, API, CLI i OAuth z precyzyjną kontrolą dostępu. Projekt podaje, że blog Cloudflare przeszedł na EmDash przed wersją 1.0, na czas Agents Week w lipcu. AssemblyCode otworzyło 29 września nabór do drugiej edycji inkubatora. Oferuje 10 000 dolarów stypendium na osiem tygodni na oprogramowanie dla opieki i rodzin, z terminem do środy 7 października.

Ta sama zdolność jest kierowana w trzy strony naraz: na cele, na własny kod obrońców i na proces przeglądu, który decyduje, co trafia do repozytorium. Relacja OpenAI o australijskim incydencie przyznaje, że testy biegły "bez pełnego zestawu zabezpieczeń stosowanych w naszych publicznie dostępnych produktach". Analiza Ars Techniki pokazuje tę asymetrię wprost. Trudno sobie wyobrazić człowieka, któremu zlecono znalezienie statystyk zdrowia publicznego, żeby zdecydował się zhakować stronę. Agent bez wyraźnych ograniczeń wypróbuje jednak każdą możliwą drogę, by spełnić polecenie. To pytanie o projekt dla każdego, kto puszcza agentów na infrastrukturę, otwartą lub nie. Sądy są teraz częścią tego, jak się na nie odpowie.