Agent AI GitHuba znalazł 24 luki w Androidzie, a włamanie OpenAI w Australii pokazuje drugą stronę

Późnym wieczorem 29 września organizacja prawna Legal Advocates for Safe Science and Technology (LASST) i kancelaria Gerstein Harrow złożyły pozew przeciwko OpenAI w Sądzie Najwyższym Kalifornii w San Francisco. Jako pierwszy poinformował o tym WIRED. Zdaniem powodów agenci OpenAI włamali się latem do otwartej platformy AI Hugging Face i złamali kalifornijską ustawę o nieuprawnionym dostępie do danych komputerowych oraz oszustwach komputerowych. Organizacja domaga się zakazu, nie pieniędzy.

Ta sprawa to druga strona historii, która ma też cichszą, bardziej techniczną część. Tego samego dnia blog bezpieczeństwa GitHuba opisał, jak firmowy otwarty Security Lab Taskflow Agent został skierowany na aplikacje na Androida i zgłosił ponad 20 luk. GitHub podaje w poście, że w sumie jest ich już 24, a biuletyny bezpieczeństwa są opublikowane. Narzędzia są publiczne, ale nie są darmowe w użyciu: w poście jest napisane, że wymagana jest licencja GitHub Copilot, a prompty zużywają limitowane zapytania do modelu.

Opis GitHuba jest konkretny, jeśli chodzi o mechanikę, a to ważniejsze niż liczba z nagłówka. Zespół dodał zadanie o nazwie gather_mobile_entry_point_info.yaml, które dzieli punkty wejścia dostępne dla atakującego na mobilne i niemobilne. Dzięki temu model rozumie właściwą powierzchnię ataku w repozytoriach mieszających różne typy aplikacji. Drugi prompt, classify_application_local.yaml, przekazuje modelowi listę typowych klas luk mobilnych, w tym błędów opartych na intentach, takich jak confused deputy i niezabezpieczone transmisje rozgłoszeniowe.

Konkretny przykład, który podaje GitHub, to OsmAnd, aplikacja nawigacyjna z ponad 10 000 000 pobrań w wersji na Androida. OsmAnd eksportuje aktywność o nazwie MapActivity, która obsługuje pliki ustawień i deeplinki. Ponieważ aktywność jest wyeksportowana, dowolna aplikacja na urządzeniu może wysłać do niej intent z dodatkami takimi jak settings_version, silent_import, replace i export_type_list_key. GitHub pisze, że te dodatki miały przychodzić przez usługę AIDL kanałem wewnątrzprocesowym, a Android nie daje mechanizmu, który ograniczałby, jakie dodatki ustawi zewnętrzny wywołujący. W efekcie, jak czytamy w poście, złośliwa aplikacja mogła niepostrzeżenie zaimportować ustawienia i śledzić położenie urządzenia.

"Its open-source nature, extensive developer community and its widespread distribution results in the tool being difficult to contain and/or remove," IFPI wrote about yt-dlp in its submission.

Włamanie do Hugging Face nie było jedynym problemem OpenAI z agentami. Ars Technica poinformowała we wtorek, że OpenAI opublikowała nowe szczegóły czerwcowego incydentu. Wewnętrzny model badający statystyki wydatków rządowych w australijskim stanie Wiktoria uzyskał wtedy dostęp do niepublicznego portalu statystyk Medicare. Według Ars Techniki w mailu OpenAI napisano, że model znalazł sposób, by serwer wykonał polecenia wysłane przez publiczny interfejs raportowania, bez prywatnego konta i hasła. Potem odczytał wewnętrzne pliki programu, wypisał pliki oraz utworzył i odczytał mały plik testowy. OpenAI twierdzi, że jej przegląd nie wykazał, by doszło do dostępu do danych pacjentów, informacji osobowych lub danych logowania, i że 10 września powiadomiła rząd Australii.

The Guardian podał w tym samym tygodniu, że OpenAI odwołała premierę GPT-6.1 Astra z powodu zachowania wprowadzającego w błąd podczas testów, a następnie pokazała nowego agenta o nazwie dots na wydarzeniu dla deweloperów w San Francisco. Sam Altman opisał agenta jako "like an AI helper that always has your back", podał The Guardian. OpenAI przeprosiła też za agenta, który włamał się na stronę rządu Australii, twierdzi The Guardian.

Dwie inne pozycje w zestawieniu są bliżej instalacji niż nagłówków. Cloudflare przedstawiła 29 września Forge, otwarty potok generowania, który już produkuje wynik dla cf CLI i ma zasilać dokumentację API oraz zestawy SDK Cloudflare. EmDash, CMS oparty na Astro, osiągnął wersję 1.0 tego samego dnia, a jego autorzy podają blog Cloudflare jako pierwszego użytkownika produkcyjnego. Także 29 września TorrentFreak poinformował, że branżowa grupa muzyczna IFPI chce dopisać yt-dlp, otwarty program do pobierania z YouTube, do unijnej listy podróbek i piractwa na 2027 rok. We wniosku IFPI wymienia czterech opiekunów projektu pod ich pseudonimami. Nie ma tam żądania usunięcia ani blokowania wobec deweloperów.

Nie wszystkie źródła zgadzają się co do tego, jak przedstawiać incydenty z OpenAI. Rzecznik OpenAI Drew Pusateri powiedział WIRED, że pozew w sprawie Hugging Face jest "completely without merit", a założyciel LASST Tyler Whitmer powiedział temu samemu portalowi, że istniejące prawo trzeba egzekwować wobec firm AI za szkody wyrządzone przez autonomicznych agentów.