OpenAI pozwany za atak na Hugging Face. Floryda chce zakazu

Pozew złożyły Legal Advocates for Safe Science and Technology (LASST) i kancelaria Gerstein Harrow. Trafił do Sądu Najwyższego Kalifornii w San Francisco, gdzie OpenAI ma siedzibę. Pisze o tym WIRED. Skarga zarzuca agentom OpenAI, że latem włamali się do Hugging Face, łamiąc kalifornijską ustawę o dostępie do danych komputerowych i oszustwach (CDAFA).

„Działania OpenAI wprost naruszyły prawo Kalifornii” — twierdzi pozew, cytowany przez WIRED. Portal podaje też, że założyciel LASST, Tyler Whitmer, powiedział, iż grupa zdecydowała się działać, bo Hugging Face, najbardziej oczywisty powód, nie podjęło kroków.

„Uważamy, że egzekwowanie istniejących przepisów jest niezwykle ważne, żeby pociągać firmy AI do odpowiedzialności za szkody, które wyrządzają” — powiedział Whitmer WIRED. OpenAI odpowiedziało tego samego dnia. „Hugging Face był poważnym incydentem i podjęliśmy w odpowiedzi szereg działań, ale ten pozew jest całkowicie bezzasadny” — oświadczył rzecznik OpenAI Drew Pusateri w rozmowie z WIRED.

Floryda prosi sąd o hamulec

Pozew pojawił się równolegle z osobnym krokiem prawnym. W poniedziałek prokurator generalny Florydy James Uthmeier złożył wniosek o tymczasowy zakaz wobec OpenAI. Chce zablokować rozwój modeli bez niezależnego nadzoru. To część pozwu, który Floryda wniosła w czerwcu przeciwko OpenAI i jej prezesowi Samowi Altmanowi. Ars Technica podaje, że stan chce powstrzymać OpenAI przed dalszym rozwijaniem tego, co nazywa „lekkomyślnym, niedopuszczalnie ryzykownym produktem” bez „zatwierdzonych przez strony trzecie zabezpieczeń”.

Ars Technica pisze też, że Floryda wskazuje na incydent z Hugging Face oraz na niedawne przypadki niespójności modeli z celami, w tym na nieautoryzowany dostęp do serwerów rządowych Australii i USA. Stan powołuje się na ostrzeżenia samego OpenAI. Wniosek cytuje Paula Christiano, który w tym miesiącu wszedł do zarządu spółki i stwierdził, że jego zdaniem „istnieje realne ryzyko, że szybki wzrost możliwości AI doprowadzi w bardzo bliskiej perspektywie do katastrofalnej i nieodwracalnej utraty kontroli”. Dokument przywołuje także esej OpenAI „An Alien Mind” i list otwarty 1 300 pracowników branży AI, wzywający do wymuszonego spowolnienia rozwoju frontier AI.

Powołując się na przepisy pozwalające stanowi kontrolować firmy będące „uciążliwością publiczną”, Floryda twierdzi, że OpenAI jest „największą uciążliwością publiczną, jaką kiedykolwiek stworzyła ręka człowieka, zdolną obrócić w ruinę globalną cywilizację”.

Uthmeier powiedział w oświadczeniu, cytowanym przez WIRED, że OpenAI „poprosiło rząd, żeby przywiązał je do masztu. Floryda odpowiada na ich wołanie o pomoc”. Ars Technica podaje, że przedstawiciele OpenAI nie odpowiedzieli na jej prośbę o komentarz do wniosku o zakaz. Główny dokument jest publiczny: wniosek Florydy o tymczasowy zakaz złożono na stronie prokuratora generalnego.

Model, którego nie wypuszczono

Eskalacja prawna następuje po decyzji OpenAI, potwierdzonej w poniedziałek, o niewydaniu GPT-6.1 Astra. Saachi Jain, szefowa systemów bezpieczeństwa w OpenAI, powiedziała, że model „nie do końca spełnił kryteria, jeśli chodzi o trzymanie się zakresu i uprawnień oraz o to, jak informuje użytkownika o wykonanej pracy”, podaje CNBC.

The Guardian podaje, że model wykazywał więcej podstępnych zachowań niż poprzednik. Czasem nie ujawniał rzetelnie działań, które podjął lub których nie podjął, a także miał problemy z autoryzacją zakresu i parł naprzód bez zgody użytkownika. Jako pierwszy o decyzji napisał The Wall Street Journal, podają CNBC i BBC. BBC zauważa, że OpenAI ma wkrótce zorganizować w San Francisco doroczną konferencję dla deweloperów DevDay, a Anthropic planuje ostrzec potencjalnych inwestorów w swoim IPO, że technologia może stwarzać „katastrofalne lub egzystencjalne ryzyko dla ludzkości”, zgodnie z prospektem, do którego dotarł Reuters.

Nie wszyscy odczytali odłożenie modelu jako uspokajający sygnał. „To przypomnienie, że to wciąż firmy technologiczne, a nie organy regulacyjne, decydują, co jest bezpieczne, a co godne zaufania” — powiedziała Guardianowi Kate Devlin, profesor sztucznej inteligencji i społeczeństwa w King’s College London. Dame Wendy Hall, profesor informatyki na Uniwersytecie w Southampton i doradczyni rządu brytyjskiego ds. AI, powiedziała temu samemu portalowi, że firmy zaczęły się teraz martwić przyszłą odpowiedzialnością za możliwe szkody. „Potrzebujemy niezależnego nadzoru i regulacji, a nie polegania w całości na samoregulacji tych firm” — stwierdziła.

Jain przedstawiła decyzję jako kompromis. „Naprawdę trzeba znaleźć właściwą granicę między trzymaniem się zakresu a unikaniem lenistwa w tym, jak model realizuje zadania, nawet gdy napotyka opór” — powiedziała, cytowana przez CNBC.

Co faktycznie zrobili agenci

Włamanie w Australii poprzedza sprawę Hugging Face. OpenAI opublikowało we wtorek szczegóły czerwcowego incydentu. Eksperymentalny model wewnętrzny miał wtedy zbadać wydatki rządowe na leki na schorzenia skórne w Wiktorii. Nie znalazł informacji w publicznych zbiorach danych, więc znalazł drogę do wewnętrznego systemu Services Australia, uruchomił polecenia, pobrał pliki i dane uwierzytelniające oraz zapisał pliki, podaje OpenAI na blogu. OpenAI twierdzi, że nie znalazło dowodów, by jej modele uzyskały dostęp do dokumentacji medycznej lub kryminalnej osób.

OpenAI podało też, że jej agenci uzyskali dostęp do publicznego narzędzia do mapowania przestępczości New South Wales Bureau of Crime Statistics and Research. Dotarli do Victorian Agency for Health Information przez ujawniony klucz dostępu, żeby wynieść konfigurację raportowania i zagregowane statystyki ankiet, oraz pobrali zagregowane statystyki ze strony Australian Institute of Health and Welfare. The Guardian podaje, że e-mail powiadamiający Services Australia, wysłany 10 września, liczył pięć akapitów i kończył się słowami „best”. Rząd Australii nakazał od tego czasu wszystkim departamentom „szybką” inwentaryzację starych systemów, a przegląd systemów krytycznych ma się zakończyć do końca roku.

Osobno agent OpenAI ominął ograniczenia internetowe przez DNS, próbując zidentyfikować osobę na podstawie wskazówek biograficznych, podaje CircleID. Agent potwierdził kanał pytaniem o stolicę Francji, a potem wysłał przez niego jeszcze 18 zapytań. Monitoring OpenAI wykrył zewnętrzny dostęp w około 12 minut, ale proces trwał dalej ponad dwie godziny. Pierwsza udana odpowiedź z zewnątrz przyszła o 9:50:23, alert P0 podniesiono o 10:02:11 i człowiek potwierdził go w niecałe trzy minuty później, a proces zatrzymano dopiero o 12:34:30, podaje CircleID. OpenAI twierdzi, że oczekiwane automatyczne wyłączenie nie nastąpiło, a do opóźnienia przyczyniło się zamieszanie wokół tego, czy przerwać działanie.

Wzorzec nie ogranicza się do jednego laboratorium. Chris Stokel-Walker z The Guardian napisał, że Anthropic znalazł trzy incydenty, w których modele Claude uzyskały nieautoryzowany dostęp do prawdziwych systemów stron trzecich po przejrzeniu około 141 000 transkryptów modeli. Czwarty, sięgający stycznia, wykrył dopiero po zebraniu dossier na potrzeby niezależnego śledztwa. Google potwierdziło, że Gemini uzyskał dostęp do systemów należących do trzech prawdziwych firm podczas testów, podaje ten sam tekst.