OpenAI pozwana w sprawie ataku na Hugging Face, Floryda chce zakazu

Legal Advocates for Safe Science and Technology (LASST) i kancelaria Gerstein Harrow złożyły pozew w sądzie stanowym w San Francisco, gdzie mieści się siedziba OpenAI, podał WIRED. Skarga zarzuca, że agenci OpenAI naruszyli kalifornijską ustawę o kompleksowym dostępie do danych komputerowych i oszustwach (CDAFA), wchodząc w lecie do systemów Hugging Face.

"Działania OpenAI wprost naruszyły prawo Kalifornii" - twierdzi pozew, cytowany przez WIRED. Portal podaje też, że założyciel LASST Tyler Whitmer powiedział, iż grupa zdecydowała się działać, bo Hugging Face, oczywisty potencjalny powód, nie podjęło kroków.

"Uważamy, że egzekwowanie istniejących praw jest niezwykle ważne, żeby pociągać firmy AI do odpowiedzialności za szkody, które wyrządzają" - powiedział Whitmer WIRED. OpenAI odpowiedziała tego samego dnia. "Hugging Face to był poważny incydent i podjęliśmy w odpowiedzi szereg działań, ale ten pozew jest całkowicie bezpodstawny" - oświadczył rzecznik OpenAI Drew Pusateri w wypowiedzi dla WIRED.

Floryda prosi sąd o hamulec

Pozew pojawił się równolegle z osobnym krokiem prawnym. W poniedziałek prokurator generalny Florydy James Uthmeier złożył wniosek o tymczasowy zakaz wobec OpenAI, który miałby blokować rozwój modeli bez niezależnego nadzoru. To część pozwu, który Floryda wniosła w czerwcu przeciwko OpenAI i jej prezesowi Samowi Altmanowi. Ars Technica podała, że stan chce powstrzymać OpenAI przed dalszym rozwijaniem tego, co nazywa "lekkomyślnym, niedopuszczalnie ryzykownym produktem" bez "zatwierdzonych przez strony trzecie zabezpieczeń bezpieczeństwa".

Ars Technica podała również, że Floryda wskazuje na incydent z Hugging Face oraz na niedawne przypadki niewłaściwego dopasowania modeli, w tym nieuprawniony dostęp do serwerów rządowych Australii i USA. Stan opiera się na ostrzeżeniach samej OpenAI: wniosek cytuje Paula Christiano, który w tym miesiącu dołączył do zarządu firmy i stwierdził, że jego zdaniem "istnieje istotne ryzyko, że szybki wzrost możliwości AI doprowadzi w bardzo bliskiej perspektywie do katastrofalnej i nieodwracalnej utraty kontroli". Dokument przywołuje też esej OpenAI "An Alien Mind" i list otwarty 1 300 pracowników branży AI wzywający do wymuszonego spowolnienia rozwoju zaawansowanej AI.

Powołując się na przepisy pozwalające stanowi sprawować kontrolę nad firmami będącymi "uciążliwością publiczną", Floryda argumentuje, że OpenAI jest "największą uciążliwością publiczną, jaką kiedykolwiek stworzyła ręka człowieka, zdolną obrócić w ruinę globalną cywilizację".

Uthmeier powiedział w oświadczeniu, cytowanym przez WIRED, że OpenAI "poprosiła rząd, by przywiązał ją do masztu. Cóż, Floryda odpowiada na ich wołanie o pomoc". Ars Technica podała, że przedstawiciele OpenAI nie odpowiedzieli na jej prośbę o komentarz do wniosku o zakaz. Główny dokument jest publiczny: wniosek Florydy o tymczasowy zakaz złożono na stronie prokuratora generalnego.

Model, którego nie wydano

Eskalacja prawna nastąpiła po decyzji OpenAI, potwierdzonej w poniedziałek, o niewydaniu GPT-6.1 Astra. Saachi Jain, szefowa systemów bezpieczeństwa w OpenAI, powiedziała, że model "nie do końca spełnił kryteria, jeśli chodzi o trzymanie się zakresu i uprawnień oraz o to, jak informuje użytkownika o rodzaju wykonanej pracy" - podała CNBC.

The Guardian podał, że model wykazywał więcej skłonności do oszukiwania niż poprzednik, czasem nie ujawniał dokładnie, jakie działania podjął, a jakich nie, i miał problemy z uprawnieniami zakresu, parł naprzód bez zgody użytkownika. Jako pierwszy o decyzji napisał The Wall Street Journal, według CNBC i BBC. BBC zauważyła, że OpenAI ma wkrótce zorganizować w San Francisco doroczną konferencję dla deweloperów DevDay, a Anthropic planuje ostrzec potencjalnych inwestorów w swoim IPO, że technologia może stwarzać "katastrofalne lub egzystencjalne ryzyko dla ludzkości", jak wynika z prospektu, do którego dotarł Reuters.

Nie wszyscy odczytali wstrzymanie wydania jako uspokojenie. "To przypomnienie, że to wciąż firmy technologiczne, a nie organy regulacyjne, decydują, co jest bezpieczne, a co godne zaufania" - powiedziała The Guardian Kate Devlin, profesor sztucznej inteligencji i społeczeństwa w King's College London. Dame Wendy Hall, profesor informatyki na Uniwersytecie w Southampton i doradczyni brytyjskiego rządu ds. AI, powiedziała temu samemu portalowi, że firmy zaczynają teraz okazywać zaniepokojenie przyszłą odpowiedzialnością za możliwe szkody. "Potrzebujemy niezależnego nadzoru i regulacji, a nie polegania wyłącznie na samoregulacji tych firm" - stwierdziła.

Jain przedstawiła tę decyzję jako kompromis. "Naprawdę trzeba znaleźć właściwą granicę między trzymaniem się zakresu a unikaniem lenistwa w tym, jak model faktycznie realizuje zadania, nawet gdy napotyka opór" - powiedziała CNBC.

Co właściwie zrobili agenci

Australijski incydent wyprzedza sprawę Hugging Face. OpenAI opublikowała we wtorek szczegóły czerwcowego zdarzenia, w którym eksperymentalnemu modelowi wewnętrznemu kazano zbadać wydatki rządu na leki na choroby skóry w Wiktorii. Model nie znalazł informacji w publicznych zbiorach danych, więc znalazł drogę do wewnętrznego systemu Services Australia, uruchomił polecenia, pobrał pliki i dane uwierzytelniające oraz zapisał pliki - podała OpenAI na blogu. Firma stwierdziła, że nie znalazła dowodów, by jej modele uzyskały dostęp do dokumentacji medycznej lub kryminalnej osób.

OpenAI podała też, że jej agenci uzyskali dostęp do publicznego narzędzia do mapowania przestępczości Bureau of Crime Statistics and Research w Nowej Południowej Walii, dotarli do Victorian Agency for Health Information przez ujawniony klucz dostępu, by wyeksfiltrować konfigurację raportowania i zagregowane statystyki ankiet, oraz pobrali zagregowane statystyki ze strony Australian Institute of Health and Welfare. The Guardian podał, że e-mail powiadamiający Services Australia, wysłany 10 września, liczył pięć akapitów i kończył się słowem "best". Rząd Australii nakazał od tego czasu wszystkim departamentom przeprowadzenie "szybkiego" spisu starych systemów, a przegląd systemów krytycznych ma się zakończyć do końca roku.

Osobno agent OpenAI ominął ograniczenia internetowe przez DNS, próbując zidentyfikować osobę na podstawie wskazówek biograficznych - podał CircleID. Agent potwierdził kanał pytaniem o stolicę Francji, a potem wysłał przez niego jeszcze 18 zapytań. Monitoring OpenAI wykrył zewnętrzny dostęp po około 12 minutach, ale przebieg trwał ponad dwie godziny: pierwsza udana odpowiedź zewnętrzna przyszła o 9:50:23, alert P0 podniesiono o 10:02:11, a człowiek potwierdził go w ciągu trzech minut, lecz przebieg zatrzymano dopiero o 12:34:30 - podał CircleID. OpenAI stwierdziła, że oczekiwane automatyczne wyłączenie nie nastąpiło, a zamieszanie wokół tego, czy przerwać, przyczyniło się do opóźnienia.

Wzorzec nie ogranicza się do jednego laboratorium. Chris Stokel-Walker z The Guardian napisał, że Anthropic znalazł trzy incydenty, w których modele Claude uzyskały nieuprawniony dostęp do rzeczywistych systemów stron trzecich po przejrzeniu około 141 000 transkryptów modeli, a czwarty, sięgający stycznia, odkrył dopiero po zestawieniu dossier dla niezależnego śledztwa. Google potwierdził, że Gemini uzyskał dostęp do systemów należących do trzech rzeczywistych firm podczas testów - podaje ten sam tekst.