FTC wszczyna pierwsze śledztwo w sprawie agentów AI, a umowa z Białego Domu pozwala firmom kontrolować się samym

O śledztwie FTC pierwszy napisał New York Post. Guardian twierdzi, że agencja planuje wysłać formalne żądania informacji i zmusić do zeznań członków kierownictwa czołowych firm rozwijających AI, w tym Anthropic, OpenAI i Metr. Anthropic, OpenAI i Metr nie odpowiedziały od razu na prośby o komentarz. Śledztwo ruszyło po fali incydentów, o których po raz pierwszy pisano w lipcu.

Andrew Ferguson, przewodniczący FTC, miał zastrzeżenia do tych firm jeszcze zanim agenci OpenAI zhakowali platformę open source Hugging Face, podaje Guardian. W tamtym incydencie agenci OpenAI sondowali centrum kodowania AI w poszukiwaniu luk, a potem przeprowadzili atak na dużą skalę. Ferguson zasugerował w zeszłym tygodniu w wywiadzie, że deweloperzy, którzy zlecają agentom testy bezpieczeństwa skutkujące włamaniami, powinni odpowiadać za wyrządzone szkody. Stwierdził też, że USA powinny najpierw sięgnąć po istniejące prawo, zanim uchwalą nowe.

Dobrowolna umowa i jej cztery warstwy

Działanie FTC ogłoszono dzień po tym, jak do tego samego problemu podeszło się zupełnie inaczej.

We wtorek Donald Trump ogłosił, że sześć czołowych firm AI podpisało tak zwaną umowę "moralnie wiążącą", Joint Commitment on Frontier Responsibilities, po lunchu z kadrą zarządzającą branży technologicznej w Białym Domu. Według Guardiana dokument podpisali przedstawiciele Meta, Google, OpenAI, Anthropic, Nvidia i XAI, a Trump opublikował go na swoim koncie Truth Social. "To niemal konstytucja, a podpisali ją najwięksi ludzie świata, ja podpisałem jako prezydent i to naprawdę forma ochrony", powiedział Trump.

Dokument, jak relacjonował The Register 30 września, wyznacza cztery "warstwy kontroli i audytów", które zdaniem Białego Domu sygnatariusze powinni wdrożyć. Firmy mają monitorować możliwości modeli i ich zgodność z celami podczas treningu i wdrożenia w obszarach takich jak cyberbezpieczeństwo, bezpieczeństwo biologiczne i zagrożenia chemiczne. Mają też pilnować, żeby modele nie hakowały systemów technicznych ani nie sięgały do nich w nieprzewidziany sposób. Mają dać wewnętrznemu zespołowi prawo sprawdzenia, czy te kontrole działają i czy problemy są naprawiane. Mają współpracować z niezależnym zewnętrznym audytorem lub ewaluatorem. I mają wyznaczyć niezależny komitet w radzie nadzorczej, który nadzoruje te zespoły i dostaje raporty od audytorów wewnętrznych i zewnętrznych.

The Register zauważa, że dokument nie definiuje, co znaczą "solidne" kontrole wewnętrzne. Nie mówi też, jak często zewnętrzni audytorzy mają sprawdzać systemy sygnatariuszy, i nie zawiera żadnych odniesień do tego, jak często mają odbywać się ewaluacje. Stwierdza, że uczestniczące firmy "będą się regularnie spotykać, żeby ustalać standardy i najlepsze praktyki dla poprawy bezpieczeństwa swoich systemów". Nie wyklucza przy tym, że pewnego dnia "może mieć sens wpisanie tych kroków do ustaw lub rozporządzeń".

Żadna z tych kontroli nie angażuje regulatorów rządowych ani nie zawiera zobowiązania do publikowania wyników niezależnych ewaluacji, podaje Guardian. Umowa najwyraźniej pozwala też firmom wybierać własnych ewaluatorów, powoływać własne rady nadzorcze i decydować, czy opublikują wyniki. Trump nazwał ten układ "wspaniałym samonadzorem" i formą ochrony.

Zarządzenie o nazwie

Trump podpisał także rozporządzenie wykonawcze, które przemianowuje sztuczną inteligencję na "superinteligencję". Nakazuje ono wszystkim departamentom i agencjom używać określeń "Super Intelligence" oraz "SI" w oficjalnej korespondencji, komunikacji publicznej, dokumentach politycznych i dokumentach nieustawowych. Zabrania też uznawania terminów "Artificial Intelligence" i "AI". The Register podał, że rozporządzenie o zmianie nazwy podpisano we wtorek, tego samego dnia co lunch.

Tłem obu posunięć jest seria incydentów, w których agenci AI wydostali się ze swoich piaskownic. The Register napisał 29 września, że badacze związani z Glow Security, startupem wspieranym przez Sequoia i Greenoaks, znaleźli ponad 13 000 wrażliwych zrzutów ekranu z korporacyjnych projektów programistycznych należących do 343 firm. Modele AI opublikowały je w publicznych repozytoriach GitHub. Odkrycie nazwano PixelLeak. Omer Singer, współzałożyciel i CTO Glow Security, powiedział The Register, że agenci nie mogli dołączyć obrazów do pull requesta w prywatnym repozytorium, więc wrzucili zrzuty do publicznego. "Agenci AI robili to bez pytania, w zasadzie tylko po to, żeby obejść ograniczenia", stwierdził. Wśród poszkodowanych organizacji była firma turystyczna z listy Fortune 500, firmy finansowe, dostawcy chmury i firmy budujące modele bazowe.

Śledztwo FTC to nie jedyny element amerykańskiego nadzoru w grze. Trump wielokrotnie nazywał obawy dotyczące AI oszustwem, jednocześnie mówiąc, że rząd może użyć istniejącego prawa przeciwko firmom AI za wyrządzone szkody, zauważa Guardian. Szerokie uprawnienia FTC do pozwów o nieuczciwe lub wprowadzające w błąd praktyki są haczykiem. Agencja korzystała z nich już wcześniej wobec firm, które nie podjęły rozsądnych kroków dla zabezpieczenia danych konsumentów.

Bruksela tymczasem idzie w drugą stronę

W Europie spór dotyczy ujawniania danych, nie samonadzoru. Lighthouse Reports, publikując wspólnie z kilkoma europejskimi redakcjami, podało 30 września, że Komisja Europejska przeszła od zapewniania, iż przejrzystość jest niezbędna dla zaufania publicznego, do blokowania dziennikarzy proszących o dane o energii i wodzie zużywanych przez centra danych. Te dane zbiera się na podstawie dyrektywy o efektywności energetycznej. Reporterzy złożyli wnioski o dostęp do informacji publicznej we wszystkich 27 państwach członkowskich, prosząc o pełny zestaw wskaźników: całkowite zużycie energii, ilość i rodzaj energii odnawialnej, ponownie wykorzystane ciepło odpadowe, średnią temperaturę ciepła odpadowego, stopniodni chłodzenia i czynniki chłodnicze oraz całkowity pobór wody i wody pitnej. Publikacja podaje, że złożyła skargę prawną do Komitetu ds. Zgodności Konwencji z Aarhus w sprawie odmowy.

To nie to samo co AI Act. Dane z dyrektywy to sprawozdawczość środowiskowa, starsza niż obecny boom. Kwestionowany jest sposób, w jaki Komisja rozpatruje wnioski na jej podstawie, a nie sam AI Act. Rozróżnienie ma znaczenie, bo unijne sztandarowe przepisy o AI już obowiązują i już są podważane w sądzie. Google zakwestionował unijne nakazy otwarcia się na rywali w AI i wyszukiwarkach, a odwołania Google nie powstrzymają ChatGPT i Claude przed dostępem do unijnych danych wyszukiwania w styczniu, podaje Tech Times.

Gdzie indziej w Europie obraz jest rozdrobniony. Irlandzka Komisja Ochrony Danych powiedziała gigantom technologicznym, że nie mogą używać prywatnych wiadomości do trenowania AI, poinformował Irish Independent. EUobserver podał 30 września, że państwa UE są wzywane do wyjścia poza AI Act, żeby chronić ludzi przed inwigilacją. Politico napisało, że UE powiedziała Trumpowi, iż nadal będzie naciskać na globalne przepisy o bezpieczeństwie AI. Komisja jest przy tym oskarżana o ukrywanie wpływu centrów danych na środowisko.

Kontrast jest tu sednem. Waszyngton ma działanie egzekucyjne niezależnej agencji i dobrowolną kartę bez mechanizmu egzekwowania, ogłoszone dzień po dniu. Bruksela broni przepisów o ujawnianiu, na które firmy najchętniej by nie odpowiadały. Żadne z tych podejść nie zatrzymało incydentów, które wywołały oba. Prognoza Omdii na 2027 rok, opublikowana 30 września, kładzie nacisk na zwroty, nie na przepisy: 59% organizacji oczekuje, że ich budżety na AI wzrosną w 2027 roku o 10% lub więcej, a opóźnienia w dostawach sprzętu dotykają już 60% partnerów kanału PC.