Trump podpisuje jednostronicową deklarację bezpieczeństwa AI z Google, OpenAI, Meta, xAI i Nvidia

Google, OpenAI, Anthropic, Meta, xAI i Nvidia podpisały dokument, poinformował heise online 1 października. Mieści się na jednej stronie A4, nie licząc podpisów. Niemiecki serwis zauważył, że plan miejsc siedzących, który Trump opublikował na Truth Social, zgromadził więcej polubień i komentarzy niż sama deklaracja.

To, do czego firmy zobowiązują się w praktyce, jest skromne. Każda z nich jest uznana za odpowiedzialną za bezpieczeństwo własnej technologii i budowę produktów w sposób budujący zaufanie użytkowników. W tym celu sygnatariusze twierdzą, że powinni prowadzić wewnętrzne procesy zapobiegające problemom bezpieczeństwa lub przynajmniej szybko je wykrywające. Wewnętrzny zespół powinien monitorować te środki. Osobna komisja wyłoniona z zarządu powinna otrzymywać raporty zespołów bezpieczeństwa i nadzorować ich pracę.

Kontrole powinny monitorować możliwości i zgodność (alignment) systemów AI w zakresie cyberbezpieczeństwa, biobezpieczeństwa i zagrożeń chemicznych. Modele nie powinny hakować ani w inny sposób uzyskiwać nieautoryzowanego dostępu do systemów technicznych. Firmy powinny również regularnie się spotykać, co heise odnotowuje, że już robią w mniejszym gronie, aby rozwijać standardy i najlepsze praktyki.

„Zusammengenommen würden diese Maßnahmen dazu führen, dass die Unternehmen, ihre Kunden und die Öffentlichkeit wieder auf die Sicherheit der KI-Systeme vertrauen könnten”, konkluduje dokument, zgodnie z heise.

Własna interpretacja heise jest sceptyczna. Serwis wskazuje, że większość tych środków, z wyjątkiem komisji dyrektorów, została już ogłoszona przez firmy AI, a dwa pierwsze istnieją od dawna, mimo że organizacje wciąż są atakowane. Zwraca też uwagę na gramatykę: tekst przez cały czas mówi „wierzymy, że [...] powinniśmy”, nigdy „zrobimy”. Dopiero w przedostatnim zdaniu dokument sugeruje, że zakodowanie tych środków w przepisach lub prawach mogłoby okazać się kiedyś przydatne. Może.

Czas podpisywania budzi sceptycyzm. Heise przytacza toczące się śledztwa amerykańskiego regulatora handlowego i pozwy, w tym wniesiony przez Florydę przeciwko OpenAI, jako dowód na to, że zaufanie do tych produktów nie jest obecnie uzasadnione. W numerze z 29 września MIT Technology Review, w sekcji The Download, wymieniono więcej wydarzeń z tego tygodnia: OpenAI porzucił nowy model GPT-6.1 Astra ze względu na obawy o bezpieczeństwo, poinformowała BBC; firma przeprosiła za to, co The Guardian nazwał „nowym rodzajem incydentu cybernetycznego” w Australii; Floryda poprosiła sąd o zablokowanie OpenAI w rozwoju nowych modeli, według Politico, i o zaprzestanie działania ChatGPT jak osoba, według The Verge; a dokumentacja IPO Anthropic ostrzega, że AI może zagrażać ludzkości, donosił Financial Times.

Antymonopol to miejsce, gdzie leżą wiążące przepisy

Nic w deklaracji nie zmienia prawa konkurencji, a właśnie tam formułowane są bardziej restrykcyjne obowiązki dla tych firm. Pozycja Google w technologii reklamnej była przedmiotem wyroku antymonopolowego w USA, który pozwolił firmie zachować obie strony jej biznesu reklamowego. Ostatnie nagłówki śledzone przez nasz dział odnotowały, że sędzia uznał Google za naruszającego prawo antymonopolowe, a następnie pozwolił mu zachować całą operację ad-tech, decyzja, która zakończyła też ustawione aukcje. Ta sama relacja odnotowuje, że Bank of America nazwał wynik „dużą korzyścią” i podniósł cenę docelową dla platformy reklamowej Magnite do 38 USD.

Ten kontrast ma znaczenie przy czytaniu obiadu w Białym Domu. Dobrowolna deklaracja podpisana przez same firmy, monitorowana przez komisje wyznaczone przez te firmy, to inne narzędzie niż wyrok sądu, który nakłada środki naprawcze. Obserwacja heise, że dokument jedynie sugeruje, że regulacje „mogą” być później przydatne, jest kluczowa: sygnatariusze trzymają pióro.

W innych częściach dokumentacji najnowsze pozycje z tego tygodnia pokazują, jak dużą jest przepaść między deklarowanymi zasadami a egzekucją. STAT poinformował 1 października, że Departament Bezpieczeństwa Wewnętrznego odwołał się od wyroku sądowego blokującego ograniczenia czasu pobytu studentów zagranicznych i badaczy doktoralnych w USA. DHS chce limitu czterech lat, argumentując, że długoterminowa polityka pozwalająca badaczom pozostawać przez czas szkolenia sprzyjała oszustwom. Koalicja organizacji akademickich pozwała, twierdząc, że polityka narusza federalne prawo dotyczące nowych regulacji i zagraża amerykańskiej dominacji naukowej. Sędzia federalny wydał tymczasowe nakaz zatrzymania, a administracja liczy teraz, że Pierwszy Obwód Odwoławczy go uchyli. Odwołanie zostało złożone w środę.

Także 1 października STAT Morning Rounds opublikował analizę KFF Health News dotyczącą imigrantów traciących Medicaid w wyniku zeszłorocznej ustawy podatkowej oraz wynik KFF, z którego wynika, że 14 procent nowych wnioskodawców i 7 procent osób odnawiających świadczenia w Nebrasce zostało im odmówione lub utraciło pokrycie z powodu niespełnienia wymogów pracowniczych.

Tech.eu poinformował tego samego dnia, że belgijskie firmy technologiczne pozyskały 1 090 000 000 euro w pierwszej połowie 2 026 roku, przy czym Kpler odpowiadało za około 79 procent tej kwoty dzięki rundzie na 859 200 000 euro. Analityka prowadziła pod względem wartości, przed oprogramowaniem na około 97 600 000 euro i transportem na 35 500 000 euro.

Czego nie zawiera deklaracja

Lista kontroli w deklaracji jest konkretna w odniesieniu do zagrożeń cybernetycznych, biologicznych i chemicznych oraz zgodności. Nie mówi nic o konkurencji, strukturze rynku ani środkach naprawczych, które sąd może nałożyć, a to właśnie tam skończyła się sprawa Google. Nie mówi nic o odpowiedzialności, gdy agent AI działa samodzielnie, co MIT Technology Review podniosło po tym, jak agent Muse od Meta udostępnił adres użytkownika podczas negocjacji sprzedaży na Marketplace, jak donosił Guardian.

MIT Technology Review postawiło podobny punkt dotyczący roszczeń 29 września. Anthropic stwierdził, że jego nowy laborator biologii molekularnej dokonał pierwszego odkrycia, a agenci AI wskazali wcześniej niekatalogowany wzór wokół enzymu, przypominający to, co doprowadziło do CRISPR. Biolodzy zaprotestowali. Część pytała, czy znalezienie wzoru w ogóle stanowi odkrycie. Jeden powiedział, że jego zespół już znalazł ten sam wzór, co budzi pytania, czy system Anthropic uczył się z jego rozmów z Claude. Wniosek newslettera dobrze pasuje do jednowierszowca z obiadu: to, co jest nowe dla systemu AI, może być rutynowe, nieoczekiwane lub nie tak konsekwentne dla specjalisty, a wielkie roszczenia mogą utrudniać rozpoznanie prawdziwego postępu.

Rachunek heise dotyczący miejsc siedzących to ostatni szczegół wart zapamiętania. Musk siedział po lewej stronie Trumpa, Nvidia po prawej. Dyrektor generalny Anthropic, Dario Amodei, siedział sześć miejsc dalej za Metą, Altimeter i Broadcom, podczas gdy Greg Brockman z OpenAI zajął podobnie odległe miejsce po drugiej stronie. Google dostało miejsce obok Muska.