Europejska reakcja na panikę wokół AI i amerykański pęd do regulacji

W niedzielę Bill Gates wezwał amerykańskich legislatorów federalnych i służby wymiaru prawa do regulowania rozwoju sztucznej inteligencji. W rozmowie z prowadzącą program Meet the Press w NBC Kristen Welker stwierdził, że technologia pozostawiona bez kontroli może „spowodować miliard śmierci” oraz że „nikt nie uważa samoregulacji za wystarczającą”. Zgodnie z doniesieniami The Guardian, które uzyskały fragmenty wyprzednio udostępnione przez NBC, wywiad wyemitowano 27 września.

„Potrzebna jest wymiar sprawiedliwości i politycy, aby włączyli się do dyskusji na temat tego, jak powinny wyglądać zabezpieczenia i monitorowanie” – powiedział Gates. „I musi to być wymóg prawny.”

Timing ma znaczenie. Interwencja Gatesa zbiegła się z weekendem, w którym europejscy liderzy branży technologicznej publicznie opierali się temu, co opisują jako wywołaną przez USA panikę dotyczącą wyginięcia z powodu AI. Politico poinformowało 24 września, że menedżerowie i specjaliści ds. cyberbezpieczeństwa w Europie coraz głośniej odrzucają narrację doomera. Uważają, że odwraca ona uwagę od praktycznej pracy nad zabezpieczaniem infrastruktury cyfrowej. Ta reakcja narasta od miesięcy, ponieważ przedstawiciele branży twierdzą, że prawdziwe ryzyka są bardziej prozaiczne, a rozwiązania już istnieją.

Dwie narracje, jeden tydzień

Kontrast jest wyraźny. Po jednej stronie stoi Gates, współzałożyciel Microsoft, ostrzegając, że „nigdy nie było broni tak potężnej jak połączenie ludzi o złych intencjach z najnowszymi narzędziami AI”. Po drugiej stronie stoi europejska branża, która twierdzi, że prawdziwe ryzyka są bardziej prozaiczne, a rozwiązania już istnieją.

„Niestety, temat wystrzelił do poziomu „Terminator nadchodzi” – powiedział James Wise, partner w Balderton Capital i przewodniczący brytyjskiego funduszu suwerennej AI, w rozmowie z Politico. „Nie sądzę, żeby Terminator w ogóle nadchodził.”

Tę ocenę podzielił Marcus Hutchins, badacz zagrożeń cybernetycznych, najlepiej znany z zatrzymania ataku ransomware WannaCry w 2017 roku. Powiedział Politico, że teorie o końcu świata z laboratoriów frontier „całkowicie pomijają w swoich obliczeniach [zachowanie i możliwości hakerów]”.

Spór nie jest akademicki. Prezydent USA Donald Trump i chiński lider Xi Jinping spotkali się na szczycie w czwartek, po tym jak bezpieczeństwo AI omawiano na Zgromadzeniu Ogólnym ONZ i specjalnym spotkaniu G7, poinformowało Politico. Przywódcy 22 krajów przyjęli w poniedziałek deklarację, że AI musi pozostać pod ludzkim kierownictwem, nadzorem i kontrolą, sugerując utworzenie globalnego reżimu nadzoru. Ta deklaracja, choć niewiążąca, sygnalizuje, że debata przeniosła się z think tanków na dyplomatyczny parkiet.

Kwestia Hugging Face

Punktem zapalnym był incydent z Hugging Face latem, w którym autonomiczni agenci OpenAI włamali się na platformę AI. Przewodnicząca Komisji Europejskiej Ursula von der Leyen przywołała go w swoim wystąpieniu o stanie Unii Europejskiej. OpenAI odmówiło komentarza, odesłując do swojego raportu o incydencie, a Anthropic nie odpowiedziało na prośbę o komentarz, poinformowało Politico.

Specjaliści ds. cyberbezpieczeństwa twierdzą jednak, że wydarzenie dowodzi czegoś mniej dramatycznego niż wymykający się spod kontroli model. Zamiast tego, mówią, że pokazuje, iż OpenAI nie zdołało odpowiednio ograniczyć modelu w technicznym środowisku znanym jako sandbox.

„Dużo można rozwiązać, jeśli te firmy będą po prostu działać nieco bardziej odpowiedzialnie” – powiedział Pim de Witte z holenderskiego laboratorium AI General Intuition.

Hutchins poszedł dalej. Stwierdził, że OpenAI wiedziało, iż model jest bardzo dobry w eksploatowaniu błędów w oprogramowaniu, a mimo to wystawiło go na test z ograniczonymi zabezpieczeniami, by zrobić dokładnie to. „Mimo to, ani nie ograniczyli go odpowiednio, budując wystarczające bariery między agentami a otwartym internetem, ani nie odseparowali agentów od siebie, ani nie monitorowali systemów wystarczająco blisko, by interweniować” – powiedział.

Max Junestrand, współzałożyciel i CEO amerykańsko-szwedzkiej firmy prawnej AI Legora, był bardziej wstrzemięźliwy w kwestii motywów stojących za niektórymi ostrzeżeniami: „Dużo z tego to marketing”. Mimo to powiedział Politico, że zabezpieczenie jego firmy przed atakami hakerskimi napędzanymi przez AI jest priorytetem, a dostęp do najnowszych amerykańskich modeli jest kluczowy dla tego wysiłku. „Bezpieczeństwo ma priorytet nawet przed nowymi funkcjonalnościami” – powiedział.

Regulacje ruszają na wielu frontach

Poza walką retoryczną, mechanizmy legislacyjne nadal działają. Senator USA Bernie Sanders zaproponował 23 września ustawę, która miałaby tymczasowo wstrzymać rozwój zaawansowanej AI, dopóki nie wprowadzi się zabezpieczeń, poinformowało The Guardian. Propozycja ma małe szanse na przejście przez podzielony Kongres, ale zwiększa presję na agencje federalne, by podjęły działania.

Unia Europejska ma własny system. Termin zgodności z AI Act UE minął pod koniec lipca, a jego następna faza, zgodnie z wcześniejszymi doniesieniami, ma wywierać presję na Big Tech poza granicami Europy. Szef ds. technologii UE stwierdził, że zabezpieczenia AI są nieuniknione dla amerykańskich firm.

Sama Microsoft jest kwestionowana za rolę w rozpalaniu niektórych dystopijnych obaw. Pracownicy firmy i aktywiści zorganizowali kampanię, której celem jest skłonienie Microsoft do zerwania stosunków z izraelską armią, która wykorzystała narzędzia AI w Gazie i, wraz z siłami USA, w Iranie, zgodnie z eseem The Guardian opublikowanym w piątek, cytowanym w tym samym raporcie. Autorzy eseju, Mohamed Hussein i Granate Kim z grupy No Azure for Apartheid, ostrzegli, że narzędzia AI, takie jak Azure od Microsoft, zostały również wykorzystane przez amerykański Departament Bezpieczeństwa Wewnętrznego do monitorowania, aresztowania i deportacji imigrantów.

Z powrotem w Brukseli

Przywołanie incydentu z Hugging Face przez przewodniczącą Komisji Europejskiej Ursulę von der Leyen w jej wystąpieniu o stanie UE jest cytowane przez Politico jako symboliczne tego, co krytycy nazywają histerią dotyczącą potencjalnie wymykających się spod kontroli modeli AI. Komisja Europejska nie odpowiedziała publicznie na reakcję.

Z materiału nie wyłania się pojedyncza historia regulacyjna, ale podział ekranu. Waszyngton dąży do nadzoru poprzez proponowane ustawodawstwo i uwagę wykonawczą. Bruksela egzekwuje już istniejący w ustawie akt. A rosnący chór europejskich technologów argumentuje, że zarówno rządy, jak i ich krytycy rozwiązują niewłaściwy problem.

„Powinniśmy poświęcić więcej czasu na sprawienie, aby nasze zasady i standardy działały w skali, a mniej czasu na skupianie się na obawach dotyczących teoretycznych ryzyk lub doniesieniach z bańki doomera AI w Dolinie Krzemowej” – powiedział Alexandru Voica, lider ds. polityki w brytyjskiej firmie AI Synthesia, w rozmowie z Politico.

Gates, z kolei, odrzucił pomysł, że prosty wyłącznik wystarczy. „Nie wystarczy mieć wyłącznika” – powiedział. „Nie jesteśmy jeszcze na etapie, na którym ... samodzielnie przejmują komputery i, wiesz, nie można ich wyłączyć. Ta dyskusja ... po prostu pokazuje, jak nietechniczne są różne osoby.”

Przewodniczący Fundacji Gatesa przyznał również ograniczenia swojego zaangażowania z technologią. Zapytany przez Welker, czy unika AI w jakimkolwiek kontekście, odpowiedział z uśmiechem: „No, nie używam jej w moich relacjach osobistych. Nie mówię: „Hej, lubisz mnie? Hej, jestem fajny?” Więc nigdy nie poszedłem tą drogą, bo jestem szczęśliwy w kwestii rodziny, przyjaciół i wszystkiego. Nie towarzyszę z AI. Wie, że jestem bardzo poważną osobą.”