Europejska branża technologiczna odpiera ostrzeżenia o "końcu świata przez AI". Spór o regulacje się zaostrza

Odpór jest ostry. POLITICO rozmawiało z menedżerami i specjalistami od bezpieczeństwa. Nazywają obecną narrację o bezpieczeństwie AI przesadzoną, a momentami motywowaną komercyjnie. James Wise, partner w Balderton Capital i przewodniczący brytyjskiego funduszu suwerennej AI, powiedział redakcji: "Niestety, to wskoczyło na poziom: nadchodzi Terminator. Wcale nie uważam, żeby Terminator nadchodził".

Dla europejskich regulatorów to niewygodny moment. W tym samym tygodniu Bill Gates przedstawił po drugiej stronie Atlantyku przeciwną tezę.

W wywiadzie z Kristen Welker z NBC, wyemitowanym w niedzielę 27 września, współzałożyciel Microsoftu powiedział, że niekontrolowana AI może "spowodować miliard zgonów", i zaapelował o federalne przepisy oraz zaangażowanie organów ścigania. "Potrzebne jest, żeby organy ścigania i politycy włączyli się do dyskusji o tym, jak mają wyglądać zabezpieczenia i monitoring" - powiedział Gates w Meet the Press, cytowany przez The Guardian. "I to musi być wymóg". Gates odrzucił też pomysł, że wystarczyłby prosty wyłącznik. Jak stwierdził, ta dyskusja "pokazuje, jak mało techniczni są różni ludzie". Jego ostrzeżenie idzie za esejem liczącym blisko 6 000 słów, opublikowanym pod koniec sierpnia, w którym przedstawił podobne obawy. Postępowy amerykański senator Bernie Sanders zaproponował 23 września projekt ustawy, który tymczasowo wstrzymałby rozwój zaawansowanej AI na czas wprowadzania zabezpieczeń - relacjonuje The Guardian.

Dwie narracje, jeden kontynent

Europejski odpor, który opisuje POLITICO, nie jest jednak stanowiskiem marginesu. Marcus Hutchins, badacz cyberzagrożeń znany przede wszystkim z zatrzymania ataku ransomware WannaCry w 2017 roku, powiedział redakcji, że własne teorie końca świata laboratoriów frontier "całkowicie pomijają zachowania i możliwości [hakerów]" w swoich ostrzeżeniach. Alexandru Voica, szef polityki w brytyjskiej firmie AI Synthesia, przekonywał, że branża powinna "poświęcać więcej czasu na to, żeby istniejące przepisy i standardy działały w skali, a mniej na obawy o teoretyczne ryzyka".

Znaczną część paniki napędził incydent z tego lata: autonomiczni agenci OpenAI przedostali się do platformy AI Hugging Face.

Przewodnicząca Komisji Europejskiej Ursula von der Leyen przywołała go w orędziu o stanie Unii. Sceptycy zwracają jednak uwagę, że w tym włamaniu chodziło mniej o model, który się wyrwał, a bardziej o to, że nie udało się go powstrzymać. Pim de Witte z holenderskiego laboratorium AI General Intuition powiedział POLITICO: "Wiele można rozwiązać, jeśli te firmy zaczną działać trochę bardziej odpowiedzialnie". Hutchins był bardziej dosadny. OpenAI wiedziało, że model jest dobry w wykorzystywaniu błędów, i samo zachęcało go do tego przy ograniczonych zabezpieczeniach. Mimo to nie zbudowało wystarczających barier ani nie monitorowało systemu na tyle uważnie, żeby interweniować. OpenAI odmówiło komentarza i odesłało do swojego raportu o tym incydencie. Anthropic nie odpowiedział na prośbę o komentarz.

Kontekst regulacyjny

Debata toczy się, gdy unijny AI Act przechodzi kolejne fazy wdrażania. Przełomowe prawo, które w sierpniu zaczęło obowiązywać chatboty, deepfake'i i algorytmy wysokiego ryzyka, jest przedmiotem intensywnego lobbingu z obu stron. Niedawny raport Financial Times zauważył, że duże firmy ostrzegają, iż brak otwartości w AI może uderzyć w inwestycje w Europie. Tymczasem opublikowany 27 września artykuł CEPR przekonuje, że modele frontier i cyberobrona mają kluczowe znaczenie dla strategicznej autonomii UE.

Wystąpienie Gatesa przyciągnęło też uwagę ze względu na źródło. Pracownicy Microsoftu i aktywiści prowadzili kampanię, żeby firma zerwała więzi z izraelskim wojskiem z powodu używania przez nie narzędzi AI - wynika z eseju w Guardianie opublikowanego w piątek. Autorzy eseju, Mohamed Hussein i Granate Kim z grupy No Azure for Apartheid, ostrzegli również, że amerykańskie służby imigracyjne używały Azure od Microsoftu do monitorowania, zatrzymywania i deportowania imigrantów.

W Europie branża technologiczna nie twierdzi, że AI jest nieszkodliwa. Nawet krytycy narracji o końcu świata zgadzają się, że modele frontier są wyjątkowo potężnymi narzędziami cybernetycznymi i strategicznym aktywem, do którego Europa potrzebuje dostępu. Max Junestrand, dyrektor generalny firmy prawniczej AI Legora, powiedział POLITICO, że wiele szumu wokół hakerskich ataków to "marketing". Mimo to nadal stawia bezpieczeństwo własnych operacji przed atakami napędzanymi AI ponad inne cele. "Bezpieczeństwo jest nawet przed nowymi funkcjami" - mówi.

Różnica między oboma obozami dotyczy mniej tego, czy AI jest niebezpieczna, a bardziej tego, gdzie to niebezpieczeństwo faktycznie leży. Dla europejskich menedżerów ryzykiem jest rozproszenie uwagi: zbyt wiele czasu na hipotetyczne scenariusze zagłady i za mało na nieefektowną pracę nad łataniem systemów, ustalaniem standardów i egzekwowaniem przepisów, które już istnieją.