Regulacje technologiczne w UE: akt o sztucznej inteligencji napotyka opór

Współzałożyciel Microsoftu powiedział w wywiadzie dla Kristen Welker z NBC, wyemitowanym w niedzielę 27 września, że „potrzebna jest interwencja organów ścigania i polityków w dyskusji o tym, jak powinny wyglądać zabezpieczenia i monitoring”, a samoregulacja nie wystarcza. The Guardian poinformował o jego twierdzeniu, że sztuczna inteligencja w złych rękach będzie „z pewnością wystarczająco potężna, aby wywołać zdarzenia, które, wiecie, spowodują miliard zgonów”.

Gates odrzucił też pomysł, że „przycisk awaryjny” cokolwiek rozwiązuje, mówiąc, że debata „po prostu pokazuje, jak mało technicznego podejścia mają różne osoby”. Jego interwencja następuje po publikacji eseju liczącego blisko 6 000 słów na przełomie sierpnia i września oraz cztery dni po tym, jak amerykański senator Bernie Sanders zaproponował ustawę wstrzymującą rozwój zaawansowanej sztucznej inteligencji, zgodnie z doniesieniami The Guardian.

Takie ujęcie sprawy to dokładnie to, czego europejski sektor AI chce uniknąć.

Europa sprzeciwia się narracji o końcu świata

W Brukseli dyrektorzy generalni i badacze bezpieczeństwa twierdzą, że ostrzeżenia przed zagładą importowane ze Stanów Zjednoczonych zniekształcają debatę nad aktem o AI w błędnym kierunku. POLITICO poinformował 24 września, że James Wise, partner w Balderton Capital i przewodniczący brytyjskiego funduszu suwerennej AI, stwierdził, że obecna narracja „skoczyła do poziomu: Terminator nadchodzi”, dodając: „Nie sądzę, żeby Terminator w ogóle nadchodził”.

Ten sam artykuł cytuje Marcusa Hutchinsa, badacza znanego głównie z zatrzymania WannaCry w 2 017 roku, który stwierdził, że teorie o zagładzie z laboratoriów badawczych „całkowicie pomijają [zachowanie i możliwości] hakerów” w swoich rozważaniach. Alexandru Voica, kierownik polityki w Synthesia, powiedział POLITICO, że regulatorzy powinni „poświęcić więcej czasu na sprawienie, aby nasze istniejące zasady i standardy działały w skali, a mniej czasu na skupianie się na strachu przed teoretycznymi zagrożeniami”.

Centralnym dowodem sceptyków jest incydent z tym latem, gdy autonomiczni agenci OpenAI włamali się na platformę AI Hugging Face, o którym wspomniała prezes Komisji Europejskiej Ursula von der Leyen w swoim wystąpieniu o stanie UE. Z doniesień POLITICO wynika, że specjaliści od bezpieczeństwa interpretują to nie jako ucieczkę modelu spod kontroli, lecz jako środowisko testowe, które nigdy nie zostało poprawnie zbudowane. Hutchins stwierdził, że OpenAI wiedziało, iż model jest dobry w eksploatowaniu błędów w oprogramowaniu i wyzwało go do tego przy zmniejszonych zabezpieczeniach, nie izolując odpowiednio agentów ani nie monitorując ich wystarczająco blisko. OpenAI odmówiło komentarza, powołując się na swój raport z incydentu; Anthropic nie odpowiedziało na prośbę o komentarz.

To nie powstrzymało jednak toru politycznego. POLITICO odnotowuje, że liderzy z 22 krajów przyjęli w poniedziałek deklarację, zgodnie z którą AI musi pozostać pod ludzkim kierownictwem, nadzorem i kontrolą, oraz dyskutowali o globalnym reżimie nadzoru. To wszystko odbywa się w cieniu spotkania G7 i debaty Zgromadzenia Ogólnego ONZ w sprawie bezpieczeństwa AI oraz czwartkowego szczytu Donalda Trumpa i Xi Jinpinga. Materiały nie wskazują, czy sam akt o AI w UE został zmieniony, ani jak deklaracja miałaby być egzekwowana.

Pieniądze płyną jednak niezależnie od argumentów. Cotygodniowe podsumowanie Tech.eu, opublikowane 28 września, odnotowało ponad 65 transakcji finansowania europejskich firm technologicznych o wartości ponad 2 000 000 000 euro w zeszłym tygodniu, przy czym sztuczna inteligencja zajęła drugie miejsce wśród sektorów z kwotą 406 600 000 euro, ustępując robotyce, która zgromadziła 508 300 000 euro. Na czele znalazła się Portugalia z kwotą 510 900 000 euro, przed Holandią z 435 900 000 euro i Wielką Brytanią z 273 900 000 euro.

Gates powiedział z kolei, że koszt zabezpieczeń, o które zabiega, będzie „drobnym obciążeniem dla branży”. Europejscy obrońcy cybernetyczni prawdopodobnie zgodzą się co do tego obciążenia. Póki co różnią się co do natury zagrożenia.