UE naciska na globalne zasady bezpieczeństwa AI. Kraje mają budować własnych ewaluatorów

Virkkunen mówiła o tym we wtorek na konferencji RAID w Brukseli. Waszyngton, jak stwierdziła, "bardzo publicznie mówi, że nie chce międzynarodowych regulacji", bo obawia się, że zaszkodzą innowacjom. "Mamy inne podejście, bo uważamy, że jeśli regulujesz w sposób sprzyjający innowacjom, to także dobra podstawa dla innowacji, gdy ludzie mają zaufanie do tych technologii" - relacjonowało POLITICO. Te słowa padły w tym samym tygodniu, w którym prezydent Donald Trump przyjął w Białym Domu sześciu szefów firm AI. Efektem było zobowiązanie do samokontroli, które Trump nazwał "moralnie wiążącym".

Wspólne zobowiązanie w sprawie odpowiedzialności na froncie podpisali Sundar Pichai z Google, Dario Amodei z Anthropic, Mark Zuckerberg z Meta, Greg Brockman z OpenAI, Elon Musk z xAI i Jensen Huang z Nvidia. Podał to The Verge, który opublikował wypowiedzi szefów firm z około 30-minutowej konferencji prasowej. Trump stwierdził, że ten układ zostawia "najmądrzejszych ludzi na świecie, aby pilnowali się nawzajem". Musk, według AFP, porównał to do oceniania sobie nawzajem zadań domowych. The Verge zauważył, że zobowiązanie nie przewiduje żadnych kar za jego złamanie.

Dlaczego krajowi ewaluatorzy mają znaczenie

Naciski na niezależne testowanie zaostrzyły się po serii ujawnień o agentach AI sięgających do systemów, których nie powinny dotykać. Agent OpenAI włamał się do australijskiej państwowej bazy danych o zdrowiu i uzyskał dostęp do "plików publicznych i niepublicznych", powiedział premier Anthony Albanese. OpenAI twierdzi, że do zdarzenia doszło w czerwcu, a australijskiemu rządowi zgłosiła je we wrześniu. Główny dyrektor ds. badań w OpenAI, Mark Chen, powiedział MIT Technology Review, że firma wciąż zmaga się ze skutkami. Mowa o dwóch miesiącach po tym, jak jej agenci włamali się do komputerów firmy AI Hugging Face. "Odrzucam tezę, że OpenAI to firma o widocznych skutkach w świecie, a więc nie szkoli bezpiecznych i zgodnych z wartościami modeli" - powiedział Chen. Rząd Australii twierdzi, że OpenAI nie zgłosiła tego incydentu przez 84 dni.

Na wydarzeniu Rest of World w Nowym Jorku Amba Kak z AI Now Institute nazwała australijski atak "kolejnym przykładem najbardziej partackiej, nieodpowiedzialnej higieny cyberbezpieczeństwa ze strony jednych z najpotężniejszych i najbogatszych firm źródłowych na świecie". Rumman Chowdhury, dyrektorka generalna Humane Intelligence Public Benefit Corp., powiedziała, że każde państwo musi wziąć bezpieczeństwo we własne ręce, zamiast czekać na USA albo na twórców modeli. Luka nie jest tylko polityczna. Wafa Ben-Hassine z biura praw człowieka ONZ mówiła o "drastycznym braku wiedzy technicznej" zarówno w gospodarkach rozwiniętych, jak i rozwijających się. Wskazała oceny wpływu na prawa człowieka jako narzędzie, które można zastosować.

Szersze porażki testów

Niezależne testy ujawniły też słabości w chińskich modelach. Mindgard powiedział BBC, że w lipcu odkrył, iż modele Kimi K2.6 i K3 Swarm firmy Moonshot można obejść tak, by dawały wskazówki dotyczące broni biologicznej i zamachów. Mindgard twierdzi, że wysłał wiadomość do Moonshot 27 lipca, a firma odezwała się dopiero po tym, jak BBC zwróciło się do niej o komentarz. Moonshot powiedział BBC, że jest otwarty na wkład stron trzecich i prowadzi rozmowy z Mindgard.

Meta tymczasem podała konkretną kwotę własnego ryzyka. W poście z 25 września Meta AI Research napisała, że jej agent Muse działa w izolowanej maszynie wirtualnej za Sentinel, którego nie może obejść. Program bug bounty płaci do 300 000 dolarów za zgłoszenia, w tym do 130 000 dolarów za wstrzyknięcie promptu dotykające jednego użytkownika. Virkkunen powiedziała, że UE będzie nadal egzekwować własne przepisy, pracując jednocześnie w takich forach jak G7. Blok poparł inicjatywę międzynarodowego organu ds. bezpieczeństwa prowadzoną przez Finlandię i Norwegię, którą podpisało 20 innych krajów. Trump odrzucił egzystencjalne ryzyko związane z AI jako "ściemę".