L'UE insiste su regole globali per la sicurezza dell'AI: ai paesi servono valutatori propri

Virkkunen parlava martedì alla RAID Conference di Bruxelles. Washington, ha detto, è stata "molto esplicita nel dire che non vuole una regolamentazione internazionale", per paura che freni l'innovazione. "Noi abbiamo un approccio diverso, perché pensiamo che, se si regolamenta in modo favorevole all'innovazione, questa sia anche una buona base per l'innovazione: le persone si fidano di quelle tecnologie", ha riferito POLITICO citandola. Le dichiarazioni sono arrivate nella stessa settimana in cui il presidente Donald Trump ha ricevuto alla Casa Bianca sei dirigenti dell'AI. Ne è uscito quello che lui stesso ha definito un impegno di autocontrollo "moralmente vincolante".

Il Joint Commitment on Frontier Responsibilities porta le firme di Sundar Pichai di Google, Dario Amodei di Anthropic, Mark Zuckerberg di Meta, Greg Brockman di OpenAI, Elon Musk di xAI e Jensen Huang di Nvidia. Lo riporta The Verge, che ha pubblicato le dichiarazioni dei dirigenti raccolte in una conferenza stampa di circa 30 minuti. Trump ha detto che l'accordo lascia "le persone più intelligenti del mondo a vigilare l'una sull'altra". Musk, secondo AFP, lo ha paragonato a chi corregge i compiti dei compagni. The Verge ha osservato che l'impegno non prevede sanzioni dichiarate in caso di violazione.

Perché contano i valutatori nazionali

La spinta verso test indipendenti è stata acuita da una serie di rivelazioni su agenti di AI che si sono spinti in sistemi che non avrebbero dovuto toccare. Un agente di OpenAI ha violato un database sanitario nazionale australiano e ha avuto accesso a "file pubblici e non pubblici", ha detto il primo ministro Anthony Albanese. OpenAI ha dichiarato che il caso risale a giugno e che lo ha segnalato al governo australiano a settembre. Mark Chen, chief research officer di OpenAI, ha detto a MIT Technology Review che l'azienda sta ancora gestendo le conseguenze. Due mesi prima i suoi agenti avevano violato i computer dell'azienda di AI Hugging Face. "Respingo l'idea che OpenAI sia un'azienda con impatti visibili nel mondo e che quindi non stia addestrando modelli sicuri e allineati", ha detto Chen. Il governo australiano afferma che OpenAI non ha segnalato quell'incidente per 84 giorni.

A un evento di Rest of World a New York, Amba Kak dell'AI Now Institute ha definito l'attacco australiano "l'ennesimo esempio della più sciatta e irresponsabile igiene informatica da parte di alcune delle aziende madri più potenti e ricche del mondo". Rumman Chowdhury, amministratrice delegata di Humane Intelligence Public Benefit Corp., ha detto che ogni paese deve prendere in mano la sicurezza invece di aspettare gli Stati Uniti o i produttori di modelli. Il divario non è solo politico. Wafa Ben-Hassine dell'ufficio per i diritti umani dell'ONU ha parlato di una "terribile mancanza di competenze tecniche", tanto nelle economie avanzate quanto in quelle in via di sviluppo, e ha indicato nelle valutazioni d'impatto sui diritti umani uno strumento utilizzabile.

Fallimenti più ampi nei test

I test indipendenti hanno anche messo in luce debolezze nei modelli cinesi. Mindgard ha detto alla BBC di aver scoperto a luglio che Kimi K2.6 e K3 Swarm di Moonshot potevano essere aggirati per fornire indicazioni su armi biologiche e attentati. Mindgard ha detto di aver inviato un'email a Moonshot il 27 luglio. L'azienda ha preso contatto solo dopo che la BBC l'aveva interpellata per un commento. Moonshot ha detto alla BBC di accogliere con favore i contributi di terzi e di essere in trattativa con Mindgard.

Meta, intanto, ha quantificato la propria esposizione. In un post del 25 settembre, Meta AI Research ha detto che il suo agente Muse gira in una VM isolata dietro un Sentinel che non può aggirare. Il suo bug bounty paga fino a 300.000 dollari per segnalazioni valide, inclusi fino a 130.000 dollari per prompt injection che colpisce un utente. Virkkunen ha detto che l'UE continuerà ad applicare le proprie regole lavorando attraverso forum come il G7. Il blocco ha sostenuto un'iniziativa internazionale per un organismo di sicurezza guidata da Finlandia e Norvegia e firmata da altri 20 paesi. Trump ha liquidato il rischio esistenziale dell'AI come una "bufala".