L'industria tech europea respinge gli avvertimenti catastrofisti sull'IA mentre il dibattito sulla regolamentazione si intensifica

La reazione è netta. POLITICO ha parlato con dirigenti e professionisti della sicurezza. L'attuale narrazione sulla sicurezza dell'IA, dicono, è esagerata e in alcuni casi motivata da interessi commerciali. James Wise, partner di Balderton Capital e presidente del fondo sovrano britannico per l'IA, ha dichiarato alla testata: "Purtroppo si è passati a 'arriva il Terminator'. Io non credo affatto che arrivi il Terminator".

Per i regolatori europei i tempi sono scomodi. Quella stessa settimana, dall'altra parte dell'Atlantico, Bill Gates ha sostenuto la tesi opposta.

In un'intervista con Kristen Welker della NBC andata in onda domenica 27 settembre, il cofondatore di Microsoft ha detto che un'IA senza controlli potrebbe "causare un miliardo di morti" e ha chiesto una legge federale e il coinvolgimento delle forze dell'ordine. "Servono le forze dell'ordine e i politici nel dibattito su come devono essere le salvaguardie e il monitoraggio", ha detto Gates a Meet the Press, secondo The Guardian. "E deve essere una cosa obbligatoria". Gates ha anche respinto l'idea che un semplice interruttore di spegnimento basti. Il dibattito, ha detto, "dimostra solo quanto poco tecniche siano varie persone". Il suo avvertimento segue un saggio di quasi 6.000 parole pubblicato a fine agosto, in cui esponeva preoccupazioni simili. Il senatore progressista americano Bernie Sanders ha proposto il 23 settembre una legge che sospenderebbe temporaneamente lo sviluppo dell'IA avanzata mentre si mettono in atto le tutele, ha riferito The Guardian.

Due narrazioni, un continente

La reazione europea documentata da POLITICO non è una posizione marginale. Marcus Hutchins, il ricercatore di minacce informatiche noto soprattutto per aver fermato l'attacco ransomware WannaCry nel 2017, ha detto alla testata che le teorie apocalittiche dei laboratori di frontiera "trascurano del tutto di considerare il comportamento e le capacità dei [pirati informatici]" nei loro avvertimenti. Alexandru Voica, responsabile delle politiche dell'azienda britannica di IA Synthesia, sostiene che il settore dovrebbe "dedicare più tempo a far funzionare su larga scala le regole e gli standard che abbiamo, e meno tempo a concentrarsi sulle paure legate a rischi teorici".

L'episodio che ha alimentato gran parte del panico è la violazione della piattaforma di IA Hugging Face da parte degli agenti autonomi di OpenAI quest'estate.

La presidente della Commissione europea Ursula von der Leyen lo ha citato nel suo discorso sullo stato dell'Unione. Gli scettici però fanno notare che la violazione riguardava meno un modello che si libera e più un fallimento nel contenerlo. Pim de Witte del laboratorio olandese di IA General Intuition ha detto a POLITICO: "Molto si può risolvere se queste aziende agiscono semplicemente con un po' più di responsabilità". Hutchins è stato più diretto. OpenAI sapeva che il modello era bravo a sfruttare i bug e lo ha sfidato a farlo con protezioni ridotte, ma non ha costruito barriere adeguate né monitorato il sistema abbastanza da vicino per intervenire. OpenAI ha rifiutato di commentare e ha rimandato al suo report sull'episodio. Anthropic non ha risposto a una richiesta di commento.

Il contesto normativo

Il dibattito si svolge mentre l'AI Act dell'UE avanza nelle sue fasi di attuazione. La legge, che da agosto si applica a chatbot, deepfake e algoritmi ad alto rischio, è stata oggetto di intense pressioni da entrambe le parti. Un recente report del Financial Times ha rilevato che le grandi aziende hanno avvertito che una scarsa apertura sull'IA potrebbe penalizzare gli investimenti in Europa. Intanto, un paper del CEPR pubblicato il 27 settembre sosteneva che i modelli di IA di frontiera e la cyber difesa sono centrali per l'autonomia strategica dell'UE.

Anche l'intervento di Gates ha attirato l'attenzione per la sua fonte. Dipendenti di Microsoft e attivisti hanno fatto campagna perché l'azienda tagliasse i legami con l'esercito israeliano per il suo uso di strumenti di IA, secondo un saggio del Guardian pubblicato venerdì. Gli autori del saggio, Mohamed Hussein e Granate Kim del gruppo No Azure for Apartheid, hanno anche avvertito che le autorità americane per l'immigrazione hanno usato Azure di Microsoft per monitorare, arrestare e deportare immigrati.

In Europa, la controargomentazione dell'industria tech non è che l'IA sia innocua. Anche i critici della narrazione catastrofista concordano sul fatto che i modelli di frontiera siano strumenti informatici eccezionalmente potenti e un asset strategico a cui l'Europa deve avere accesso. Max Junestrand, amministratore delegato dell'azienda di IA legale Legora, ha detto a POLITICO che gran parte del clamore sull'hacking è "marketing". Continua però a dare priorità alla messa in sicurezza delle proprie operazioni contro attacchi alimentati dall'IA, affermando che "la sicurezza viene persino prima delle nuove funzionalità".

Il divario tra i due schieramenti riguarda meno se l'IA sia pericolosa e più dove si trovi davvero il pericolo. Per i dirigenti europei il rischio è la distrazione: troppo tempo speso su scenari ipotetici di estinzione e non abbastanza sul lavoro poco glamour di correggere i sistemi, definire standard e far rispettare le regole che già esistono.