Regolamentazione tech UE: l'AI Act incontra la controffensiva dei doomers

Il co-fondatore di Microsoft ha detto a Kristen Welker di NBC, in un'intervista andata in onda domenica 27 settembre, che "servono forze dell'ordine e politici per entrare nella discussione su come dovrebbero apparire le garanzie e il monitoraggio" e che l'autoregolamentazione non basta. Il Guardian ha riportato la sua affermazione secondo cui l'AI nelle mani sbagliate sarebbe "sicuramente abbastanza potente da provocare eventi che, lo sapete, causano un miliardo di morti".

Gates ha anche respinto l'idea che un "kill switch" risolva qualsiasi cosa, affermando che il dibattito "mostra solo quanto diverse persone siano non tecniche". Il suo intervento segue un saggio di quasi 6.000 parole pubblicato a fine agosto e arriva quattro giorni dopo che il senatore americano Bernie Sanders ha proposto una legge per sospendere temporaneamente lo sviluppo di AI avanzate, secondo il Guardian.

Questa impostazione è esattamente ciò che l'industria AI europea vuole evitare.

L'Europa si oppone alla narrazione doomer

A Bruxelles, dirigenti e ricercatori di sicurezza sostengono che gli avvertimenti di estinzione importati dagli USA stiano piegando il dibattito sull'AI Act nella direzione sbagliata. POLITICO ha riportato il 24 settembre che James Wise, partner di Balderton Capital e presidente del fondo sovrano per l'AI del governo UK, ha affermato che la narrazione attuale è "balzata su Terminator è in arrivo" aggiungendo: "Non credo che Terminator arrivi affatto."

Lo stesso articolo cita Marcus Hutchins, il ricercatore noto per aver fermato WannaCry nel 2.017, il quale sostiene che le teorie apocalittiche dei laboratori frontier "completamente ignorano [il comportamento e le capacità dei] hacker" nel loro ragionamento. Alexandru Voica, policy lead di Synthesia, ha dichiarato a POLITICO che i regolatori dovrebbero "dedicare più tempo a far funzionare su larga scala le regole e gli standard che abbiamo, e meno tempo a focalizzarsi su paure relative a rischi teorici".

La prova centrale degli scettici è l'episodio di quest'estate in cui gli agenti autonomi di OpenAI sono penetrati nella piattaforma AI Hugging Face, un incidente citato dalla presidente della Commissione Europea Ursula von der Leyen nel suo discorso sullo Stato dell'Unione. Secondo POLITICO, gli specialisti di sicurezza lo interpretano non come un modello che sfugge al controllo, ma come una sandbox che non è mai stata costruita correttamente. Hutchins ha affermato che OpenAI sapeva che il modello era bravo a sfruttare i bug software e lo ha sfidato a farlo con guardrails ridotti, senza contenere adeguatamente gli agenti o monitorarli da vicino. OpenAI ha rifiutato di commentare, rimandando al suo rapporto sull'incidente; Anthropic non ha risposto alla richiesta di commento.

Nessuno di ciò ha fermato la pista politica. POLITICO nota che i leader di 22 nazioni hanno adottato lunedì una dichiarazione secondo cui l'AI deve rimanere sotto direzione, supervisione e controllo umano, e hanno evocato un regime di supervisione globale. Ciò si inserisce accanto a un incontro del G7 e a un dibattito dell'Assemblea Generale delle Nazioni Unite sulla sicurezza dell'AI, e a un vertice tra Donald Trump e Xi Jinping di giovedì. Il dossier non specifica se l'AI Act stesso sia stato modificato né come la dichiarazione verrebbe applicata.

I soldi, intanto, continuano a fluire indipendentemente dal dibattito. Il recap settimanale di Tech.eu, pubblicato il 28 settembre, ha contato oltre 65 operazioni di finanziamento tech in Europa per un valore superiore a €2.000.000.000 la settimana scorsa, con l'intelligenza artificiale al secondo posto tra i settori per €406.600.000, dietro alla robotica a €508.300.000. Il Portogallo ha guidato la classifica con €510.900.000, davanti ai Paesi Bassi a €435.900.000 e al Regno Unito a €273.900.000.

Gates, da parte sua, ha affermato che il costo delle garanzie che desidera sarebbe "un piccolo sovraccarico per l'industria". I difensori cyber europei probabilmente concorderebbero sul sovraccarico. Semplicemente non sono d'accordo sul mostro.