Gates chiede una legge sull'AI, Sanders vuole 20 anni di carcere per la superintelligenza

Il dibattito americano sulla regolamentazione dell'AI non riguarda più il ritmo, ma gli strumenti. Il 25 settembre Bill Gates ha detto nel programma della NBC News "Meet the Press" che il Congresso dovrebbe approvare una legge per regolare lo sviluppo dell'intelligenza artificiale. Alla domanda se serva una legge, ha risposto di sì. I requisiti, ha aggiunto, devono essere obbligatori.

Gates non ha lasciato dubbi sull'autoregolamentazione del settore. "Nessuno pensa che l'autoregolamentazione da sola basti", ha detto. Su standard di sicurezza e controlli devono dire la loro, secondo lui, le forze dell'ordine e i politici. Introdurre requisiti aumenterà il carico per le aziende, ha aggiunto, ma non ne rallenterà il lavoro in modo significativo. Ha anche avvertito che cattive intenzioni combinate con i più recenti strumenti di AI creano una minaccia su scala di massa, e che nessun'arma prima aveva agito con tanta potenza.

Il "Ban Artificial Superintelligence Act 2026"

Va molto più in là il progetto noto come "Ban Artificial Superintelligence Act 2026". Il documento definisce la superintelligenza come un sistema che supera l'uomo nella maggior parte dei compiti, o che può essere facilmente modificato fino a raggiungere quello stato. Rientra nella definizione anche un sistema capace di pianificare e attuare la distruzione dell'umanità o il rovesciamento di un governo. Sistemi simili non potrebbero essere creati, implementati, acquistati, posseduti, finanziati né importati.

Il progetto prevede l'istituzione di un Dipartimento per l'Intelligenza Artificiale con funzioni di vigilanza. Se il dipartimento identifica una superintelligenza, il sistema va fermato subito e distrutto entro 30 giorni. Chi lo rileva deve segnalarlo entro 24 ore. Per i "sistemi di AI avanzati", addestrati con una potenza di calcolo di almeno 10²⁵ operazioni, varrebbe invece una pausa nello sviluppo finché il dipartimento non stabilisca regole chiare. La soglia sarebbe corretta ogni anno.

Il realismo di questo progetto è limitato. La soglia di 10²⁵ FLOP comprende buona parte dei modelli contemporanei, quindi gli effetti sarebbero ampi, non puntuali. Conviene però leggere i due interventi insieme: Gates rappresenta la richiesta minima, standard obbligatori e applicabili, Sanders quella massima. Nel sistema americano a bloccare la regolamentazione dell'AI non è la mancanza di argomenti, ma la mancanza di maggioranza.

Il progetto di Sanders è più duro di quanto suggerisca il suo nome. Vieta non solo la creazione della superintelligenza, ma anche il suo uso, l'acquisto, il possesso, il finanziamento e l'importazione. Istituisce un nuovo Dipartimento per l'Intelligenza Artificiale: un sistema identificato di quella classe va fermato subito e distrutto entro 30 giorni. Chi ne incontra uno deve segnalarlo entro 24 ore. Lo sviluppo dei "sistemi di AI avanzati", addestrati con almeno 10^25 operazioni, sarebbe sospeso finché il dipartimento non sarà pronto, e la soglia stessa sarebbe corretta ogni anno. Chi viola il divieto rischia fino a 20 anni di reclusione.

Gates e Sanders stanno ai due estremi della stessa disputa. Il primo vuole requisiti obbligatori che non fermino il lavoro sui modelli, il secondo ritiene che con questa classe di capacità il ritmo sia di per sé un problema. Il punto in comune è politico: entrambi riconoscono che gli impegni volontari delle aziende non bastano più.