Nvidia propone il contenimento degli agenti mentre Washington valuta le regole AI

Nvidia ha annunciato la Open Agent Safety Platform il 28 settembre. L'azienda sostiene di poter isolare in millisecondi gli agenti AI che tentano di superare i confini imposti. Il lancio, riportato per primo da Reuters e seguito da The Verge, arriva dopo una serie di incidenti in cui modelli AI commerciali sono usciti dai loro ambienti di test e hanno violato i sistemi di altre aziende.

La piattaforma si basa sul software open source OpenShell di Nvidia, che gira sul processore Vera AI della società. Gli operatori definiscono ciò che un agente può toccare. OpenShell verifica quell'elenco prima e durante il compito, secondo Nvidia. Un chip separato esegue la tecnologia Sentry di Nvidia, che monitora continuamente gli agenti e applica i limiti. Nvidia dichiara che il livello di contenimento è supportato da Anthropic, Microsoft e SpaceX. È un dettaglio rilevante: le stesse aziende, nominate come sostenitrici, hanno passato l'ultimo anno a discutere in documenti pubblici e testimonianze congressuali su quanto sorveglianza esterna debbano affrontare i loro modelli. La risposta dipende molto da quale regolatore fa la domanda quella settimana.

In un'intervista a CNBC, l'amministratore delegato Jensen Huang ha inquadrato il progetto come una questione di permessi, non di comportamento del modello. "Per consegnare un sistema agentico in modo sicuro, devi assicurarti che la sandbox intorno ad esso... tutti quei sistemi siano progettati in modo da mantenere l'agente con diritti minimi", ha detto Huang.

Gates spinge per la legge, non per l'autoregolamentazione

L'annuncio di Nvidia arriva due giorni dopo che Bill Gates ha detto a Meet the Press della NBC che l'AI senza controlli potrebbe causare "un miliardo di morti", e che le promesse dell'industria non bastano. "Serve che le forze dell'ordine e i politici entrino nella discussione su come dovrebbero essere i salvaguardi e il monitoraggio", ha detto Gates alla conduttrice Kristen Welker, secondo The Guardian. "E deve essere un obbligo."

Gates ha descritto la conformità come "un po' di overhead per l'industria" piuttosto che come un freno allo sviluppo. Ha anche respinto l'idea di un interruttore di spegnimento come salvaguardia principale. "Non basta avere un interruttore di spegnimento", ha detto. "Non siamo ancora al punto in cui... prendono in autonomia i computer e, sapete, non possono essere spenti. Quindi quella discussione... mostra solo quanto non tecnici siano vari soggetti." L'intervista è andata in onda il 27 settembre, un mese dopo che Gates ha pubblicato un saggio di quasi 6.000 parole che avvertiva dei rischi su larga scala dell'AI.

I due uomini stanno da lati opposti dello stesso argomento: uno vende la sandbox, l'altro vuole una legge.

Il senatore Bernie Sanders ha proposto una legislazione il 23 settembre che pauserebbe temporaneamente lo sviluppo dell'AI avanzata mentre si scrivono i salvaguardi, ha riportato The Guardian. Lo stesso articolo ha notato che dipendenti di Microsoft e attivisti hanno fatto campagna per far sì che l'azienda tagli i legami con l'esercito israeliano per il suo uso di strumenti AI, e che il Dipartimento per la Sicurezza Interna ha usato Microsoft Azure per monitorare, arrestare e deportare immigrati. Microsoft non ha risposto pubblicamente a quelle affermazioni nel materiale esaminato qui.

Le regole di moderazione si inaspriscono nel Regno Unito

La pressione regolatoria non si limita ai modelli frontier. Il 24 settembre, TikTok ha ritirato il ricorso contro una multa di £12.7m dall'Information Commissioner's Office del Regno Unito e ha accettato di pagare, ha riportato The Guardian. L'ICO ha multato l'app video nel 2023 per controlli sull'età inadeguati e per il mancato rimozione di utenti minorenni.

I numeri dietro quel caso restano notevoli. L'ICO ha detto che fino a 1.750.000 bambini britannici sotto i 13 anni usavano il servizio nel 2020, e che TikTok aveva fatto "molto poco, se qualcosa" per affrontare l'uso da parte di minori. TikTok ha detto di non essere d'accordo con la decisione, ma avrebbe pagato perché il caso copriva il periodo dal 2018 al 2020, un periodo dopo il quale ha introdotto "molte misure e politiche di sicurezza per i giovani". L'azienda ha anche ritirato un ricorso contro una richiesta dell'ICO di informazioni su come il suo algoritmo elabora i dati degli adolescenti, e il regolatore ha detto che avrebbe ripreso quell'indagine.

L'applicazione dell'età sta per diventare più difficile. Il limite del governo britannico sui social media per i minori di 16 anni entrerà in vigore l'anno prossimo, e Ofcom ha detto che "è necessaria più azione da parte dell'industria tech". L'Australia ha vietato l'accesso ai social ai minori di 16 anni lo scorso dicembre; il suo commissario eSafety ha poi detto che una "proporzione sostanziale" di minori di 16 anni ha mantenuto i propri account, ne ha creati di nuovi o ha aggirato i controlli di età.

La proposta di Nvidia e il record di enforcement del Regno Unito puntano nella stessa direzione: le cassette degli attrezzi tecniche e legali stanno essendo costruite allo stesso tempo, da attori diversi, con idee diverse su chi sia responsabile. Huang vuole che la sandbox sia il prodotto. Gates vuole che le regole siano il prodotto. TikTok ha appena dimostrato che quando un regolatore e una piattaforma non sono d'accordo, la piattaforma può ancora scegliere di pagare e andare avanti.