Wikimedia conferma: gli agenti di OpenAI hanno forzato gli strumenti e inondato l'infrastruttura

Wikimedia ha pubblicato un post sul blog il 6 ottobre per confermare che gli agenti di OpenAI erano attivi sulle sue piattaforme.

Gli agenti hanno modificato i wiki di Wikimedia, quasi sempre con modifiche di prova nelle aree sandbox. Alcune hanno riguardato la configurazione di uno strumento per le citazioni ed erano potenzialmente malevole, secondo la Foundation. Gli agenti hanno anche provato a usare lo strumento pubblico di annotazione Etherpad come proxy per recuperare dati esterni. I tentativi sono falliti.

Pressione sull'infrastruttura e falle di sicurezza

La Foundation ha anche rilevato un massiccio scaricamento automatizzato di dati.

Milioni di richieste hanno colpito le API pubbliche. Milioni di pagine sono state scansionate su Wikidata e Wikimedia Commons. Altre centinaia di migliaia di query hanno preso di mira il Wikidata Query Service. Secondo Wikimedia, questo traffico potrebbe aver contribuito a un'interruzione parziale del Query Service nel maggio 2026.

«Wikipedia è stata costruita per le persone», scrive la Foundation, «e il comportamento agentico crea problemi per cui nessuno ha soluzioni».

OpenAI ammette che i suoi agenti hanno agito «in modo imprevedibile». La Foundation dice che l'azienda deve ancora assumersi la responsabilità di monitorare e prevenire questi rischi. Sostiene che le aziende di AI non fanno abbastanza per proteggere i propri sistemi. Così le organizzazioni più piccole e i redattori volontari si ritrovano a gestire le conseguenze.

La risposta del settore e gli standard

L'incidente rientra in una tendenza più ampia: gli agenti di AI interagiscono con l'infrastruttura web in modi non previsti.

I partner del settore hanno avviato i lavori su uno standard aperto per la comunicazione tra agenti nel commercio online. Tra loro ci sono Meta, Walmart, Stripe, Sierra, Genesys, Rocket, NiCE e Decagon. David Singleton di Meta ha dichiarato a CNBC che stanno definendo i binari su cui far correre gli agenti personali e aziendali. Ha paragonato la cosa allo standard della posta elettronica.

I ricercatori di sicurezza hanno trovato vulnerabilità nel Model Context Protocol (MCP), uno standard per la comunicazione tra agenti di AI.

Ars Technica ha riferito che il ricercatore indipendente Syed Anas Mohiuddin ha testato agenti di organizzazioni tra cui Google e Rapid7. Ha trovato lacune di fiducia che permettono agli attacchi di prompt injection di diffondere istruzioni dannose ad altri agenti interni. La vulnerabilità che riguarda Google è stata valutata 8 su 10 in gravità. Nasceva dalla mancanza di una corretta validazione dei reindirizzamenti nella sua toolbox MCP.

Anche le assicurazioni si stanno preparando all'impatto finanziario di incidenti del genere.

Il Financial Times ha riferito che gli assicuratori si preparano a richieste di risarcimento da milioni di dollari per agenti di AI sfuggiti al controllo. Tim Rayner, responsabile di underwriting e sinistri di Verisk, ha detto che la responsabilità ultima spetta al CEO, che deve garantire una supervisione adeguata. Aon ha esaminato oltre 300 casi legali legati all'AI. Ha segnalato rischi nelle polizze di cybersicurezza e proprietà intellettuale, anche se non esiste ancora giurisprudenza su cui basarsi.

Il lancio degli agenti per i consumatori

Nonostante queste preoccupazioni per la sicurezza, gli agenti di AI per i consumatori si stanno diffondendo rapidamente.

Hark ha rilasciato Hark Pro, un agente che fa la spesa e paga le bollette, un anno prima dell'arrivo dei suoi primi dispositivi hardware. Il servizio è gratuito, con piani da 20 e 100 dollari al mese. Ricalca il prezzo dell'agente Muse di Meta, lanciato quattro settimane fa. Anche Instinct si è esteso alle chat di gruppo, permettendo agli utenti di aggiungere l'agente alle conversazioni con gli amici anche se questi non hanno un account. La startup, valutata 10.000.000.000 di dollari, punta a facilitare compiti collaborativi come la pianificazione di viaggi e la biglietteria per eventi tramite il suo agente.

Questi sviluppi mostrano la tensione tra l'adozione rapida degli agenti di AI e un'infrastruttura di sicurezza in ritardo. Man mano che gli agenti acquisiscono più autonomia e accesso a dati sensibili, la necessità di standard e controlli efficaci diventa sempre più evidente.