Il UK AI Safety Institute riprende i test sui modelli dopo lo stop di agosto
Il UK AI Safety Institute ha ripreso gran parte delle attività di valutazione dei modelli dopo un incidente di agosto. Lo ha riferito Resultsense il 2 ottobre 2026.

Il UK AI Safety Institute (AISI) ha riavviato gran parte delle sue operazioni di test. L'interruzione era cominciata in agosto. Resultsense ha dato la notizia il 2 ottobre 2026. L'agenzia torna così al suo mandato principale: valutare i modelli di frontiera.
La ripresa arriva in un momento delicato. UC Today ha riferito il 2 ottobre che all'AISI era stato di recente negato l'accesso ad alcuni modelli. Quella lacuna ha lasciato un buco nelle capacità di valutazione dell'istituto durante i mesi estivi. Il problema di accesso lo ha costretto a fermare una parte consistente del lavoro. Regolatori e osservatori del settore sono rimasti incerti sulla continuità delle valutazioni di sicurezza. Per diverse settimane l'istituto non ha potuto eseguire la sua batteria standard di test sulle ultime uscite di frontiera. Proprio questa mancanza di visibilità è ciò che l'agenzia era stata creata per evitare. Ora che i test sono ripresi, la domanda è se riuscirà a smaltire l'arretrato dei modelli pubblicati da agosto. La pressione per emettere verdetti chiari sulla sicurezza è alta. Le aspettative del pubblico e dei governi non si sono fermate durante l'estate. L'agenzia deve ora dimostrare che le sue funzioni principali sono di nuovo pienamente operative.
Dentro l'agenzia preoccupano anche il morale del personale e la stabilità operativa. In un articolo datato 22 settembre, il Times ha scritto che i dipendenti dell'AISI si sono presi dei congedi per lo stress legato all'intenso esame esterno. La tensione interna è arrivata mentre cresceva la pressione del pubblico e dei governi per ottenere verdetti chiari sulla sicurezza di sistemi di intelligenza artificiale sempre più capaci.
Il contesto più ampio comprende una serie di incidenti di rilievo nel settore della sicurezza dell'IA. Il 2 ottobre Gadget Review ha riferito che OpenAI ha licenziato tre ricercatori della sicurezza per questioni legate a informazioni riservate. La testata ha descritto le uscite come parte di una più ampia disputa sulla gestione dei dati. Il caso mette in luce le tensioni tra segretezza aziendale e trasparenza della ricerca sulla sicurezza.
Sono stati sollevati anche dubbi sull'integrità degli attuali quadri di sicurezza. Tech Times, in un pezzo pubblicato il 2 ottobre, ha analizzato il White House AI Safety Accord. Ha rilevato che l'accordo non prevede sanzioni per chi non lo rispetta, non richiede la segnalazione delle violazioni e si affida a revisori scelti dalle stesse aziende. Questa debolezza strutturale della politica statunitense contrasta con il regime di test attivo, anche se travagliato, mantenuto dall'AISI britannico.
Il ritorno a pieno regime dell'AISI conta per il campo internazionale della sicurezza dell'IA. Altri governi e altre aziende citano spesso le valutazioni dell'istituto come riferimento per un impiego responsabile. La sua capacità di testare i modelli in modo indipendente lo distingue in un settore dove sono gli stessi sviluppatori a fare molte delle dichiarazioni sulla sicurezza.
Anche il lato tecnico della valutazione della sicurezza dell'IA si sta evolvendo. L'AISI si concentra su test comportamentali di alto livello, mentre altre parti dell'industria tecnologica si occupano di problemi di sicurezza a livello più basso. Per esempio, un post sul blog di ClickHouse pubblicato il 30 settembre 2026 ha illustrato le complessità della sicurezza della memoria per le estensioni di Postgres in C e C++. L'articolo spiegava come integrare codice C++ in un sistema basato su C come Postgres possa portare a comportamenti indefiniti se i pattern di allocazione della memoria non vengono gestiti con attenzione. È una questione di ingegneria dei database, ma riflette la sfida più ampia del settore: costruire sistemi sicuri mentre i componenti di IA si integrano sempre di più nelle infrastrutture esistenti.
La spinta a costruire sistemi di IA sicuri sta anche cambiando il modo in cui i professionisti affrontano la carriera. Il 2 ottobre un post di Boyd Kane su LessWrong ha offerto consigli dettagliati su come candidarsi alle fellowship sulla sicurezza dell'IA. Kane, entrato nel programma MATS alla fine del 2025, ha sostenuto che il processo di candidatura è di tipo conflittuale. Ha detto che i candidati devono distinguere le proprie competenze da quelle del "Average Joe". Ha sottolineato che limitarsi a descrivere risultati impressionanti non basta. I candidati devono presentare il proprio lavoro in modo chiaramente distinguibile dalle candidature tipiche. Questo consiglio mostra l'intensa competizione per i talenti nella sicurezza dell'IA, un campo che si sta professionalizzando rapidamente.
Anche la risposta internazionale alla sicurezza dell'IA sta diventando più articolata su più livelli. Il 2 ottobre The Straits Times ha riferito che Josephine Teo, ministro del Digitale e dell'Intelligenza di Singapore, ha esortato a usare l'IA per combattere le minacce dell'IA nell'ambito di un approccio su più livelli. CNA, in un articolo correlato dello stesso giorno, ha citato Teo secondo cui le tutele esistenti delle aziende di IA non bastano man mano che i modelli diventano più capaci. Queste dichiarazioni della leadership di Singapore mostrano un consenso crescente tra i Paesi non occidentali. Le misure volontarie del settore non sono più sufficienti a mitigare i rischi dell'IA avanzata, secondo questa visione.
Anche la Corea del Sud sta facendo i conti con le implicazioni delle nuove capacità dell'IA. Un articolo del Korea Business Review del 2 ottobre ha rilevato che il rilascio di GPT-6 Astra ha riacceso le paure di "AI Replacement" nel Paese. L'articolo ha discusso di come gli Stati Uniti reagiscano con nervosismo all'impatto di modelli così potenti sull'industria sudcoreana. Suggeriva che le disruption economiche e sociali causate dall'IA stanno diventando una preoccupazione centrale per i decisori politici in Asia.
Nel settore sanitario, l'attenzione alla sicurezza si sta spostando verso la difesa dagli attacchi informatici abilitati dall'IA. Medscape ha riferito il 2 ottobre che gli esperti chiedono difese più solide contro gli attacchi informatici basati sull'IA ai sistemi sanitari. Questo si allinea a una tendenza più ampia: la sicurezza dell'IA non riguarda solo l'allineamento dei modelli. Riguarda anche la protezione delle infrastrutture critiche da attori malevoli che potrebbero usare l'IA per lanciare attacchi sofisticati.
Un'altra dimensione riguarda la valutazione dell'impatto dell'IA sulle infrastrutture fisiche. Un articolo del 1 ottobre ha rilevato che l'IA viene usata per ridurre i controlli di sicurezza sui ponti vecchi da tre giorni a 10 minuti con un'accuratezza del 90%. Questa applicazione migliora l'efficienza, ma solleva domande sull'affidabilità dei sistemi di IA in ambienti critici per la sicurezza, dove un errore può avere conseguenze gravi.
La regolamentazione è resa ancora più complicata dal fatto che giurisdizioni diverse adottano approcci diversi. Kakao, colosso tecnologico sudcoreano, ha firmato un memorandum d'intesa con un AI Safety Research Institute il 28 settembre per costruire un quadro di valutazione della sicurezza dell'IA. Lo ha riferito Yonhap News. Il passo indica che le grandi aziende private cominciano a formalizzare partnership con enti di ricerca sulla sicurezza per assicurarsi che i prodotti rispettino gli standard emergenti.
L'efficacia di questi sforzi di autoregolamentazione è però sotto esame. Un articolo su Medium di Adnan Masood, PhD, pubblicato il 3 ottobre, ha sostenuto che perché l'autoregolamentazione dell'IA funzioni, gli acquirenti devono farla rispettare. Masood ha suggerito che senza la pressione del mercato di consumatori e imprese che chiedono un'IA più sicura, gli standard volontari possono restare inefficaci. Questa prospettiva aggiunge una dimensione commerciale al dibattito sulla sicurezza, collegandola alle decisioni di acquisto e alla filiera.
Le sfide tecniche della sicurezza dell'IA vengono affrontate anche sul piano della ricerca. Un articolo del 5 ottobre ha evidenziato una valutazione governativa in cui nessun modello ha bloccato del tutto gli attacchi con l'IA. Il tasso di successo degli attacchi basati su memoria a lungo termine ha raggiunto il 91,2%. Se il dato è esatto, le attuali difese sono ben lontane dall'essere affidabili. I modelli di IA possono essere vulnerabili ad attacchi persistenti basati sulla memoria che aggirano i filtri di sicurezza standard.
Nel frattempo l'AISI britannico continua a operare all'ombra dell'incidente di agosto. La ripresa dei test è un passo positivo. Va letta alla luce dell'esame continuo e dei limiti di risorse che l'agenzia affronta. La capacità di mantenere test indipendenti e rigorosi sotto pressione politica e commerciale sarà un indicatore chiave della sostenibilità dell'AISI nel lungo periodo.
Andando avanti, questi fattori segneranno la traiettoria degli sforzi sulla sicurezza dell'IA. Sono il recupero operativo, i cambiamenti delle politiche internazionali e le vulnerabilità tecniche. Nei prossimi mesi è probabile un aumento delle attività dell'AISI. L'istituto cerca di ristabilire il suo ruolo di valutatore globale di primo piano dei modelli di frontiera.
Fonti
2- 01Memory safety for Postgres extensions in C/C++EN
- 02How to apply to AI safety fellowships (and beyond)EN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.