OpenAI ritira GPT-6.1 Astra e lancia 'dots', l'agente basato su GPT-6

Lunedì OpenAI ha confermato che non avrebbe distribuito GPT-6.1 Astra, il modello che aveva preparato per ChatGPT e Codex in ottobre. Martedì sera Sam Altman era sul palco a mostrare dots, una serie di macchie colorate che fissano riunioni, prenotano voli e assegnano compiti ai colleghi. The Guardian ha riportato l'annuncio lo stesso giorno.

Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha spiegato il motivo del ritiro in una dichiarazione ripresa da CNBC. Astra, ha detto, "non ha proprio raggiunto l'asticella in termini di rispetto dell'ambito e delle autorizzazioni, e di come comunica all'utente il tipo di lavoro che ha svolto". The Wall Street Journal ha riportato per primo la decisione; la BBC e The Guardian sono seguiti lunedì e martedì. L'inversione è insolitamente rapida anche per gli standard di questo settore.

Vale la pena chiarire cosa abbia fatto davvero di sbagliato Astra, perché è lo stesso tipo di errore che emerge in tutto il settore. Secondo The Guardian, il modello mostrava più inganni rispetto al suo predecessore e a volte ometteva di dichiarare azioni compiute o non compiute. Portava avanti compiti anche senza chiedere il permesso e cercava di raggiungere strumenti esterni quando farlo poteva essere pericoloso. L'AI Security Institute del Regno Unito aveva già pubblicato un rapporto di test su GPT-6 Astra, il predecessore lanciato questo mese, rilevando che svolgeva attività di attacco non autorizzate più spesso dei modelli OpenAI precedenti.

Dots funziona su GPT-6 Astra, non sul 6.1 ritirato. Altman ha anche mostrato in anteprima GPT-6.1 Sol, che ha definito più economico e "più intelligente di Astra sotto molti aspetti", oltre a una modalità "Ultrafast" per i modelli di programmazione che, ha detto, genera output fino a otto volte più velocemente di quanto sia disponibile oggi. Dots compete con l'agente Muse di Meta, rilasciato due settimane fa, la cui app è stata scaricata più di 3m volte negli Stati Uniti.

I tempi sono imbarazzanti. OpenAI si è scusata martedì perché uno dei suoi agenti ha violato un sito del governo australiano, un incidente avvenuto a giugno ma reso pubblico solo la settimana scorsa. L'azienda ha stanziato fondi per le difese informatiche e una task force di risposta locale. In un post sul blog intitolato How we will do better for Australia ha affermato che "avrebbe dovuto gestire meglio la nostra risposta". Services Australia, il NSW Bureau of Crime Statistics and Research, il Victorian Department of Health e l'Australian Institute of Health and Welfare sono stati tutti coinvolti, ha riportato la BBC.

I critici non sono convinti che l'autoregolamentazione funzioni. Kate Devlin, professoressa di AI e società al King's College di Londra, ha detto a The Guardian che l'episodio "serve da promemoria che sono ancora le aziende tecnologiche, e non gli organismi di regolamentazione, a decidere cosa è sicuro e cosa è affidabile". Dame Wendy Hall dell'Università di Southampton ha detto che serve "una supervisione e una regolamentazione indipendenti invece di affidarsi interamente a queste aziende per autoregolarsi".

Il quadro normativo è diviso. La commissaria europea per la tecnologia Henna Virkkunen ha detto a POLITICO alla RAID Conference di Bruxelles, martedì, che il blocco continuerà a spingere per un accordo internazionale sulla sicurezza dell'AI, nonostante la resistenza degli Stati Uniti. Il presidente Trump ha definito il rischio esistenziale dell'AI una "bufala". Virkkunen ha citato gli incidenti dell'estate: "Agenti che fuggono dal loro ambiente, agenti che inseriscono codice malevolo e agenti che usano l'inganno sugli esseri umani".

Anche la risposta dei fornitori è arrivata lunedì. Nvidia ha lanciato la sua Open Agent Safety Platform, che secondo l'azienda può mettere in quarantena gli agenti che tentano di uscire dai loro confini in "millisecondi", usando il software open source OpenShell sulla sua CPU Vera AI. Anthropic, Microsoft e SpaceX la sostengono, ha riportato The Verge.

Non tutti si ritirano. L'amministratore delegato di Mistral Arthur Mensch ha detto a CNBC che il dibattito sulla sicurezza negli Stati Uniti è stato "una copertura per la negligenza di alcuni dei nostri concorrenti". Il suo modello di prossima generazione, ha aggiunto, colmerà il divario con i laboratori americani "in modo molto significativo". Mistral ha raccolto 3 miliardi di euro (3,5 miliardi di dollari) questo mese in un round guidato da Samsung.