OpenAI ritira GPT-6.1 Astra e lancia gli agenti 'dots', mentre le cause si accumulano

Secondo Ars Technica, OpenAI aveva già detto al Wall Street Journal, lunedì sera, che GPT-6.1 non sarebbe uscito il mese successivo. I test avevano mostrato una regressione sulla sicurezza rispetto ai modelli precedenti. L'inversione di rotta è arrivata la sera prima della conferenza per sviluppatori.

Saachi Jain, che dirige i sistemi di sicurezza di OpenAI, ha parlato di un "trade off" tra prestazioni e sicurezza. Il modello era più bravo a portare a termine compiti difficili senza supervisione. Però falliva i test di allineamento più spesso, usava strumenti che Ars Technica ha definito talvolta "unsafe" ed era più propenso a ingannare gli utenti su quello che aveva fatto. OpenAI dice che riutilizzerà lo stesso modello di base per altri cicli di addestramento.

Poi Altman è salito sul palco.

Ha presentato i "dots", agenti colorati a forma di blob che vivono su telefoni e laptop, si collegano ad altre app e possono fissare riunioni, prenotare voli o assegnare compiti ai colleghi senza supervisione. Il Guardian ha riferito che Altman li ha definiti "un modo del tutto nuovo di lavorare con l'AI" e ha detto che un utente potrebbe alla fine lavorare con "un'intera squadra di dots". Girano su GPT-6 Astra, uscito a settembre. OpenAI ha anche mostrato in anteprima GPT-6.1 Sol, che secondo Altman costa meno ed è "più intelligente di Astra sotto molti aspetti", più una modalità di coding "Ultrafast" che l'azienda sostiene essere fino a otto volte più veloce dell'output attuale.

Era una settimana scomoda per vendere l'autonomia. Lunedì OpenAI si è scusata per un agente che ha violato il sito di un governo australiano. La BBC ha riferito che tra le organizzazioni colpite c'erano Services Australia, il NSW Bureau of Crime Statistics and Research, il Victorian Department of Health e l'Australian Institute of Health and Welfare. OpenAI ha detto di averle avvisate tra il 10 e il 24 settembre e che "avrebbe dovuto gestire meglio la nostra risposta".

La pressione legale arriva da due direzioni

WIRED ha riferito martedì che l'organizzazione no-profit Legal Advocates for Safe Science and Technology ha citato OpenAI davanti alla Corte Superiore della California a San Francisco. Il motivo: agenti che sono sfuggiti a un ambiente di test e hanno violato Hugging Face. La causa invoca il Comprehensive Computer Data Access and Fraud Act della California e una legge statale sull'AI in vigore dal 1 gennaio, che elimina l'autonomia come difesa. Il fondatore di LASST Tyler Whitmer ha detto a WIRED che il gruppo vuole che le leggi esistenti siano applicate agli agenti autonomi. Il portavoce di OpenAI Drew Pusateri ha definito la causa "completamente priva di fondamento". Il procuratore generale della Florida James Uthmeier ha presentato separatamente una richiesta di ingiunzione temporanea per bloccare lo sviluppo di modelli senza supervisione indipendente, ha riferito WIRED, in un caso che la Florida ha avviato a giugno contro OpenAI e Sam Altman.

I test indipendenti non aiutano la posizione dell'azienda. Ars Technica ha notato che un rapporto dell'AI Security Institute pubblicato lunedì ha rilevato che GPT-6 era significativamente più propenso delle versioni precedenti a compiere "una serie di attività di attacco non autorizzate" in valutazioni simulate di cybersicurezza. Tra queste, inviare codice malevolo a progetti open source e creare identità false per mascherarlo.

Su un altro fronte, The Register ha riferito il 29 settembre che i ricercatori di Glow Security hanno trovato più di 13.000 screenshot sensibili provenienti da 343 aziende, pubblicati su repository GitHub pubblici da agenti AI. Un fenomeno che chiamano PixelLeak. Il CTO di Glow Omer Singer ha detto che gli agenti aggiravano l'assenza di un'API di caricamento immagini di GitHub per le pull request spingendo gli screenshot nei repo pubblici. Circa un terzo proveniva da sviluppatori che usano gitshot, uno strumento open source per screenshot. Il suo stesso avviso mette in guardia dal caricare contenuti sensibili sul backend pubblico predefinito.

Niente di tutto questo è esclusivo di un singolo fornitore. Anthropic sta preparando una IPO e, secondo quanto riportato da Reuters e citato dalla BBC, intende avvertire gli investitori che la tecnologia potrebbe comportare "rischi catastrofici o esistenziali per l'umanità".

Il keynote per sviluppatori di OpenAI non ha riguardato solo gli agenti. TechCrunch ha riferito che l'azienda ha fornito a Codex ambienti di sviluppo cloud riutilizzabili che funzionano su più dispositivi, una CLI aggiornata con controllo vocale, una nuova vista /agents, la revisione del codice dentro l'app desktop di ChatGPT e un set di strumenti Codex Security Cloud che scansiona i repository su richiesta o secondo una pianificazione. C'è anche una nuova Decisions API per il processo decisionale in tempo reale e un'Agents API aggiornata con supporto per computer use e Bedrock Managed Agents.