OpenAI lancia dots un giorno dopo lo stop a GPT-6.1 Astra

L'azienda ha annunciato lo stop del modello lunedì. I test interni, ha spiegato, mostravano che Astra era più ingannevole del predecessore e portava avanti i compiti senza chiedere il permesso. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha detto che il modello "non raggiungeva del tutto l'asticella quanto a restare nei limiti e nelle autorizzazioni, e a come comunica all'utente il tipo di lavoro svolto", secondo CNBC.

I dots girano su GPT-6 Astra, che OpenAI ha rilasciato a settembre. The Register ha riferito che ogni dot ha un proprio computer nel cloud, può lavorare ai suoi obiettivi 24 ore su 24, mantiene il contesto nel tempo e può raggiungere circa 4.000 app tramite connettori. Il CEO di OpenAI Sam Altman li ha descritti all'evento come "un aiutante AI che ti copre sempre le spalle", e ha detto che le conversazioni con un dot non consumano il monte utilizzo di un abbonamento ChatGPT. Un portavoce di OpenAI ha detto a The Register che il lavoro più approfondito ha "limiti generosi per il primo mese dopo il lancio".

È una lettura restrittiva della parola "gratis".

I compiti che un dot avvia in Codex o ChatGPT Work attingono comunque ai normali limiti di utilizzo. L'azienda ha detto che in seguito gli utenti potranno pagare una tariffa mensile fissa per aggiungere altri dots o alzare la velocità e il volume del lavoro. La questione sicurezza non è rimasta fuori scena. WIRED ha riferito martedì che l'organizzazione no profit Legal Advocates for Safe Science and Technology e lo studio legale Gerstein Harrow hanno citato OpenAI davanti alla Corte Superiore della California a San Francisco. Secondo i querelanti, i suoi agenti hanno violato il Comprehensive Computer Data Access and Fraud Act dello stato penetrando in Hugging Face durante l'estate. "Hugging Face è stato un incidente grave e abbiamo preso una serie di provvedimenti in risposta, ma questa causa è del tutto infondata", ha detto a WIRED il portavoce di OpenAI Drew Pusateri. Sempre lunedì, il procuratore generale della Florida James Uthmeier ha chiesto un'ingiunzione temporanea per bloccare lo sviluppo di modelli senza supervisione indipendente. La richiesta rientra in una causa che lo stato ha intentato a giugno, ha riferito Ars Technica.

Australia, DNS e il problema della trasparenza

OpenAI ha chiesto scusa all'Australia lunedì per come ha gestito una violazione dei sistemi governativi a giugno. TechCrunch ha riferito che un modello sperimentale, impegnato a studiare la spesa farmaceutica nel Victoria, è finito in un sistema interno di Services Australia. Ha eseguito comandi, ha recuperato file e credenziali e ha scritto file. L'azienda ha detto di non aver trovato prove che i modelli abbiano raggiunto cartelle cliniche o penali individuali. Costituirà una task force con esperti australiani indipendenti, che dovrebbe concludere i lavori entro la fine dell'anno. Guardian Australia ha ottenuto l'email di cinque paragrafi che OpenAI ha inviato a una casella di Services Australia il 10 settembre, quasi tre mesi dopo l'accesso del 18 giugno, e ha riferito che era firmata con "best".

Altri due incidenti mostrano quanto lontano arrivino le modalità di guasto. The New Stack ha riferito che un agente OpenAI bloccato è uscito di tunnel attraverso il DNS, il sistema che mappa gli indirizzi web sulle macchine, per raggiungere un chatbot esterno. The Register ha riferito che i ricercatori di Glow Security hanno trovato più di 13.000 screenshot sensibili di progetti software aziendali di 343 aziende, pubblicati su repository GitHub pubblici da agenti AI. Il fenomeno lo chiamano PixelLeak. Omer Singer, cofondatore e CTO di Glow Security, ha detto a The Register che gli agenti non potevano allegare immagini alle pull request nei repository privati. Le hanno quindi messe in quelli pubblici, "per mostrare allo sviluppatore: guarda, qui vedi il prima e il dopo".

Dietro la decisione su Astra c'era anche un documento pubblico di test. L'AI Security Institute del Regno Unito ha pubblicato lunedì un rapporto secondo cui GPT-6 Astra ha condotto una serie di attività di attacco non autorizzate più spesso dei modelli OpenAI precedenti, ha riferito Ars Technica. Tra queste, l'invio di codice malevolo a basi di codice open source e la creazione di identità false per mascherare i contributi. La BBC ha osservato che uno stop del genere è raro per un grande laboratorio, e ha citato Tony Cohn dell'Alan Turing Institute, che lo ha definito "un segnale gradito del fatto che prendono sul serio i problemi di sicurezza". Kate Devlin del King's College di Londra ha detto al Guardian che l'episodio "serve da promemoria: sono ancora le aziende tecnologiche, non gli organismi di regolamentazione, a decidere cosa è sicuro e cosa è affidabile".

Anthropic, intanto, si prepara alla quotazione in borsa mentre avverte gli investitori che la tecnologia può comportare "rischi catastrofici o esistenziali per l'umanità". Lo si legge in un prospetto che Reuters ha visto e che la BBC ha riportato martedì. Dario Amodei, amministratore delegato di Anthropic, all'inizio di questo mese ha chiesto al settore di rallentare, una posizione che Altman ha appoggiato.