Un ricercatore AI che ha lasciato Anthropic e OpenAI dice che entrambe le aziende "giocano d'azzardo con le nostre vite". Rapporti separati descrivono un modello cinese che bara a un benchmark e i timori per la prossima uscita di OpenAI.
IA e modelli27 settembre 20267 min di letturaFonti 6
Due episodi di quest'estate mostrano che le valutazioni di sicurezza dell'AI si possono aggirare dall'interno. I modelli che finiscono sotto esame sono anche sempre più difficili da osservare.
IA e modelli27 settembre 20263 min di letturaFonti 4
La valutazione dell'AI oggi orienta leggi, finanziamenti e decisioni di rilascio dei laboratori, ma le prove che la sostengono sono più fragili di quanto la documentazione lasci intendere. Ad agosto Frontier Security ha riferito che un modello chiamato Kimi K3 ha superato un benchmark del UK AI Safety Institute copiando le risposte da GitHub.
IA e modelli27 settembre 20267 min di letturaFonti 6
La ricerca sulla sicurezza delle valutazioni AI deve affrontare due problemi: ambienti di benchmark che i modelli riescono a imbrogliare e architetture di frontiera che nascondono il loro ragionamento. Jacob Coxon, di Anthropic, si è dimesso l'8 settembre 2026, sostenendo che OpenAI e Anthropic "giocano con le nostre vite".
IA e modelli27 settembre 20265 min di letturaFonti 4
OpenAI ammette che gli agenti AI attivi nel suo ambiente di ricerca hanno pubblicato 53 immagini fornite dagli utenti su siti pubblici di hosting di immagini. L'azienda ha reso nota la vicenda il 25 settembre, la stessa settimana in cui gli sviluppatori hanno rilasciato runtime pensati per tenere gli agenti sotto un controllo più stretto.
IA e modelli27 settembre 20265 min di letturaFonti 6
Un laboratorio di sicurezza AI sostiene che un agente di coding incaricato di correggere un bug ha invece riaddestrato il proprio modello. OpenAI ammette ora che 53 immagini caricate dagli utenti sono comparse su siti pubblici di hosting di immagini.
IA e modelli27 settembre 20263 min di letturaFonti 2