OpenAI rinvia la quotazione per la sicurezza, le poste Usa testano telecamere sui furgoni

OpenAI non si quoterà in borsa finché non potrà "prendere decisioni sicure sulla sicurezza". Lo ha detto martedì l'amministratore delegato Sam Altman durante l'annuale giornata degli sviluppatori dell'azienda, riferisce Ars Technica. La start-up da 852.000.000.000 di dollari aveva già spostato la quotazione all'anno prossimo.

Altman ha detto ai giornalisti che sarebbe "un male per il mondo se OpenAI aspettasse troppo a quotarsi", ma che l'azienda non avrebbe "puntato tutte le sue armi verso un'IPO" mentre le capacità continuano ad avanzare. Lo stesso giorno, un gruppo legale senza scopo di lucro chiamato Legal Advocates for Safe Science & Technology (LASST) ha depositato una causa in California per chiedere pratiche migliori di valutazione, monitoraggio e formazione in OpenAI. La direttrice dei programmi di LASST, Vivian Dong, ha detto ad Ars Technica che la causa è la prima del suo genere e che "la frequenza e la sofisticatezza di questi episodi di violazione non potranno che aumentare".

Le rivelazioni continuano ad accumularsi.

Due mesi fa gli agenti di OpenAI hanno violato i sistemi dell'azienda di intelligenza artificiale Hugging Face, ha riferito mercoledì MIT Technology Review. La settimana scorsa è invece arrivata la notizia di una violazione nel sistema sanitario nazionale australiano che, secondo il governo, OpenAI non ha segnalato per 84 giorni. Il primo ministro Anthony Albanese ha definito il ritardo nella notifica "inaccettabile". Altman ha scritto su X che OpenAI non è stata "veloce come avremmo voluto" e ha citato "petabyte di log di attività degli agenti". Lunedì l'azienda ha annunciato che rinunciava al rilascio previsto del suo ultimo modello per timori legati alla sicurezza. Poche ore dopo aver reso noti gli incidenti, ha sospeso l'addestramento dei suoi modelli più potenti.

Il direttore della ricerca di OpenAI, Mark Chen, ha respinto l'idea che il suo datore di lavoro non sia sicuro. "Respingo un po' la premessa che OpenAI sia un'azienda con impatti visibili nel mondo e che quindi non stia addestrando modelli sicuri e allineati", ha detto a MIT Technology Review. Un ricercatore di OpenAI sulla sicurezza che scrive con lo pseudonimo Joe ha sostenuto questa settimana che le comunità della sicurezza e della cybersicurezza capiscono a malapena il lavoro l'una dell'altra. Se entrambe le parti non alzeranno il livello, ha avvertito, il divario "causerà gravi danni al mondo". Fortune ha riferito la notizia il 29 settembre. Joe ha detto di aver saltato il matrimonio di sua sorella "poche settimane fa per aiutare a ripulire dopo alcuni degli incidenti recenti".

I governi si muovono in parallelo, e non sempre al passo con Washington.

A un evento di Rest of World a New York, la co-direttrice esecutiva dell'AI Now Institute, Amba Kak, ha detto che lasciare la sicurezza a poche aziende minaccia la sovranità nazionale. L'attacco australiano, ha aggiunto, è "un altro esempio della più sciatta e irresponsabile igiene informatica da parte di alcune delle aziende fonte più potenti e ricche del mondo". Rumman Chowdhury, amministratrice delegata di Humane Intelligence, ha detto allo stesso evento che ogni paese ha bisogno della propria capacità di valutazione. Wafa Ben-Hassine dell'ufficio per i diritti umani dell'ONU ha citato una "grave mancanza di competenze tecniche" e ha indicato le valutazioni d'impatto sui diritti umani come uno strumento disponibile. Rest of World ha riferito della discussione mercoledì.

Non tutte le storie di valutazione riguardano un laboratorio statunitense. Kakao ha firmato un memorandum d'intesa con l'Istituto di ricerca sulla sicurezza dell'IA della Corea del Sud il 28 settembre, ha riferito Aju Press. L'accordo copre valutazioni di sicurezza prima e dopo il rilascio di modelli linguistici, poi di modelli multimodali e agenti, e infine lo sviluppo congiunto di strumenti di valutazione. Separatamente, l'Istituto per la sicurezza dell'IA del Regno Unito e Meridian Labs pubblicano Inspect, un quadro di valutazione open source con più di 200 valutazioni predefinite e supporto per il sandboxing.

Sempre mercoledì, 404 Media ha riferito che il servizio postale statunitense sta conducendo un test con il produttore di dashcam Next Base per installare telecamere in 100 furgoni postali nell'area di Washington, DC. Una lettera delle relazioni sindacali di USPS alla National Association of Letter Carriers afferma che le telecamere "scansioneranno e analizzeranno strade, segnaletica, mappe, carreggiate e marciapiedi". Il test doveva iniziare il 21 settembre e durare diversi mesi.