Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

I pesi aperti invadono il mercato dei modelli decisionali mentre OpenAI ammette che il suo ragionamento è stato rubato

OpenAI ha dichiarato il 1 ottobre di aver bloccato una campagna che puntava a estrarre il ragionamento nascosto dei suoi modelli, e che la stessa tecnica ha continuato a funzionare per settimane su Microsoft Azure. Lo stesso giorno sono arrivati tre nuovi modelli aperti o a pesi aperti e una nuova accusa: le tutele dei modelli di frontiera non viaggiano insieme ai pesi.

IA e modelliAnalisiChiara RomanoPubblicato: 1 ottobre 20263 min di letturaFonti 15
I pesi aperti invadono il mercato dei modelli decisionali mentre OpenAI ammette che il suo ragionamento è stato rubato

La rivelazione è arrivata in un post sul blog di OpenAI, ripreso da The Decoder e The Hacker News il 1 ottobre. Secondo OpenAI, l'attività è iniziata a basso volume il 1 luglio 2026, è esplosa il 24 e 25 luglio fino a 16.000 richieste da più di 4.000 utenti, ed è stata bloccata del tutto entro il 28 luglio. Una nota nel post di OpenAI precisa che si trattava di tentativi di estrazione, non necessariamente riusciti.

OpenAI attribuisce «un nucleo centrale» dell'attività a persone legate a Moonshot AI, l'azienda di Pechino dietro il modello Kimi. The Hacker News osserva che OpenAI non ha citato prove tecniche a sostegno di questa attribuzione. L'azienda aggiunge che non è chiaro se ogni soggetto osservato risalga a un'unica fonte.

Il trucco che è sopravvissuto alla correzione

Il meccanismo non è un attacco informatico nel senso comune del termine. I fornitori restituiscono ai clienti il ragionamento del modello sotto forma di pacchetti cifrati, che i clienti rinviano insieme alle richieste successive. I ricercatori Joachim Schaeffer e i suoi colleghi hanno dimostrato che, poiché quei pacchetti usano chiavi condivise, possono essere spostati tra sessioni, utenti e modelli dello stesso fornitore. Un modello più economico funge allora da oracolo di decifratura e stampa in chiaro i pensieri nascosti del modello più potente. OpenAI cita i ricercatori per nome e afferma di aver verificato che i loro percorsi di attacco erano reali. Da allora ha bloccato gli account, irrigidito le registrazioni, chiuso la via della riproduzione e aggiunto un filtro sull'output in streaming. The Decoder riferisce che lo stesso giorno i ricercatori hanno pubblicato un aggiornamento. «Abbiamo rubato il ragionamento. Di nuovo», ha scritto Schaeffer su X, sostenendo che mettere in sicurezza la propria API non mette in sicurezza l'intero ecosistema di fornitori cloud che rivendono l'accesso agli stessi modelli.

Questa impostazione conta per i pesi aperti.

Nell'ultima settimana Anthropic ha avvertito che i modelli aperti cinesi come GLM-5.3 raggiungono una capacità di scrittura di exploit di livello elevato senza tutele equivalenti, secondo quanto riportato dal South China Morning Post e da Tom's Hardware. Yann LeCun ha definito pubblicamente esagerate le affermazioni di Dario Amodei sulla cybersicurezza, ha riferito Startup Fortune il 1 ottobre. Il dossier contiene la disputa, non una soluzione.

Modelli decisionali, non chatbot

La notizia più concreta sui pesi aperti del 1 ottobre è più piccola di un modello di frontiera. Cloudflare ha rilasciato Clef e Clef-flash, due modelli decisionali ospitati su Workers AI e pubblicati in open source su Hugging Face con licenza Apache 2.0. Cloudflare afferma che Clef guida il Jev Decision Index e ha classificato un sito web in 2,2 secondi in un test interno di threat intelligence, contro 4,7 secondi per gpt-oss-120b nello stesso flusso di lavoro.

Altri si stanno muovendo nella stessa categoria. TechCrunch ha riferito il 1 ottobre che Amazon ha rilasciato il proprio clone di Jev mentre i modelli decisionali si moltiplicano, e il 30 settembre che la nuova Decisions API di OpenAI dà al suo modello Luna una serie predefinita di opzioni tra cui scegliere. Jev di TypeSafe AI, che restituisce probabilità tipizzate invece di testo, è stato trattato da InfoQ il 1 ottobre. L'analisi di Sebastian Raschka del 29 settembre sostiene che Jev è un classificatore di testo più veloce ed economico rispetto agli LLM generali, non un loro sostituto.

Altrove nel dossier la corrente dei pesi aperti passa per la ricerca e l'hardware. I Superintelligence Labs di Meta hanno pubblicato il 29 settembre i Context Language Models, con il codice su GitHub, rivendicando l'11,4 per cento di accuratezza in più e il 21,5 per cento di FLOP in meno su BrowseComp-Plus. Un progetto di volontari chiamato Coop sta preaddestrando un modello da 145 milioni di parametri su hardware di consumo donato. Un cluster di sette nodi ESP32-S3 esegue un modello BitNet da 0,5 miliardi di parametri su SPI. Nessuno di questi minaccia i laboratori di frontiera. Insieme mostrano dove sta andando la fascia economica del mercato.

Commenti 0

Fonti

15
  1. 01OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on AzureEN
  2. 02OpenAI Disrupts Reasoning Extraction Campaign Linked to Moonshot AI AssociatesEN
  3. 03Introducing Clef: our open-source decision models, and new RL fine-tuning platformEN
  4. 04Amazon releases its own Jev clone as decision models flood the webEN
  5. 05OpenAI's Jev clone could help the frontier lab stop its swarming agentsEN
  6. 06TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
  7. 07Language models for text classification: From bag-of-words to JevEN
  8. 08Context Language ModelsEN
  9. 09facebookresearch/context-language-modelsEN
  10. 10Coop: A small language model pretrained by volunteersEN
  11. 11ESP32S3 cluster running 1.58-bit (BitNet) Language modelEN
  12. 12China's DeepSeek open-sources tools to help Huawei chips supplant Nvidia in AIEN
  13. 13Nvidia launches Open Agent Safety Platform to physically restrain rogue AI agentsEN
  14. 14OpenAI halts frontier-model training amid string of agent misalignment incidentsEN
  15. 15Language models will hide 'bad news' in reports by defaultEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Chiara Romano

Chiara Romano

IA, modelli e tecnologie

Chiara Romano scrive di tecnologia, IA e modelli, media e internet per FLASH24, partendo da documentazione tecnica, repository e specifiche invece che da comunicati stampa. Per ogni modello o piattaforma che segue controlla versioni, licenze, parametri e benchmark, e verifica i numeri confrontandoli con i dati originali o con test indipendenti. Confronta le schede tecniche tra fornitori, parla con sviluppatori e amministratori di sistema, e tiene d'occhio le finestre di rilascio e le modifiche ai termini d'uso. Fuori dalla redazione gestisce self-hosting e reti domestiche, esperienza che le serve per capire come funzionano davvero i servizi che racconta. Non pubblica una notizia se la fonte primaria non è verificabile.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.