Pesi aperti, domande aperte: il Clef di Cloudflare sfida Jev mentre Amazon e OpenAI si muovono
Cloudflare ha rilasciato giovedì 1 ottobre due modelli decisionali a pesi aperti, Clef e Clef-flash. L'azienda sostiene che la coppia supera in accuratezza Jev di Typesafe AI e resta scaricabile con licenza Apache 2.0.

Cloudflare ha annunciato i modelli sul proprio blog. The Register ha riportato il lancio il 1 ottobre, segnalando che Clef costa 0,24 dollari per milione di token, quasi sei volte i 0,042 dollari per milione di Jev. Entrambi i modelli sono ospitati su Workers AI e pubblicati su Hugging Face con licenza Apache 2.0.
Secondo Cloudflare, Clef si basa su versioni post-addestrate e congelate di Qwen3.8-27B e Qwen3.5-9B. Esegue una passata di solo prefill e poi valuta le scelte in parallelo. L'azienda sostiene che Clef ha superato la propria prova contro il Jev Decision Index. Ha anche battuto Jev in tre dei quattro benchmark di Typesafe, perdendo solo sull'osservabilità delle tracce degli agenti. The Register segnala una riserva: quei punteggi li ha comunicati Cloudflare stessa e non sono ancora stati riprodotti sul Decision Index ufficiale. Clef gestisce immagini e video e supporta una finestra di contesto da 64.000 token. Jev gestisce fino a 64.000 token per richiesta, anche se il suo stato più la domanda singola più lunga è limitato a 32.000, secondo The Register.
La ressa dei modelli decisionali
Cloudflare non è sola. Amazon ha rilasciato lo stesso giorno il proprio clone di Jev, come ha riportato TechCrunch il 1 ottobre. L'AI Gateway di Vercel elenca Laya di Convai Innovations come endpoint ospitato gratuito al 1 ottobre. Quel prezzo promozionale termina il 31 ottobre 2026.
Il post su Substack di Sebastian Raschka del 29 settembre ripercorre la storia della classificazione del testo. Spiega perché Jev è diventato un fenomeno nelle comunità tecniche. Sostiene che il suo punto di forza è la generalità, non la qualità grezza della classificazione. Typesafe ha tenuto segreta l'architettura alla base di Jev, mentre Cloudflare dichiara apertamente i suoi backbone Qwen. L'economia è la trama secondaria. I modelli a pesi aperti costano sempre meno da eseguire e sono sempre più facili da scaricare. Ma il confronto dei prezzi fatto da Cloudflare mostra che i pesi aperti non significano automaticamente inferenza a buon mercato. Clef è a pesi aperti e open source, e costa comunque più per token del modello chiuso che cerca di battere.
Pesi aperti sul fronte della ricerca
Il lavoro accademico pubblicato questa settimana va nella stessa direzione. Un articolo inviato ad arXiv il 29 settembre presenta GoldiMask, un metodo di fine-tuning per modelli linguistici a diffusione discreta. Seleziona quali token rivelare come contesto e pesa i restanti obiettivi di previsione. Gli autori riportano la massima accuratezza media nella maggior parte delle configurazioni valutate, su tre backbone e tre dataset di addestramento. Segnalano anche miglioramenti su ragionamento e generazione di codice. Riportano meno iterazioni di decodifica su GSM8K e MATH-500 con la decodifica parallela a soglia di confidenza.
Un secondo articolo, inviato lo stesso giorno da autori della University of Washington, di Meta Superintelligence Labs, del MIT e di Trillium Labs, propone i Context Language Models. Questi trattano il contesto come un file che il modello aggiorna da sé. Il team riporta un'accuratezza superiore dell'11,4% con il 21,5% in meno di FLOP su BrowseComp-Plus. Riporta anche punteggi più alti del 5% con il 59% in meno di FLOP su un compito EdgeBench da 12 ore. Un metodo di reinforcement learning online migliora Qwen3.5-9B su BrowseComp-Plus del 47,6% usando il 12% in meno di FLOP. Il codice è su GitHub con licenza CC BY-NC 4.0.
Altrove, FLOORA, una famiglia di piccoli modelli specifici per dominio dedicati alla generazione di layout architettonici, riporta che il suo modello da 600.000.000 di parametri batte modelli frontier molto più grandi. I tassi di vittoria dei giudici VLM raggiungono il 92,0% su edifici reali fuori distribuzione e il 96,0% su quelli sintetici. I valutatori umani lo hanno scelto come migliore nell'89,3% dei casi. Dyad, un altro articolo su arXiv, aggiunge un encoder di azioni condizionato dall'ambiente a un LLM congelato. Riporta un guadagno assoluto medio del 3,80% su ALFWorld con un modello da 9.000.000.000 di parametri.
Modelli piccoli, budget piccoli
Due progetti della comunità pubblicati questa settimana mettono alla prova quanto possono spingersi i pesi aperti senza soldi delle aziende. Coop, su GitHub, sta pre-addestrando da zero un modello di circa 145.000.000 di parametri su FineWeb-Edu. Usa hardware di consumo donato più i piani gratuiti di Hugging Face e GitHub Actions. Aggrega pseudo-gradienti tramite pull request con un passo esterno in stile DiLoCo. I manutentori dicono che la fase 1, un modello da 15.000.000 su TinyStories, si è conclusa oltre il budget ottimale secondo Chinchilla.
Nessun server, nessun finanziamento, nessun daemon: l'intero ciclo di addestramento gira su hardware di consumo donato più i piani gratuiti di Hugging Face e GitHub Actions.
PSSA è un modello da 27.000.000.000 di parametri scritto in Rust, senza transformer e senza framework ML sotto. Usa uno strato ricorrente a spazio degli stati più una banca di memoria episodica. Il README del progetto sostiene che impara più in fretta di un transformer a parità di parametri. Sostiene anche che genera testo circa dodici volte più rapidamente sulla stessa CPU. Dice che i gradienti sono verificabili contro un percorso di riferimento scalare fino a circa 3e-8. Quei numeri vanno presi come dichiarazioni degli autori: il repository è la fonte primaria e non esiste alcuna riproduzione indipendente.
Inspect, un framework di valutazione del UK AI Security Institute e di Meridian Labs, sta sotto diversi di questi sforzi. La sua documentazione elenca più di 200 valutazioni predefinite e il supporto per oltre 20 fornitori di modelli. Supporta il sandboxing tramite Docker, Kubernetes, Modal, Proxmox e Vagrant, oltre all'inferenza locale con HuggingFace, vLLM e SGLang.
La controcorrente della sicurezza
I pesi aperti arrivano in una settimana di notizie su azioni legali. Il procuratore generale della California ha emesso un subpoena investigativo a OpenAI giovedì, come ha riportato The Guardian. Fa parte di un'indagine più ampia sugli incidenti di cybersicurezza che coinvolgono i suoi modelli, incluso l'hack di Hugging Face di luglio. Il procuratore generale della Florida James Uthmeier ha depositato una mozione per un'ingiunzione temporanea contro cinque entità di OpenAI e Sam Altman, come ha riportato Tom's Hardware il 30 settembre. La mozione chiede a un tribunale di fermare lo sviluppo dei modelli senza l'approvazione indipendente di terzi, tra le altre richieste.
Nvidia ha lanciato il 1 ottobre una Open Agent Safety Platform che può mettere in quarantena gli agenti in millisecondi, secondo Tom's Hardware. La FTC sta conducendo un'indagine su tutto il settore che coinvolge OpenAI, Anthropic e altri laboratori, come ha riportato CNBC il 30 settembre. OpenAI si è anche separata da tre dipendenti per informazioni sensibili gestite male, notizia riportata per prima dal Wall Street Journal e ripresa da TechCrunch il 1 ottobre. Niente di tutto questo è rivolto specificamente ai pesi aperti, ma dà forma al mercato in cui stanno entrando. La stessa settimana in cui Clef è uscito con licenza Apache 2.0, i due laboratori chiusi più sotto esame rispondevano a subpoena e mozioni.
Fonti
18- 01Clef: Open-source decision models, and new RL fine-tuning platformEN
- 02Cloudflare tries to outplay Jev with open-weight Clef modelsEN
- 03Amazon releases its own Jev clone as decision models flood the webEN
- 04Free hosted API for Laya, the open-weight decision modelEN
- 05Language models for text classification: From bag-of-words to JevEN
- 06Fine-Tuning Diffusion Language Models with Context Selection and Target WeightingEN
- 07Context Language ModelsEN
- 08Context Language Models (CLMs) official repositoryEN
- 09FLOORA: A Human-Aligned Domain-Specific Language Model for Architectural DesignEN
- 10Dyad: Extending Large Language Models with Native Typed Decision-MakingEN
- 11Coop: A small language model pretrained by volunteersEN
- 12PSSA: A non-transformer language model written from scratch in RustEN
- 13Inspect: An open-source framework for large language model evaluationsEN
- 14California issues investigative subpoena to OpenAI over rogue agents' hackingEN
- 15Florida attorney general asks judge to bar OpenAI from developing new AI models without third-party approvalEN
- 16Nvidia launches Open Agent Safety Platform to physically restrain rogue AI agentsEN
- 17FTC is investigating OpenAI, Anthropic and other AI companies over product risksEN
- 18OpenAI cuts ties with 3 safety researchers, WSJ reportsEN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.