I modelli piccoli si spostano al centro dello stack degli agenti: d1 aggiunge la visione e Beam rilascia i pesi aperti

Liquid AI ha presentato d1 il 5 ottobre, definendolo il primo modello decisionale dell'azienda e il primo a estendere le decisioni alle immagini. Il modello non genera token. Legge l'input in un unico passaggio in avanti e restituisce una probabilità per ogni risposta possibile, secondo il post sul blog dell'azienda. Una decisione su testo richiede da 200 a 300 millisecondi.

La proposta è questa: sostituire una chiamata a un modello linguistico lenta e costosa con un classificatore veloce quando la risposta è una scelta strutturata. Liquid sostiene che d1 eguaglia o supera GPT-6.1 Sol su quattro delle sei applicazioni reali testate, dal filtraggio dei ticket di assistenza all'ispezione dei circuiti stampati, e costa da 19 a 200 volte meno sia di GPT-6.1 Sol sia di Claude Opus 5.5. L'azienda afferma anche che d1 risponde più rapidamente su ogni attività. Quei numeri di confronto vengono dai benchmark interni di Liquid e non sono stati verificati in modo indipendente.

Il tempismo non è casuale. In tutto lo stack, questa settimana, il modello piccolo e specializzato viene spinto nei punti in cui un modello generale è troppo lento o troppo costoso da eseguire.

Cosa compra davvero un modello decisionale

Liquid descrive tre forme di output: una domanda sì/no a cui si risponde con una probabilità tra 0 e 1, una scelta tra etichette a cui si risponde con una probabilità per etichetta, e un punteggio su una scala. Una singola richiesta può porre più domande sullo stesso stato, il che riduce i token di input che un sistema deve pagare. Nell'ispezione visiva, d1 ha smistato parti buone e difettose con un'accuratezza tra l'85 e il 97 percento su quattro linee di produzione: circuiti stampati, candele, anacardi e gomme da masticare, tratti dal dataset pubblico VisA.

Il dettaglio più interessante è che il modello non è mai stato addestrato per quelle attività. Liquid attribuisce il merito alla generalizzazione: il modello capisce il compito da una breve descrizione scritta. Nei giochi, l'aggiunta dello schermo ha portato il punteggio di d1 a Tetris da 70 a 81 linee completate, e a Wordle ha letto il tabellone da uno screenshot e risolto 12 partite su 12 con una media di 3,8 tentativi. Su Quick, Draw! ha riconosciuto 5,2 disegni su 6, contro 0,6 del caso.

Un'applicazione punta dritta agli agenti di coding. Nella compattazione del contesto, d1 legge ogni output di uno strumento nella sessione di un agente e lo conserva, lo riduce o lo scarta. Liquid sostiene che questo elimina il 52 percento dei token mantenendo ogni output necessario al compito. È una decisione ristretta e ripetitiva che un modello generale altrimenti prenderebbe a prezzo pieno.

Il modello grande che compete sul costo per token

Lo stesso giorno, Reflection ha pubblicato i dettagli di Beam, il suo primo modello a pesi aperti. Beam è un modello sparse mixture-of-experts con 501.000.000.000 di parametri totali e 23.000.000.000 attivi. Reflection afferma di aver preaddestrato Beam su 23.800.000.000.000 di token e di aver eseguito una fase di reinforcement learning ad alto calcolo che ha generato oltre 100.000.000 di rollout su 10.500 GPU NVIDIA GB300 nell'arco di quattro settimane.

I pesi non sono ancora disponibili. Reflection dice che Beam è in fase finale di red-teaming e valutazione, con pesi, un report tecnico, una model card e artefatti per sviluppatori promessi entro la fine del mese. L'accesso anticipato è su iscrizione. Quindi ogni numero di benchmark nell'annuncio è dell'azienda stessa.

Leggi quei numeri con attenzione, perché tagliano in due direzioni. Su SWE Bench Pro v2-Hard, Reflection riporta Beam a 77,2 contro 88,2 di Kimi K3 e 84,3 di GLM 5.3. Su Terminal Bench v2.1 riporta 80,1, contro 88,3 di Kimi K3 e 88,2 di GLM 5.3. Su SWE Bench Pro v1 riporta 65,5, contro 67,7 di Qwen 3.8 Max. Beam non è in testa.

L'argomento di Reflection è l'efficienza, non la capacità grezza. L'azienda sostiene che Beam raggiunge punteggi comparabili a GLM 5.2 usando da 3 a 4 volte meno calcolo di inferenza, e che il divario si allarga contro i modelli della famiglia con oltre 2.000.000.000.000 di parametri. Su HLE senza strumenti, Beam segna 36,2 contro 46,9 di Kimi K3 e 43,6 di Qwen 3.8 Max; con gli strumenti segna 51,2 contro 62,5 di GLM 5.3 e 63,9 di DeepSeek V4.1 Flash. Reflection dichiara apertamente che i modelli aperti di frontiera come Kimi K3 restano davanti sulla capacità grezza.

Modelli piccoli che girano accanto a quelli grandi

La dimostrazione più concreta della tesi del modello piccolo, questa settimana, arriva da un posto inaspettato: un agente di coding su GitHub chiamato Jeff-Code. Mette un modello decisionale da 800.000.000 di parametri dentro il loop dell'agente di Pi, l'agente di coding di Mario Zechner e contributori, lavorando al fianco di Qwen 3.8-27B.

Intorno a ogni turno di Qwen, Jeff prende due decisioni, circa 0,2 secondi ciascuna. Può fare il passo successivo da solo, come leggere un file, elencare una cartella, cercare nel codice o eseguire test? E Qwen deve pensare a fondo in questo turno? Scrivere e modificare file resta sempre a Qwen, e Jeff passa la mano ogni volta che è incerto.

I risultati, dalla valutazione appaiata del progetto stesso, sono poco appariscenti e vale la pena leggerli. Il tasso di successo è del 62,4 percento per Jeff-Code contro il 62,8 percento per Qwen da solo, una differenza appaiata di meno 0,2 punti su 1.242 attività appaiate. Il tempo medio per attività è sceso a 0,68x, una media geometrica dei rapporti per attività con un intervallo al 95 percento da 0,64 a 0,72. Il tempo totale su tutte le attività è calato meno, a 0,86x, perché in circa il 5 percento delle attività Jeff-Code ha impiegato più di 30 minuti in più rispetto a Qwen da solo.

L'affermazione di punta è il 47 percento più veloce, o il 32 percento in meno di tempo, a parità di tasso di successo. Il dettaglio conta più del titolo: nessun chiaro guadagno di velocità su Terminal-Bench 2.0 (0,96x) o SkillsBench (0,91x). Disattivare il pensiero a ogni turno è ancora più veloce, ma costa 7,6 punti di tasso di successo. Un Jeff meno prudente, con una soglia di 0,7, costa 4,5 punti. Qui i modelli piccoli sono un livello di pianificazione, non un sostituto di quello grande.

Dove il modello piccolo fatica ancora

Un secondo progetto su GitHub, Reika, è una CLI per agenti di coding costruita prima di tutto intorno a modelli locali piccoli: da 8.000.000.000 a 35.000.000.000 di parametri, spesso a quantizzazione Q2 o Q4, su una finestra di contesto da 32.000 a 32.000 token. L'autore pubblica i risultati, ed è schietto sui limiti. Nei test, i modelli da 35.000.000.000 a 35.000.000.000 di parametri gestivano più affidabilmente le attività su più file, i modelli da 9.000.000.000 a 9.000.000.000 gestivano quelle semplici e ben delimitate, e sotto i 7.000.000.000 di parametri raramente arrivavano lontano. Il progetto è pre-1.0 e avverte che comandi e comportamento possono ancora cambiare.

I numeri dell'harness sono la parte utile. Una riscrittura a metà contesto ha rielaborato 8.453 token di prompt, ovvero 7,9 minuti di prefill, dove un'aggiunta nella stessa sessione è costata 25 token e 3,5 secondi. La formulazione del prompt è descritta come la leva più debole: su un compito vago a Q2, un modello converge o va in spirale più o meno 50/50, e l'harness non può spostare quel tasso, solo quanto costa la metà che fallisce. La conclusione di Reika è che non rende un modello piccolo più intelligente, rende il lavorarci meno frustrante.

L'hardware si muove nella stessa direzione. Interfaze 1.1 Lite, pubblicato su Hugging Face il 5 ottobre, è un modello mixture-of-architectures che abbina un nucleo di ragionamento a componenti specializzati per documenti, voce, grounding visivo e output strutturato. L'intero sistema gira su una singola GPU da 80 GB senza servizi esterni. Non è una singola rete: il nucleo pianifica, chiama gli specialisti e compone la risposta da ciò che restituiscono.

I suoi benchmark ricordano che piccolo e su singola GPU non significano debole. Interfaze 1.1 Lite riporta 85,9 su GPQA Diamond, contro 92,4 di Interfaze, 82,8 di GPT-5.4-Mini, 89,9 di Claude-Sonnet-4.6 e 88,5 di Gemini-3-Flash. Su MMMU-Pro riporta 73,2, davanti a Interfaze a 71,1. Sul riconoscimento vocale, misurato come word error rate su VoxPopuli-Cleaned, riporta 3,01 contro 2,4 di Interfaze e 4,0 di Gemini-3-Flash. Interfaze afferma anche che una registrazione di 95 minuti viene trascritta in circa 90 secondi.

Perché questo conta per chi compra

Il cambiamento pratico è che i team ora hanno tre leve di costo separate, e vengono vendute come un'unica storia. Un modello decisionale può assorbire una chiamata ripetitiva. Un modello piccolo può pianificare o instradare il lavoro intorno a uno grande. Un modello grande a pesi aperti, denso o sparse, può essere ottimizzato per l'efficienza di inferenza invece che per la leadership nei benchmark. Ogni leva ha un numero pubblicato allegato, e quasi tutti quei numeri vengono dal fornitore.

L'incognita è l'affidabilità fuori da una demo. I risultati di Reika mostrano che un modello piccolo prende l'output degli strumenti alla lettera: un grep che ha restituito "0 corrispondenze" per una chiamata che non poteva servire ha portato un modello a riformulare un pattern corretto per cinque round. Jeff-Code mostra che i guadagni di velocità per attività possono essere divorati da una coda lunga di attività molto più lente. Le cifre di accuratezza di Liquid vengono da un piccolo insieme di applicazioni e dataset. Nessuno di questi progetti ha pubblicato un audit indipendente.

C'è un altro segnale da tenere d'occhio. Sean Goedecke ha sostenuto il 5 ottobre che modelli come Jev, che lui chiama classificatori System One, possono essere sostituiti da classificatori costruiti a mano e addestrati sui propri log di input e output. Una volta che un team ha validato una decisione guidata da un prompt, raccogliere i dati e addestrare un modello specifico è un problema ben compreso, scrive. Se quel pattern attecchisce, i modelli decisionali di oggi sono un trampolino verso qualcosa di più economico, e la pressione sui prezzi va in una sola direzione.

Per ora, le date da tenere a mente sono queste. d1 di Liquid è disponibile oggi su console.liquid.ai. Reflection dice che i pesi di Beam arrivano entro la fine del mese, senza una data precisa. Jeff-Code e Reika sono entrambi pubblici su GitHub, entrambi pre-1.0, entrambi a misurare i propri harness. Il modello piccolo non è più una categoria da demo; è una voce di bilancio.