Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

I 'modelli decisionali' promettono un'AI più veloce ed economica, ma non sono ancora uno strumento di sicurezza

Liquid AI ha pubblicato d1, il suo primo modello decisionale, il 5 ottobre. Gestisce testo e immagini, e secondo Liquid costa da 19 a 200 volte meno di GPT-6.1 Sol e Claude Opus 5.5 e risponde più in fretta su ogni attività testata. Il legame con la sicurezza è reale ma indiretto: d1 non è un agente che difende le reti, è un classificatore che potrebbe sostituire chiamate costose a un modello all'interno di un agente.

IA e modelliAnalisiGiulia FerrariPubblicato: 5 ottobre 20265 min di letturaFonti 9
I 'modelli decisionali' promettono un'AI più veloce ed economica, ma non sono ancora uno strumento di sicurezza

Liquid AI ha pubblicato d1 il 5 ottobre e lo presenta come il suo primo modello decisionale. Ora gestisce testo e immagini. L'azienda sostiene che d1 eguaglia o supera GPT-6.1 Sol su quattro delle sei applicazioni reali testate, dal filtraggio dei ticket di assistenza all'ispezione dei circuiti stampati. Costa da 19 a 200 volte meno di quel modello e di Claude Opus 5.5. Secondo il post sul blog, risponde molto più rapidamente su ogni attività.

La proposta è ristretta per scelta. Liquid descrive così i modelli decisionali: prendono dati non strutturati e una o più domande, li leggono in un solo passaggio in avanti e restituiscono probabilità senza generare alcun token. Una decisione su testo richiede da 200 a 300 ms. Il modello risponde a domande sì/no, sceglie un'etichetta tra molte, oppure assegna un punteggio su una scala.

È qui che i team di sicurezza potrebbero guardare con una certa ragionevolezza. La lista di demo dell'azienda include un filtro intelligente che trasforma d1 in una funzione dentro una query SQL, con risposte sì o no su 150 ticket di assistenza. C'è anche un'attività di compattazione del contesto. Lì d1 legge ogni output di uno strumento nella sessione di un agente di coding e lo tiene, lo accorcia o lo scarta, eliminando il 52% dei token e conservando ogni output che l'attività richiede. Nessuno dei due è un prodotto di difesa. Entrambi sono il tipo di impianto che sta sotto un prodotto di difesa.

Una settimana affollata per i modelli piccoli e veloci

Il rilascio di Liquid è arrivato in mezzo a una raffica di annunci su modelli che fanno meno, ma più in fretta. Reflection ha pubblicato Beam il 5 ottobre, un modello sparse Mixture-of-Experts con 501.000.000.000 di parametri totali e 23.000.000.000 attivi. È pensato per il coding, il ragionamento e i carichi di lavoro agentici. L'azienda dice di averlo addestrato su 23.800.000.000.000 di token. Ha anche eseguito una fase di reinforcement learning ad alto calcolo che ha generato oltre 100.000.000 di rollout su 10.500 GPU NVIDIA GB300 nell'arco di quattro settimane. Beam è ancora in fase di red-teaming e valutazione finali. Reflection afferma che pubblicherà i pesi, un report tecnico e una model card più avanti questo mese.

L'affermazione sull'efficienza è quella interessante. Reflection scrive che Beam raggiunge punteggi paragonabili a GLM-5.2 su benchmark di ragionamento avanzato usando da 3 a 4 volte meno calcolo in inferenza. Dice che il divario si allarga contro modelli della famiglia con oltre 2.000.000.000.000 di parametri, come Qwen 3.8-Max. Ammette anche i limiti. Su SWE Bench Pro v2-Hard Beam segna 77,2 contro 88,2 di Kimi K3, e su Terminal Bench v2.1 ottiene 80,1 contro 88,3. Il post dice che i modelli aperti di frontiera restano avanti sulle capacità grezze, e che il vantaggio di Beam è l'efficienza al momento dell'inferenza.

Gli argomenti sull'efficienza contano per chiunque faccia girare classificatori su grandi volumi di log, avvisi o ticket. Contano meno se il modello sbaglia.

Il problema della fiducia che nessuno ha risolto

Uno studio della UC Riverside pubblicato il 23 settembre ha scoperto che la sicurezza e la correttezza nei grandi modelli linguistici possono nascere da caratteristiche interne diverse. Questo mette in discussione l'ipotesi che la fiducia di un modello segnali accuratezza. I ricercatori hanno studiato Llama-3.1-8B di Meta e Gemma-2-9B di Google. Hanno diviso le risposte in quattro gruppi per correttezza e fiducia, poi hanno usato autoencoder sparsi per vedere quali caratteristiche si attivavano. Il testo dell'università dice che sopprimere le caratteristiche legate puramente all'incertezza ha ridotto nettamente l'accuratezza, il che suggerisce che quelle caratteristiche aiutano a produrre buone risposte.

"L'ipotesi principale nel campo è che quando il modello è sicuro, è probabile che sia corretto, e quando il modello è incerto, è più probabile che sia sbagliato", ha detto Het Patel, dottorando in informatica alla UCR e primo autore dello studio. "Ma spesso vediamo i controesempi, che sono ben documentati."

Per un modello decisionale che restituisce una probabilità, questa scoperta taglia in due direzioni. Una probabilità è almeno esplicita, al contrario di una frase consegnata con una certezza non guadagnata. Ma il punto dei ricercatori è che il numero potrebbe non seguire ciò che i professionisti pensano che segua.

Due progetti open source di agenti di coding pubblicati il 5 ottobre portano un argomento simile su dove stiano i modelli piccoli. Jeff-Code, un fork di Pi di Mario Zechner e altri contributori, mette un modello decisionale da 800.000.000 di parametri dentro il ciclo dell'agente. Decide se l'agente può fare il passo successivo da solo e se Qwen 3.8-27B deve ragionare a fondo in un turno. Il suo README riporta attività di coding più veloci del 47% in media a parità di pass rate. Riporta una differenza appaiata di meno 0,2 punti su 1.242 attività appaiate, con un intervallo al 95% da meno 2,6 a più 2,1. Disattivare il ragionamento a ogni turno era ancora più veloce, ma costava 7,6 punti.

Reika, una CLI per agenti di coding pensata prima di tutto per modelli locali piccoli, ha pubblicato un proprio file di risultati. Tra questi: una singola riscrittura a metà contesto ha rielaborato 8.453 token di prompt, 7,9 minuti di prefill, mentre un'aggiunta nella stessa sessione costava 25 token e 3,5 secondi. Il progetto dice che la formulazione del prompt è la leva più debole. Su un'attività vaga a Q2, aggiunge, un modello converge o va in spirale più o meno 50/50. L'impalcatura non può spostare quel tasso, solo il costo della metà che fallisce.

Che cosa non è niente di tutto questo

Nessuno di questi rilasci è un modello di difesa informatica, e vale la pena dirlo senza giri di parole. L'elemento più recente vicino alla sicurezza è un annuncio di OpenAI del 3 novembre su partnership con aziende di sicurezza, che questo articolo non può verificare oltre il titolo. d1 di Liquid è un classificatore. Beam di Reflection è un modello aperto generalista in attesa di red-teaming. Jeff-Code e Reika sono impalcature per agenti.

Il collegamento è costo e latenza, e non ha nulla di glamour. Un modello decisionale può rispondere a una domanda strutturata in 200 o 300 ms a una frazione del prezzo di una chiamata a un modello di frontiera. Se è così, l'economia di far girare un modello su ogni avviso cambia. Se le risposte siano abbastanza buone per agire è una domanda separata. Il lavoro della UCR suggerisce che il numero di fiducia attaccato a quelle risposte meriti esame, non fiducia.

Liquid dice che d1 non è mai stato addestrato per l'ispezione visiva e tuttavia smista parti buone e difettose con un'accuratezza dall'85 al 97% sul dataset pubblico VisA, capendo l'attività da una breve descrizione. È un'affermazione di generalizzazione notevole, e viene da un blog di fornitore. È anche esattamente il tipo di affermazione che richiede un test indipendente prima che qualcuno la punti su una linea di produzione, o su un centro operativo di sicurezza. 9.000.000.000 e 27.000.000.000 restano i valori di riferimento per i parametri attivi citati sopra.

Commenti 0

Fonti

9
  1. 01d1: The most capable decision model, now with visionEN
  2. 02Introducing Beam: Reflection's 501B open-weight modelEN
  3. 03Making AI more trustworthyEN
  4. 04Jeff-Code: a 0.8B model makes Qwen 3.8-27B coding 47% faster, same pass rateEN
  5. 05Reika: a coding agent CLI designed around small local models firstEN
  6. 06System One models like Jev can train their own replacementsEN
  7. 07Interfaze-1-lite: the first open-weight model for deterministic taskEN
  8. 08Precogly: the open-source alternative to commercial threat modeling platformsEN
  9. 09Could a Large Language Model Be Conscious?EN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Giulia Ferrari

Giulia Ferrari

IA, modelli e tecnologie

Giulia Ferrari scrive di tecnologia, IA e modelli e media e internet per FLASH24, partendo da dataset pubblici, preprint e registri di versioni dei modelli. Controlla ogni numero confrontando benchmark dichiarati e risultati riproducibili, e scarta le stime senza fonte. Segue le audizioni in calendario, parla con ricercatori e ingegneri, e mette a confronto release e changelog prima di pubblicare. Fuori dalla redazione smonta stampanti 3D, recupera vecchi computer e studia come i modelli imparano dai rifiuti del web. Non pubblica un dato se non può ricostruirne il percorso.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.