Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

Amazon lancia Strands Decider 2B mentre i modelli decisionali si moltiplicano

Amazon Web Services ha rilasciato Strands Decider 2B il 1 ottobre, un modello decisionale open source che sceglie tra opzioni già definite e restituisce un punteggio di confidenza. Nella stessa settimana OpenAI ha annunciato un'offerta simile, un mese dopo che Jev di TypeSafe ha aperto la categoria.

IA e modelliAnalisiGiulia FerrariPubblicato: 1 ottobre 20267 min di letturaFonti 11
Amazon lancia Strands Decider 2B mentre i modelli decisionali si moltiplicano

Amazon Web Services ha rilasciato Strands Decider 2B il 1 ottobre, un modello open source di piccole dimensioni che non scrive prosa. Sceglie tra opzioni che un flusso di lavoro ha già definito e dichiara quanto è sicuro della scelta. TechCrunch ha riportato il rilascio lo stesso giorno, osservando che il modello è abbastanza piccolo da girare in locale ed è gratuito da scaricare. È l'ultimo arrivato in una categoria che un mese fa quasi non esisteva. TypeSafe AI, laboratorio di San Francisco fondato dall'ex ricercatore OpenAI Diogo Almeida, ha distribuito Jev e lo ha chiamato il primo dei suoi System One Models. La proposta è stretta: niente chat, niente generazione di testo, solo risposte probabilistiche tipizzate su cui il software può agire.

Cosa restituisce davvero un modello decisionale

Secondo InfoQ, chi chiama invia a Jev uno stato, una stringa o dati strutturati, più una serie di domande tipizzate. Il modello le valuta in un solo passaggio parallelo e restituisce risposte Choice, Score e Noul con una distribuzione di probabilità e un valore di confidenza. Il codice chiamante agisce sopra una soglia e passa la decisione a un livello superiore sotto quella soglia.

I dettagli commerciali sono pubblici. L'input costa 0,042 dollari per milione di token, l'output è gratuito, la finestra di contesto è di 32.000 token e TypeSafe dichiara una latenza end to end tra 70ms e 500ms. L'addestramento usa un metodo che l'azienda chiama Reinforcement Learning for Calibrated Decisions. Quei numeri vengono dall'articolo di InfoQ del 1 ottobre.

La versione di Amazon è costruita sul torso di Qen3.5-2B. Marc Brooker, distinguished engineer di Amazon, l'ha realizzata dopo aver visto Jev e aver provato una sua interpretazione. Il progetto casalingo ha brevemente raggiunto il primo posto nella classifica Jevbench per i modelli della sua dimensione, ha riferito TechCrunch, e gli ingegneri Amazon l'hanno ripulito per il rilascio sotto Strands Labs.

"What originally piqued my interest in this class of models was that they make a perfect decider for a workflow step, 'what is the next thing for me to do here, based on where I am?'" ha detto Brooker a TechCrunch.

Ha descritto il fascino come affidabilità data dai punteggi di confidenza e da un dominio chiuso di risposte, più latenza inferiore e costi potenzialmente più bassi. È tutto l'argomento di vendita della categoria, ed è lo stesso che porta avanti TypeSafe.

Numeri di adozione e loro limiti

La trazione iniziale di Jev è la prova più concreta che la categoria ha acquirenti. Vercel ha aggiunto Jev al suo AI Gateway il secondo giorno e ha detto di aver raggiunto quasi il 13% dei team a pagamento entro 24 ore, il doppio della quota della famiglia GPT-5.6, secondo InfoQ. È seguita Netlify, LangChain ha distribuito un'integrazione TypeSafeClassifier con model routing e un middleware AutoMode che filtra le chiamate agli strumenti prima che vengano eseguite, e cinque client Elixir indipendenti sono comparsi in pochi giorni.

Le dichiarazioni sulle prestazioni meritano scetticismo. L'ingegnere di Vercel Pranit Sharma ha trovato un classificatore di sicurezza da cinque a 18 volte più veloce del modello linguistico che aveva sostituito. Il CTO di Bryo AI Nikhil Mudholkar ha giudicato Gemini leggermente più accurato sulla classificazione delle email ma da 10 a 20 volte più costoso, e ha apprezzato Jev come l'unico che restituisce una probabilità reale.

Un'analisi di 12.759 tweet di lancio condotta da OpenChamber ha collocato gli speedup riportati dagli utenti a una mediana di 7x contro il dato di testa di 193,6x. I risparmi sui costi si sono attestati a una mediana di 30x, la latenza a una mediana di 76ms con un quartile superiore di 270ms. Sono numeri autodichiarati nei post sui social, aggregati, e restano molto sotto la cifra di marketing.

Armin Ronacher, CTO di Earendil, ha detto a TechCrunch che il design "delegates the hallucination problem a little bit to the user", che deve decidere se una probabilità del 50% valga la pena di agire. Ha indicato il model routing come un altro buon impiego. Su Hacker News uno sviluppatore ha notato che Jev non può emettere un tipo non valido ma può comunque emettere un valore valido del tutto sbagliato.

Un campo affollato dal valore incerto

Dozzine di modelli simili sono comparsi da quando TypeSafe ha debuttato l'idea. Questo mostra interesse. Solleva anche la questione di quanto valga ciascuno di essi, soprattutto quando il metodo di base è pubblico e il costo di realizzazione è basso.

Brooker ha detto a TechCrunch che non si aspetta necessariamente che i laboratori di frontiera dominino lo spazio, perché con mercati più piccoli il costo per costruire qualcosa di interessante si aggira sulle centinaia o migliaia di dollari. I dirigenti di TypeSafe dicono che tengono la testa bassa e migliorano i modelli futuri.

"I get that people think it's a gold rush, but they might be underestimating the difficulty of making the models actually smart," ha detto a TechCrunch il CEO e fondatore Diogo Almeida, aggiungendo che per ora non vedeva ancora emergere una vera concorrenza per la sua azienda.

Brooker ha inquadrato il compromesso ingegneristico come un equilibrio tra accuratezza e calibrazione sui compiti decisionali, senza degradare la comprensione del linguaggio e la conoscenza generale del modello. Spingi da una parte, e l'altra si muove.

Il problema dei benchmark sotto la superficie

I modelli decisionali arrivano in un ambiente di misurazione già conteso. Un articolo pubblicato su arXiv il 29 settembre, More Choices, Fewer Decisions, esamina il bias di scala ordinale nei modelli a decisione diretta simili a JEV, che è una sfida diretta a come questi sistemi vengono valutati. Un altro articolo arXiv inviato lo stesso giorno, ArgGYM, sostiene che il successo con specifiche di problema fisse e criteri di valutazione stabili possa non trasferirsi al ragionamento su informazioni incomplete e rivedibili, e introduce un benchmark procedurale di 1.440 istanze verificate su quindici configurazioni di curriculum.

Il lavoro clinico indica la stessa direzione. Un articolo accettato a Findings EMNLP 2026, Sense and Sensitivity, ha confrontato i modelli linguistici con medici in esercizio su più di 6.000 scenari clinici e 7.000 annotazioni di medici. Ha trovato che i modelli linguistici sono più propensi dei medici a raccomandare cure non necessarie alla baseline, con la tendenza che cresce con input perturbati, e una maggiore sensibilità ai cambiamenti di genere e tono. I punteggi dei benchmark non lo prevedevano.

L'hardware è un altro asse. AgBench, anch'esso pubblicato il 29 settembre, ha valutato l'esecuzione di agenti in locale, ibrida e su cloud su 162.070.000 punti dati e ha trovato che nessuna singola architettura performa meglio su successo del compito, goodput, costo cloud ed esposizione dei dati. L'esecuzione solo locale elimina i costi delle API cloud e l'esposizione di informazioni sensibili ma in genere ha un successo del compito più basso e tempi di completamento più lunghi.

Quel risultato conta per la proposta local-first di Amazon. Strands Decider 2B può girare sulla tua macchina. Se debba farlo, per un dato flusso di lavoro, dipende dai numeri che secondo AgBench nessuno pubblica in un'unica tabella comparabile.

Intanto la stessa settimana ha prodotto un rilascio di tipo molto diverso. Google ha lanciato Gemini 4 Argon il 30 settembre, definendolo il suo modello più potente di sempre, ma l'ha riservato a un gruppo selezionato di partner cyber tramite il suo Fairwind Program. Il Guardian ha riportato il 1 ottobre che Koray Kavukcuoglu, chief AI architect di Google, ha scritto che rilasciare in sicurezza capacità di frontiera a questo livello richiede un approccio graduale, e che Google dà volontariamente al governo statunitense accesso anticipato.

Il contrasto è la storia del mese. Da un lato un modello da 2B che chiunque può scaricare e far girare su un portatile. Dall'altro un sistema di frontiera trattenuto dal pubblico per il rischio di abuso, dopo la decisione di OpenAI di accantonare GPT-6.1 Astra dopo che aveva fallito i test di allineamento, come hanno riportato CNBC e WIRED il 28 e 29 settembre.

I modelli decisionali non competono su quell'asse. Competono su se un passaggio di un flusso di lavoro può essere reso più economico, più veloce e più prevedibile rispetto a chiamare un modello generale. Jevstiller, un progetto GitHub pubblicato il 30 settembre, porta quella logica alla sua conclusione: si mette davanti alle chiamate ripetute di classificazione a Jev, impara dalle distribuzioni di probabilità di Jev stesso e risponde alla maggior parte delle richieste in locale una volta che il modello locale concorda con Jev entro un budget fissato. Su Banking77, riprodotto contro le risposte registrate di Jev, il modello locale ha risposto al 71,9% dei messaggi tenuti da parte con un'accordanza del 99,50% con Jev, prendendosi carico della maggior parte del traffico a partire da circa 5.000 messaggi.

L'economia della categoria è ancora in fase di prova. Il 13% dei team a pagamento di Vercel in 24 ore è adozione reale, ma è adozione di un'integrazione gateway di livello gratuito, non prova di spesa durevole. Lo speedup mediano di 7x di OpenChamber resta ben lontano dal dato di testa. E gli articoli sui benchmark arrivati questa settimana suggeriscono che il campo non ha ancora stabilito come distinguere un buon decisore da uno veloce.

Per ora i modelli sono economici, aperti e si moltiplicano. La misurazione non tiene il passo.

Commenti 0

Fonti

11
  1. 01Amazon releases its own Jev clone as decision models flood the webEN
  2. 02TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
  3. 03More Choices, Fewer Decisions: Ordinal-Scale Bias in JEV-like Direct-Decision ModelsEN
  4. 04ArgGYM: A Procedural, Engine-Verified Benchmark for Structured Defeasible ReasoningEN
  5. 05Sense and Sensitivity: Benchmarking LLM Clinical Triage Recommendations with Physician ExpertsEN
  6. 06AgBench: Agentic AI Benchmarks for Personal AI DevicesEN
  7. 07Jevstiller: Distill a repeated Jev classification task into a local modelEN
  8. 08Google rolls out new Gemini AI model but restricts access over safety concernsEN
  9. 09Google releases Gemini 4 Argon, called its most powerful model yetEN
  10. 10OpenAI abandons plan to release upcoming model as safety concerns escalateEN
  11. 11OpenAI Delays Release of Latest Model Over Safety ConcernsEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Giulia Ferrari

Giulia Ferrari

IA, modelli e tecnologie

Giulia Ferrari scrive di tecnologia, IA e modelli e media e internet per FLASH24, partendo da dataset pubblici, preprint e registri di versioni dei modelli. Controlla ogni numero confrontando benchmark dichiarati e risultati riproducibili, e scarta le stime senza fonte. Segue le audizioni in calendario, parla con ricercatori e ingegneri, e mette a confronto release e changelog prima di pubblicare. Fuori dalla redazione smonta stampanti 3D, recupera vecchi computer e studia come i modelli imparano dai rifiuti del web. Non pubblica un dato se non può ricostruirne il percorso.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.