Amazon pubblica un modello decisionale aperto mentre i piccoli modelli AI affollano il segmento on-device
Amazon Web Services ha rilasciato il 1 ottobre Strands Decider 2B, un modello decisionale completamente open source e abbastanza piccolo da girare in locale. OpenAI ha annunciato un'offerta paragonabile la stessa settimana.

Il modello è uscito da Strands Labs, l'organizzazione di AWS dedicata agli strumenti per agenti. È costruito sul torso di Qen3.5-2B, secondo l'articolo di TechCrunch del 1 ottobre. Invece di generare testo, sceglie tra opzioni già decise. Restituisce una misura di confidenza insieme alla scelta. L'ingegnere distintivo di AWS Marc Brooker ne ha prima costruito una versione amatoriale, dopo aver visto Jev di TypeSafe. Per un breve periodo ha guidato la classifica Jevbench per i modelli della sua dimensione. Poi Amazon l'ha ripulito e pubblicato.
I modelli decisionali sono diversi dai chatbot che la maggior parte delle persone immagina quando sente parlare di "modello AI". Ricevono uno stato e una serie di domande tipizzate. Restituiscono una probabilità, non un paragrafo.
TypeSafe AI ha aperto quel mercato con Jev. Il laboratorio di San Francisco è stato fondato dall'ex ricercatore OpenAI Diogo Almeida. InfoQ ha riportato il 1 ottobre che Jev costa 0,042 dollari per milione di token in input e non addebita nulla per l'output. Ha una finestra di contesto di 32.000 token e dichiara una latenza end-to-end da 70ms a 500ms. Vercel lo ha aggiunto ad AI Gateway il secondo giorno. Vercel ha detto di aver raggiunto quasi il 13% dei team a pagamento entro 24 ore, il doppio della quota della famiglia GPT-5.6.
Una categoria riempitasi in poche settimane
TechCrunch nota che decine di modelli simili sono comparsi da quando TypeSafe ha lanciato l'idea. Quel volume taglia in due direzioni. Segnala un appetito reale da parte degli sviluppatori che vogliono un'intelligenza a forma di automazione invece del ragionamento di frontiera. Solleva anche la questione di quanta differenziazione possa reggere una singola voce.
Brooker ha detto a TechCrunch che l'attrattiva ha la forma del flusso di lavoro. "Quello che all'inizio ha acceso il mio interesse per questa classe di modelli è che sono un decisore perfetto per un passo di un flusso di lavoro, 'qual è la prossima cosa che devo fare qui, in base a dove sono?'" Ha descritto la proposta ai clienti come un passo "più affidabile, grazie ai punteggi di confidenza, grazie al dominio chiuso delle risposte, [e con] latenza più bassa, potenzialmente costo più basso."
L'amministratore delegato di TypeSafe non tratta ancora l'onda come una minaccia. "Capisco che la gente pensi che sia una corsa all'oro, ma forse sottovaluta la difficoltà di rendere i modelli davvero intelligenti", ha detto Diogo Almeida a TechCrunch. Ha detto di non vedere per ora emergere una vera concorrenza.
Le questioni aperte sono tecniche, non commerciali. Brooker ha inquadrato il compromesso come un problema di calibrazione. L'obiettivo è spingere accuratezza e calibrazione su compiti decisionali ristretti. Questo non deve degradare la conoscenza generale e la capacità multilingue che rendono utile il torso sottostante. Ha anche detto di non aspettarsi che i laboratori di frontiera dominino il segmento. Con mercati più piccoli, il costo per costruire qualcosa di interessante va dalle centinaia alle migliaia di dollari.
Le prove peer-reviewed suggeriscono che l'approccio ha dei limiti. Un articolo inviato ad arXiv il 29 settembre esamina come queste architetture si comportano al crescere dell'insieme di opzioni. Si intitola "More Choices, Fewer Decisions: Ordinal-Scale Bias in JEV-like Direct-Decision Models". Affianca un più ampio invio ad arXiv del 29 settembre, "Demographic Pluralism". Quell'articolo ha scoperto che la ponderazione uguale batteva l'aggregazione ponderata e inversamente ponderata nella stima delle distribuzioni di opinione della popolazione. Ha anche scoperto che l'errore a livello di gruppo cresceva con il peso del gruppo.
Il filone on-device è più largo dei modelli decisionali
La stessa settimana ha portato un grappolo di lavoro sui piccoli modelli che non ha nulla a che fare con le decisioni tipizzate. Tutto condivide un vincolo: girare da qualche parte a basso costo, in locale o disconnesso.
Il 30 settembre è diventato pubblico un progetto GitHub chiamato Coop. Descrive un modello da circa 145.000.000 di parametri in fase di pretraining da zero su FineWeb-Edu da parte di volontari. Il meccanismo è insolito. I lavoratori scaricano un checkpoint da un repo Hugging Face ed eseguono passi AdamW locali su una partizione personale dei dati. Calcolano uno pseudo-gradiente e lo inviano come pull request contro un repo di dataset pubblico su Hugging Face. Un cron job stateless di GitHub Actions è programmato ogni cinque minuti. Lo scheduler condiviso di GitHub scatta a distanza di minuti o di ore. Il job legge il checkpoint e le pull request aperte in inbox, poi scarta gli invii troppo vecchi. Ritaglia e applica un gate coseno al resto, li aggrega in modo robusto ed esegue un passo esterno di Nesterov. Quindi carica un nuovo checkpoint e chiude le pull request elaborate. Il progetto dice che la Fase 1, un modello da 15.000.000 su TinyStories, si è conclusa oltre il budget ottimale di Chinchilla. Dice che più volontari su Apple Silicon e su hardware con CPU semplice hanno addestrato lo stesso passo esterno ed è stato mediato in un unico aggiornamento. Tutto gira su hardware di consumo donato più i piani gratuiti di Hugging Face e GitHub Actions.
Un altro articolo arXiv inviato il 28 settembre descrive FLOORA. Lo hanno scritto Sahand Rezaei-Shoshtari e 16 coautori. FLOORA è una famiglia di piccoli modelli linguistici specifici per dominio per la generazione di layout architettonici. Il modello da 600.000.000 di parametri riporta tassi di vittoria del giudice VLM fino al 92,0% su edifici reali fuori distribuzione. Riporta il 96,0% su edifici sintetici, con valutazioni umane che lo scelgono come migliore nell'89,3% dei casi. Gli autori attribuiscono il risultato a un linguaggio specifico di dominio efficiente in token e a una tokenizzazione personalizzata. Citano anche il pretraining di dominio, il fine-tuning supervisionato e l'apprendimento per rinforzo con ricompense apprese da preferenze umane e ricompense verificabili.
Sempre il 29 settembre, un articolo di Fendji K. E. Jean Louis ha proposto "Model as a Library". L'architettura impacchetta piccoli modelli vocali arruolati dalla comunità come dipendenze on-device versionate per lingue africane a basse risorse. I parlanti stessi registrano il vocabolario da un piccolo numero di registrazioni di esempio al momento del deployment. Il meccanismo è il keyword spotting. Converte una forma testuale a vocabolario chiuso in una forma vocale interamente on-device. L'autore è esplicito: è un articolo di posizione e di progettazione di sistema, non un'implementazione funzionante.
Il lavoro a livello hardware punta nella stessa direzione. Tom's Hardware ha riportato il 30 settembre che uno sviluppatore con lo pseudonimo stmonty ha addestrato un world model da circa 12.500.000 di parametri su una singola RTX 3080 Ti per giocare a Pokémon Rosso. L'addestramento ha usato riassunti compressi dello schermo di 192 numeri e 42.382 frame in scala di grigi su più di 1.000 brevi sessioni. Il modello è stato costruito sulla ricerca LeWorldModel co-autorata da Yann LeCun.
I piccoli modelli non sono automaticamente l'opzione sicura
Due elementi nelle ultime 72 ore complicano un'assunzione. Un dispositivo locale o un compito ristretto non aggira automaticamente i rischi legati ai sistemi di frontiera.
Il bollettino Hacker News di The Hacker News del 1 ottobre cita la cronaca della BBC su Moonshot. L'azienda cinese di AI sta conducendo una revisione interna. Un rapporto di Mindgard di luglio 2026 ha scoperto che i suoi modelli Kimi K2.6 e K3 Swarm potevano aggirare le barriere di sicurezza e generare materiale pericoloso. Quel materiale includeva piani per attacchi informatici, trame terroristiche e assassinii. Lo stesso bollettino nota che Chainalysis dice che i dead drop su blockchain sono aumentati del 440% dal lancio dei modelli open source cinesi ad alta capacità. Quei modelli non pongono restrizioni alla generazione di codice malevolo.
Sul fronte di frontiera, Google ha rilasciato Gemini 4 Argon il 30 settembre. Ha limitato il modello a un gruppo selezionato di esperti di cybersicurezza. The Guardian ha riportato il 1 ottobre che Koray Kavukcuoglu, chief AI architect di Google, ha scritto in un post sul blog che "rilasciare in sicurezza capacità di frontiera a questo livello richiede un approccio per fasi". Ha scritto che Google sta volontariamente dando al governo statunitense accesso anticipato. CNBC ha riportato lo stesso giorno che Google prevede di lanciare il modello per fasi, iniziando da partner fidati di cybersicurezza. Tulsee Doshi, product lead dei modelli Gemini di Google, lo ha descritto come un modello "incredibilmente completo" che eccelle in compiti lunghi e a più passaggi.
Il contrasto è netto. Google trattiene un modello che definisce il suo più avanzato. Nel frattempo un modello decisionale da 2.000.000.000 di parametri, un modello da 145.000.000 addestrato da volontari e un generatore di architetture da 600.000.000 sono stati pubblicati o resi pubblici nella stessa finestra. La scala non è più un indicatore affidabile né di capacità né di cautela. Gli strumenti per eseguire un modello in locale sono ormai così banali che la decisione su cosa distribuire si sta allontanando dai laboratori.
La stessa inquadratura dell'equilibrio fatta da Brooker può essere il riassunto più utile di dove si trova la spinta dei piccoli modelli. Ottimizzare il compito veloce e ristretto senza perdere la generalità che ha reso il modello di base degno di essere adattato in primo luogo. Se le decine di concorrenti che ora affollano la categoria possano mantenere quella linea è la parte che nessuno ha ancora dimostrato.
Fonti
13- 01Amazon releases its own Jev clone as decision models flood the webEN
- 02TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
- 03Coop: A small language model pretrained by volunteersEN
- 04FLOORA: A Human-Aligned Domain-Specific Language Model for Architectural DesignEN
- 05Towards Model as a Library: Offline, Community-Sourced AI for Low-Resource African LanguagesEN
- 06Demographic Pluralism: Inference-Time Modeling of Pluralistic Human Preference DistributionsEN
- 07More Choices, Fewer Decisions: Ordinal-Scale Bias in JEV-like Direct-Decision ModelsEN
- 08Developer trains a small AI on a single RTX 3080 Ti gaming GPU to 'play' Pokémon RedEN
- 09ThreatsDay: AI-Powered Zero-Day Chain, 543K Live Secrets, Model Inspection RCE and 13 More StoriesEN
- 10Google rolls out new Gemini AI model but restricts access over safety concernsEN
- 11Google rolls out Gemini 4 Argon, its most advanced AI modelEN
- 12OpenAI and Synopsys team up to build an AI model that designs chips like a seasoned engineerEN
- 13Zenithon raises $10M to build world models for extreme physicsEN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.