Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Amazon veröffentlicht Strands Decider 2B, während Entscheidungsmodelle den Benchmark-Markt füllen

Amazon Web Services hat am 1. Oktober Strands Decider 2B veröffentlicht, ein Open-Source-Entscheidungsmodell, das zwischen vorgegebenen Optionen auswählt und einen Konfidenzwert zurückgibt. Es erscheint in derselben Woche, in der OpenAI ein ähnliches Angebot ankündigte, und einen Monat, nachdem TypeSafe mit Jev die Kategorie eröffnet hat.

KI & ModelleAnalyseLena BrandtVeröffentlicht: 1. Oktober 20267 Min. LesezeitQuellen 11
Amazon veröffentlicht Strands Decider 2B, während Entscheidungsmodelle den Benchmark-Markt füllen

Amazon Web Services hat am 1. Oktober Strands Decider 2B veröffentlicht, ein kleines Open-Source-Modell, das keine Prosa schreibt. Es wählt zwischen Optionen, die ein Workflow bereits festgelegt hat, und meldet, wie sicher es sich bei der Wahl ist. TechCrunch berichtete am selben Tag über die Veröffentlichung und merkte an, das Modell sei klein genug für den lokalen Betrieb und kostenlos herunterladbar. Es ist der jüngste Zugang in einer Kategorie, die vor einem Monat kaum existierte. TypeSafe AI, ein von dem früheren OpenAI-Forscher Diogo Almeida gegründetes Labor aus San Francisco, brachte Jev heraus und nannte es das erste seiner System One Models. Der Anspruch ist eng gefasst: kein Chat, keine Textgenerierung, nur typisierte probabilistische Antworten, auf die Software reagieren kann.

Was ein Entscheidungsmodell tatsächlich zurückgibt

Laut InfoQ schickt ein Aufrufer Jev einen Zustand, entweder eine Zeichenkette oder strukturierte Daten, dazu eine Reihe typisierter Fragen. Das Modell bewertet sie in einem einzigen parallelen Durchlauf und liefert Choice-, Score- und Noul-Antworten mit einer Wahrscheinlichkeitsverteilung und einem Konfidenzwert. Der aufrufende Code handelt oberhalb eines Schwellenwerts und eskaliert darunter.

Die kommerziellen Details sind öffentlich. Der Input kostet 0,042 US-Dollar pro Million Tokens, der Output ist kostenlos, das Kontextfenster umfasst 32.000 Tokens, und TypeSafe nennt eine Ende-zu-Ende-Latenz von 70 ms bis 500 ms. Das Training nutzt eine Methode, die das Unternehmen Reinforcement Learning for Calibrated Decisions nennt. Die Zahlen stammen aus dem InfoQ-Artikel vom 1. Oktober.

Amazons Version baut auf dem Grundgerüst von Qen3.5-2B auf. Marc Brooker, ein Distinguished Engineer bei Amazon, entwickelte sie, nachdem er Jev gesehen und einen eigenen Ansatz ausprobiert hatte. Das Hobbyprojekt erreichte laut TechCrunch kurzzeitig Platz eins im Jevbench-Ranking für Modelle seiner Größe, und Amazon-Ingenieure überarbeiteten es für die Veröffentlichung unter Strands Labs.

"Was mein Interesse an dieser Modellklasse ursprünglich geweckt hat, war, dass sie einen perfekten Entscheider für einen Workflow-Schritt abgeben: 'Was ist der nächste Schritt für mich hier, ausgehend davon, wo ich stehe?'", sagte Brooker zu TechCrunch.

Den Reiz beschrieb er mit Zuverlässigkeit durch Konfidenzwerte und einen geschlossenen Antwortraum, dazu geringerer Latenz und möglicherweise niedrigeren Kosten. Das ist das gesamte Verkaufsargument der Kategorie, und TypeSafe argumentiert genauso.

Adoptionszahlen und ihre Grenzen

Jevs frühe Verbreitung ist der konkreteste Beleg dafür, dass die Kategorie Käufer hat. Vercel nahm Jev am zweiten Tag in sein AI Gateway auf und erklärte, es habe innerhalb von 24 Stunden fast 13 Prozent der zahlenden Teams erreicht, doppelt so viel wie die GPT-5.6-Familie, so InfoQ. Netlify folgte, LangChain brachte eine TypeSafeClassifier-Integration mit Modell-Routing und einer AutoMode-Middleware heraus, die Tool-Aufrufe prüft, bevor sie ausgeführt werden, und innerhalb weniger Tage erschienen fünf unabhängige Elixir-Clients.

Die Leistungsversprechen verdienen Skepsis. Der Vercel-Ingenieur Pranit Sharma stellte fest, dass ein Sicherheitsklassifikator fünf- bis achtzehnmal schneller lief als das LLM, das er ersetzte. Nikhil Mudholkar, CTO von Bryo AI, bewertete Gemini bei der E-Mail-Klassifikation als etwas genauer, aber zehn- bis zwanzigmal teurer, und schätzte Jev als das einzige Modell, das eine echte Wahrscheinlichkeit zurückgibt.

Eine Analyse von 12.759 Tweets zum Start durch OpenChamber ergab bei den von Nutzern gemeldeten Geschwindigkeitsgewinnen einen Median von 7x gegenüber der Schlagzeile von 193,6x. Die Kosteneinsparungen lagen im Median bei 30x, die Latenz im Median bei 76 ms mit einem oberen Quartil von 270 ms. Das sind selbst gemeldete Zahlen aus Social-Media-Posts, aggregiert, und sie liegen weit unter der Marketingzahl.

Armin Ronacher, CTO von Earendil, sagte zu TechCrunch, das Design "delegiert das Halluzinationsproblem ein Stück weit an den Nutzer", der entscheiden muss, ob eine Wahrscheinlichkeit von 50 Prozent ein Handeln rechtfertigt. Er nannte Modell-Routing als weiteren guten Einsatzbereich. Auf Hacker News merkte ein Entwickler an, Jev könne keinen ungültigen Typ ausgeben, aber durchaus einen völlig falschen gültigen Wert.

Ein überfülltes Feld mit unklarem Wert

Seit TypeSafe die Idee vorstellte, sind Dutzende ähnlicher Modelle erschienen. Das zeigt Interesse. Es wirft aber auch die Frage auf, wie viel ein einzelnes davon wert ist, zumal die zugrunde liegende Methode öffentlich und der Aufwand für den Bau gering ist.

Brooker sagte zu TechCrunch, er erwarte nicht unbedingt, dass die Frontier-Labore den Bereich dominieren, da in kleineren Märkten die Kosten für etwas Interessantes in die Hunderte oder Tausende Dollar laufen. Die Führung von TypeSafe erklärt, man halte den Kopf unten und verbessere die künftigen Modelle.

"Ich verstehe, dass die Leute es für einen Goldrausch halten, aber sie unterschätzen vielleicht, wie schwierig es ist, die Modelle wirklich klug zu machen", sagte CEO und Gründer Diogo Almeida zu TechCrunch und erklärte, er sehe derzeit noch keine echte Konkurrenz für sein Unternehmen aufkommen.

Brooker beschrieb den technischen Kompromiss als Balance zwischen Genauigkeit und Kalibrierung bei Entscheidungsaufgaben, ohne das Sprachverständnis und das Allgemeinwissen des Modells zu verschlechtern. Schiebt man das eine, bewegt sich das andere.

Das Benchmark-Problem darunter

Entscheidungsmodelle landen in einer Messumgebung, die bereits umstritten ist. Ein am 29. September auf arXiv veröffentlichtes Paper, More Choices, Fewer Decisions, untersucht die Verzerrung ordinaler Skalen in JEV-ähnlichen Direktentscheidungsmodellen, was die Art und Weise infrage stellt, wie diese Systeme bewertet werden. Ein ebenfalls am selben Tag eingereichtes arXiv-Paper, ArgGYM, argumentiert, dass Erfolg unter festen Problemspezifikationen und stabilen Bewertungskriterien nicht auf das Schlussfolgern unter unvollständigen und revidierbaren Informationen übertragbar sein muss, und führt einen prozeduralen Benchmark mit 1.440 verifizierten Instanzen über fünfzehn Curriculum-Konfigurationen ein.

Klinische Arbeiten deuten in dieselbe Richtung. Ein zur Findings-EMNLP-2026-Konferenz angenommenes Paper, Sense and Sensitivity, verglich LLMs mit praktizierenden Ärzten anhand von mehr als 6.000 klinischen Szenarien und 7.000 Arztannotationen. Es ergab, dass LLMs zum Ausgangspunkt eher als Ärzte unnötige Behandlungen empfahlen, dass diese Neigung bei veränderten Eingaben zunahm und dass sie empfindlicher auf Änderungen von Geschlecht und Tonfall reagierten. Benchmark-Werte sagten das nicht voraus.

Hardware ist eine weitere Achse. AgBench, ebenfalls am 29. September veröffentlicht, bewertete die lokale, hybride und Cloud-Ausführung von Agenten über 162.070.000 Datenpunkte und stellte fest, dass keine einzelne Architektur bei Aufgabenerfolg, Goodput, Cloud-Kosten und Datenexposition am besten abschneidet. Rein lokale Ausführung beseitigt Cloud-API-Kosten und die Exposition sensibler Informationen, hat aber im Allgemeinen einen geringeren Aufgabenerfolg und längere Abschlusszeiten.

Dieser Befund ist wichtig für Amazons Local-First-Ansatz. Strands Decider 2B läuft auf dem eigenen Rechner. Ob es das für einen gegebenen Workflow sollte, hängt von den Zahlen ab, die laut AgBench niemand in einer einzigen vergleichbaren Tabelle veröffentlicht.

Dieselbe Woche brachte zugleich eine ganz andere Art von Veröffentlichung. Google startete am 30. September Gemini 4 Argon, nannte es sein bislang leistungsfähigstes Modell, beschränkte es aber über sein Fairwind Program auf eine ausgewählte Gruppe von Cyber-Partnern. Der Guardian berichtete am 1. Oktober, Koray Kavukcuoglu, Googles Chief AI Architect, habe geschrieben, eine sichere Freigabe von Frontier-Fähigkeiten auf diesem Niveau erfordere einen stufenweisen Ansatz, und Google gebe der US-Regierung freiwillig frühzeitigen Zugang.

Der Kontrast ist die Geschichte des Monats. Auf der einen Seite ein 2B-Modell, das jeder herunterladen und auf einem Laptop betreiben kann. Auf der anderen ein Frontier-System, das wegen Missbrauchsrisiken der Öffentlichkeit vorenthalten wird, nachdem OpenAI beschlossen hatte, GPT-6.1 Astra nach gescheiterten Alignment-Tests zu verwerfen, wie CNBC und WIRED am 28. und 29. September berichteten.

Entscheidungsmodelle konkurrieren nicht auf dieser Achse. Sie konkurrieren darum, ob ein Workflow-Schritt billiger, schneller und vorhersehbarer gemacht werden kann als der Aufruf eines allgemeinen Modells. Jevstiller, ein am 30. September veröffentlichtes GitHub-Projekt, treibt diese Logik auf die Spitze: Es sitzt vor wiederholten Jev-Klassifikationsaufrufen, lernt aus Jevs eigenen Wahrscheinlichkeitsverteilungen und beantwortet die meisten Anfragen lokal, sobald das lokale Modell innerhalb eines festgelegten Budgets mit Jev übereinstimmt. Bei Banking77, gegen Jevs aufgezeichnete Antworten abgespielt, beantwortete das lokale Modell 71,9 Prozent der zurückgehaltenen Nachrichten mit 99,50 Prozent Übereinstimmung mit Jev und übernahm den Großteil des Verkehrs ab etwa 5.000 Nachrichten.

Die Ökonomie der Kategorie wird noch getestet. Vercels 13 Prozent der zahlenden Teams in 24 Stunden sind echte Adoption, aber die Adoption einer Gateway-Integration im kostenlosen Tarif, kein Beleg für dauerhafte Ausgaben. Der Median-Geschwindigkeitsgewinn von 7x bei OpenChamber liegt weit unter der Schlagzeile. Und die in dieser Woche eintreffenden Benchmark-Paper deuten darauf hin, dass das Feld noch nicht geklärt hat, wie man einen guten Entscheider von einem schnellen unterscheidet.

Vorerst sind die Modelle billig, offen und vermehren sich. Die Messung hält nicht mit.

Kommentare 0

Quellen

11
  1. 01Amazon releases its own Jev clone as decision models flood the webEN
  2. 02TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
  3. 03More Choices, Fewer Decisions: Ordinal-Scale Bias in JEV-like Direct-Decision ModelsEN
  4. 04ArgGYM: A Procedural, Engine-Verified Benchmark for Structured Defeasible ReasoningEN
  5. 05Sense and Sensitivity: Benchmarking LLM Clinical Triage Recommendations with Physician ExpertsEN
  6. 06AgBench: Agentic AI Benchmarks for Personal AI DevicesEN
  7. 07Jevstiller: Distill a repeated Jev classification task into a local modelEN
  8. 08Google rolls out new Gemini AI model but restricts access over safety concernsEN
  9. 09Google releases Gemini 4 Argon, called its most powerful model yetEN
  10. 10OpenAI abandons plan to release upcoming model as safety concerns escalateEN
  11. 11OpenAI Delays Release of Latest Model Over Safety ConcernsEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Lena Brandt

Lena Brandt

KI, Modelle und Technik

Lena Brandt schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Herstellerangaben, Studien und öffentlich zugängliche Datensätze, statt Pressemitteilungen ungeprüft zu übernehmen. Bei Modellvergleichen kontrolliert sie Benchmark-Werte, Trainingsdaten und Versionsnummern und rechnet Angaben zu Rechenleistung und Kosten selbst nach. Sie spricht mit Entwicklern und Forschern, wartet auf angekündigte Updates und vergleicht Releases, bevor sie eine Einschätzung abgibt. Privat beschäftigt sie sich mit 3D-Druck, alten Rechnern und der Frage, wie Modelle aus Internetmüll lernen – Themen, die regelmäßig in ihre Texte einfließen. Sie publiziert keine Zahlen, deren Quelle sie nicht selbst überprüfen konnte.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.