Entscheidungsmodelle und kleine lokale Agenten: die Woche, in der die KI an den Rand rückte

Liquid AI hat den 5. Oktober genutzt, um d1 zu veröffentlichen. Das Entscheidungsmodell beantwortet Fragen zu Text oder Bildern mit Wahrscheinlichkeiten statt mit generierten Tokens. Laut dem Blog des Unternehmens dauert eine Textentscheidung 200 bis 300 ms. Das ist eine Angabe des Anbieters, kein unabhängiger Benchmark. Die Richtung ist trotzdem klar: Es geht um Latenz und Preis pro Entscheidung, nicht um rohe Leistungsfähigkeit.

Liquid behauptet außerdem, d1 erreiche oder übertreffe GPT-6.1 Sol in vier von sechs getesteten Anwendungen und koste dabei 19- bis 200-mal weniger als dieses Modell und als Claude Opus 5.5. Das Unternehmen hat d1 in sechs Anwendungen getestet, vom Filtern von Support-Tickets bis zur Prüfung von Leiterplatten. Auf einem öffentlichen VisA-Datensatz sortiert das Modell laut eigenen Angaben gute und defekte Teile mit 85 bis 97 Prozent Genauigkeit, ohne für diese Aufgabe trainiert worden zu sein. In einer Demo eines Coding-Agenten entfernt d1 bei der Kontextkompaktierung 52 Prozent der Tokens aus Tool-Ausgaben und behält laut Blog jede Ausgabe, die die Aufgabe braucht.

Was ein Entscheidungsmodell tatsächlich tut

Liquid beschreibt drei Fragetypen: Noul (Ja/Nein mit einer Wahrscheinlichkeit), Choice (ein Label aus vielen) und Score (eine Position auf einer Skala). Eine Anfrage kann mehrere Fragen zum selben Zustand enthalten, was die Eingabe-Tokens senkt.

Der Bild-Teil ist wichtiger als der Text-Teil. Mit einem zusätzlichen Bildschirm stieg d1s Punktzahl in Tetris von 70 auf 81 geräumte Zeilen. In Wordle las es das Spielfeld direkt aus einem Screenshot und löste 12 von 12 Partien in durchschnittlich 3,8 Versuchen. Das sind Spiele, aber sie zeigen, worum es bei der Integration geht: Es braucht keine Textserialisierung der Umgebung.

Liquid ist damit nicht allein. Sean Goedecke argumentierte am 5. Oktober, dass sogenannte System-One-Modelle wie Jev schnelle allgemeine Klassifikatoren sind, die jedes Engineering-Team per Prompt nutzen kann. Ist ein Prompt einmal eingestellt, so schrieb er, können Teams die Eingabe-Ausgabe-Paare sammeln und daraus einen kleineren maßgeschneiderten Klassifikator trainieren. Sein Beitrag nennt das Ergebnis „überraschend einfach“ zu bauen und deutlich schneller. Das ist ein nützliches Gegengewicht zur Darstellung des Anbieters: Der dauerhafte Gewinn könnte in der Destillation liegen, nicht im allgemeinen Modell selbst.

Reflections Wette auf Inferenz-Effizienz mit 501.000.000.000 Parametern

Reflection hat am 5. Oktober Beam vorgestellt, das erste offene Modell des Unternehmens. Beam ist ein dünn besetztes Mixture-of-Experts-Modell mit 501.000.000.000 Parametern insgesamt und 23.000.000.000 aktiven, vortrainiert auf 23.800.000.000.000 Tokens, so der Blog des Unternehmens. Der RL-Lauf erzeugte mehr als 100.000.000 Rollouts auf 10.500 NVIDIA GB300 GPUs über vier Wochen Training. Reflection nennt Beam wettbewerbsfähig mit größeren offenen Modellen wie GLM 5.2 und nahe an Qwen 3.8-Max bei Coding- und Agenten-Aufgaben, bei 3- bis 4-mal weniger Inferenz-Rechenaufwand auf fortgeschrittenen Reasoning-Benchmarks.

Die Anbietertabelle sollte man genau lesen. Auf SWE Bench Pro v2-Hard erreicht Beam 77,2 gegen 88,2 bei Kimi K3. Auf Terminal Bench v2.1 sind es 80,1 gegen 88,3 bei Kimi K3 und 90,6 bei DeepSeek V4.1 Flash. Reflection räumt ein, dass offene Frontier-Modelle wie Kimi K3 bei der rohen Leistungsfähigkeit vorn bleiben. Die Gewichte, der technische Bericht und die Modellkarte fehlen noch: Der Blog kündigt sie für später in diesem Monat an, das Modell durchläuft noch das abschließende Red-Teaming. Bis dahin sind die Zahlen Behauptungen.

Effizienz ist das Thema, das den Tag zusammenhält. Reflection rahmt Beam ausdrücklich als „mehr Intelligenz pro Token“ für den Unternehmenseinsatz. Liquid rahmt d1 als Weg, teure Sprachmodell-Aufrufe zu ersetzen, wenn die Antwort strukturiert ist. Beide argumentieren, dass die nächste Wettbewerbsrunde um die Kosten pro brauchbarer Antwort geht.

Kleine Modelle, kleine Harnesses

Zwei GitHub-Releases vom 5. Oktober tragen dieselbe Idee bis auf den Laptop. Jeff-Code, ein Fork des Coding-Agenten Pi von Mario Zechner und Mitwirkenden, setzt ein Entscheidungsmodell namens Jeff mit 800.000.000 Parametern neben Qwen 3.8-27B in die Agentenschleife. Jeff entscheidet, ob es den nächsten Schritt selbst gehen kann und ob Qwen in einem Durchgang hart nachdenken muss. Das Repository nennt 1.242 gepaarte Aufgaben: Erfolgsquote 62,4 Prozent gegen 62,8 Prozent bei Qwen allein, eine gepaarte Differenz von minus 0,2 Punkten mit einem 95-Prozent-Intervall von minus 2,6 bis plus 2,1, und die Zeit pro Aufgabe bei 0,68x, Median 0,70x. Etwa drei Viertel von Qwens Durchgängen liefen ohne Nachdenken.

Reika, ein Coding-Agent-CLI von alexwkleung, setzt am anderen Ende an: ausgelegt für lokale Modelle mit 8.000.000.000 bis 35.000.000.000 Parametern bei Q2- bis Q4-Quantisierung und einem Kontextfenster von 32.000 bis 16k.

Die veröffentlichten Befunde sind erfrischend unvorteilhaft. Ein Rewrite mitten im Kontext verarbeitete 8.453 Tokens Prompt neu, 7,9 Minuten Prefill, während ein Anhängen in derselben Sitzung 25 Tokens und 3,5 Sekunden kostete. Ein grep, das „0 Treffer“ für einen Aufruf zurückgab, den es nicht bedienen konnte, brachte ein Modell dazu, fünf Runden lang ein korrektes Muster umzuformulieren. Das README sagt, der Wortlaut des Prompts sei der schwächste Hebel, und bei einer vagen Aufgabe in Q2 konvergiere oder verirre sich ein Modell etwa 50/50.

Keines der Projekte behauptet, kleine Modelle klüger zu machen. Jeff-Code schränkt selbst ein, dass die Gesamtzeit weniger sinkt als die Zeit pro Aufgabe: In etwa 5 Prozent der Aufgaben läuft es mehr als 30 Minuten länger als Qwen allein. Reika ist vor 1.0 und kann sein Verhalten zwischen Releases ändern. Zusammen sind sie ein bodenständiges Gegengewicht zu Benchmark-Tabellen, weil sie zeigen, wohin Zeit und Geld tatsächlich fließen.

Anderswo im Stack

Die Infrastruktur-Releases vom 5. Oktober waren leiser, aber relevant für alle, die Inferenz am Rand betreiben. Expat 2.9.0 erschien mit Fixes für CVE-2026-77214, einen Out-of-Bounds-Read in XML_ParseBuffer, und CVE-2026-102633, einen Integer-Überlauf, der 32-Bit-Plattformen betrifft, so der Blog des Maintainers. Das Release ergänzt eine Properties-API und eine 64-Bit-Location-API und stuft das Makro XML_LARGE_SIZE als veraltet ein, das seit 2006 die ABI-Kompatibilität spaltet. Finanziert wurde die Arbeit vom Open Source Sabbatical der Stadt München, das sich im dritten Monat eines geplanten halben Jahres befindet.

mold 3.0.0 kam am selben Tag und wurde von C++ nach Rust neu geschrieben. Die Release Notes nennen es einen direkten Ersatz für 2.42.1 mit denselben Optionen, Zielen und derselben Ausgabe, die Link-Performance sei gleichwertig. Das Sicherheitsargument ist konkret: Die C++-Version konnte bei beschädigter Eingabe aus dem Speicher lesen und abstürzen, die Rust-Version prüft diese Zugriffe und gerät stattdessen am fehlerhaften Zugriff in eine Panik. Der Build nutzt jetzt Cargo und verlangt Rust 1.95 oder neuer.

Auf der Modellseite veröffentlichte Interfaze Interfaze 1.1 Lite, ein Modell mit gemischten Architekturen, das auf einer einzigen 80-GB-GPU ohne externe Dienste läuft. Es kombiniert einen Bild-Sprache-Reasoning-Kern mit Spezialmodellen für Dokumentenlesen, Sprache, Layout, Segmentierung und Prognose. Die Modellkarte nennt eine 95-minütige Aufnahme, die in etwa 90 Sekunden transkribiert wird, und eine VoxPopuli-Cleaned-WER von 3,01, hinter Interfazes eigenen 2,4, aber vor Gemini-3-Flash mit 4,0. NASA und IBM veröffentlichten außerdem Fine-Tuning-Code für das NASA-IBM Lunar Foundation Model, mit TerraTorch-Konfigurationen für Kratererkennung und Eisprospektion.

Nichts davon ergibt einen einzelnen Produktstart. Es ist ein Bündel von Releases an einem Tag, alle in dieselbe Richtung: kleinere aktive Parameterzahlen, günstigere Inferenz pro Entscheidung und Harnesses, die Kontext als Budget behandeln.

Offen bleibt, ob die Effizienzversprechen eine unabhängige Prüfung überstehen. Bei Beam beginnt sie, wenn die Gewichte später in diesem Monat erscheinen.