Reika und Jeff-Code zeigen: Kleine lokale Modelle brauchen ein passendes Gerüst

Reika ist ein Kommandozeilenwerkzeug für Coding-Agenten, das lokale und gehostete Modelle ansteuert. Es erschien am 5. Oktober auf GitHub. Der Aufbau richtet sich zuerst an kleine Modelle: 8.000.000.000 bis 35.000.000.000 Parameter, oft mit Q2 bis Q4 auf einem Kontextfenster von 16 bis 32.000 betrieben. Der Autor Alex Leung sagt, das Ziel sei nicht, ein kleines Modell klüger zu machen. Es soll die Arbeit damit weniger frustrierend machen.

Diese Einordnung ist für jeden relevant, der einen Coding-Assistenten auf einem Laptop oder einer einzelnen GPU laufen lässt. Wenn das Gerüst und nicht das Modell den größten Teil der Fehlerkosten verursacht, dann ist die billigste Verbesserung eine bessere Schleife. Das Projekt ist Pre-1.0, Befehle und Einstellungen können sich also noch ändern.

Am nützlichsten an der Reika-Veröffentlichung ist eine veröffentlichte Messreihe. Ein Rewrite mitten im Kontext verarbeitete 8.453 Token Prompt neu und kostete 7,9 Minuten Prefill. Ein Anhängen in derselben Sitzung kostete 25 Token und 3,5 Sekunden. In einem A/B-Test verwarf ein Arm seine Befunde vor einem Fold. Er faltete fünfmal, las Dateien erneut, die er schon gelesen hatte, und antwortete nie. Der Arm, der seine Befunde zuerst abfragte, antwortete aus dem Digest. Reikas eigener Bericht sagt, ein grep mit „0 Treffern“ für einen Aufruf, den es nicht bedienen konnte, brachte ein Modell dazu, ein korrektes Muster fünf Runden lang umzuformulieren.

Reika meldet eine Aufteilung des Modellverhaltens nach Größe. Im Test bewältigten Modelle mit 14.000.000.000 bis 35.000.000.000 Parametern Aufgaben über mehrere Dateien am zuverlässigsten. Modelle mit 8.000.000.000 bis 9.000.000.000 Parametern schafften einfache, klar abgegrenzte Aufgaben, und Modelle unter 7.000.000.000 Parametern kamen selten weit.

Die Formulierung des Prompts änderte wenig. Bei einer vagen Aufgabe mit Q2 konvergiert oder spiralt ein Modell etwa 50/50. Das Gerüst kann diese Rate nicht ändern, nur die Kosten der scheiternden Hälfte.

Ein zweites Gerüst, ein anderer Trick

Jeff-Code erschien ebenfalls am 5. Oktober. Es forkt Pi, den Coding-Agenten von Mario Zechner und Mitwirkenden, und setzt ein Entscheidungsmodell mit 800.000.000 Parametern namens Jeff in die Schleife, neben Qwen 3.8-27B. Um jede Qwen-Runde trifft Jeff zwei Entscheidungen von je etwa 0,2 Sekunden. Die erste: ob er den nächsten Schritt selbst gehen kann (eine Datei lesen, einen Ordner auflisten, Code durchsuchen, Tests ausführen). Die zweite: ob Qwen in dieser Runde vollständig denken muss. Schreiben und Bearbeiten von Dateien bleibt immer bei Qwen.

Die Ergebnisse sind eng, aber ehrlich. Über 1.242 gepaarte Aufgaben lag die Erfolgsrate mit Jeff-Code bei 62,4 Prozent gegen 62,8 Prozent für Qwen allein. Das ist eine gepaarte Differenz von minus 0,2 Punkten, mit einem 95-Prozent-Intervall von minus 2,6 bis plus 2,1. Die durchschnittliche Zeit pro Aufgabe sank auf das 0,68-Fache, der Median lag beim 0,70-Fachen. Die Gesamtzeit über alle Aufgaben betrug das 0,86-Fache, weil Jeff-Code bei etwa 5 Prozent der Aufgaben mehr als 30 Minuten länger lief als Qwen allein.

Einige Benchmarks zeigten keinen klaren Gewinn: Terminal-Bench 2.0 beim 0,96-Fachen und SkillsBench beim 0,91-Fachen. Das Denken in jeder Runde abzuschalten war noch schneller, kostete aber 7,6 Punkte. Ein weniger vorsichtiger Jeff mit einer Schwelle von 0,7 kostete 4,5 Punkte. Das ist der Handel, den die Veröffentlichung ausdrücklich macht: Geschwindigkeit kommt vom Überspringen des Denkens, nicht von seiner Abschaffung.

Dieselbe Woche brachte ein Entscheidungsmodell für dasselbe Problem. Liquid AI stellte am 5. Oktober d1 vor, sein erstes Entscheidungsmodell, jetzt mit Vision. Es liefert Wahrscheinlichkeiten, ohne Token zu erzeugen, mit 200 bis 300 ms pro Textentscheidung. Liquid sagt, d1 erreiche oder schlage GPT-6.1 Sol bei vier von sechs getesteten Anwendungen und koste 19-mal bis 200-mal weniger. In einer Demo verdichtet es den Kontext eines Coding-Agenten und entfernt 52 Prozent der Token, während jede für die Aufgabe nötige Ausgabe erhalten bleibt. Das sind Herstellerangaben, unabhängig geprüft sind sie nicht.

Anderswo wird der On-Device-Fall mit anderen Zahlen belegt. Interfaze 1.1 Lite erschien am 5. Oktober auf Hugging Face. Es läuft auf einer einzelnen 80-GB-GPU ohne externe Dienste und transkribiert eine 95-minütige Aufnahme in etwa 90 Sekunden. Seine Benchmark-Tabelle setzt MMMU-Pro auf 73,2 gegen 71,1 für Interfaze und 40,4 für GPT-5.4-Mini. Bei GPQA Diamond liegt es mit 85,9 gegen 92,4 zurück.

Die offene Frage ist, wie viel davon den Kontakt mit echten Repositories übersteht. Weder Reika noch Jeff-Code berichten Ergebnisse auf einem Standard-Benchmark für Frontier-Coding mit vollen Einstellungen. Beide sind frühe Projekte. Was sie zeigen: Kleine lokale Modelle verlieren Zeit beim Umgang mit dem Kontext, nicht bei der reinen Parameterzahl.