Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Aleph Alpha stellt Kolibris Gewichte auf Hugging Face, und llama.cpp lernt, ohne zu schreiben zu antworten

Aleph Alpha hat am 3. Oktober Kolibri veröffentlicht, ein offenes Modell mit 78 Milliarden Parametern, von denen 3 Milliarden aktiv sind. Am selben Tag nahm llama.cpp Entscheidungsmodelle auf, die Wahrscheinlichkeiten statt Text zurückgeben.

KI & ModelleAnalyseKatrin HoffmannVeröffentlicht: 3. Oktober 20264 Min. LesezeitQuellen 9
Aleph Alpha stellt Kolibris Gewichte auf Hugging Face, und llama.cpp lernt, ohne zu schreiben zu antworten

Aleph Alpha hat Kolibri am 3. Oktober veröffentlicht. Das Modell ist ein englisch-deutscher Mixture-of-Experts-Transformer mit insgesamt 78 Milliarden Parametern, von denen 3 Milliarden aktiv sind. Die vollständigen Gewichte stehen auf Hugging Face unter Apache 2.0. Das Kontextfenster reicht bis 1 Million Token.

Der Zeitpunkt ist für Käufer in regulierten Branchen wichtig. Kolibri richtet sich an öffentliche Verwaltung, Industrie und Luft- und Raumfahrt. Aleph Alpha zufolge können Kunden es vor Ort betreiben, sodass interne Daten nie bei einem externen Inferenzdienst landen. Preise und Kundenzahl nannte das Unternehmen nicht.

Die Veröffentlichung stellt die Firma unter das Thema Lieferkettenintegrität: Sie will jeden Schritt von der Datenaufnahme über Pre- und Post-Training bis zu den abschließenden Evaluationen nachweisen können. Kolibri folgt auf ein früheres Modell mit 30 Milliarden Parametern, Kolibri Origin, das auf derselben Pipeline aufbaut. Aleph Alpha behauptet, Kolibri erreiche Modelle mit bis zu viermal so vielen aktiven Parametern und nennt Nemotron 3 Super als Beispiel. Außerdem liege es an der Pareto-Grenze für Qualität gegenüber Bereitstellungskosten, im Englischen wie im Deutschen. Das sind Herstellerbenchmarks aus den eigenen internen Evaluationen, keine unabhängigen Tests.

Gewichte lassen sich billiger ausliefern und kleiner betreiben

Am selben Wochenende kam eine zweite Art offener Veröffentlichung. Sie ist die interessantere. Das llama.cpp-Projekt meldete am 2. Oktober, sein Server unterstütze nun Entscheidungsmodelle über einen /v1/systemone-Endpunkt. Das geht aus einem Beitrag der Hugging-Face-Community von Xuan-Son Nguyen und Victor Mustar hervor. Man schickt einen Zustand, Text, JSON oder einen Screenshot plus typisierte Fragen, und das Modell liefert nach einem einzigen Vorwärtsdurchlauf für jede Option eine Wahrscheinlichkeit. Es werden keine Token erzeugt. Bestehende Clients, die TypeSafes Jev-Format sprechen, brauchen nur eine neue Basis-URL.

Die Modelltabelle in diesem Beitrag lohnt den genauen Blick. Laya, ein englisches Modell mit 421 Millionen Parametern unter Apache 2.0, beantwortet eine Frage auf einer NVIDIA RTX PRO 6000 im Median in 5 ms. Clef hat 27 Milliarden Parameter, verarbeitet Bilder und steht unter Apache 2.0. OpenJev hat 27 Milliarden Parameter und ist mehrsprachig, erscheint aber unter CC BY-NC 4.0, was kommerzielle Nutzung ausschließt. Kev-4B antwortet in 12 ms, lev in 36 ms. Ein Entscheidungsmodell, das ein Support-Ticket weiterleitet oder einen Schritt eines Agenten prüft, muss keine Prosa schreiben, und daraus folgt der Kostenunterschied.

Kitsuno, das Jev produktiv betreibt, veröffentlichte am 3. Oktober eigene Zahlen, und die haben zwei Seiten. Seit dem 23. September beantwortete Jev 35.812 protokollierte Aufrufe mit 76 Millionen Eingabe-Token zu Gesamtkosten von 3,68 US-Dollar. Auf einem am selben Tag erstellten Testset beantwortete das untrainierte Laya 44 Prozent der Fragen richtig, Jev kam auf 94. Kitsuno erklärt, es habe Laya nicht mit Jevs Ausgaben trainiert, weil die Kundenvereinbarung von TypeSafe, Abschnitt 2.3(b) in der Fassung vom 23. September, es untersagt, ein ähnliches oder konkurrierendes Produkt mit den Ausgaben des Dienstes zu trainieren. Das sei seine Auslegung des Vertrags, keine Rechtsberatung.

Zwei kleinere offene Veröffentlichungen kamen dazu. ZeroLeaks brachte am 2. Oktober Shield Small heraus, einen Klassifikator mit 118 Millionen Parametern für die Erkennung von Prompt-Injection und Jailbreaks, mit int8-ONNX-Gewichten von 118.445.560 Bytes, die auf einer CPU laufen. Die Modellkarte nennt eine mittlere kategoriebalancierte Genauigkeit von 84,3 Prozent und einen Angriffs-Recall von 71,8 Prozent in Kombination mit Shield Rules v2. Sie weist darauf hin, dass der Vergleich 35 öffentliche Datensätze umfasste, die die Entwicklung beeinflusst haben, und keinen ungesehenen Test. Dieselbe Einschränkung gilt für die Falsch-Positiv-Rate von 7,2 Prozent.

Nicht alle finden, offene Gewichte machen die Sache sicherer

Anthropic nutzte einen eigenen Bericht, um die Gegenposition zu vertreten. Tom's Hardware meldete am 3. Oktober, Anthropic behaupte, GLM-5.3 von Zhipu AI könne mit schwachen Schutzmechanismen schädliche Inhalte erzeugen. In Anthropics Exploitbench-Läufen brachte GLM-5.3 in 410 Versuchen 50 Mal einen Chrome-Exploit von Anfang bis Ende zustande, gegen 56 für Anthropics unveröffentlichtes Modell Mythos. In einem internen Benchmark für vollständige Control-Flow-Hijacks erreichte es 4 Prozent, Mythos 6 Prozent, während Kimi K3 und DeepSeek V4.1 Flash beide bei 0 Prozent lagen. Anthropic zufolge umging ein täuschender Prompt die Guardrails in 64 Prozent der Fälle, und das Vorbelegen von Thinking-Token funktionierte in 92 Prozent der Fälle. Das sind Anthropics Zahlen über das Modell eines Wettbewerbers, und Zhipu AI hat in dem hier geprüften Material nicht reagiert.

Auch der politische Streit ist nicht entschieden. WIRED meldete am 3. Oktober, Nathan Lambert und Tom Zick hätten Trillium Labs gegründet, eine gemeinnützige Organisation, die Details von Experimenten unter anderem zu rekursiver Selbstverbesserung und Agenten veröffentlichen will.

Kommentare 0

Quellen

9
  1. 01Kolibri Has Landed: A Sovereign Open-Weight ModelEN
  2. 02New in llama.cpp: Decision ModelsEN
  3. 03Laya in shadow: training an open decision model to replace JevEN
  4. 04Shield: A 118M model for detecting prompt injections and jailbreaksEN
  5. 05Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
  6. 06These AI Experts Want to Do High-Stakes Research Out in the OpenEN
  7. 07Anthropic's super bug-hunting model Mythos is hardcore good at mathEN
  8. 08As Part of Ongoing Investigation, Attorney General Bonta Serves Investigative Subpoena on OpenAIEN
  9. 09OpenAI safety leader David Robinson resignsEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Katrin Hoffmann

Katrin Hoffmann

KI, Modelle und Technik

Katrin Hoffmann schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Primärquellen wie Herstellerangaben, Studien und Protokolle statt auf Pressemitteilungen. Bei Benchmarks prüft sie Messmethoden, Testumgebungen und Reproduzierbarkeit, bevor sie Zahlen übernimmt. Für ihre Artikel spricht sie mit Entwicklern und Forschern, wartet auf Konferenzankündigungen und vergleicht Versionsstände von Modellen und Standards. Privat betreibt sie Selfhosting und Heimnetze und dokumentiert ihre eigene Infrastruktur, was ihrer Redaktionsarbeit zugutekommt. Sie veröffentlicht keine Zahlen ohne nachvollziehbare Quelle.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.