Offene Gewichte im Dauerbetrieb: Inspect, Phonon-2, Kumo Tabular und ein 145.000.000-Millionen-Modell von Freiwilligen
Das britische AI Security Institute und Meridian Labs haben am 30. September Inspect veröffentlicht, ein Open-Source-Framework mit mehr als 200 vorgefertigten Evaluierungen. Es reiht sich in eine Serie offener Veröffentlichungen ein, zu der auch das Sprachmodell Phonon-2 von Fermion Research und Nvidias Kumo Tabular gehören.

Die Veröffentlichung erfolgte am 30. September um 15:20 UTC, wie die Projektseite selbst angibt. Inspect ist ein Framework für Evaluierungen von Frontier-KI, entwickelt vom britischen AI Security Institute und Meridian Labs. Der Anspruch ist die Breite: Coding, agentische Aufgaben, Reasoning, Wissen, Verhalten und multimodales Verständnis, alles in einem Werkzeug.
Das Framework liefert kombinierbare Datensätze, Agenten, Werkzeuge und Scorer, dazu eine Bibliothek mit über 200 vorgefertigten Evaluierungen. Es gibt ein webbasiertes Werkzeug namens Inspect View und eine VS-Code-Erweiterung. Sandboxing führt nicht vertrauenswürdigen Modellcode in Docker, Kubernetes, Modal, Proxmox oder Vagrant über eine Erweiterungs-API aus. Das Projekt gibt an, mehr als 20 Modellanbieter zu unterstützen, darunter lokale Inferenz mit HuggingFace, vLLM und SGLang.
Evaluierungswerkzeuge sind die unspektakuläre Hälfte der offenen Gewichte. Gewichte ohne eine Möglichkeit, sie zu messen, sind nur Dateien.
Ein Sprachmodell mit 164 MB und ein Tabellenmodell ohne Training
Fermion Research hat Phonon-2 am 30. September veröffentlicht und nennt es das genaueste offene Spracherkennungsmodell unter 900 MB. Der Download ist 164 MB groß. Das Unternehmen gibt an, im Durchschnitt über die sieben englischen Datensätze im Open ASR Leaderboard eine Wortfehlerrate von 5,21 Prozent zu erreichen, und jedes offene Modell, das besser abschneidet, sei mindestens 5,8-mal so groß.
Der Encoder speichert jedes Gewicht als eine von fünf gelernten Stufen, grob 2,1 Bit, verpackt als Basis-3-Ziffern, fünf pro Byte. Die Gewichte stehen unter CC-BY-4.0, der Lizenz von Nvidias Parakeet TDT 0.6B v3, von dem sie abstammen. Fermion behauptet, eine Stunde Audio werde auf einem MacBook Air in etwa 20 Sekunden zu Text, und auf einer H100 in Stapeln von 128 seien es 13 Sekunden pro Tag Audio.
Nvidias Beitrag ist eine andere Art der Kompression. Kumo Tabular, am 29. September auf Hugging Face veröffentlicht, sagt Labels aus einer beschrifteten Tabelle in einem einzigen Vorwärtsdurchlauf voraus, ohne Training, ohne Tuning und ohne Feature Engineering, für Klassifikation und Regression. Es gibt drei Größen von 28.000.000 bis 215.000.000 Parametern, wurde nur auf künstlichen Daten vortrainiert und erscheint unter der Lizenz OpenMDW-1.1 zur kommerziellen Nutzung. Nvidia gibt an, damit auf TabArena, BeyondArena, TALENT und ScoringBench an erster Stelle zu stehen.
Freiwillige, Rust und ein 145.000.000-Parameter-Modell, trainiert auf Cron-Jobs
Auch kleinere Vorhaben kommen voran. Coop, ein am 30. September aktualisiertes GitHub-Projekt, trainiert einen Decoder-only-Transformer mit rund 145.000.000 Parametern auf FineWeb-Edu vor, und zwar auf gespendeter Consumer-Hardware sowie den kostenlosen Kontingenten von Hugging Face und GitHub Actions. Pseudo-Gradienten treffen als Pull Requests gegen ein öffentliches Datensatz-Repository ein; ein zustandsloser GitHub-Actions-Cron fasst sie mit einem äußeren Schritt im DiLoCo-Stil theoretisch alle fünf Minuten zusammen, wobei das Projekt anmerkt, dass GitHubs Scheduler irgendwo zwischen Minuten und Stunden auslöst. Stufe 1, ein Modell mit 15.000.000 Parametern auf TinyStories, lief sein Chinchilla-optimales Budget in sechs Tagen aus und senkte die Validierungsverlust von 9,01 auf 2,8.
Getrennt davon beschreibt ein Rust-Projekt namens PSSA, ebenfalls am 30. September aktualisiert, eine Nicht-Transformer-Architektur mit einer selektiven State-Space-Rekurrenz, einer episodischen Speicherbank und Gewichtsaktualisierungen pro Token. Der Autor behauptet, sie lerne bei gleicher Parameterzahl schneller als ein Transformer und generiere auf derselben CPU etwa zwölfmal zügiger. Ein unabhängiger Benchmark liegt im Repository nicht vor.
Die offenen Veröffentlichungen der Woche fallen in ein raueres regulatorisches Umfeld. The Guardian berichtete am 30. September, die FTC habe eine branchenweite Untersuchung gegen Anthropic, OpenAI und weitere eröffnet, die erste offizielle US-Durchsetzungsmaßnahme, die sich mit unkontrollierten KI-Agenten befasst. Ars Technica meldete am selben Tag, OpenAI verschiebe seinen Börsengang wegen Sicherheitsbedenken. Offene Gewichte sind nicht Gegenstand beider Verfahren, doch die Prüfung bestimmt den Ton für alles, was daneben erscheint.
Quellen
7- 01Inspect: An open-source framework for large language model evaluationsEN
- 02Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
- 03Nvidia Kumo Tabular: Open Foundation Model for Tabular PredictionEN
- 04Coop: A small language model pretrained by volunteersEN
- 05PSSA: A non-transformer language model written from scratch in RustEN
- 06US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
- 07OpenAI delays IPO over AI safety concernsEN
Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.
Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.
Kommentare
0- Noch keine Kommentare — seien Sie der Erste.