Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Kleine Modelle wandern an den Rand, während Google sein größtes abschottet

Google hat am Mittwoch begonnen, Gemini 4 Argon auszurollen, aber nur an geprüfte Cybersicherheitspartner. In derselben Woche entstanden ein offenes Modell mit 145M Parametern, das Freiwillige trainiert haben, und ein 2B-Entscheidungsmodell von AWS. Die Spitze und der Rand driften auseinander.

KI & ModelleAnalyseKatrin HoffmannVeröffentlicht: 2. Oktober 20267 Min. LesezeitQuellen 15
Kleine Modelle wandern an den Rand, während Google sein größtes abschottet

Google hat am Mittwoch Gemini 4 Argon vorgestellt, sein nach eigenen Angaben fortschrittlichstes Modell, und den Zugang auf eine geprüfte Gruppe von Cybersicherheitspartnern beschränkt. CNBC und The Guardian berichteten über diese Zurückhaltung. Sie ist der bestimmende Fakt der Woche in der KI: Die größten Labore bremsen ihre größten Modelle.

Kleinere Modelle erscheinen weiter. Der Argon-Rollout ist bewusst gestuft. Koray Kavukcuoglu, Googles Chefarchitekt für KI, schrieb in einem Blogbeitrag, die sichere Freigabe von Frontier-Fähigkeiten auf diesem Niveau erfordere einen gestuften Ansatz, so The Guardian. Google gibt nach eigenen Angaben der US-Regierung frühzeitig Zugang und will Tester-Feedback sammeln, bevor das Modell breiter erscheint. Das Unternehmen behauptet außerdem, Argon stelle einen Rekord im realen Software-Engineering auf, liege in der Cybersicherheit gleichauf auf Platz eins und führe den Vals Index an. Dort liegt es laut CNBC vor OpenAIs GPT-6 Astra und jüngeren Anthropic-Modellen.

Der Gegenstrom der kleinen Modelle

Dagegen gingen drei Veröffentlichungen im selben Zeitfenster den anderen Weg: offen, klein und sofort verfügbar. Am 30. September veröffentlichte ein GitHub-Projekt namens Coop ein Modell mit rund 145M Parametern, von Grund auf auf FineWeb-Edu vortrainiert. Laut der README des Projekts läuft die gesamte Trainingsschleife auf gespendeter Consumer-Hardware plus den kostenlosen Kontingenten von Hugging Face und GitHub Actions. Keine Server. Keine Finanzierung. Kein Daemon.

„Stage 1 (15M auf TinyStories) abgeschlossen, über das Chinchilla-optimale Budget hinaus, Beweis, dass der ganze Mechanismus funktioniert.“

Die Mechanik zählt mehr als die Parameterzahl. Freiwillige laden den aktuellen Checkpoint herunter, führen lokale AdamW-Schritte auf einem persönlichen Daten-Shard aus und reichen einen Pseudo-Gradienten als Pull Request gegen ein öffentliches Hugging-Face-Datensatz-Repo ein. Ein zustandsloser GitHub-Actions-Cron-Job liest den Checkpoint und offene Inbox-PRs. Er ist alle fünf Minuten geplant, läuft aber irgendwann zwischen Minuten und Stunden. Er verwirft zu alte Einsendungen, aggregiert den Rest, macht einen äußeren Nesterov-Schritt und schließt die verarbeiteten PRs. Gewichte und Optimizer-Zustand liegen nur auf Hugging Face; Git hält Code, Konfiguration und das Beitragsverzeichnis.

Das Projekt behauptet, die Schleife sei produktionserprobt und nicht nur entworfen: Mehrere Freiwillige auf verschiedenen Rechnern, Apple Silicon und reiner CPU, haben denselben äußeren Schritt trainiert, und die Ergebnisse wurden zu einem Update gemittelt. Eine Einsendung, die mit einem Tick kollidierte, wurde einen Schritt später mit reduziertem Staleness-Gewicht akzeptiert. Wiederholte Runden eines Nutzers flossen zu einer einzigen Stimme zusammen. Die README stellt ausdrücklich klar, dass ein einzelner Validierungsverlust nichts aussagt und dass die Rangliste eine Steigung gegen Tokens statt gegen äußere Schritte anpasst.

Entscheidungsmodelle und ein volles Feld

AWS hat Strands Decider 2B veröffentlicht, ein quelloffenes Entscheidungsmodell, inspiriert von TypeSafes Jev, wie TechCrunch am 1. Oktober berichtete. Es sortiert zwischen vorentschiedenen Optionen und liefert ein Konfidenzmaß. Es baut auf dem Torso von Qwen3.5-2B auf, statt Text zu erzeugen. Marc Brooker, ein Distinguished Engineer bei Amazon, sagte TechCrunch, er habe es nach der Begegnung mit Jev gebaut, und es habe kurzzeitig den Spitzenplatz im Jevbench-Ranking für Modelle seiner Größe erreicht. „Was mein Interesse an dieser Modellklasse ursprünglich geweckt hat, war, dass sie einen perfekten Entscheider für einen Workflow-Schritt abgeben“, sagte er.

TypeSafes eigene Position ist weniger triumphal. CEO Diogo Almeida sagte TechCrunch: „Ich verstehe, dass die Leute denken, es sei ein Goldrausch, aber sie unterschätzen vielleicht, wie schwierig es ist, die Modelle tatsächlich klug zu machen.“ TypeSafe hat Jev selbst veröffentlicht, laut InfoQ mit typisierten Wahrscheinlichkeiten statt Text. Ein separates arXiv-Paper vom 1. Oktober, „More Choices, Fewer Decisions“, untersucht Verzerrungen auf Ordinalskalen in JEV-ähnlichen Direktentscheidungsmodellen. Die Kategorie wird noch belastet, nicht abgeschlossen.

Anderswo in denselben 24 Stunden: Ideogram sagte, sein Bildeditor Ideogram 4.5 berühre nur die Region, die ein Nutzer auswählt, mit vier Qualitätsstufen von 0,8 bis 22 Cent pro Bild bei nativen 2K, und eine Open-Weight-Veröffentlichung sei versprochen, so The Decoder. BMW bestätigte an seinem Capital Markets Day, dass 2028 ein Einstiegs-EV der Neuen Klasse mit Fokus auf Europa kommt, wie Electrek berichtete, während Berichte mit BMWBlog als Quelle auf einen fünftürigen Hatchback mit dem Codenamen NBO hindeuten.

Was die Sicherheitsnachrichten über Fähigkeiten sagen

Die folgenreichste Kleine-Modelle-Geschichte der Woche ist vielleicht gar keine Veröffentlichung. OpenAI sagte, es habe eine gegnerische Destillationskampagne unterbrochen, die bis Juli lief. Zu den Spitzen gehörten 16.000 Anfragen von mehr als 4.000 Nutzern am 24. und 25. Juli und verwandte Aktivität über 15.000 Konten. Vollständig abgeschaltet wurde sie bis zum 28. Juli. CNBC, Tom's Hardware und The Register brachten alle den Bericht des Unternehmens, der einen Kerncluster der Aktivität mit Personen in Verbindung bringt, die mit Moonshot AI zu tun haben. Moonshot antwortete nicht sofort auf Bitten um Stellungnahme, so CNBC und The Register.

Das technische Detail ist der interessante Teil. OpenAI sagt, seine Verschlüsselung sei nicht gebrochen und keine Datenbank kompromittiert worden. Stattdessen verschoben die Betreiber verschlüsselte Schlussfolgerungen zwischen Konversationen und baten ein Modell in einer zweiten Sitzung, sie zu entschlüsseln und auszuschreiben. Diese Technik hatten die Forscher Joachim Schaeffer und Kollegen bereits dokumentiert. OpenAI nennt sie namentlich. The Decoder berichtete, die Forscher hätten am selben Tag ein Update veröffentlicht. Darin argumentieren sie, die eigene API zu sichern sichere nicht die Cloud-Anbieter, die ebenfalls Zugang zu denselben Modellen verkaufen, und der Trick habe wochenlang auf Microsoft Azure weiter funktioniert.

Kleinere Modelle sind keine Fußnote zu dieser Geschichte, sie sind die ermöglichende Schicht. Ein billigeres Geschwistermodell aus derselben Familie ist das, was ein verschlüsseltes Schlussfolgerungspaket in lesbaren Text verwandelt. Genau diese Ökonomie verkauft AWS seinen Kunden: einen Workflow-Schritt mit geringerer Latenz und potenziell geringeren Kosten, wie Brooker es formulierte, mit Konfidenzwerten und einem geschlossenen Antwortbereich.

Politik, Preis und die Lücke zwischen den Märkten

Verteilte Bereitstellung breitet sich über Telefone hinaus aus. Der vierteljährliche Bericht Big Impact of Small Solar des ILSR, über den pv magazine am 1. Oktober berichtete, beziffert die US-Zugänge bei kleiner Solarleistung auf fast 1,6 GW im zweiten Quartal 2026, dazu über 2,5 GWh Speicher hinter dem Zähler. MIT Technology Review berichtete am 1. Oktober, dass Startups wie PopWheels, Copper, Every Electric und David Energy kleine Batterien in Wechselstationen für E-Bikes, Induktionsherde und Steckergeräte einbauen und so Netzausbau und Genehmigungen umgehen. David Hammer von PopWheels sagte am 24. September bei einer Veranstaltung der New York Climate Week, rund 50 Stationen und 2.500 Batterien seien in New York City im Umlauf; Sam Calisch von Copper sagte, würde man jeden US-Herd mit einer Batterie ausliefern, kämen dafür bis zu Dutzende Gigawatt zusammen.

Dieselbe Spaltung zieht sich durch die Autos. Tesla rüstete jedes in China verkaufte Model 3 auf einen 16-Zoll-Bildschirm auf und ermöglichte bis zu 2,2 kW Wechselstrom-Export über die gesamte Model-3- und Model-Y-Reihe dort, angekündigt am 1. Oktober, wie CnEVPost berichtete. Das US-Model-3 behält ein 15,4-Zoll-Display und bleibt vom V2L-Feature ausgeschlossen. Teslas US-Model-3 beginnt bei 36.990 Dollar, wie Electrek anmerkte. GM verkaufte im Quartal 670.974 Fahrzeuge, 5,5 Prozent weniger. Der Equinox EV fiel nach dem Ende des US-Kaufsgutscheins von 7.500 Dollar um 92,4 Prozent auf 1.905 Fahrzeuge, so The Next Web. Toyotas Verkäufe stiegen um 0,6 Prozent auf 633.223, elektrifizierte Modelle legten um 28,5 Prozent zu.

Nichts davon ist eine saubere Geschichte davon, dass kleine Modelle gewinnen. Googles Argon wird aus Sicherheitsgründen zurückgehalten, und Anthropic hält Claude Mythos Preview weiter vertrauenswürdigen Organisationen vor, wie The Guardian anmerkte. Floridas Generalstaatsanwalt James Uthmeier hat einen Richter gebeten, OpenAI zu untersagen, neue Modelle ohne Genehmigung Dritter zu entwickeln, wie Tom's Hardware am 30. September berichtete. Die Klage umfasst auch den Hugging-Face-Hack vom Juli. Dieselben Medien, die über freiwillig trainierte 145M-Modelle berichten, berichten auch über Destillationskampagnen mit 16.000 Anfragen pro Tag.

Was die Woche zeigt, ist, dass sich Fähigkeiten schneller verteilen als Kontrolle. Ein 2B-Entscheider läuft lokal. Ein 145M-Modell trainiert auf gespendeten Laptops. Die verschlüsselte Schlussfolgerung, die zwischen Sitzungen entweicht, ist genau deshalb wertvoll zu stehlen, weil ein billiges Modell sie lesen kann. Die Frontier-Labore antworten mit gestuften Freigaben und geprüften Partnerlisten. Ob das hält, hängt weniger von Benchmark-Tabellen ab als davon, was ein 2B-Modell auf einem Schreibtisch nächsten Monat kann.

Kommentare 0

Quellen

15
  1. 01Coop: A small language model pretrained by volunteersEN
  2. 02Google rolls out Gemini 4 Argon, its most advanced AI modelEN
  3. 03Google rolls out new Gemini AI model but restricts access over safety concernsEN
  4. 04Amazon releases its own Jev clone as decision models flood the webEN
  5. 05TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
  6. 06More Choices, Fewer Decisions: Ordinal-Scale Bias in JEV-like Direct-Decision ModelsEN
  7. 07Ideogram says its new model can edit part of an image without messing up the restEN
  8. 08BMW is launching a smaller, more affordable EVEN
  9. 09OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on AzureEN
  10. 10OpenAI says actors linked to China-based Moonshot AI spearheaded a campaign to extract its models' hidden reasoningEN
  11. 11Irony alert: OpenAI whines that Chinese model stole its special IP that it stole from everybody elseEN
  12. 12AI race heats up as OpenAI flags alleged model-copying campaignEN
  13. 13U.S. small-scale solar adds 1.6 GW in Q2EN
  14. 14How smaller, distributed batteries could help the gridEN
  15. 15Tesla gives Model 3 minor upgrades in China, keeps prices unchangedEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Katrin Hoffmann

Katrin Hoffmann

KI, Modelle und Technik

Katrin Hoffmann schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Primärquellen wie Herstellerangaben, Studien und Protokolle statt auf Pressemitteilungen. Bei Benchmarks prüft sie Messmethoden, Testumgebungen und Reproduzierbarkeit, bevor sie Zahlen übernimmt. Für ihre Artikel spricht sie mit Entwicklern und Forschern, wartet auf Konferenzankündigungen und vergleicht Versionsstände von Modellen und Standards. Privat betreibt sie Selfhosting und Heimnetze und dokumentiert ihre eigene Infrastruktur, was ihrer Redaktionsarbeit zugutekommt. Sie veröffentlicht keine Zahlen ohne nachvollziehbare Quelle.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.