Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Kleine Modelle drängen an den Rand, während Google sein größtes abschottet

Google begann am Mittwoch, Gemini 4 Argon auszuliefern, aber nur an geprüfte Cybersecurity-Partner. In derselben Woche erschienen ein offenes Modell mit 145.000.000 Parametern, das Freiwillige trainierten, und ein Entscheidungsmodell mit 2.000.000.000 Parametern von AWS. Die Spitze und der Rand driften auseinander.

KI & ModelleAnalyseLena BrandtVeröffentlicht: 2. Oktober 20267 Min. LesezeitQuellen 15
Kleine Modelle drängen an den Rand, während Google sein größtes abschottet

Google stellte Gemini 4 Argon am Mittwoch vor, nannte es sein bislang fortgeschrittenstes Modell und beschränkte es auf eine geprüfte Gruppe von Cybersecurity-Partnern. CNBC und The Guardian berichteten über diese Zurückhaltung. Sie ist jetzt der bestimmende Fakt der Woche in der KI: Die größten Labore bremsen ihre größten Modelle.

Kleinere Modelle erscheinen weiter. Der Argon-Rollout ist bewusst gestaffelt. Koray Kavukcuoglu, Googles Chefarchitekt für KI, schrieb in einem Blogbeitrag, eine sichere Veröffentlichung von Frontier-Fähigkeiten auf diesem Niveau erfordere ein stufenweises Vorgehen, berichtete The Guardian. Google gibt nach eigenen Angaben der US-Regierung frühzeitig Zugang und will Rückmeldungen von Testern sammeln, bevor das Modell breiter verfügbar wird. Das Unternehmen behauptet außerdem, Argon stelle einen Rekord im praktischen Software-Engineering auf, liege in Cybersecurity gleichauf auf Platz eins und führe den Vals Index an. Dort liegt es laut CNBC vor OpenAIs GPT-6 Astra und jüngeren Anthropic-Modellen.

Die Gegenströmung der kleinen Modelle

Dem standen im selben Zeitfenster drei Veröffentlichungen entgegen, die den anderen Weg gingen: offen, klein und sofort verfügbar. Am 30. September veröffentlichte ein GitHub-Projekt namens Coop ein Modell mit rund 145.000.000 Parametern, das von Grund auf auf FineWeb-Edu vorab trainiert wurde. Laut der README des Projekts läuft die gesamte Trainingsschleife auf gespendeter Consumer-Hardware plus den kostenlosen Tarifen von Hugging Face und GitHub Actions. Keine Server. Keine Finanzierung. Kein Daemon.

"Stage 1 (15.000.000 auf TinyStories) wurde über das Chinchilla-optimale Budget hinaus abgeschlossen, ein Beweis, dass der ganze Mechanismus funktioniert."

Die Mechanik zählt mehr als die Parameterzahl. Freiwillige laden den aktuellen Checkpoint herunter, führen lokale AdamW-Schritte auf einem persönlichen Datenanteil aus und reichen einen Pseudo-Gradienten als Pull Request gegen ein öffentliches Hugging-Face-Datensatz-Repository ein. Ein zustandsloser GitHub-Actions-Cronjob ist alle fünf Minuten geplant, wird aber in Abständen von Minuten bis Stunden ausgelöst. Er liest den Checkpoint und offene Inbox-PRs, verwirft zu alte Einsendungen, aggregiert den Rest, macht einen äußeren Nesterov-Schritt und schließt die verarbeiteten PRs. Gewichte und Optimizer-Zustand liegen nur auf Hugging Face; Git hält Code, Konfiguration und das Beitragsverzeichnis.

Das Projekt behauptet, die Schleife sei in der Praxis erprobt und nicht nur entworfen: Mehrere Freiwillige auf verschiedenen Maschinen, Apple Silicon und reine CPU, hätten denselben äußeren Schritt trainiert, und die Ergebnisse seien zu einem Update gemittelt worden. Eine Einsendung, die mit einem Tick kollidierte, sei einen Schritt später mit reduziertem Gewicht für Veraltung angenommen worden. Wiederholte Runden eines Nutzers seien zu einer einzigen Stimme zusammengeführt worden. Die README sagt ausdrücklich, ein einzelner Validierungsverlust sage nichts, und die Rangliste passe eine Steigung gegen Tokens an, nicht gegen äußere Schritte.

Entscheidungsmodelle und ein volles Feld

AWS veröffentlichte Strands Decider 2B, ein Open-Source-Entscheidungsmodell nach dem Vorbild von TypeSafes Jev, wie TechCrunch am 1. Oktober berichtete. Es wählt zwischen vorentschiedenen Optionen und gibt ein Konfidenzmaß zurück; es baut auf dem Torso von Qwen3.5-2B auf, statt Text zu erzeugen. Marc Brooker, Distinguished Engineer bei Amazon, sagte TechCrunch, er habe es nach dem Vorbild von Jev gebaut, und es habe kurzzeitig Platz eins der Jevbench-Rangliste für Modelle seiner Größe erreicht. Was ursprünglich sein Interesse an dieser Modellklasse geweckt habe, sei gewesen, dass sie einen perfekten Entscheider für einen Workflow-Schritt abgäben, sagte er.

Die Position von TypeSafe selbst ist weniger triumphierend. CEO Diogo Almeida sagte TechCrunch, er verstehe, dass die Leute an einen Goldrausch glaubten, aber sie unterschätzten womöglich, wie schwierig es sei, die Modelle tatsächlich klug zu machen. TypeSafe hat Jev selbst veröffentlicht, das laut InfoQ typisierte Wahrscheinlichkeiten statt Text zurückgibt. Ein separates arXiv-Papier vom 1. Oktober, "More Choices, Fewer Decisions", untersucht Verzerrungen auf Ordinalskalen in JEV-ähnlichen Direktentscheidungsmodellen. Die Kategorie wird noch belastet getestet und ist nicht geklärt.

Anderswo in denselben 24 Stunden: Ideogram erklärte, sein Bildeditor Ideogram 4.5 verändere nur den Bereich, den ein Nutzer auswählt, mit vier Qualitätsstufen von 0,8 bis 22 Cent pro Bild bei nativem 2K, und ein Open-Weight-Release sei zugesagt, laut The Decoder. BMW bestätigte am Capital Markets Day, dass 2028 ein Einstiegs-EV der Neuen Klasse mit Fokus auf Europa kommt, berichtete Electrek. Auf BMWBlog zurückgehende Berichte deuten auf einen fünftürigen Hatchback mit dem Codenamen NBO hin.

Was die Sicherheitsnachrichten über die Fähigkeiten sagen

Die folgenreichste Geschichte über kleine Modelle in dieser Woche ist womöglich gar keine Veröffentlichung. OpenAI erklärte, es habe eine gegnerische Destillationskampagne unterbrochen, die bis Juli lief. Zu den Spitzen gehörten 16.000 Anfragen von mehr als 4.000 Nutzern am 24. und 25. Juli und verwandte Aktivität über 15.000 Konten; vollständig abgeschaltet war sie bis 28. Juli. CNBC, Tom's Hardware und The Register brachten alle den Bericht des Unternehmens, der einen Kerncluster der Aktivität mit Personen in Verbindung bringt, die mit Moonshot AI zu tun haben. Moonshot antwortete zunächst nicht auf Anfragen nach einer Stellungnahme, laut CNBC und The Register.

Das technische Detail ist der interessante Teil. OpenAI erklärt, seine Verschlüsselung sei nicht gebrochen und keine Datenbank kompromittiert worden. Stattdessen bewegten die Betreiber verschlüsselte Schlussfolgerungen zwischen Unterhaltungen hin und her und baten ein Modell in einer zweiten Sitzung, sie zu entschlüsseln und auszuschreiben. Diese Technik hatten die Forscher Joachim Schaeffer und Kollegen bereits dokumentiert; OpenAI nennt sie namentlich. The Decoder berichtete, die Forscher hätten am selben Tag ein Update veröffentlicht. Darin argumentieren sie, die Absicherung der eigenen API sichere nicht die Cloud-Anbieter, die ebenfalls Zugang zu denselben Modellen verkaufen, und der Trick habe wochenlang auf Microsoft Azure weiter funktioniert.

Kleinere Modelle sind in dieser Geschichte keine Fußnote, sie sind die ermöglichende Schicht. Ein billigeres Schwestermodell aus derselben Familie ist es, das ein verschlüsseltes Schlussfolgerungspaket in lesbaren Text verwandelt. Das ist dieselbe Ökonomie, die AWS seinen Kunden verkauft: ein Workflow-Schritt mit geringerer Latenz und potenziell geringeren Kosten, wie Brooker es formulierte, mit Konfidenzwerten und einem geschlossenen Antwortbereich.

Politik, Preis und die Kluft zwischen den Märkten

Verteilte Bereitstellung breitet sich über Telefone hinaus aus. Der Quartalsbericht Big Impact of Small Solar des ILSR, über den pv magazine am 1. Oktober berichtete, beziffert die US-Zugänge bei Solar im kleinen Maßstab auf fast 1,6 GW im zweiten Quartal 2026, dazu über 2.500 MWh Speicher hinter dem Zähler. MIT Technology Review berichtete am 1. Oktober, Startups wie PopWheels, Copper, Every Electric und David Energy setzten kleine Batterien in Wechselstationen für E-Bikes, Induktionsherden und Steckdosen-Einheiten ein und vermieden damit Netzausbau und Genehmigungen. David Hammer von PopWheels sagte am 24. September bei einer Veranstaltung der New York Climate Week, in New York City seien rund 50 Stationen und 2.500 Batterien im Umlauf. Sam Calisch von Copper sagte, würde jeder US-Herd mit einer Batterie ausgeliefert, summiere sich das auf bis zu mehrere zehn Gigawatt.

Dieselbe Spaltung zieht sich durch die Autos. Tesla rüstete jedes in China verkaufte Model 3 mit einem 16-Zoll-Bildschirm aus und aktivierte bis zu 2,2 kW Wechselstrom-Export über die gesamte Model-3- und Model-Y-Palette dort, angekündigt am 1. Oktober, wie CnEVPost berichtete. Das US-Model-3 behält ein 15,4-Zoll-Display und ist von der V2L-Funktion ausgenommen. Teslas US-Model-3 beginnt bei 36.990 Dollar, merkte Electrek an. GM dagegen verkaufte im Quartal 670.974 Fahrzeuge, 5,5 Prozent weniger. Der Equinox EV fiel nach dem Ende der US-Kaufprämie von 7.500 Dollar um 92,4 Prozent auf 1.905 Fahrzeuge, berichtete The Next Web. Toyotas Verkäufe stiegen um 0,6 Prozent auf 633.223, die elektrifizierten Modelle um 28,5 Prozent.

Nichts davon ist eine saubere Geschichte davon, dass kleine Modelle gewinnen. Googles Argon wird aus Sicherheitsgründen zurückgehalten, und Anthropic hält Claude Mythos Preview weiterhin vertrauenswürdigen Organisationen vor, merkte The Guardian an. Floridas Generalstaatsanwalt James Uthmeier hat einen Richter gebeten, OpenAI zu untersagen, ohne Genehmigung Dritter neue Modelle zu entwickeln, berichtete Tom's Hardware am 30. September, in einer Klage, die auch den Hugging-Face-Hack vom Juli umfasst. Dieselben Medien, die über freiwillig trainierte 145.000.000-Parameter-Modelle berichten, berichten auch über Destillationskampagnen mit 16.000 Anfragen pro Tag.

Was die Woche zeigt, ist, dass sich Fähigkeiten schneller verteilen als die Kontrolle. Ein Entscheider mit 2.000.000.000 Parametern läuft lokal. Ein Modell mit 145.000.000 Parametern trainiert auf gespendeten Laptops. Die verschlüsselten Schlussfolgerungen, die zwischen Sitzungen durchsickern, sind gerade deshalb wertvoll zu stehlen, weil ein billiges Modell sie lesen kann. Die Frontier-Labore antworten mit gestaffelten Veröffentlichungen und geprüften Partnerlisten. Ob das hält, hängt weniger von Benchmark-Tabellen ab als davon, was ein Modell mit 2.000.000.000 Parametern auf einem Schreibtisch nächsten Monat kann.

Kommentare 0

Quellen

15
  1. 01Coop: A small language model pretrained by volunteersEN
  2. 02Google rolls out Gemini 4 Argon, its most advanced AI modelEN
  3. 03Google rolls out new Gemini AI model but restricts access over safety concernsEN
  4. 04Amazon releases its own Jev clone as decision models flood the webEN
  5. 05TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
  6. 06More Choices, Fewer Decisions: Ordinal-Scale Bias in JEV-like Direct-Decision ModelsEN
  7. 07Ideogram says its new model can edit part of an image without messing up the restEN
  8. 08BMW is launching a smaller, more affordable EVEN
  9. 09OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on AzureEN
  10. 10OpenAI says actors linked to China-based Moonshot AI spearheaded a campaign to extract its models' hidden reasoningEN
  11. 11Irony alert: OpenAI whines that Chinese model stole its special IP that it stole from everybody elseEN
  12. 12AI race heats up as OpenAI flags alleged model-copying campaignEN
  13. 13U.S. small-scale solar adds 1.6 GW in Q2EN
  14. 14How smaller, distributed batteries could help the gridEN
  15. 15Tesla gives Model 3 minor upgrades in China, keeps prices unchangedEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Lena Brandt

Lena Brandt

KI, Modelle und Technik

Lena Brandt schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Herstellerangaben, Studien und öffentlich zugängliche Datensätze, statt Pressemitteilungen ungeprüft zu übernehmen. Bei Modellvergleichen kontrolliert sie Benchmark-Werte, Trainingsdaten und Versionsnummern und rechnet Angaben zu Rechenleistung und Kosten selbst nach. Sie spricht mit Entwicklern und Forschern, wartet auf angekündigte Updates und vergleicht Releases, bevor sie eine Einschätzung abgibt. Privat beschäftigt sie sich mit 3D-Druck, alten Rechnern und der Frage, wie Modelle aus Internetmüll lernen – Themen, die regelmäßig in ihre Texte einfließen. Sie publiziert keine Zahlen, deren Quelle sie nicht selbst überprüfen konnte.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.