Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Halluzinations-Benchmarks werden schärfer, während Gemini 4 Argon an einen geprüften Kreis geht

Google hat am Mittwoch, 30. September, damit begonnen, Gemini 4 Argon, sein bislang leistungsfähigstes Modell, an eine geprüfte Gruppe von Cybersicherheitsexperten auszurollen. Wegen Missbrauchsbefürchtungen hält das Unternehmen das Modell von der Öffentlichkeit zurück.

KI & ModelleAnalyseKatrin HoffmannVeröffentlicht: 2. Oktober 20268 Min. LesezeitQuellen 13
Halluzinations-Benchmarks werden schärfer, während Gemini 4 Argon an einen geprüften Kreis geht

Google hat am Mittwoch, 30. September, damit begonnen, Gemini 4 Argon, sein bislang leistungsfähigstes Modell, an eine geprüfte Gruppe von Cybersicherheitsexperten auszurollen. Wegen Missbrauchsbefürchtungen hält das Unternehmen das Modell von der Öffentlichkeit zurück. In einem Blogbeitrag erklärte es, es gebe der US-Regierung freiwillig frühzeitig Zugang. Vor einer breiteren Verfügbarkeit wolle es das Feedback der Tester sammeln, berichtet The Guardian.

Diese vorsichtige Haltung passt schlecht zu den Versprechen, die Google für das Modell macht. Im Launch-Blog des Unternehmens, aus dem TechCrunch zitiert, heißt es, Argon habe bei einer Reihe von KI-Benchmarks deutlich besser abgeschnitten als GPT-6 Astra von OpenAI sowie Fable und Opus von Anthropic; genannt wird dabei das Benchmarking-Startup Vals. Google schreibt Argon außerdem zu, kritische Software-Schwachstellen selbstständig finden, bestätigen und beheben zu können. Das sind Aussagen über Fähigkeiten, nicht über Zuverlässigkeit. Beides ist nicht dasselbe.

Hier wird die Halluzinationsfrage brisant. Ein Modell, das bei Reasoning- oder Coding-Benchmarks gut abschneidet, kann trotzdem selbstsicher falsche Antworten liefern. Das jüngste Material mit Bezug zu Halluzinationen weist in beide Richtungen. Eine kontrollierte Prüfung von Gradientenkonflikt-Metriken in einheitlichen multimodalen Modellen, am 29. September bei arXiv eingereicht, ist die interessantere der neueren Arbeiten. Sie testet, ob eine weit verbreitete Ersatzmetrik tatsächlich vorhersagt, was Forscher annehmen. Das Ergebnis: Sie tut es nicht.

Die Autoren bauten einen Teststand namens GRIDUMM, der zentrale strukturelle Bestandteile des Trainings einheitlicher multimodaler Modelle nachbildet. Damit lässt sich der Trade-off zwischen Verstehen und Generierung exakt berechnen. Über 63 Konfigurationen und 372 gemessene Checkpoints erreichte keine gerichtete Konfliktmetrik eine absolute Spearman-Korrelation von 0.3 mit einem Konfidenzintervall, das die Null ausschließt. Eine Dosis-Wirkungs-Intervention, die Konflikte monoton unterdrückte, ließ den Trade-off unverändert; damit trennten die Autoren Korrelation von Kausalität. Funktionale Interferenzmaße schnitten besser ab als gerichtete Konfliktmetriken, und der Trainingsverlust bildete den Trade-off stark ab. Die Autoren behaupten nicht, Konflikt sei nutzlos. Sie behaupten, seine Gültigkeit als diagnostisches Ziel müsse belegt werden, nicht vorausgesetzt.

Das ist ein enges Ergebnis über eine enge Modellklasse. Es ist aber auch die Art von Befund, bei der jeder, der ein Leaderboard liest, kurz innehalten sollte.

Was die neueren Benchmarks tatsächlich messen

Zwei weitere arXiv-Arbeiten aus demselben Zeitfenster argumentieren ähnlich skeptisch. ChartDensity-Bench, eingereicht am 30. September, prüft multimodale große Sprachmodelle dabei, numerische Daten aus wissenschaftlichen Diagrammen unter kontrollierter visueller Dichte zu rekonstruieren. Variiert wird die Zahl gleichzeitig gezeigter Diagramme mit k gleich 1, 3, 6 und 9. Experimente mit fünf neueren MLLMs zeigen, dass die numerische Rekonstruktion nachlässt, je höher die visuelle Dichte ist. Wie stark sie nachlässt, unterscheidet sich erheblich zwischen den Modellen. Die paarweisen Vergleiche auf Diagrammebene ergaben, dass dasselbe Ausgangsdiagramm einen höheren Rekonstruktionsfehler verursachen kann, wenn es in einen dichteren visuellen Kontext eingebettet ist. Das ist ein halluzinationsnaher Fehlermodus mit sauberer Messung. Das Modell verweigert nicht. Es liefert Zahlen.

Eine dritte Arbeit, Reverse Scoring for Diffusion Language Model Agents, eingereicht am 29. September, verfolgt einen konkreten Fehler bei Agenten auf Basis von Diffusions-Sprachmodellen. Sie geraten in Wiederholungsschleifen und stoßen eine Aktion noch lange nach ihrem Scheitern erneut an. Die Autoren führen das auf maskiertes Decoding zurück: Das Modell legt sich auf die Positionen fest, bei denen es sich am sichersten ist, und verschiebt die unsicheren. In einem Fehlerzustand bietet der Kontext für die aufgeschobene Entscheidung bereits eine sichere Füllung an, nämlich die gescheiterte Aktion selbst. Die Autoren modellieren die Verzerrung als aufgabenblinde Korruption. Sie schlagen eine trainingsfreie Abhilfe namens Reflect Reverse vor und evaluieren sie auf vier mehrturnigen embodied Benchmarks.

Über diese drei Arbeiten zieht sich ein Muster. Jede isoliert eine bestimmte Art, wie ein Modell selbstsicher falsch liegen kann, misst sie unter kontrollierten Bedingungen und stellt fest, dass die gängige Ersatzmetrik das Ergebnis nicht abbildet. Keine liefert einen allgemeinen Halluzinationswert. Alle legen nahe, dass allgemeine Halluzinationswerte weniger leisten, als ihre Herausgeber suggerieren.

Wie stark ein Benchmark die Diskussion bewegen kann, zeigt der Markt für Entscheidungsmodelle. InfoQ berichtete, TypeSafe AI habe Jev veröffentlicht, das überhaupt keinen Text erzeugt, sondern typisierte, probabilistische Entscheidungen mit einem Konfidenzwert zurückgibt. Aufrufender Code kann oberhalb eines Schwellenwerts handeln und unterhalb eskalieren. Der Input kostet 0,042 US-Dollar pro 2.000.000.000 Tokens, der Output ist kostenlos, das Kontextfenster umfasst 32.000 Tokens, und TypeSafe nennt eine Ende-zu-Ende-Latenz von 70ms bis 500ms. Vercel nahm Jev am zweiten Tag in AI Gateway auf. Das Modell habe innerhalb von 24 Stunden fast 13% der bezahlten Teams erreicht, doppelt so viel wie die GPT-5.6-Familie.

Amazon zog nach. TechCrunch berichtete am 1. Oktober, AWS habe Strands Decider 2B veröffentlicht, ein Open-Source-Entscheidungsmodell nach dem Vorbild von Jev, gebaut auf dem Torso von Qwen3.5-2B. Es sortiert zwischen vorentschiedenen Optionen und gibt ein Konfidenzmaß zurück. Marc Brooker, Distinguished Engineer bei Amazon, sagte TechCrunch, das Modell habe kurzzeitig Platz eins im Jevbench-Ranking für Modelle seiner Größe erreicht. Der Reiz liege in einem Workflow-Schritt, der dank Konfidenzwerten und eines geschlossenen Antwortraums zuverlässiger sei, bei geringerer Latenz und möglicherweise geringeren Kosten.

TypeSafe-Gründer Diogo Almeida äußerte sich deutlich zur Überfüllung. "Ich verstehe, dass die Leute denken, es sei ein Goldrausch, aber sie unterschätzen vielleicht, wie schwer es ist, die Modelle wirklich klug zu machen", sagte er zu TechCrunch. Die aktuelle Welle, so sagte er, "wirkt eher wie" eine Schar von Nachahmern. Ob das zutrifft oder nicht, die Richtung ist klar: Manche Entwickler reagieren auf das Zuverlässigkeitsproblem, indem sie den Ausgaberaum verengen, statt ein besseres allgemeines Modell zu versprechen.

Das Sicherheitsargument kommt vor den Belegen

Google begründet die Beschränkung von Argon damit, dass Frontier-Fähigkeiten auf diesem Niveau einen schrittweisen Ansatz brauchen. Koray Kavukcuoglu, Chief AI Architect bei Google, schrieb das in dem Blogbeitrag, der das Modell ankündigte. Google erklärte, Argon sei so entworfen, dass es Anfragen ablehnt, die bei Cyberangriffen oder der Entwicklung chemischer, biologischer oder nuklearer Waffen helfen könnten. Das Unternehmen überwacht zudem die Denkprozesse des Modells, damit es nicht über das hinausgeht, was Nutzer beabsichtigen; dieses Risiko nennen Forscher Misalignment.

The Guardian berichtete, der vorsichtige Rollout folge Anthropic, das Claude Mythos Preview auf eine kleine Zahl vertrauenswürdiger Organisationen beschränkt hat. Washington zwang Anthropic im Juni kurzzeitig, den Zugang zu den öffentlich veröffentlichten Modellen Claude Mythos und Claude Fable auszusetzen. Seitdem gibt es ein freiwilliges Verfahren, um die leistungsfähigsten KI-Modelle vor der Veröffentlichung zu prüfen. Die Ankündigung kam einen Tag, nachdem Donald Trump führende Tech-Manager, darunter Sundar Pichai und Anthropics Dario Amodei, im Weißen Haus empfangen hatte. Dort unterzeichneten sie eine freiwillige Vereinbarung, die Risiken ihrer eigenen KI-Systeme zu kontrollieren.

Google erklärte, frühe Tester hätten mit Argon eine Schwachstelle in Software aufgedeckt, die weltweit in Krankenhäusern genutzt wird und sensible persönliche Daten offenlegte. Andere fortgeschrittene Modelle hätten sie übersehen. Das ist eine Anekdote, vom Anbieter, über ein Modell, das nicht allgemein verbreitet ist. Man sollte sie als Fähigkeitsaussage einer interessierten Partei behandeln.

Der Streit um die Herkunft läuft parallel. CNBC berichtete, OpenAI habe eine koordinierte Kampagne zur Extraktion geschützten Reasonings aus seinen Modellen identifiziert und gestoppt. Ein Kerncluster der Aktivität wurde dem chinesischen Startup Moonshot AI zugeordnet. Die Aktivität begann Anfang Juli und stieg innerhalb von zwei Tagen auf 16.000 Anfragen von mehr als 4.000 Nutzern, mit verwandten Aktivitäten über mehr als 15.000 Nutzer. OpenAI erklärte, die Betreiber hätten weder Verschlüsselung noch Datenbanken noch gespeicherte Nutzergespräche kompromittiert. Bis zum 28. Juli sei die Kampagne vollständig gestoppt worden.

The Register bemerkte die Peinlichkeit der Beschwerde angesichts der eigenen Geschichte von OpenAI mit Trainingsdaten aus dem Web. The Register habe OpenAI gefragt, welche seiner Modelle im Juli Ziel waren, und keine Antwort erhalten. Außerdem berichtete The Register, Michael Kratsios, Trumps Assistant for Science and Technology, habe Moonshot AI Ende Juli beschuldigt, sein Modell Kimi K3 durch Destillation von Anthropics Fable erstellt zu haben. Anthropics Claude Opus 5.5, eine Woche vor diesem Bericht veröffentlicht, kommt mit einer Verteidigung gegen Destillation namens preserved thinking, eingeführt mit Fable 5.1.

Moonshot reagierte nicht sofort auf die Kommentaranfragen von CNBC, und The Register erklärte, auch dort sei keine unmittelbare Antwort eingegangen. Der zentrale Vorwurf bleibt damit in der öffentlichen Akte einseitig.

Der andere Faden, den es zu beobachten lohnt, ist die Frage, woher die Trainingsdaten kommen und zu welchen Bedingungen. The Guardian berichtete am 1. Oktober, Anthropic habe die Regierung Albanese gedrängt, eine bedingte Genehmigung für das Training mit urheberrechtlich geschützten australischen Werken nach einem Opt-out-Modell zu erwägen. Das Unternehmen räumte ein, keine pauschale Urheberrechtsausnahme zu bekommen. ABC und SBS wehrten sich in Stellungnahmen zu einer parlamentarischen Bundesuntersuchung. Die ABC warnte vor einer Kannibalisierung der australischen Nachrichtenbranche, und beide Sender regten an, KI-Unternehmen in den News Bargaining Incentive einzubeziehen.

Anthropics Stellungnahme behauptete, die Technologie könne die australische Wirtschaft verändern. Sie warnte zugleich vor ernsten Folgen für nationale Sicherheit, Widerstandsfähigkeit kritischer Infrastruktur und öffentliche Sicherheit. Der gemeinsame Sonderausschuss für KI hält nächste Woche Anhörungen in Sydney ab, an denen Führungskräfte von Anthropic und OpenAI teilnehmen sollen.

Nichts davon entscheidet, ob ein gegebenes Modell zuverlässig ist. Es deutet aber darauf hin, dass die Branche Zuverlässigkeitsversprechen schneller ausliefert als Wege, sie zu prüfen. Die Prüfungen, die es gibt, sind meist eng, kontrolliert und wenig schmeichelhaft für die Ersatzmetriken, die alle zitieren.

Kommentare 0

Quellen

13
  1. 01Google rolls out new Gemini AI model but restricts access over safety concernsEN
  2. 02Google releases Gemini 4 Argon, called its most powerful model yetEN
  3. 03Does Gradient Conflict Predict the Understanding-Generation Trade-off? A Controlled Audit of Conflict-Metric Validity in Unified Multimodal ModelsEN
  4. 04ChartDensity-Bench: Benchmarking MLLMs for Numerical Data Reconstruction under Visual DensityEN
  5. 05Does This Action Still Explain the Task? Reverse Scoring for Diffusion Language Model AgentsEN
  6. 06TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
  7. 07Amazon releases its own Jev clone as decision models flood the webEN
  8. 08AI race heats up as OpenAI flags alleged model-copying campaignEN
  9. 09Irony alert: OpenAI whines that Chinese model stole its special IP that it stole from everybody elseEN
  10. 10Anthropic pushes for opt-out model for Australian content as ABC warns of 'cannibalisation' of newsEN
  11. 11Microsoft AI releases new transcription and text-to-speech models for voice agentsEN
  12. 12Ideogram says its new model can edit part of an image without messing up the restEN
  13. 13ThreatsDay: AI-Powered Zero-Day Chain, 543K Live Secrets, Model Inspection RCE and 13 More StoriesEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Katrin Hoffmann

Katrin Hoffmann

KI, Modelle und Technik

Katrin Hoffmann schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Primärquellen wie Herstellerangaben, Studien und Protokolle statt auf Pressemitteilungen. Bei Benchmarks prüft sie Messmethoden, Testumgebungen und Reproduzierbarkeit, bevor sie Zahlen übernimmt. Für ihre Artikel spricht sie mit Entwicklern und Forschern, wartet auf Konferenzankündigungen und vergleicht Versionsstände von Modellen und Standards. Privat betreibt sie Selfhosting und Heimnetze und dokumentiert ihre eigene Infrastruktur, was ihrer Redaktionsarbeit zugutekommt. Sie veröffentlicht keine Zahlen ohne nachvollziehbare Quelle.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.