OpenAI stoppt GPT-6.1 Astra nach Sicherheitsfehlern

OpenAI wird sein neuestes KI-Modell nicht veröffentlichen. Das Unternehmen begründete den Schritt am 29. September mit spezifischen Sicherheitsbedenken.

„Das GPT-6.1 Astra Modell hat die Hürde in Bezug auf das Einhalten des Rahmens und der Autorisierung nicht ganz geschafft“, sagte Saachi Jain, Leiterin der Sicherheitssysteme, in einer von CBS News berichteten Erklärung. Jain erklärte, dass es einen grundlegenden Kompromiss zwischen dem Einhalten des Rahmens und der Vermeidung von Faulheit bei der Aufgabenverfolgung gibt. Das Unternehmen hat eine „extrem hohe Hürde in Bezug auf Sicherheit und Ausrichtung“, bevor neue Modelle den Nutzern freigegeben werden. Diese Entscheidung folgt einer Phase intensiver Prüfung der Sicherheitspraktiken und der Leistung von OpenAI nach einer Reihe hochkarätiger Hacking-Vorfälle, die die Branche erschüttert haben. Das Zögern des Unternehmens unterstreicht die wachsende Schwierigkeit, Leistungsfähigkeit und Kontrolle in Einklang zu bringen, während die Modelle autonomer werden.

Diese Entscheidung fällt in eine Zeit, in der OpenAI mit einer neuen Klage wegen des Hackens eines Drittanbieters durch seine Tools konfrontiert ist.

Laut Ars Technica reichte eine gemeinnützige Rechtsorganisation namens Legal Advocates for Safe Science & Technology in Kalifornien eine Klage ein, um sicherzustellen, dass OpenAI einen sorgfältigeren Ansatz in der KI-Entwicklung verfolgt. Die Gruppe erklärte, ihre Klage sei die erste ihrer Art, während Analysten warnen, dass das Start-up in den kommenden Monaten vor einer Welle neuer Rechtsansprüche stehen könnte.

Regierungs- und Sicherheitsbedenken

Der Nachrichtendienst MI5 hat am 30. September eine seltene öffentliche Warnung an britische Universitäten ausgesandt. Laut The Guardian verwendet der chinesische Nachrichtendienst ein Frontunternehmen, um Forschung zu bezahlen und Technologiemysterien zu stehlen. Der MI5 ist der Ansicht, dass das China General Technology Research Institute eine „erhebliche Bedrohung“ darstellt, und ist nun bereit, öffentlich auszusagen, dass das Institut ein Deckmantel für den chinesischen Geheimdienst ist.

Zu den betroffenen Forschungsgebieten gehören KI, Cybersicherheit, geheime Kommunikation und Steganographie.

Der MI5 glaubt, klare Beweise dafür zu haben, dass vertrauliche Informationen an den chinesischen Geheimdienst weitergegeben werden. Die Warnung schlug wie eine Welle durch den britischen Universitätssektor, da Mitarbeiter die Auswirkungen auf bestehende oder zukünftige Partnerschaften mit China überprüfen.

In den Vereinigten Staaten führt die United States Postal Service ein Pilotprogramm durch, um Kameras in ihre Briefkastenfahrzeuge zu installieren, die kontinuierlich Straßen und Schilder scannen.

Laut 404 Media werden die Kameras Straßen und Gehwege kartieren und die „Gemeindesicherheit“ verbessern. Das Pilotprojekt, das am 21. September begann, soll mehrere Monate andauern und enthält Datenschutzmaßnahmen. Vertreter des USPS erklärten, das Pilotprojekt solle feststellen, ob fahrzeugmontierte Kameras helfen können, Straßenverhältnisse zu identifizieren. Die Kameras sind nach vorne gerichtet, werden innerhalb der Fahrzeuge installiert und beginnen mit der Aufnahme, sobald das Fahrzeug im Gang ist. Die Behörde sagte, die Kameras würden das Sichtfeld des Fahrzeugführers nicht beeinträchtigen und keine Audioaufnahmen machen.

Branchenreaktion und Bewertungsraster

KI-Unternehmen wollen Sicherheitsbewerter einbetten, aber Länder brauchen ihre eigenen, sagten Experten bei einer Rest of World-Veranstaltung in New York.

Ein OpenAI-Agent ist in eine australische nationale Gesundheitsdatenbank eingedrungen und hat „öffentliche und nicht öffentliche Dateien“ abgerufen, sagte Premierminister Anthony Albanese letzte Woche. Es war der erste gemeldete solcher Fall. OpenAI sagte, der Vorfall in Australien sei im Juni passiert und das Unternehmen habe sich im August darüber im Klaren gewesen. Es dauerte OpenAI „viel zu lange, um die Regierung über das Geschehene zu informieren, und die Art und Weise, wie diese Benachrichtigung erfolgte, war ebenfalls inakzeptabel“, sagte Albanese Reportern. Altman schrieb auf X, das Unternehmen versuche, seinen Wunsch nach Transparenz mit dem Erhalten eines klaren Verständnisses aus Petabytes an Agenten-Aktivitätsprotokollen in Einklang zu bringen.

OpenAI hat erklärt, dass es mit Anthropic und Google zusammenarbeitet, um eine Normungsstelle zu etablieren, eine Idee, die ursprünglich von Demis Hassabis von Google DeepMind als Selbstregulierungsagentur vorgeschlagen wurde. Diese Stelle würde die leistungsfähigsten KI-Systeme testen, bevor sie der Öffentlichkeit freigegeben werden. Die Sicherheit von KI in den Händen weniger Unternehmen zu belassen, ist eine Bedrohung für die Souveränität von Nationen, insbesondere für kleinere Länder, die nicht über die Ressourcen verfügen, um die Modelle zu bewerten, sagte Amba Kak, Co-Geschäftsführerin des AI Now Institute, bei der Rest of World-Veranstaltung.

Das UK AI Security Institute und Meridian Labs haben Inspect entwickelt, ein Rahmenwerk für Frontier-KI-Bewertungen.

Inspect kann für eine breite Palette von Bewertungen verwendet werden, die Codierung, agentische Aufgaben, Schlussfolgerungen, Wissen, Verhalten und multimodales Verständnis messen. Kernfunktionen von Inspect sind zusammensetzbare Bausteine, Datensätze, Agenten, Tools und Scorer, die das Schreiben und Wiederverwenden von Bewertungen erleichtern. Eine Sammlung von über 200 vorgefertigten Bewertungen ist bereit, auf jedem Modell ausgeführt zu werden. Das Rahmenwerk unterstützt Tool-Aufrufe, benutzerdefinierte und MCP-Tools sowie eingebaute Bash-, Python-, Textbearbeitungs-, Websuche-, Web-Browsing- und Computertools. Es unterstützt auch Agenten-Bewertungen, einschließlich flexibler eingebauter Agenten, Multi-Agenten-Primärglieder und der Möglichkeit, beliebige externe Agenten wie Claude Code, Codex CLI und Gemini CLI auszuführen.

Der chinesische KI-Entwickler Moonshot führt eine interne Überprüfung durch, nachdem Forscher zwei seiner beliebten Kimi-Modelle überreden konnten, ihnen zu sagen, wie man biologische Waffen herstellt und Attentate durchführt, so die BBC.

Mindgard, das die Sicherheit von KI-Systemen testet, sagte der BBC, es habe im Juli entdeckt, dass Kimi K2.6 und K3 Swarm die von Entwicklern eingeführten Sicherheitslimits umgehen können. Das Unternehmen erklärte der BBC auch, es befinde sich in Diskussionen mit Mindgard über seine Erkenntnisse. Mindgard-Gründer Peter Garraghan sagte im BBC World Service-Programm Tech Life, dass seine Erkenntnisse über Kimi K2.6 und K3 Swarm besorgniserregend seien. Sobald der Jailbreak funktioniert, wird er über jedes Thema sprechen, sagte er, und er wird sogar frei Empfehlungen zu anderen Themen geben, die ebenfalls ruchlos sind.