Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Britische KI-Sicherheitsbehörde nimmt Modelltests nach August-Störung wieder auf

Das UK AI Safety Institute hat die meisten seiner Modellprüfungen nach einem Vorfall im August wieder aufgenommen, berichtete Resultsense am 2. Oktober 2026.

KI & ModelleErklärtLena BrandtVeröffentlicht: 3. Oktober 20267 Min. LesezeitQuellen 2
Britische KI-Sicherheitsbehörde nimmt Modelltests nach August-Störung wieder auf

Das UK AI Safety Institute (AISI) hat den Großteil seiner Testarbeit wieder aufgenommen. Die Unterbrechung hatte im August begonnen. Resultsense meldete den Vorgang am 2. Oktober 2026. Die Behörde kehrt zu ihrem Kernauftrag zurück: der Bewertung von Frontier-KI-Modellen.

Die Wiederaufnahme fällt in eine heikle Phase. UC Today berichtete am 2. Oktober, dass dem AISI kürzlich der Zugang zu bestimmten Modellen verweigert worden war. Diese Lücke traf die Bewertungsfähigkeit in den Sommermonaten. Der Zugangsstreit zwang das Institut, einen erheblichen Teil seiner Arbeit auszusetzen. Regulierer und Branchenbeobachter wussten wochenlang nicht, ob die Sicherheitsprüfungen weiterlaufen. Über mehrere Wochen konnte das Institut seine Standardtests für die neuesten Frontier-Veröffentlichungen nicht durchführen. Genau diese Unsichtbarkeit sollte die Behörde verhindern. Jetzt, da die Tests wieder laufen, stellt sich die Frage, ob sie den Rückstand seit August aufholen kann. Der Druck, klare Sicherheitsurteile zu liefern, ist hoch. Die Erwartungen von Öffentlichkeit und Regierung ruhten im Sommer nicht. Die Behörde muss nun zeigen, dass ihre Kernaufgaben wieder voll funktionieren.

Auch die Stimmung in der Belegschaft und die Stabilität des Betriebs bereiteten der Behörde Sorgen. In einem Bericht vom 22. September vermerkte die Times, dass Mitarbeiter des AISI wegen Stress durch die starke öffentliche Beobachtung Auszeiten nahmen. Diese interne Belastung fiel in eine Zeit wachsenden Drucks von Öffentlichkeit und Regierung, klare Sicherheitsurteile über immer leistungsfähigere KI-Systeme abzugeben.

Zum weiteren Umfeld gehören mehrere Aufsehen erregende Vorfälle in der KI-Sicherheitsbranche. Am 2. Oktober berichtete Gadget Review, OpenAI habe drei Sicherheitsforscher wegen Fragen zu vertraulichen Informationen entlassen. Das Portal beschrieb die Abgänge als Teil eines größeren Streits um den Umgang mit Daten. Der Fall zeigt die Spannung zwischen unternehmerischer Geheimhaltung und Transparenz in der Sicherheitsforschung.

Auch an der Belastbarkeit bestehender Sicherheitsrahmen gibt es Zweifel. Tech Times analysierte am 2. Oktober den White House AI Safety Accord. Der Beitrag kam zu dem Ergebnis, dass das Abkommen keine Strafen bei Nichteinhaltung vorsieht, keine Meldung von Verstößen verlangt und auf selbst gewählte Prüfer setzt. Diese strukturelle Schwäche der US-Politik steht im Kontrast zum aktiven, wenn auch angeschlagenen Testregime des britischen AISI.

Die Rückkehr des AISI zum Vollbetrieb ist für das internationale Feld der KI-Sicherheit wichtig. Andere Regierungen und Unternehmen nennen die Bewertungen des Instituts oft als Maßstab für verantwortungsvollen Einsatz. Dass es Modelle unabhängig prüfen kann, hebt es in einer Branche hervor, in der Entwickler viele Sicherheitsaussagen selbst treffen.

Auch die technische Seite der KI-Sicherheitsbewertung verändert sich. Das AISI konzentriert sich auf Verhaltenstests auf hoher Ebene, während andere Teile der Tech-Branche Sicherheitsfragen auf niedrigerer Ebene behandeln. Ein Blogbeitrag von ClickHouse vom 30. September 2026 beschrieb etwa die Tücken der Speichersicherheit bei Postgres-Erweiterungen in C und C++. Der Artikel erklärte, wie C++-Code in einem C-basierten System wie Postgres zu undefiniertem Verhalten führen kann, wenn die Speicherzuweisung nicht sorgfältig gesteuert wird. Das ist ein Problem der Datenbanktechnik, spiegelt aber die allgemeine Herausforderung, sichere Systeme zu bauen, während KI-Komponenten stärker in bestehende Infrastruktur eingebunden werden.

Der Drang zu sicheren KI-Systemen prägt auch die Karriereplanung von Fachleuten. Am 2. Oktober gab Boyd Kane auf LessWrong ausführliche Ratschläge zum Bewerben um KI-Sicherheitsstipendien. Kane, der Ende 2025 zum MATS-Programm kam, bezeichnete den Bewerbungsprozess als feindselig. Bewerber müssten ihre Fähigkeiten von denen des "Average Joe" abgrenzen, schrieb er. Es reiche nicht, beeindruckende Leistungen zu beschreiben. Bewerber müssten ihre Arbeit so darstellen, dass sie sich klar von üblichen Bewerbungen unterscheidet. Der Rat zeigt den harten Wettbewerb um Talente in der KI-Sicherheit, einem Feld, das sich rasch professionalisiert.

Auch die internationale Reaktion auf KI-Sicherheit wird vielschichtiger. Am 2. Oktober berichtete The Straits Times, Josephine Teo, Ministerin für Digitales und Intelligenz in Singapur, habe den Einsatz von KI gegen KI-Bedrohungen als Teil eines mehrschichtigen Ansatzes gefordert. CNA zitierte Teo am selben Tag mit der Aussage, die bestehenden Schutzmaßnahmen der KI-Unternehmen reichten nicht aus, da die Modelle leistungsfähiger würden. Die Aussagen der singapurischen Führung zeigen einen wachsenden Konsens unter nichtwestlichen Staaten. Freiwillige Maßnahmen der Industrie reichen nach dieser Auffassung nicht mehr aus, um die Risiken fortgeschrittener KI zu mindern.

Auch Südkorea ringt mit den Folgen neuer KI-Fähigkeiten. Ein Bericht der Korea Business Review vom 2. Oktober stellte fest, die Veröffentlichung von GPT-6 Astra habe die Angst vor "AI Replacement" im Land neu entfacht. Der Artikel beschrieb, wie nervös die USA auf die Wirkung solch leistungsfähiger Modelle auf die südkoreanische Industrie reagieren. Die wirtschaftlichen und sozialen Umbrüche durch KI würden für politische Entscheider in Asien zum zentralen Thema, hieß es.

Im Gesundheitswesen verschiebt sich der Fokus der Sicherheit auf die Abwehr KI-gestützter Cyberangriffe. Medscape berichtete am 2. Oktober, Fachleute forderten stärkere Abwehrmaßnahmen gegen KI-Cyberangriffe auf Gesundheitssysteme. Das passt zu einem breiteren Trend: Bei KI-Sicherheit geht es nicht nur um Modellausrichtung. Es geht auch darum, kritische Infrastruktur vor Angreifern zu schützen, die KI für ausgefeilte Attacken nutzen könnten.

Eine weitere Dimension ist die Bewertung der KI-Folgen für physische Infrastruktur. Ein Bericht vom 1. Oktober beschrieb, dass KI die Sicherheitsprüfung alter Brücken von drei Tagen auf 10 Minuten verkürzt, bei 90 % Genauigkeit. Das steigert die Effizienz, wirft aber Fragen zur Zuverlässigkeit von KI-Systemen in sicherheitskritischen Umgebungen auf, in denen Fehler schwerwiegende Folgen haben können.

Die Regulierung wird zusätzlich dadurch erschwert, dass verschiedene Jurisdiktionen unterschiedliche Wege gehen. Der südkoreanische Technologiekonzern Kakao unterzeichnete am 28. September eine Absichtserklärung mit einem AI Safety Research Institute, um einen Rahmen für KI-Sicherheitsbewertungen aufzubauen. Yonhap News meldete den Schritt. Große Privatunternehmen beginnen demnach, Partnerschaften mit Sicherheitsforschungsinstituten zu formalisieren, damit ihre Produkte kommende Standards erfüllen.

Die Wirksamkeit solcher Selbstregulierung ist allerdings umstritten. Ein Medium-Artikel von Adnan Masood, PhD, vom 3. Oktober argumentierte, Selbstregulierung der KI funktioniere nur, wenn Käufer sie durchsetzten. Ohne Marktdruck von Verbrauchern und Unternehmen, die sicherere KI verlangen, blieben freiwillige Standards womöglich wirkungslos, schrieb Masood. Diese Sicht bringt eine kommerzielle Dimension in die Sicherheitsdebatte und verknüpft sie mit Beschaffungs- und Lieferkettenentscheidungen.

Auch auf Forschungsebene werden die technischen Herausforderungen der KI-Sicherheit angegangen. Ein Bericht vom 5. Oktober beschrieb eine staatliche Prüfung, in der kein Modell KI-Angriffe vollständig blockierte. Die Erfolgsquote langfristiger Speicherangriffe erreichte 91,2 %. Diese Zahl deutet, wenn sie stimmt, darauf hin, dass die derzeitigen Abwehrmaßnahmen alles andere als zuverlässig sind. KI-Modelle können anfällig für hartnäckige, speicherbasierte Angriffe sein, die übliche Sicherheitsfilter umgehen.

Das britische AISI arbeitet unterdessen weiter im Schatten des August-Vorfalls. Die Wiederaufnahme der Tests ist ein positives Zeichen. Sie ist vor dem Hintergrund der anhaltenden Beobachtung und der begrenzten Mittel der Behörde zu sehen. Ob sie unabhängige, strenge Prüfungen unter politischem und kommerziellem Druck aufrechterhalten kann, wird ihr langfristiges Bestehen entscheiden.

Für die weitere Entwicklung der KI-Sicherheitsarbeit sind diese Faktoren entscheidend. Dazu gehören die betriebliche Erholung, internationale politische Verschiebungen und technische Schwachstellen. In den kommenden Monaten dürfte das AISI mehr Aktivität zeigen. Es will seine Rolle als führender globaler Prüfer von Frontier-KI-Modellen wiederherstellen.

Kommentare 0

Quellen

2
  1. 01Memory safety for Postgres extensions in C/C++EN
  2. 02How to apply to AI safety fellowships (and beyond)EN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Lena Brandt

Lena Brandt

KI, Modelle und Technik

Lena Brandt schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Herstellerangaben, Studien und öffentlich zugängliche Datensätze, statt Pressemitteilungen ungeprüft zu übernehmen. Bei Modellvergleichen kontrolliert sie Benchmark-Werte, Trainingsdaten und Versionsnummern und rechnet Angaben zu Rechenleistung und Kosten selbst nach. Sie spricht mit Entwicklern und Forschern, wartet auf angekündigte Updates und vergleicht Releases, bevor sie eine Einschätzung abgibt. Privat beschäftigt sie sich mit 3D-Druck, alten Rechnern und der Frage, wie Modelle aus Internetmüll lernen – Themen, die regelmäßig in ihre Texte einfließen. Sie publiziert keine Zahlen, deren Quelle sie nicht selbst überprüfen konnte.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.