Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Gates fordert KI-Regulierung, TikTok zahlt 12,7 Millionen Pfund, Kontext sammelt 4 Millionen Dollar ein

Bill Gates sagte bei NBCs Meet the Press, unkontrollierte KI könne "eine Milliarde Tote" verursachen, und Selbstregulierung reiche nicht aus. Das Interview läuft am Sonntag, 27. September.

Medien & InternetAnalyseKatrin HoffmannVeröffentlicht: 28. September 20265 Min. LesezeitQuellen 6
Gates fordert KI-Regulierung, TikTok zahlt 12,7 Millionen Pfund, Kontext sammelt 4 Millionen Dollar ein

Gates blieb deutlich. "Man braucht Strafverfolgungsbehörden und Politiker in der Diskussion darüber, wie Schutzmaßnahmen und Überwachung aussehen sollen", sagte er zu Moderatorin Kristen Welker, wie The Guardian berichtet. "Und das muss verpflichtend sein."

Der Microsoft-Mitgründer beschrieb die Einhaltung von Vorschriften als Geschäftskosten, nicht als Bremse für die Entwicklung. "Das wird für die Branche ein wenig Verwaltungsaufwand bedeuten, aber keine dramatische Verlangsamung dessen, was sie tun." Die Vorstellung, ein Kill Switch sei eine ausreichende Schutzmaßnahme, wies er zurück. "Es reicht nicht, einen Kill Switch zu haben", sagte er, und die Debatte zeige "so ein bisschen, wie untechnisch verschiedene Leute sind".

Der Zeitpunkt ist kein Zufall. Gates veröffentlichte Ende August einen fast 6.000 Wörter langen Essay, in dem er vor großflächigen KI-Risiken warnte. Seine Äußerungen fallen vier Tage, nachdem der US-Senator Bernie Sanders am 23. September einen Gesetzentwurf vorgelegt hat. Dieser Entwurf würde die Entwicklung fortgeschrittener KI vorübergehend aussetzen, bis Schutzmechanismen stehen, berichtete The Guardian. Gates steht mit seiner Forderung nach einer Verlangsamung nicht allein. Derselbe Text erwähnt, dass Sam Altman und Elon Musk ähnliche Argumente zum Tempo der Entwicklung vorgebracht haben.

Zwei Regulierungsspuren, zwei sehr unterschiedliche Geschwindigkeiten

Während Washington über eine Pause debattiert, hat Großbritannien bereits eine Geldbuße kassiert, die älter ist als die aktuelle Debatte. Am 24. September legte TikTok seine Berufung gegen eine Strafe von 12.700.000 Pfund nieder. Das Information Commissioner's Office hatte sie 2.023 verhängt, weil die Plattform Unter-13-Jährige nicht fernhielt. Das ICO erklärte, TikTok habe "sehr wenig, wenn überhaupt etwas" gegen die Nutzung durch Minderjährige getan. Bis zu 1.750.000 Kinder unter 13 Jahren in Großbritannien hätten den Dienst 2.020 genutzt, hieß es.

TikTok erklärte, die Entscheidung nicht zu akzeptieren, werde aber zahlen. Das Verfahren betraf die Jahre 2.018 bis 2.020, einen Zeitraum, nach dem das Unternehmen nach eigenen Angaben "viele Maßnahmen und Richtlinien für die Sicherheit junger Nutzer" umgesetzt hat. Zudem zog das Unternehmen seine Berufung gegen eine Auskunftsforderung des ICO zurück, die klären sollte, wie sein Algorithmus personenbezogene Daten von Jugendlichen verarbeitet. Die Aufsichtsbehörde kündigte an, diese Untersuchung wieder aufzunehmen.

"Unser erfolgreiches Vorgehen gegen TikTok zeigt, wie wichtig es für Unternehmen ist, die richtigen Schutzmaßnahmen zu haben, auch um den Zugang von Kindern zu verhindern, die alt genug für die Nutzung ihrer Dienste sind." Emily Keaney, stellvertretende Beauftragte des ICO, laut The Guardian

Emily Keaney, stellvertretende Beauftragte des ICO, sagte laut Guardian, der Fall zeige, "wie wichtig es für Unternehmen ist, die richtigen Schutzmaßnahmen zu haben". Die Durchsetzung wirkt über eine einzelne Geldbuße hinaus. Die Altersprüfung steht im Zentrum der britischen Altersgrenze von 16 Jahren für soziale Medien, die im kommenden Jahr in Kraft treten soll. Ofcom hat erklärt, "mehr Einsatz der Tech-Branche" sei nötig, während sich dieses Verbot nähert. Australien hat im vergangenen Dezember ein eigenes Verbot unter 16 eingeführt, und das liefert einen warnenden Datenpunkt. Der eSafety-Beauftragte des Landes hat gesagt, ein "erheblicher Anteil" der Unter-16-Jährigen dort habe seine Konten behalten, neue angelegt oder Alterssperren umgangen.

Die beiden Spuren sehen also völlig verschieden aus. Die eine ist ein Gesetzgeber, der darüber streitet, ob die Spitzenentwicklung pausieren soll. Die andere ist eine Datenschutzbehörde, die eine Geldbuße für ein Versäumnis eintreibt, das vor sechs Jahren endete. Diese Behörde warnt, dass der schwierigere Test noch nicht begonnen hat.

Sicherheitsanbieter bewegen sich, wo Regeln fehlen

In diese Lücke ist ein kleines europäisches Sicherheitsunternehmen getreten. Am 24. September berichtete Tech.eu, dass Kontext 4.000.000 Dollar eingesammelt hat, um eine Laufzeit-Sicherheitsplattform für KI-Agenten auszubauen. Die Runde führte 42CAP an, mit Beteiligung von a16z CSX und HTGF.

Kontext geht davon aus, dass herkömmliche Kontrollen versagen, sobald Agenten nicht mehr nur Text erzeugen, sondern Software bedienen. Die Plattform des Unternehmens sitzt zwischen KI-Agenten und den Werkzeugen, die sie anfassen. Sie bewertet jede Aktion in Echtzeit gegen Richtlinien und Risikosignale. Zu diesen Signalen gehören die Identität des Agenten, die angeforderte Aktion, die Zielressource und die zugewiesene Aufgabe. Teams können die Plattform zunächst im Beobachtungsmodus laufen lassen und dann die Durchsetzung einschalten. Die Durchsetzung blockiert nicht autorisierte Aktionen vor der Ausführung und führt ein prüfbares Protokoll jeder Entscheidung.

Die Gründer Jens Ernstberger und Michel Osswald kommen aus den Bereichen sichere Berechnung, angewandte Kryptografie und KI-Systeme. Tech.eu zitiert das Argument des Unternehmens direkt: Ein Agent kann ordnungsgemäß authentifiziert sein, ein freigegebenes Werkzeug nutzen und trotzdem eine Aktion ausführen, die niemand autorisiert hat. Das Geld soll in die Entwicklung und in die Laufzeit-Durchsetzungsplattform fließen.

Was hier passiert, ist bemerkenswert. Die konkreteste KI-Kontrollschicht in den Berichten dieser Woche ist kein Gesetz. Sie ist die Policy-Engine eines Start-ups, verkauft an Unternehmen, die nicht auf Gesetzgeber warten können.

Was die Woche tatsächlich geklärt hat

Drei Daten, drei verschiedene Mechanismen.

  • 27. September: Gates nutzt ein landesweites Fernsehinterview, um verpflichtende Schutzmaßnahmen zu fordern, keine freiwilligen.
  • 24. September: TikTok beendet den Kampf gegen eine ICO-Geldbuße von 12.700.000 Pfund und eine separate Auskunftsforderung, und die Behörde nimmt ihre Algorithmus-Untersuchung wieder auf.
  • 24. September: Kontext schließt 4.000.000 Dollar ab, um KI-Agenten im Moment der Aktion zu kontrollieren.

Die drei ergeben noch kein stimmiges Regime. Gates will Strafverfolgungsbehörden und Politiker am Tisch, und er sagt, die Kosten für die Branche wären bescheiden. Das ICO hat gezeigt, dass eine Geldbuße verhängt und irgendwann gezahlt werden kann. Doch das dauerte Jahre der Berufung, und sie betraf nur ein Verhalten, das 2.020 endete. Kontext verkauft den fehlenden Kontrollpunkt, den Unternehmen heute brauchen. Agenten besitzen bereits Firmenzugangsdaten und schreiben Code.

Im Gates-Interview steckt noch eine schwierigere Frage, die keine Aufsichtsbehörde beantwortet hat. Er warnte, KI in den falschen Händen sei "sicher mächtig genug, Ereignisse anzutreiben, die, na ja, eine Milliarde Tote verursachen". Er fügte hinzu: "Es hat nie eine Waffe gegeben, die so mächtig war wie die Kombination von Menschen mit bösen Absichten und den neuesten KI-Werkzeugen." Ein Kill Switch decke das aus seiner Sicht nicht ab.

Unterdessen hinkt der Durchsetzungsapparat noch bei Kinderkonten von vor einem halben Jahrzehnt hinterher. Diese Lücke zwischen der erklärten Bedrohung und dem nachgewiesenen Gegenmittel ist die Geschichte der Woche. Weder der Vorschlag von Sanders noch die wieder aufgenommene Untersuchung des ICO hat sie geschlossen.

Kommentare 0

Quellen

6
  1. 01Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
  2. 02TikTok drops appeal against £12.7m fine for not keeping under-13s off platformEN
  3. 03Kontext raises $4M for runtime security platform for AI agentsEN
  4. 04CATL Unveils TECTRANS II Battery Platform at IAA Transport ShowEN
  5. 05Show HN: Digitron – a virtual analog synth and sequencerEN
  6. 06Show HN: M0saic – deterministic video compiler (CLI, web, desktop)EN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Katrin Hoffmann

Katrin Hoffmann

KI, Modelle und Technik

Katrin Hoffmann schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Primärquellen wie Herstellerangaben, Studien und Protokolle statt auf Pressemitteilungen. Bei Benchmarks prüft sie Messmethoden, Testumgebungen und Reproduzierbarkeit, bevor sie Zahlen übernimmt. Für ihre Artikel spricht sie mit Entwicklern und Forschern, wartet auf Konferenzankündigungen und vergleicht Versionsstände von Modellen und Standards. Privat betreibt sie Selfhosting und Heimnetze und dokumentiert ihre eigene Infrastruktur, was ihrer Redaktionsarbeit zugutekommt. Sie veröffentlicht keine Zahlen ohne nachvollziehbare Quelle.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.