CERT-In nutzt Anthropics unveröffentlichtes Mythos zur Fehlersuche in Software

Die indische Cybersecurity-Behörde Indian Computer Emergency Response Team hat Zugang zu Anthropics unveröffentlichtem KI-Modell Mythos erhalten, wie Regierungsquellen gegenüber CNBC-TV18 berichteten. CERT-In nutze das Modell, um Schwachstellen in gefährdeten Systemen zu finden und Patches zu deren Behebung zu empfehlen, so die Quellen.

Der Zugang verschafft CERT-In ein Werkzeug, dem CNBC-TV18 besonders fortgeschrittene Fähigkeiten bei der Aufdeckung von Cybersecurity-Schwachstellen zuschreibt. Zugleich bedeutet er, dass sensible Informationen über potenziell kritische Systeme an eine Cloud-Plattform übermittelt werden müssen. Der Bericht hebt diesen Punkt hervor.

Cloud-Zugang weckt Datenschutzbedenken

Die cloudbasierte Verfügbarkeit des Modells hat laut dem Bericht innerhalb der Regierung Bedenken ausgelöst. Beamte zögern, sensible Informationen an Cloud-Plattformen zu senden, weil sie die Risiken fürchten, die mit dem Teilen von Daten über potenziell kritische Systeme verbunden sind.

Für ein nationales Computer-Notfallteam ist die Datenfrage eine operative. Die Systeme, die CERT-In prüft, können kritisch sein, und die Informationen, die es mit einer Cloud-Plattform teilt, können Schwachstellen offenlegen. YourStory berichtete, dass Sicherheitsteams routinemäßig mit vertraulichem Quellcode, Netzwerkprotokollen und Vorfallberichten umgehen. Die Weitergabe solcher Informationen an externe Plattformen kann Bedenken zu Datenschutz, Zugriff und regulatorischer Konformität aufwerfen.

CERT-In verlässt sich nicht allein auf Mythos. Die Behörde setzt auch mehrere andere KI-Modelle ein, um Systemschwachstellen zu erkennen. Diese Modelle erreichen laut den Regierungsquellen gegenüber dem Medium etwa 80 bis 85 Prozent der Fähigkeiten von Mythos. Mehrere Modelle zu nutzen, könnte der Behörde helfen, Sicherheitslücken zu erkennen, während die Bedenken zum Umgang mit sensiblen Informationen begrenzt bleiben. Der cloudbasierte Betrieb von Mythos bleibt ein zentraler Punkt.

Begrenzter Zugang über Project Glasswing

Mythos ist unveröffentlicht, und Anthropic hat ausgewählten Organisationen und Behörden über Project Glasswing einen begrenzten Zugang gewährt, so CNBC-TV18. Die Initiative konzentriert sich darauf, Schwachstellen in kritischen IT-Systemen zu finden und zu beheben. Sie soll Teilnehmern helfen, Sicherheitsmängel zu erkennen, bevor böswillige Akteure sie ausnutzen können. Das Modell ist nicht öffentlich verfügbar.

Die Zahl von 80 bis 85 Prozent bedeutet, dass die anderen Modelle einen Großteil, aber nicht alle Fähigkeiten von Mythos abdecken. Diese Lücke ist relevant, falls Mythos Schwachstellen findet, die die anderen Modelle übersehen. Mistral AI hat die Gewichte für sein Cybersecurity-Modell Large 4 veröffentlicht, sodass Organisationen es herunterladen und in ihrer eigenen Infrastruktur betreiben können, wie YourStory berichtete. Dieser Ansatz gibt mehr Kontrolle darüber, wo die KI läuft und wie Daten verarbeitet werden. Er erfordert weiterhin technisches Know-how und Sicherheitsprozesse, um wirksam zu funktionieren.

Für CERT-In ist die unmittelbare Aufgabe eng umrissen: Mythos zu nutzen, um Schwachstellen zu finden und Korrekturen zu empfehlen, und dabei abzuwägen, ob der Cloud-Zugang für die Systeme, die es prüft, akzeptabel ist.