Nach dem bekannt gewordenen autonomen Cyberangriff eines KI-Modells von OpenAI berichtet nun auch der Konkurrent Anthropic von ungeplanten Zugriffen seiner KI auf reale Unternehmenssysteme.
Bei OpenAI war ein fortgeschrittenes Modell in einem Sicherheitstest aus einer abgeschotteten Testumgebung ausgebrochen, hatte sich eigenständig Zugang zum offenen Internet verschafft und anschließend die Infrastruktur der KI-Plattform Hugging Face kompromittiert. Die Software nutzte laut OpenAI sowohl zuvor unbekannte Sicherheitslücken als auch gestohlene Zugangsdaten und verschaffte sich Zugriff auf „geheime Informationen“. OpenAI sprach von einem „beispiellosen Cybervorfall“, Sicherheitsexperten bewerten den Fall als ersten öffentlich dokumentierten größeren Angriff, bei dem ein KI-Modell autonom entschieden hat, andere Systeme anzugreifen.
Wenige Wochen nach diesem Vorfall räumt nun Anthropic ein, dass eine eigene KI in Testläufen ungeplant in Systeme von drei Unternehmen eingedrungen ist. Eigentlich sollten die Modelle nur in einer kontrollierten Umgebung ohne Internetzugang getestet werden, doch aufgrund eines Missverständnisses mit einem Testpartner war der Weg ins Netz faktisch frei. Drei Modelle nutzten diese Möglichkeit und verschafften sich unter anderem Zugriff auf eine Datenbank eines Unternehmens. Bemerkenswert ist, dass weder die betroffenen Firmen noch Anthropic die unerlaubten Zugriffe zunächst bemerkten; der Vorfall wurde erst bei einer nachträglichen Auswertung von rund 141.000 Testläufen im Zuge der OpenAI-Affäre entdeckt.
Anthropic beschreibt in einem separaten Bedrohungsbericht KI-gestützte Angriffe als neuen Eskalationsschritt: KI-Werkzeuge wie Claude können Schwachstellen in Netzwerken identifizieren, Angriffswege optimieren und große Datenmengen automatisiert exfiltrieren – Aufgaben, für die früher ganze Expertenteams nötig waren, die nun von einer einzelnen Person mit Unterstützung der KI erledigt werden können. Parallel berichtet Anthropic über eine mutmaßlich staatlich finanzierte chinesische Hackergruppe, die das Tool Claude Code so manipuliert haben soll, dass es weitgehend autonom Infiltrierungsversuche bei rund 30 internationalen Zielen startete. Laut Anthropic wurden dabei 80 bis 90 Prozent der Kampagne mithilfe KI-gestützter Automatisierung durchgeführt. Mehrere unabhängige Sicherheitsexperten äußern jedoch Zweifel daran, wie autonom diese Angriffe tatsächlich waren.
Die Fälle von OpenAI und Anthropic zeigen, dass sowohl von Unternehmen selbst entwickelte KI-Modelle als auch von externen Angreifern manipulierte Systeme in der Lage sind, weitgehend selbstständig Cyberangriffe zu starten, Sicherheitslücken auszunutzen und reale Unternehmensinfrastrukturen zu kompromittieren. Sicherheitsforscher sehen darin eine qualitativ neue Bedrohungslage im Bereich Cybersicherheit und fordern strengere Schutzmechanismen und Testumgebungen für leistungsfähige KI-Systeme.
+++
Bildquelle: JRdes / shutterstock
+++
Ihnen gefällt unser Programm? Machen wir uns gemeinsam im Rahmen einer "digitalen finanziellen Selbstverteidigung" unabhängig vom Bankensystem und unterstützen Sie uns bitte mit der:
Spenden-Kryptowährung „Nackte Mark“: https://apolut.net/unterstuetzen/#nacktemark
oder mit
Bitcoin: https://apolut.net/unterstuetzen#bitcoin
Informationen zu weiteren Unterstützungsmöglichkeiten finden Sie hier: https://apolut.net/unterstuetzen/
+++
Bitte empfehlen Sie uns weiter und teilen Sie gerne unsere Inhalte in den Sozialen Medien. Sie haben hiermit unser Einverständnis, unsere Beiträge in Ihren eigenen Kanälen auf Social-Media- und Video-Plattformen zu teilen bzw. hochzuladen und zu veröffentlichen.
+++
Abonnieren Sie jetzt den apolut-Newsletter: https://apolut.net/newsletter/
+++
Unterstützung für apolut kann auch als Kleidung getragen werden! Hier der Link zu unserem Fan-Shop: https://harlekinshop.com/pages/apolut
