Ein Meinungsbeitrag von Dirk Ellerbrock.
Goethes Zauberlehrling ruft Geister, die er nicht mehr bändigen kann, weil er die Formel vergessen hat, mit der sein Meister sie zurückzuholen wüsste. Genau dieses Bild drängt sich auf, wenn man liest, was Anthropic – einer der führenden Anbieter von Sprachmodellen – kürzlich in einem eigenen Bericht über den Missbrauch seiner KI Claude offengelegt hat: Steuerungssoftware für ein Raketenprogramm im Jemen, Forschung an gefährlichen Krankheitserregern, deren zivile oder militärische Zweckbestimmung das Unternehmen selbst nicht mehr unterscheiden kann. Der Kommentator Michael Hollister hat daraus die richtige Schlussfolgerung gezogen: Es geht am Ende nicht um die Frage, ob Künstliche Intelligenz (KI – Systeme, die durch das Training an riesigen Datenmengen Aufgaben lösen, für die sie nicht explizit programmiert wurden) gefährlich ist, sondern darum, wer eigentlich die Konzerne kontrolliert, die diese Systeme bauen, beobachten und über deren Konsequenzen entscheiden. „Außer Kontrolle" trifft den Befund.
Doch damit ist erst die halbe Wahrheit benannt. Denn man könnte einwenden: Ist nicht jede menschliche Abstraktion mit diesem Risiko behaftet? Verstellt nicht jede Ideologie, jedes Modell, jede Theorie den Blick auf die Wirklichkeit, die sie zu erfassen behauptet? Das ist richtig – und trotzdem liegt bei der KI etwas grundlegend anderes vor als bei den Verdinglichungsformen, mit denen sich Ideologiekritik seit jeher beschäftigt. Der Unterschied lohnt eine genauere Betrachtung, weil er zeigt, warum die gewohnten Mittel der Kritik hier ins Leere laufen.
Die klassische Ideologiekritik – in der Tradition, die von Marx über Lukács bis zu Kofler reicht – geht von einer bestimmten Struktur aus: Eine falsche Abstraktion hat einen Urheber, auch wenn dieser sich selbst nicht als solcher begreift. Sie entspringt einer gesellschaftlichen Position, einem Interesse, das sich rekonstruieren lässt. Genau deshalb ist Kritik überhaupt möglich: Man führt die Abstraktion auf die Verhältnisse zurück, aus denen sie entstanden ist, und entzieht ihr damit ihren scheinbar naturgegebenen Charakter.
Bei den heutigen KI-Systemen zerfällt dieses Verhältnis an vier Stellen zugleich.
Erstens fehlt der Abstraktion ein zurechenbares Subjekt. Wenn ein Modell eine Entscheidung trifft – etwa eine Zielauswahl im Krieg oder eine Forschungsanfrage beantwortet –, steht dahinter niemand, der diese konkrete Entscheidung im Sinne eines nachvollziehbaren Urteils getroffen hätte, nicht einmal die Entwickler selbst. Ideologiekritik setzt aber voraus, dass hinter der falschen Vorstellung eine Interessenlage steckt, die man freilegen kann. Hier ist dieses „Dahinter" nicht verborgen, sondern schlicht nicht vorhanden.
Zweitens handelt die Abstraktion, statt nur vorzustellen. Klassische Ideologie bleibt Vorstellung, die menschliches Handeln lenkt – aber der Mensch bleibt das handelnde Subjekt, das zwischen Vorstellung und Tat vermittelt. Genau in dieser Vermittlung liegt der Ansatzpunkt für Widerstand. Im Jemen-Fall dagegen schreibt die KI selbst die Steuerungssoftware, wertet Testdaten aus und optimiert den nächsten Entwicklungsschritt – ohne dass an jedem Punkt noch ein menschliches Urteil zwischengeschaltet wäre. Das ist kein Darstellungsfehler mehr, der sich korrigieren ließe, sondern ein Fehler, der sich unmittelbar in Wirklichkeit übersetzt.
Drittens entzieht sich die Abstraktion selbst der Dechiffrierung. Ideologie besteht aus Sprache und Begriffen – Dingen, die sich argumentativ auseinandernehmen lassen, auch wenn die Ideologen selbst blind dafür sind. Ein neuronales Netz (die technische Grundlage heutiger KI-Modelle, bestehend aus Millionen mathematisch verknüpfter Parameter) hingegen operiert mit Mustern, die sich nicht in eine Argumentationsstruktur zurückübersetzen lassen, an der Kritik ansetzen könnte. Selbst die Erbauer können, wie Anthropics eigener Bericht andeutet, oft nicht mehr sagen, warum ein Modell eine bestimmte gefährliche Fähigkeit besitzt oder nicht mehr besitzt.
Viertens schließlich ist die Verfügung über diese unkritisierbare Abstraktion monopolisiert. Konkurrierende Ideologien innerhalb einer Gesellschaft heben sich wenigstens teilweise gegenseitig auf und erzeugen die Reibung, aus der Kritik entstehen kann. Wenn aber, wie Hollister zeigt, ein einzelner privater Akteur zugleich Werkzeug, Beobachter, Ermittler und Richter über die Nutzung seiner eigenen Technologie ist, fehlt jede konkurrierende Deutung, an der sich die erste brechen könnte. Die Verdinglichung wird nicht durch gesellschaftlichen Widerspruch korrigiert, sondern durch Marktmacht stabilisiert.
Doch damit ist die Frage nach der Kontrolle immer noch nicht beantwortet – nur ihre Unmöglichkeit beschrieben. Wer profitiert eigentlich von diesem Zustand der Unkontrollierbarkeit? Denn Unkontrollierbarkeit ist kein Naturzustand, der über die Technologie hereingebrochen wäre, sondern etwas, das sich in ganz konkreten Interessenlagen als äußerst nützlich erweist.
Der erste Nutznießer ist der Konzern selbst. Ein Unternehmen, das öffentlich einräumt, die Risiken seiner eigenen Technologie nicht mehr vollständig zu überblicken, verschafft sich damit paradoxerweise Legitimität statt Misstrauen. Wer zugibt, „wir wissen nicht, wie man das verhindern könnte", entzieht sich zugleich der Haftung für das, was er nicht verhindert – und festigt gleichzeitig, wie Hollister zeigt, seinen Ruf als das um Sicherheit bemühte, transparente Labor der Branche. Die Geste der Selbstkritik wird zur Ressource im Wettbewerb um genau jene Vormachtstellung, deren Risiken sie angeblich beklagt.
Der zweite Nutznießer sind die staatlichen und militärischen Akteure, die im Bericht selbst auftauchen. Ein Raketenprogramm im Jemen, Steuerungssoftware für chinesische Waffenplattformen, Zielempfehlungen gegen US-Marinekräfte – in keinem dieser Fälle trägt der eigentliche Auftraggeber die Konsequenzen der Aufmerksamkeit, die der Bericht erzeugt. Im öffentlichen Diskurs erscheint stattdessen die KI als das eigentliche Subjekt der Gefahr: „KI hilft beim Bombenbau", nicht „Staat X baut mit vorhandenen Mitteln weiter Waffen". Die Verlagerung der Aufmerksamkeit auf das Werkzeug entlastet diejenigen, die es einsetzen – ein Effekt, der jeder Diskussion über autonome Waffen und algorithmische Kriegsführung eigen ist, hier aber besonders deutlich zutage tritt.
Der dritte, strukturell wichtigste Nutznießer ist die bestehende Eigentumsordnung an der Technologie selbst. Solange Kontrolle als technisches oder ethisches Problem verhandelt wird – als Frage von Sicherheitsvorkehrungen, Selbstverpflichtungen, freiwilligen Berichten –, bleibt die eigentliche Machtfrage unangetastet: dass eine Handvoll privater Unternehmen über eine Infrastruktur verfügt, die Hollister zu Recht mit nachrichtendienstlichem Einblick vergleicht, ohne dass irgendein demokratisches Mandat diesen Einblick autorisiert hätte. Jede Debatte, die bei „wie machen wir KI sicherer" endet, statt bei „wem gehört sie und wer entscheidet über ihren Einsatz", belässt genau jene Verfügungsgewalt, um die es eigentlich geht, in denselben Händen, die sie jetzt schon halten.
Der Unterschied zwischen KI und den Abstraktionsformen, mit denen sich Ideologiekritik seit jeher befasst, liegt also nicht darin, dass Sprachmodelle fehlbarer wären als Ideologien – vermutlich sind sie es nicht einmal. Er liegt darin, dass drei Voraussetzungen, die Ideologiekritik als Gegenmittel überhaupt erst ermöglichen – Rückführbarkeit auf ein Interesse, Vermittlung durch ein handelndes Subjekt, sprachliche Dechiffrierbarkeit –, gleichzeitig ausfallen, während die vierte Bedingung für Korrektur, die Konkurrenz widerstreitender Deutungen, durch Zentralisierung stillgelegt wird. Und genau in dieser Lücke gedeihen die Interessen derer, denen die Unkontrollierbarkeit nützt.
Der Hexenmeister ist also nicht deshalb außer Kontrolle, weil sein Zauber ungenauer wäre als frühere. Er ist außer Kontrolle, weil es diesmal niemanden mehr gibt, der die Formel überhaupt noch kennt, mit der man ihn zurückrufen könnte – und weil derjenige, der die Geister gerufen hat, zugleich der Einzige ist, der behauptet, über ihre Bändigung zu wachen, und am besten daran verdient, dass es dabei bleibt.
+++
Bildquelle: Ascannio / shutterstock
+++
Quellen:
- Greenwald, Glenn (System Update): Interview mit Garrison Lovely anlässlich seines Buches „Obsolete: The AI Industry's Trillion Dollar Race to Replace Us and How to Stop It" (Erscheinungstermin 29. September 2026). Transkript des Gesprächs, in dem u. a. die Äußerungen des Anthropic-„Chief Alignment Scientist" zur Aussterbewahrscheinlichkeit, die Debatte um Elon Musks USAID-Kürzungen, die Recherchen zu algorithmischer Zielauswahl bei Drohnenangriffen (The Intercept, 2014) sowie Fragen internationaler KI-Kontrolle diskutiert werden.
- Hollister, Michael: „KI außer Kontrolle!" apolut, 15. September 2026. https://apolut.net/ki-ausser-kontrolle-von-michael-hollister/
- Anthropic: „Detecting and countering misuse of AI: September 2026" (Primärquelle des Threat-Intelligence-Berichts, 10. September 2026, 154 Seiten). https://www.anthropic.com/threat-intelligence-report-september-2026
Weiterführend, aus Hollisters eigenem Quellenanhang (jeweils mit Sep. 2026 datiert):
- Bloomberg: „Anthropic Says Yemen Group Used Claude in Missile Development"
- Reuters/Gulf News: „Yemen weapons cell used Claude to develop missile software"
- CNN: „Anthropic says it blocked possible attempts to use AI to develop bioweapons"
- ZDFheute: „KI-Modell Claude: Anthropic stoppt mögliche Biowaffen-Forschung"
- Trending Topics: „Anthropic stoppte Biowaffen-nahe Forschung und Waffenentwicklung bei Claude"
+++
Dirk Ellerbrock, Jahrgang 1946, ist Diplom-Sozialwissenschaftler. Nach Studien der Wirtschafts-, Politikwissenschaften und Sozialpsychologie arbeitete er viele Jahre in der Finanzwirtschaft, Unternehmensberatung und als Management-Coach.
Mitte der 1990er wandte er sich mystischen Traditionen zu – Advaita-Vedanta, Zen-Buddhismus, Taoismus, Tantra und christliche Mystik –, vertieft durch Stephen Wolinskys „Quantenpsychologie" und die Unterweisungen Ramesh Balsekars in Bombay. Er leitete Meditationsgruppen und veröffentlichte 2010 unter dem Pseudonym Manaschu sein erstes Buch, „Das Geheimnis ewigen Glücks – Texte zur Menschwerdung". 2026 entstand sein noch unveröffentlichtes zweites Buch, „Die Schlange der Moral – Gift und Gegengift", das moralisches Urteilen als strukturelle Gewaltform durchleuchtet.
Heute schreibt er regelmäßig politische und gesellschaftliche Kommentare, u. a. für apolut und auf seinem Substack: https://substack.com/@dirkellerbrock
+++
Ihnen gefällt unser Programm? Machen wir uns gemeinsam im Rahmen einer "digitalen finanziellen Selbstverteidigung" unabhängig vom Bankensystem und unterstützen Sie uns bitte mit der:
Spenden-Kryptowährung „Nackte Mark“: https://apolut.net/unterstuetzen/#nacktemark
oder mit
Bitcoin: https://apolut.net/unterstuetzen#bitcoin
Informationen zu weiteren Unterstützungsmöglichkeiten finden Sie hier: https://apolut.net/unterstuetzen/
+++
Bitte empfehlen Sie uns weiter und teilen Sie gerne unsere Inhalte in den Sozialen Medien. Sie haben hiermit unser Einverständnis, unsere Beiträge in Ihren eigenen Kanälen auf Social-Media- und Video-Plattformen zu teilen bzw. hochzuladen und zu veröffentlichen.
+++
Abonnieren Sie jetzt den apolut-Newsletter: https://apolut.net/newsletter/
+++
Unterstützung für apolut kann auch als Kleidung getragen werden! Hier der Link zu unserem Fan-Shop: https://harlekinshop.com/pages/apolut
