Friendly Fire: Anthropic verweigerte dem US-Militär autonome Waffen – und wurde prompt zum „Sicherheitsrisiko" erklärt
Es ist ein beispielloser Vorgang: Weil das KI-Unternehmen Anthropic sich weigerte, dem US-Verteidigungsministerium uneingeschränkten Zugriff auf sein Sprachmodell Claude – unter anderem für vollautonome Waffen und Massenüberwachung – zu gewähren, stufte das Pentagon das Unternehmen Anfang März 2026 als „Lieferketten-Risiko für die nationale Sicherheit" ein. Es war das erste Mal, dass eine amerikanische Firma so eingestuft wurde – eine Kategorie, die sonst ausländischen Akteuren wie Huawei vorbehalten ist. Ende März stoppte ein Bundesgericht die Maßnahme vorläufig. Der Fall zeigt schlaglichtartig, wie hart der Konflikt zwischen kommerziellen KI-Anbietern, staatlichen Interessen und Sicherheitsfragen mittlerweile geführt wird.
Das Wichtigste in Kürze
- Auslöser: Das Pentagon verlangte Zugriff auf Claude für „jede rechtmäßige Nutzung" – ausdrücklich auch autonome Waffen und Überwachung. Anthropic lehnte ab.
- Anthropics zwei „rote Linien": keine vollautonomen Waffen, keine Massenüberwachung von US-Bürgern.
- Eskalation: Anfang März 2026 erklärte das Pentagon Anthropic zum „Lieferketten-Risiko" – erstmals für ein US-Unternehmen – und ordnete den Ausstieg binnen 180 Tagen an.
- Gerichtsentscheid: Ende März stoppte eine Bundesrichterin die Einstufung vorläufig und wertete sie als mutmaßliche Vergeltung für geschützte Meinungsäußerung.
- Die Lehre: Wer entscheidet eigentlich, wie mächtige KI eingesetzt werden darf – der Staat oder der Anbieter? Der Fall ist ein Präzedenzfall für die gesamte Branche.
Was ist passiert?
Im Kern steht ein monatelanger Vertragsstreit zwischen dem US-Verteidigungsministerium und Anthropic. Das Pentagon forderte „vollen, uneingeschränkten Zugriff" auf Anthropics Modelle und wollte Claude für „jede rechtmäßige Nutzung" einsetzen dürfen. Anthropic war zu diesem Zeitpunkt das einzige KI-Unternehmen, dessen Modell auf den als geheim eingestuften Netzwerken des Militärs lief – die Verhandlungsposition war also für beide Seiten gewichtig.
Anthropic verweigerte die pauschale Freigabe. Nach eigener Darstellung bestand das Unternehmen auf zwei Ausnahmen, die es von Beginn an vertreten habe: Seine KI dürfe weder in vollautonomen Waffensystemen noch zur Massenüberwachung der eigenen Bevölkerung eingesetzt werden. Aus Sicht des Pentagons hingegen sollte die militärische Nutzung von KI nicht durch einen privaten Anbieter beschränkt werden; die Behörde argumentierte zudem, die von Anthropic befürchteten Anwendungen seien ohnehin bereits unzulässig.
Anthropics zwei „rote Linien"
Die Begründung des Unternehmens fällt differenziert aus – und genau das macht den Fall interessant. Anthropic betont, dass nicht private Firmen, sondern der Staat über militärische Einsätze entscheide, und dass man sich nie gegen einzelne Operationen gestellt habe. In einem eng umgrenzten Bereich aber, so die Argumentation, könne KI demokratische Werte eher untergraben als schützen.
Bei vollautonomen Waffen verweist Firmenchef Dario Amodei auf die technische Zuverlässigkeit: Solche Systeme könnten für die nationale Verteidigung durchaus wichtig werden, doch aktuelle Spitzen-KI sei schlicht noch nicht verlässlich genug, um vollautonome Waffen zu steuern. Bei der Massenüberwachung argumentiert Anthropic grundsätzlicher: Eine flächendeckende Überwachung der eigenen Bürger sei mit demokratischen Werten unvereinbar und berge neuartige Risiken für die Grundrechte. Anthropic verlangte deshalb, strengere Schutzklauseln direkt in den Vertrag aufzunehmen – und beklagte, neue, als Kompromiss präsentierte Formulierungen seien mit Klauseln verknüpft gewesen, die genau diese Schutzmechanismen wieder aushebelbar gemacht hätten.
Vollautonome Waffensysteme
Damit sind Waffensysteme gemeint, die nach ihrer Aktivierung Ziele eigenständig auswählen und bekämpfen können, ohne dass ein Mensch weiter eingreift – im Fachjargon „human out of the loop". Die zentrale Sorge: Wenn die Software unzuverlässig ist, können Fehlentscheidungen unmittelbar tödliche Folgen haben.
Lieferketten-Risiko („Supply-Chain Risk")
Eine solche Einstufung verpflichtet alle Auftragnehmer und Partner des Verteidigungsministeriums, im Rahmen entsprechender Verträge auf die Produkte des betroffenen Unternehmens zu verzichten. Üblicherweise trifft das ausländische Anbieter, die als Sicherheitsbedrohung gelten – im Fall Anthropic wurde sie erstmals gegen ein US-Unternehmen verhängt.
Die Eskalation: vom Vertragsstreit zur „nationalen Bedrohung"
Nachdem Anthropic die Forderungen zurückgewiesen hatte, eskalierte der Streit binnen Tagen auf die höchste politische Ebene. Ende Februar 2026 wies Präsident Trump alle Bundesbehörden an, die Nutzung von Anthropic-Technologie sofort einzustellen. Wenige Tage später folgte die formelle Einstufung als Lieferketten-Risiko, flankiert von einem internen Pentagon-Memo, das den Rückbau der Anthropic-Software aus kritischen Systemen anordnete – darunter Bereiche wie Nuklearwaffen, Raketenabwehr und Cyberkriegsführung. Auftragnehmern wurde eine Übergangsfrist von 180 Tagen gesetzt.
Die Regierung begründete den Schritt unter anderem mit Misstrauen aus den festgefahrenen Verhandlungen: Das Militär habe befürchtet, das Unternehmen könne seine Software manipulieren oder einen „Kill Switch" einbauen. Anthropic wiederum klagte und bezeichnete das Vorgehen als „beispiellosen und rechtswidrigen" Versuch, die Firma für eine durch die Meinungsfreiheit geschützte Position zu bestrafen.
Das Gericht greift ein
Ende März 2026 gab US-Bezirksrichterin Rita Lin in San Francisco einem Eilantrag von Anthropic statt und blockierte sowohl die Lieferketten-Einstufung als auch die präsidiale Anweisung vorläufig. In ihrer rund 43-seitigen Entscheidung kam sie zu dem Schluss, dass die Maßnahmen nicht den genannten Sicherheitsinteressen zu dienen schienen, sondern darauf angelegt wirkten, Anthropic zu bestrafen – eine Konstellation, die sie als klassische, unzulässige Vergeltung gegen geschützte Meinungsäußerung einordnete.
Wichtig für die Einordnung: Das Gericht untersagte dem Pentagon ausdrücklich nicht, Claude künftig nicht mehr zu verwenden oder den Anbieter zu wechseln – das sei dessen gutes Recht. Beanstandet wurde der Weg, ein Unternehmen wegen einer Meinungsverschiedenheit pauschal als Sicherheitsrisiko zu brandmarken. Die Richterin setzte ihre Anordnung für sieben Tage aus, um der Regierung den Gang vor ein Berufungsgericht zu ermöglichen; ein Berufungsverfahren sowie ein separates Verfahren in Washington blieben zunächst offen. Der Fall ist damit juristisch noch nicht abschließend entschieden.
Warum dieser Fall weit über Anthropic hinausreicht
Unabhängig davon, wie man die Positionen der beiden Seiten bewertet, berührt der Streit eine Grundsatzfrage des KI-Zeitalters: Wer bestimmt, wofür mächtige KI-Systeme eingesetzt werden dürfen – der Staat oder der Anbieter? Genau hier verbinden sich die Themen, die uns auf alarm.de besonders beschäftigen: autonome Waffen, Massenüberwachung und die Frage, wie viel Kontrolle über sensible Technik in welche Hände gehört.
Für Beobachter ist der Vorgang ein Präzedenzfall. Wird eine „Sicherheitsrisiko"-Einstufung nicht mehr nur bei echten technischen Mängeln, sondern auch bei politischen Meinungsverschiedenheiten möglich, verändert das die Spielregeln für jeden Technologieanbieter mit Staatsverträgen. Gleichzeitig zeigt der Fall, wie eng die Debatten über Sicherheit, Grundrechte und technische Zuverlässigkeit inzwischen miteinander verwoben sind. Wer sich für die größeren Linien rund um Überwachung und digitale Sicherheit interessiert, findet weitere Analysen in unserem Sicherheits-Bereich.
Häufige Fragen (FAQ)
Warum hat Anthropic dem US-Militär die Nutzung verweigert?
Was bedeutet die Einstufung als „Lieferketten-Risiko"?
Sind autonome Waffen das Hauptproblem?
Wie hat das Gericht entschieden?
Was bedeutet der Fall für die KI-Branche?
In unserem Sicherheits-Bereich bündeln wir Analysen und Hintergründe zu digitaler und physischer Sicherheit – von Überwachungstechnik über KI-Risiken bis zu konkreten Schutzmaßnahmen für den Alltag. Wir erklären verständlich, welche Bedrohungen tatsächlich relevant sind und welche überschätzt werden. So kannst du fundiert entscheiden, wie du dich, deine Daten und deine Geräte wirksam absicherst.
Im Blog greifen wir aktuelle Entwicklungen rund um Sicherheit, Datenschutz und neue Technologien auf und ordnen sie ein. Statt reiner Schlagzeilen findest du hier den Kontext: Was steckt hinter einer Meldung, wen betrifft sie und was solltest du daraus mitnehmen? Regelmäßige Beiträge halten dich auf dem Laufenden, ohne dass du selbst stundenlang recherchieren musst.
Quellen u. a.: CBS News, TechCrunch, Congressional Research Service und The Hill. Angaben ohne Gewähr; Informationsstand: Juni 2026. Das Verfahren war zu diesem Zeitpunkt juristisch noch nicht abschließend entschieden.
Dieser Beitrag dient der allgemeinen Information und Einordnung und gibt die Positionen der beteiligten Seiten wieder; er stellt keine Rechtsberatung dar.