(© Lukas Kyzur/Unsplash)
FACHARTIKEL
Wer hat
das Kommando?
Die Erfolge von Systemen der generativen KI sind auch an Militärs nicht vorbeigegangen. Nur logisch, dass auch sie die Vorteile nutzen und die Wirksamkeit von Waffen und Entscheidungen mithilfe von KI verbessern wollen. Doch daraus ergeben sich einige schwierige Fragen.
Besonders im Fokus stehen derzeit autonome Waffensysteme, also Systeme, die nach einer Aktivierung mithilfe von Sensoren und Software selbstständig ohne menschliche Kontrolle einen Weg zu einem Ziel suchen und dort ebenso selbstständig Operationen auslösen können, zum Beispiel um etwas zu zerstören oder auch Menschen zu töten. Solche autonomen Fähigkeiten können bei allen Waffenarten erreicht werden, von Drohnen über U-Boote bis hin zu Kampfflugzeugen und -robotern.
Es wird zwar immer wieder gefordert, dass eine Tötungsentscheidung nicht von einer Maschine, sondern nur von einem Menschen getroffen werden darf („man in the loop“), die Realität könnte jedoch schon bald anders aussehen. Militärische Aktionen laufen oft in komplexem Umfeld in einem so hohen Tempo ab, dass Menschen überfordert sein könnten, die Entscheidungen der Maschine in der verfügbaren Zeit angemessen zu überprüfen. Es gibt auch bereits Forderungen, zu dem Prinzip „man in the loop“ Ausnahmen zuzulassen, zum Beispiel wenn in Bedrohungssituationen das Leben eigener Soldat*innen gefährdet ist und die Zeit für menschliche Entscheidungen nicht reicht.
Der Aspekt „man in the loop“ erfordert auch eine permanente Kommunikationsverbindung zwischen dem Waffensystem und einer Kontrollstation, was elektromagnetische Strahlung erzeugt und vom Gegner erkannt werden kann. Mit Mitteln der elektronischen Kampfführung können angreifende autonome Waffen, wie etwa Drohnen, auf diese Weise rechtzeitig erkannt und bekämpft werden. Dabei können sie auch auf andere Ziele umgelenkt werden. Waffensysteme, die vollautonom agieren können und damit keine Kommunikation mit einer Kontrollstation benötigen, sind unempfindlich gegen Cyberangriffe und Mittel der elektronischen Kampfführung. Wer Waffen autonom einsetzt, kann damit also auch ihre Wirksamkeit deutlich erhöhen.
Bis in die obersten Kommandozentralen
Auch die Erfolge von generativer KI sollen zunehmend für militärische Zwecke genutzt werden. Im Rahmen einer Konferenz der US-Armee im Oktober 2025 teilte ein Generalmajor anwesenden Journalist*innen mit, dass er auch Chat-Systeme nutzt, um zusätzliche Erkenntnisse zu gewinnen und bessere Entscheidungen treffen zu können. KI spielt also nicht nur in Waffensystemen eine Rolle, sondern auch in obersten Kommandozentralen.1
Ein wesentliches Ziel der modernen Kriegsführung ist es, den OODA-Loop („observe, orient, decide, act“) zu verkürzen. Wer in einer kriegerischen Auseinandersetzung diesen Prozess schneller durchläuft, kann Vorteile auf dem Schlachtfeld erzielen. Alle diese Schritte, also das Beobachten, Orientieren, Entscheiden und Handeln, sollen mithilfe von KI so stark wie möglich beschleunigt werden. Manche Militärs gehen davon aus, dass Entscheidungen in künftigen Kriegen in einem Tempo getroffen werden müssen, dass Menschen dazu nicht mehr in der Lage sind. Das bedeutet aber auch, dass es für Menschen immer schwerer wird, die Abläufe zu kontrollieren. In zunehmendem Maße könnte die Kontrolle über das gesamte Geschehen von Maschinen übernommen werden.
Eskalation bis zum Flash War
Ein Bericht des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung des Deutschen Bundestages vom Oktober 2020 mit dem Titel „Autonome Waffensysteme“ behandelt detailliert die Perspektiven und möglichen Risiken von autonomen Waffensystemen (AWS)2. Dabei wird auch das Risiko von Eskalationsspiralen beschrieben: „So könnten das operative Geschehen und die Entscheidungsprozesse durch AWS derart beschleunigt werden, dass Menschen kognitiv und hinsichtlich ihres Reaktionsvermögens an ihre Grenzen kämen. So könnte in einer Krise eine Eskalationsspirale automatisiert und möglicherweise ungewollt in Gang gesetzt werden. Für ein solches Szenario wurde der Begriff ‚flash war‘ geprägt.“
Bei physischen Waffensystemen wäre eine solche Eskalationsspirale vermutlich lokal beschränkt und würde spätestens dann stoppen, wenn die beteiligten Waffen ihr Pulver verschossen haben. Doch „Pulver verschossen“ ist kein Zustand, in den Cyberwaffen kommen können. Mithilfe von KI könnten enorm wirksame Cyberwaffen realisiert werden, die in kurzer Zeit weltweit gravierende Schäden verursachen könnten – ohne je an physische Grenzen zu kommen. In sehr kurzer Zeit könnte die Anwendung einer solchen Cyberwaffe beliebig oft mit jeweils unterschiedlichen Zielen wiederholt werden. Auch zwischen verschiedenen Systemen der generativen KI, etwa aus China und den USA, könnten innerhalb von Sekunden Interaktionsprozesse mit immer schwereren gegenseitigen Cyberangriffen ablaufen, also ein „flash war im Internet“.3
Über den Autor
Prof. Dr. Karl Hans Bläsius hat an der RWTH Aachen Mathematik, Physik und Informatik studiert und 1986 bei Jörg Siekmann zu einem Thema der KI an der Universität Kaiserslautern promoviert. Nach Industrietätigkeiten hat er ab 1990 das Lehrgebiet Wissensbasierte Systeme an der Hochschule Trier in Forschung und Lehre vertreten und auch praktische Anwendungen im Rahmen von Existenzgründungen realisiert. Der Autor ist seit dem 1.1.1981 Mitglied der GI und hat bei diesem offenen Brief der GI zum Risiko eines Atomkriegs aus Versehen mitgewirkt:
(© Eric Prouzet/Unsplash)
Software kann man nicht abrüsten
Bei herkömmlichen Waffensystemen gibt es zwei wichtige Aspekte, die zur Entspannung beitragen können. Dies sind Möglichkeiten zur Rüstungskontrolle sowie eine Transparenz bezüglich der Fähigkeiten eines Gegners.
Physische Waffensysteme können nach Anzahl und Fähigkeiten charakterisiert werden und auf dieser Basis sind Vereinbarungen zur Begrenzung, Nichtverbreitung und Abrüstung solcher Waffensysteme möglich, die sich auch klar überprüfen lassen. So sind in der Vergangenheit wichtige Vereinbarungen zu Atomwaffen getroffen worden und Ende der 1980er-Jahre wurden sehr viele Atomwaffen vernichtet.
Bei softwarebasierten Waffen wie autonomen und Cyberwaffen sind solche Vereinbarungen zwar prinzipiell möglich, lassen sich aber nur schwer überprüfen. Von Software kann es beliebig viele Kopien geben und ob davon wie vereinbart auch wirklich alle vernichtet wurden, lässt sich nur schwer nachweisen. Auch eine verschlüsselte Verbreitung über das Internet wäre nicht zu verhindern.
Deep Dive
Die Themen dieses Beitrags werden genauer behandelt in dem Artikel des Autors „Künstliche Intelligenz und Atomwaffen“ in dem Open-Access-Buch „Künstliche Intelligenz und Wir“ der Herausgeber Frank Schmiedchen et al., sowie in dem Buch des Autors „Künstliche Intelligenz und Krieg“, das Anfang 2026 bei Springer erscheinen wird.
Aktuelle Informationen dazu gibt es auch auf der Seite des Autors: blaesius.net
Ein Anliegen der Nuklearmächte in den vergangenen Jahrzehnten war es, für eine gewisse Transparenz der Fähigkeiten zu sorgen. Dazu dienten gegenseitige Kontrollen, zum Beispiel auf Basis des Open-Skies-Vertrags, der inzwischen allerdings gekündigt ist. Trotzdem sind bei physischen Waffensystemen wie Panzern, Flugzeugen und Raketen die Fähigkeiten eines Gegners weitgehend bekannt.
Bei softwarebasierten Systemen sind gegenseitige Kontrollen kaum möglich. Des Weiteren sind die Fähigkeiten eines Gegners und eventuell sogar der eigenen Streitkräfte wenig transparent. Mithilfe von KI könnten gravierende Cyberwaffen entwickelt werden, wobei aber vor einem umfassenden Einsatz unklar ist, wie die Wirkung sein wird. Das heißt, es ist unklar, welche Auswirkungen potenzielle Cyberwaffen eines Gegners haben könnten und wie man sich davor schützen kann. Dies erhöht die Unsicherheit auf allen Seiten, kann leicht zu Fehlinterpretationen führen und es notwendig erscheinen lassen, massiv im Bereich KI und Cyberraum aufzurüsten, um gegebenenfalls mit einem Gegner mithalten zu können.
Das gilt auch für das nukleare Gleichgewicht. Eine Nation könnte sich mithilfe von KI eine Erstschlagsfähigkeit erwerben, also einen Gegner so stark treffen, dass dieser nicht mehr zu einer (nuklearen) Gegenreaktion fähig ist. Eine tatsächliche oder vermutete Beeinträchtigung des nuklearen Gleichgewichts würde aber das Risiko eines Atomkriegs aus Versehen erheblich vergrößern.
Aufgrund solcher Risiken warnen auch militärische Stellen vor einem KI-Wettrüsten. In einem Bericht des CIR (Cyber- und Informationsraum) vom Juli 2025 mit dem Titel „KI – Die unsichtbare Superkraft der Zukunft“ heißt es: „Die rasante Entwicklung militärischer KI-Anwendungen birgt die Gefahr eines Wettrüstens zwischen Staaten. Dies könnte das globale Machtgleichgewicht destabilisieren und die Schwelle zur Anwendung militärischer Gewalt sinken lassen. Die verantwortungsvolle, souveräne Entwicklung, Einführung und Nutzung von KI in der Bundeswehr muss deswegen nicht nur technologische Faktoren berücksichtigen, sondern auch ethische, rechtliche und sicherheitspolitische Dimensionen.“ 4
Solange der Konfrontationskurs zwischen dem Westen auf der einen Seite und Russland und China auf der anderen Seite andauert, wird ein ungebremster Rüstungswettlauf vor allem in wichtigen Technologiefeldern wie der KI und im Cyberraum erfolgen. Denn keine Nation kann riskieren, hier das Nachsehen zu haben. Dies wird die Entwicklung von autonomen Waffensystemen betreffen, aber auch Cyberwaffen und vielleicht sogar mit KI entwickelte Bio- und Chemiewaffen.
Es wird deutlich: KI kann auf allen Ebenen der Kriegsführung eine zentrale Rolle spielen. In diesem Zusammenhang wird auch von Revolution der Kriegsführung durch KI gesprochen. Die Methoden der „kognitiven Kriegsführung“ zur Manipulation von Menschen werden wirksamer und es können auch gefährliche, unkalkulierbare Wechselwirkungen zwischen KI und Atomwaffen entstehen.
Ein globales Wettrüsten, in das KI auf allen Ebenen involviert ist, kann die beschriebenen Risiken nicht reduzieren. Stattdessen wären weltweite Vereinbarungen zu Cyber- und autonomen Waffen, zur nuklearen Abrüstung und Rüstungskontrolle und zur Regulierung der KI erforderlich.5
1https://www.businessinsider.com/even-top-generals-are-looking-to-ai-chatbots-for-answers-2025-10
2 https://dip21.bundestag.de/dip21/btd/19/236/1923672.pdf, S. 15, 86
3 https://link.springer.com/book/9783662725252, Kap. 3, 7
4https://www.bundeswehr.de/de/organisation/cyber-und-informationsraum/aktuelles/kuenstliche-intelligenz-5960274
5 https://link.springer.com/chapter/10.1007/978-3-662-71567-3_27, Abschn. 27.16, 27.17
