Künstliche Intelligenz ist keine rein zivile Technologie mehr: Längst nutzt auch das Militär die Vorteile autonomer, lernfähiger Systeme. KI-Drohnen überwachen selbstständig den Luftraum und suchen vordefinierte Ziele. Raketenabwehrsysteme reagieren dank KI-Steuerung und autonomer Funktionen schneller als es ein Mensch könnte. Innerhalb von Sekundenbruchteilen werten solche KI-Waffensysteme die Informationen von Sensoren aus und gleichen sie mit ihren Zielvorgaben ab. Und auch die Zielsysteme von Panzern, Raketen und anderen Waffen arbeiten KI-gestützt.
„Autonome Waffensysteme sind längst keine Zukunftsvision mehr. Das Wettrennen um immer autonomere Waffensysteme hat bereits begonnen“, konstatieren der UN-Generalsekretär António Guterres und die Präsidentin des Internationalen Roten Kreuzes, Mirjana Spoljaric, in einer gemeinsamen Stellungnahme. „Wir stehen gefährlich nahe daran, eine moralische rote Linie zu überschreiten: die autonome Zielerfassung von Menschen durch Maschinen.“
Wo werden autonome Waffen schon eingesetzt?
Schon jetzt sind autonome und teilautonome Waffen in vielen Kriegsgebieten und bewaffneten Konflikten im Einsatz. So überwacht beispielsweise das israelische Abwehrsystem „Iron Dome“ den Himmel selbstständig nach feindlichen Raketen und schießt sie vollautonom ab – ein Mensch könnte auf die heranrasende Gefahr nicht schnell genug reagieren. Auch Panzer und Kriegsschiffe mehrerer Staaten verfügen über solche autonomen Abwehrsysteme gegen feindliche Angriffe aus der Luft.
Als Angriffswaffe setzte die israelische Armee bereits im Jahr 2020 autonome Drohnenschwärme ein, um Hamas-Kämpfer im Gazastreifen aufzuspüren und gezielt anzugreifen. Im Ukrainekrieg nutzen beide Kriegsparteien KI-gesteuerte Drohnen, die ihr vordefiniertes Ziel selbstständig ansteuern können und dann entweder Sprengsätze freisetzen oder als Kamikazedrohnen selbst zu Bomben werden. Anders als herkömmliche Drohnen, bei denen der Feuerbefehl durch einen Menschen ausgelöst wird, führen diese KI-Drohnen ihren Auftrag auch dann aus, wenn die Funkverbindung abbricht.
„Wir sehen, dass die Aufrüstung in jedem Schauplatz des Krieges stattfindet – in der Luft, im Wasser, unter Wasser und zu Land“, sagte KI-Experte Toby Walsh von der University of New South Wales bereits im Jahr 2018.
Was ist das Gefährliche an autonomen Waffensystemen?
Bisher wird der Feuerbefehl bei den meisten Waffensystemen noch von einem Menschen erteilt. Er kann entscheiden, ob das Waffensystem tatsächlich das militärische Ziel anvisiert hat oder doch irrtümlich nur Zivilisten. Damit hat der Mensch auch noch die Möglichkeit, unnötiges Töten oder eine Eskalation eines Konflikts zu verhindern. Bei vielen schon jetzt eingesetzten autonomen Waffen ist dies nicht mehr der Fall: Der Mensch kann zwar eingreifen, hat aber nur eine überwachende Funktion – er ist nur „on the Loop“, statt „in the Loop“. Tut er nichts, führt das KI-Waffensystem seinen Auftrag autonom aus.
Die höchste Ausbaustufe sind vollautonome Waffen: Sie durchlaufen die „Kill-Chain“ vom Aufspüren des Ziels bis zu dessen Vernichtung ohne menschliche Kontrolle - der Mensch ist „out of the Loop“. Ist der Auftrag an die KI-gestützten Systeme einmal erteilt, kann er nicht mehr eingreifen und den Angriff auch nicht mehr abbrechen. Genau hier liegt nach Ansicht vieler Experten die Gefahr: Weil KI nicht unfehlbar ist und auch keine moralischen Skrupel kennt, könnten durch solche vollautonomen Waffen noch mehr Unschuldige getötet werden als bei Kriegen ohnehin schon.
Eine weitere Gefahr sehen Experten darin, dass auch nichtstaatliche Gruppierungen oder Kriminelle sich autonome Waffen beschaffen oder sie selbst herstellen könnten. „Diese Waffen sind besonders anfällig für ihre Verbreitung, weil Sensoren, Software und andere kommerziell verfügbare Komponenten immer billiger werden und der Zugang dazu immer leichter wird“, erklärt das Internationale Rote Kreuz.
Eskalation durch KI-Halluzinationen oder Hacking
Wenn der Mensch die Kontrolle über autonome Waffensysteme abgibt, besteht zudem das Risiko einer dramatischen und rasend schnellen Eskalation. Denn auch die KI-Systeme hinter den Waffensystemen sind nicht unfehlbar und können sich irren oder halluzinieren. Hinzu kommt, dass KI-Agenten schon bei normalen zivilen Aufgaben oft eine „blinde Zielstrebigkeit“ zeigen, durch die sie Regeln und Gesetze brechen, hacken und Menschen belügen.
Gleichzeitig sind KI-gestützte und stark vernetzte Waffen anfällig für Cyberangriffe. „Stellen Sie sich Schwärme autonomer Panzer und Kampfflieger an einer Grenze vor – und plötzlich feuert einer irrtümlich oder weil er gehackt wurde. Das würde eine Schlacht auslösen, die kein Mensch nachvollziehen oder entwirren könnte“, erklärt der britische KI-Forscher Noel Sharkey.
Der Mensch hätte kaum eine Chance, solche „Blitzschlachten“ zu kontrollieren oder rechtzeitig zu verhindern. Ob die künstlichen Intelligenzen hinter den autonomen Waffensystemen ihren Fehler erkennen und korrigieren, ist fraglich. „Im Gegensatz zu Menschen können autonome Waffen die Konsequenzen ihrer Handlungen nicht verstehen. Sie haben daher auch nicht die Fähigkeit, vom Abgrund des Krieges zurückzutreten“, schreibt der ehemalige US-Army-Ranger und KI-Waffenexperte Paul Scharre in seinem Buch „Army of None“.
Wer trägt die Verantwortung?
Theoretisch unterliegen auch autonome Waffen dem Völkerrecht. Das bedeutet, dass auch KI-Drohnen, Raketen oder andere Waffen nur auf militärische Ziele gerichtet sein und keine übermäßigen zivilen Kollateralschäden verursachen dürfen. Allerdings demonstrieren die russischen Angriffe auf zivile Infrastruktur im Ukrainekrieg oder die Angriffe Israels auf den Gazastreifen, dass diese humanitären Regeln schon jetzt vielfach gebrochen werden.
Allerdings: Solange Menschen diese Entscheidungen fällen, müssen sie sich dafür verantworten. Wenn jedoch KI-gestützte Waffen künftig ohne „Human in the Loop“ agieren, stellt sich die Frage, wer dann verantwortlich ist. Wer kann zur Rechenschaft gezogen werden, wenn KI-Drohnen oder KI-gesteuerte Raketensysteme irrtümlich zivile Ziele angreifen? „Im Völkerrecht ist festgelegt, dass alles getan werden muss, um einen solchen Angriff abzubrechen oder auszusetzen – allerdings ist das bei einem Einsatz autonomer Waffen vielleicht nicht möglich“, so das Rote Kreuz.
Was kann getan werden?
Das Rote Kreuz, die Vereinten Nationalen und viele nichtstaatliche Organisationen drängen deshalb darauf, klare Regeln und Vorschriften für die Entwicklung und den Einsatz autonomer Waffensysteme zu beschließen. „Wer jetzt nicht schnell und entschlossen handelt, nimmt den Verlust von Menschenleben in Kauf“, warnen Guterres und Spoljaric. Werde jetzt nichts getan, bestehe die Gefahr, dass das Völkerrecht durch solche Systeme untergraben werde. „Es gibt dann keinen Raum für menschliches Urteilsvermögen und moralische Zurückhaltung mehr.“
Schon 2018 forderten 26 Länder bei der Konferenz zur UN-Waffenkonvention (CCW) ein komplettes Verbot autonomer Waffen, 32 weitere Staaten sprachen sich für internationale Regelungen solcher Waffen aus, ohne sich festzulegen, wie diese aussehen könnten. Allerdings gab es schon damals rund ein Dutzend Staaten, die sich weigerten, autonome Waffen zu regulieren. Dazu gehörten – wohl nicht ganz zufällig – einige der größten Rüstungs- und Industriemächte wie die USA, Russland, Israel und Großbritannien. Auch Deutschland wollte sich nicht festlegen. Weil UN-Beschlüsse nur im Konsens gefasst werden können, scheiterte die Regulierung - auch bei den Folgekonferenzen.
Die aktuelle UN-Konferenz und die Aussichten
Jetzt liegt das Thema wieder auf dem Verhandlungstisch: Vom 16. bis 20. November 2026 treffen sich Delegierte aus aller Welt in Genf zur siebten Review-Konferenz der UN Waffenkonvention (CCW). Und wieder stehen autonome Waffen ganz oben auf der Tagesordnung. Angesichts der rasanten Fortschritte der KI sei es dringender denn je, rechtsverbindliche Kontrollinstrumente für Verbote und Beschränkungen autonomer Waffensysteme festzulegen, betonte der UN-Generalsekretär Guterres schon im Vorfeld.
„Vor drei Jahren haben wir die Staaten aufgefordert, konkrete Verbote und Beschränkungen für autonome Waffensysteme festzulegen. Heute bekräftigen wir diesen Appell mit noch größerem Nachdruck. Die grundlegenden Bedenken bestehen unverändert fort – doch die Risiken haben sich erheblich verschärft“, so Guterres und Spoljaric. Weitgehend unverändert oder sogar schlechter geworden ist jedoch auch die Chance auf eine Einigung.
Quelle: United Nations, International Committee of the Red Cross





