Editorial

KI und Autonomie in Waffen: Kriege und Konflikte außer Kontrolle?

Liebe Leserinnen und Leser, vor zehn Jahren erschien die erste Ausgabe von Ethik und Militär. Daher greifen wir das damalige Thema – „Anonymes Töten durch neue Technologien? Der Soldat zwischen Gewissen und Maschine“ – erneut auf. Neben dem erfreulichen Anlass gibt es einen weiteren Grund für diese Entscheidung: Auch wenn nicht jedes Argument in der Debatte um sogenannte autonome Waffensysteme (AWS) neu ist, so hat es doch gerade in jüngerer Zeit bedeutende Entwicklungen gegeben.

Das gilt einerseits für den technologischen Fortschritt, nicht nur bei „zivilen“ Anwendungen wie ChatGPT, sondern auch auf den leider zahlreichen Schlachtfeldern dieser Welt. In der Ukraine sollen mittlerweile (teil)autonome Drohnen produziert und eingesetzt werden. Berichte über ein israelisches KI-gestütztes Zielauswahlsystem namens „Lavender“ scheinen Befürchtungen über einen eher bedenkenlosen Umgang mit algorithmischen Empfehlungen zu untermauern. Daran wird deutlich, dass es nicht nur um selbstständig agierende Waffensysteme, sondern um die grundsätzliche „Zusammenarbeit“ zwischen Mensch und algorithmischen Anwendungen und die daraus entstehenden ethischen, rechtlichen, rüstungs- und sicherheitspolitischen Fragen geht. Auch die Bundeswehr beschäftigt sich intensiv mit den Einsatzmöglichkeiten von KI, nicht nur im Rahmen des Projekts Future Combat Air System (FCAS).

Andererseits gibt es eine neue Dynamik bei den Bemühungen um ein verbindliches völkerrechtliches Abkommen zu autonomen Waffen. Zum Auftakt dieser Ausgabe nehmen daher Catherine Connolly von Stop Killer Robots und der österreichische Abrüstungsexperte Andreas Bilgeri Bezug auf die jüngsten internationalen Konferenzen zu AWS und die erste Resolution der UN-Generalversammlung, die den Stillstand in den bisherigen Regulierungsbemühungen durchbrechen könnte.

Auch die folgenden Beiträge greifen verschiedene Aspekte und Schwerpunkte der AWS-Debatte auf. So zeigt etwa Erny Gillen aus Luxemburg, wo im vergangenen Jahr eine internationale Tagung zu AWS ausgerichtet wurde, einen Weg zur Regulierung militärischer KI nach den UNESCO-Prinzipien auf. Bernhard Koch geht der grundlegenden Frage nach, ob eine „algorithmische Tötung“ die Menschenwürde verletzt. Der polnische Philosoph Maciek Zając wiederum fordert eine Ethik, die sich stärker den Zulassungs- und Anwendungskriterien konkreter Systeme widmet.

Ein zentraler Begriff in der Auseinandersetzung ist „Meaningful Human Control“: die Idee einer Beherrschbarkeit künstlich intelligenter Systeme, die sich nicht in einer oberflächlichen Pseudokontrolle erschöpft. Wir freuen uns daher über die Beiträge von Forschenden dreier Teilprojekte des gleichnamigen interdisziplinären Netzwerks; darunter Jutta Weber und Jens Hälterlein, die unter anderem anhand eines konkreten FCAS-Anwendungsszenarios die Grenzen von Autonomie und effektiver Kontrolle in komplexen Mensch-Maschine-Gefügen untersuchen. Der den Hauptteil abschließende Beitrag von Henning Lahmann hinterfragt, ob gängige Annahmen und Strategien im Bereich der „Cognitive Warfare“ haltbar sind.

Für das Special dieser Ausgabe lag es auf der Hand, auch eine KI zu fragen, wie die Zukunft der Kriegsführung aussieht und ob der Mensch dabei noch von Bedeutung ist. Die Meinung unserer menschlichen Interviewpartner, General a. D. Ansgar Rieks und Wolfgang Koch vom Fraunhofer Institut für Kommunikation, Informationsverarbeitung und Ergonomie, war dazu eindeutig: Der menschliche Soldat wird immer eine entscheidende Rolle spielen – ob er noch im Cockpit eines Kampfjets sitzt oder nicht.

Ohne Anspruch auf Vollständigkeit wollen wir mit dieser umfangreichen Jubiläumsausgabe die vielfältigen Herausforderungen im Zusammenhang mit KI und Autonomie beleuchten. Allen, die an dieser und den vorangegangenen Ausgaben mitgewirkt haben – vom Gründungsteam von Ethik und Militär über langjährige Förderer, Autorinnen und Autoren, Herausgeber und Beratende, Übersetzerinnen und Übersetzer bis hin zum technischen Support – gilt unser aufrichtiger Dank.