Zuverlässigkeitsstandards für (autonome) Waffen: Der Mensch bleibt relevant

Kritiker autonomer Waffensysteme (AWS) argumentieren unter anderem, dass derartige Systeme zu unzuverlässig seien, um ihren Einsatz zu gestatten. Allem voran mangle es KI-gestützten und autonomen Waffen an Zuverlässigkeit bei der Zielauswahl; vor allem bestehe das Risiko, dass Nichtkombattanten sowie außer Gefecht befindliche (hors de combat)Kombattanten fälschlicherweise (und damit unmoralischerweise/unrechtmäßig) angegriffen werden. Im vorliegenden Artikel argumentiere ich, dass die so formulierte Kritik fehlerbehaftet ist, da sie sich ausschließlich auf die (Un-)Zuverlässigkeit der Systeme selbst konzentriert. Eine umfassende Bewertung autonomer Waffensysteme (und jedes anderen Waffensystems auch) muss jedoch stets nicht nur das System selbst, sondern auch dessen Einbettung in breitere institutionelle und operative Rahmenbedingungen berücksichtigen. Dies ist von entscheidender Bedeutung, da Zuverlässigkeit sich nicht mit Ja oder Nein bewerten lässt, sondern ein Kontinuum geringerer bis höherer Grade darstellt. Zudem, und das ist noch wesentlicher, kann Zuverlässigkeit nur schwerlich im luftleeren Raum bewertet werden, sondern ist vielmehr kontext- und häufig benutzerabhängig. Daher ist die Frage „Ist dieses bestimmte System zuverlässig?“ oft nicht zielführend. Stattdessen müssen wir fragen: „Ist dieses System zuverlässig für Aufgabe X, wenn es von Y benutzt wird?“ Es wird also deutlich, dass bei der Bewertung des zusätzlichen (oder verminderten) Nutzens, den der Einsatz von AWS mit sich bringt, nicht einfach die Zuverlässigkeit von Menschen und die von AWS verglichen werden kann, sondern nur die Zuverlässigkeit von Menschen beim Einsatz konventioneller („dummer“) Waffen und beim Einsatz autonomer und KI-gestützter Waffen. Richtet man den Fokus nicht nur auf die Systeme selbst, sondern auf die größeren soziotechnischen Gegebenheiten dieser Systeme, die ihrerseits in weitere Systeme eingebettet sind, dann wird deutlich, dass reine Zuverlässigkeitsbewertungen nicht aussagekräftig genug sind, um daraus eine Erlaubnis oder ein Verbot der Verwendung von AWS abzuleiten. Stattdessen müssen wir untersuchen, wie sich die Integration neuer Technik in militärische Einheiten und Operationen auf die Fähigkeiten der Soldatinnen und Soldaten zur erfolgreichen und verantwortungsvollen Auftragserfüllung sowie auf die Zuverlässigkeit insgesamt auswirkt.