Giacomo Persi Paoli
Die Grundprinzipien des Erzählens haben uns gelehrt, dass jede gute Geschichte auf ProtagonistInnen mit klaren Absichten, die sich einer Reihe von Hindernissen stellen müssen, aufbaut. Wenn dies die Geschichte der Group of Governmental Experts on Lethal Autonomous Weapons Systems (GGE on LAWS) ist, dann sind beide Elemente deutlich erkennbar. Seit ihrer Gründung vor sechs Jahren hat die GGE on LAWS über die im Bereich der tödlichen autonomen Waffensysteme aufkommenden Technologien diskutiert, vor allem wenn diese im Zusammenhang mit der von der Expertengruppe einberufenen UN-Kovention über bestimmte konventionelle Waffen (Convention on Certain Conventional Weapons; CCW) stehen. Zweck diese Konvention ist es, den Einsatz bestimmter Arten von Waffen zu verbieten bzw. einzuschränken, bei denen man davon ausgeht, dass sie den KombattantInnen unnötiges oder nicht zu vertretendes Leid zufügen oder ohne Unterschied auch die Zivilbevölkerung angreifen. Es sei angemerkt, dass es die Staaten seit Einberufung der Expertengruppe nicht geschafft haben, sich auf eine gemeinsame Definition von tödlichen autonomen Waffensystemen (LAWS) zu einigen. Davon abgesehen beschreibt eine Arbeitsdefinition LAWS als Systeme mit der Fähigkeit, ohne sinnvolle menschliche Kontrolle Ziele auszuwählen und anzugreifen. Während bereits der Kernpunkt „sinnvolle menschliche Kontrolle“ umstritten ist, steht nicht zur Debatte, dass durch den uneingeschränkten Einsatz von Künstlicher Intelligenz in einigen wichtigen Funktionen der Waffensysteme die Möglichkeit besteht, dass die Einhaltung der Grundprinzipien des Humanitären Völkerrechts, wie Differenzierung, Verhältnismässigkeit oder Notwendigkeit, unterlaufen wird.
Es ist schwierig, Regeln für etwas zu entwerfen, das sich ständig weiterentwickelt. Hinzu kommt ein zweites Hindernis, das in allen multilateralen Prozessen, die auf der Grundlage eines Konsenses ablaufen, fest verankert ist: der Widerstand gegen Veränderungen und die Schwierigkeit, Diskussionen über zuvor vereinbarte Formulierungen oder Konzepte neu zu eröffnen, selbst wenn der aktuelle Wissensstand dies nahelegt.
So eindeutig der Vorsatz auch sein mag, der LAWS-Expertengruppe mangelt es nicht an Hindernissen auf dem Weg. Das vielleicht wichtigste Hindernis mit weitreichenden Auswirkungen hängt damit zusammen, dass sich sowohl die Technologie selber als auch unser Verständnis dafür laufend weiterentwickelt. Es ist schwierig, Regeln für etwas aufzustellen, dessen Entwicklung stetig voranschreitet. Erschwert wird die Situation durch das zweite Hindernis, das fest in alle multilateralen Prozesse integriert ist, die auf Konsensbasis ablaufen: der Widerstand gegenüber Veränderungen und die Herausforderungen, Diskussionen über bereits vereinbarte Sprachregelungen oder Konzepte wieder aufzunehmen, selbst wenn der aktuelle Kenntnisstand dazu rät.
Das dritte Hindernis besteht darin, dass keiner dieser Prozesse im luftleeren Raum stattfindet, sondern von den gleichen geopolitischen Erschütterungen betroffen ist wie die Welt „ausserhalb der UNO“. Der November 2019 stellte mit der Verabschiedung von elf Leitprinzipien wahrscheinlich den Gipfel des Erfolgs für die GGE on LAWS dar. Gestützt auf ein zweijähriges Mandat bestand die Aussicht, der CCW-Überprüfungskonferenz im November 2021 einen konkreteren Vorschlag für ein massgebendes und wirksames Rahmenkonzept für tödliche autonome Waffensysteme vorzulegen. Nur wenige Monate später und für die gesamte Dauer dieses Mandats würde die Pandemie Verhandlungen erschweren. Das Resultat war ein wenig überzeugender Bericht und ein nicht sonderlich weit gestecktes Mandat für 2022, um mögliche Massnahmen im Zusammenhang mit dem normativen und operativen Rahmen für neu entstehende Technologien im Bereich LAWS auszuarbeiten. Just als das Schlimmste der Pandemie überstanden war, lösten sich die Erwartungen auf einen substantielle Fortschritt im Jahr 2022 mit dem russischen Einmarsch in die Ukraine auf. Dieser fand nur wenige Wochen vor der ersten Sitzung der GGE on LAWS statt und schuf einen geopolitischen Kontext, in dem ein Konsens in jedweder bedeutsamen Sache utopisch ist.
Wie geht es also weiter und warum sollten wir optimistisch bleiben? Offiziell wurde die GGE on LAWS für ein weiteres Jahr mit demselben Mandat erneuert. Das heisst, es darf erwartet werden, dass die Gespräche über tödliche autonome Waffensysteme 2023 weiter fortgesetzt werden und der gleichen Vorlage folgen wie 2022, dabei aber hoffentlich wesentliche Vorschläge vorangebracht werden.
Es gibt aber Gründe, an ein viel bedeutsameres Ergebnis zu glauben. Denn misst man den Fortschritt ausschliesslich am Inhalt der offiziell von der GGE on LAWS verabschiedeten Berichte, dann erzählen diese nur die halbe Wahrheit: Sieht man sich die in den letzten Jahren verabschiedeten Berichte an, erkennt man darin kaum einen bedeutenden Fortschritt. Doch wenn wir uns die Fülle der Diskussionen und die Qualität der eingebrachten Vorsläge im Verhältnis zu den vorangegangenen Jahren im Einzelnen ansehen, nuanciert das unsere Einschätzung.
Die derzeit vorliegenden Vorschläge unterscheiden sich in Ansatz, Zweck, Umfang und dem vorgeschlagenen Ergebnis, doch sie sind allesamt da, um zu zeigen, dass die Staaten gewillt und bereit sind, die Diskussion voranzubringen. Die wesentlichen Debatten über die Vorschläge zeigten Bereiche auf, in denen sich im Laufe der Jahre eine Konvergenz herauskristallisiert hat. Dazu gehört beispielsweise die Anerkennung, dass das Humanitäre Völkerrecht vollumfänglich gilt. Ausserdem entwickelt sich eine Übereinstimmung in Bezug auf die Charakterisierung: diese sollte sich auf das menschliche Element und seine Schnittstelle mit der Maschine konzentrieren, ein Aspekt, der für die Rechenschaftspflicht und Verantwortlichkeit wichtig ist. Doch die gleichen Debatten beleuchteten auch, dass in manchen Bereiche noch immer deutlich voneinander abweichende Ansichten bestehen und die Fortschritte der Expertengruppe beeinträchtigen. Diese betreffen insbesondere die Art der konkreten Ergebnisse (z.B. ein rechtverbindliches Instrument, nicht rechtsverbindliche Massnahmen usw.), aber auch das Fehlen einer gemeinsamen Grundlage bei der Definitionen und Charakterisierung von tödlichen autonomen Waffensystemen und die Frage nach welcher Art und in welchem Umfang menschliche Beurteilung, Kontrolle und Einbindung notwendig sind, um die Einhaltung des Humanitären Völkerrechts zu gewährleisten.
Es gibt nach wie vor deutliche und erhebliche Unterschiede, doch die Staaten haben den Willen, konkrete Fortschritte bei der Ausarbeitung eines massgebenden und wirksamen Rahmenkonzepts für autonome Waffen zu erzielen. Besonders symbolträchtig ist in diesem Zusammenhang die Gemeinsame Erklärung, die von einer breitgefächerten Gruppe aus 70 Staaten abgegeben wurde. Dazu gehören auch Staaten mit gegensätzlichen Ansichten über den gewünschten Ausgang des Prozesses bei der 77. Sitzung der UN-Generalvollversammlung. Das ist bezeichnend für die Bereitschaft, sich einzubringen. Ob dieses Engagement 2023 ausreichen wird, um die äusseren Faktoren zu überwinden, die unweigerlich Einfluss auf die Tätigkeiten der Expertengruppe haben, bleibt abzuwarten. Es besteht kein Zweifel, dass 2023 ein entscheidendes Jahr für die GGE on LAWS sein wird. Die einzelnen Bestandteile, die für einen substantiellen Fortschritt notwendig sind, wurden in Position gebracht. Sollte die Expertengruppe darauf aufbauend die an sie gestellten Erwartungen nicht erfüllen können, wird die Zukunft der Gruppe zwangsläufig in Frage gestellt.
Über den Autor
Giacomo Persi Paoli ist Leiter des Security and Technology Programme am United Nations Institute for Disarmament Research (UNIDIR). Sein Fachwissen erstreckt sich auf die Bereiche Wissenschaft und Technik mit Schwerpunkt auf die Auswirkungen neu entstehender Technologien für Sicherheit und Verteidigung. Vor seinem Eintritt in UNIDIR war Giacomo stellvertretender Direktor bei RAND Europe und diente 14 Jahre als Offizier für Kriegsführung in der italienischen Marine.
Disclaimer
Die in dieser Publikation zum Ausdruck gebrachten Meinungen sind die der Autoren. Sie geben nicht vor, die Meinungen oder Ansichten des Geneva Policy Outlook oder seiner Partnerorganisationen wiederzugeben.
