Par Giacomo Persi Paoli
Par principe, toute histoire a besoin d’un·e protagoniste, avec une intention précise et un certain nombre d’obstacles à surmonter. Si c’est l'histoire du Groupe d'experts gouvernementaux sur les systèmes d'armes létaux autonomes (GEG-SALA), alors les deux éléments sont clairement exposés. Depuis sa création il y a six ans, le GEG-SALA a examiné les technologies émergentes dans le domaine des systèmes d’armes létaux autonomes, en particulier dans le contexte de la Convention qui accueille le Groupe d’experts gouvernementaux sur les SALA, la Convention sur certaines armes classiques (CCAC). L’objectif de cette convention est d’interdire ou de restreindre l’utilisation de certains types d’armes réputées pour causer des souffrances inutiles ou injustifiables aux combattants ou toucher indistinctement les civils. Il convient de noter que, depuis le début du GEG-SALA, les États n’ont pas été en mesure de s’accorder sur une définition commune des SALA. Cela étant, une définition de travail couramment employée caractérise les SALA comme des systèmes ayant la capacité de sélectionner et d’engager des cibles sans contrôle humain significatif. Si l’essence du « contrôle humain significatif » est également contestée, il est en revanche admis que l’utilisation sans contrainte de l’intelligence artificielle (IA) dans certaines fonctions critiques des systèmes d’armes risque potentiellement de porter atteinte au respect des principes fondamentaux du droit humanitaire international, tels que la distinction, la proportionnalité ou la nécessité.
Il est difficile de concevoir des règles pour quelque chose qui évolue constamment. À cela s'ajoute un deuxième obstacle qui est inscrit dans tous les processus multilatéraux qui fonctionnent sur la base du consensus : la résistance au changement et la difficulté de rouvrir des discussions sur des termes ou des concepts déjà acceptés, même si les connaissances actuelles suggèrent de le faire.
Aussi claire qu’ait été l’intention, la route du GEG-SALA ne manque pas d’obstacles. Le premier, et peut-être le plus important car il a un impact sur tout ce qui suit, est lié à la nature évolutive de la technologie elle-même et à notre compréhension de celle-ci. Il est difficile de concevoir des règles pour quelque chose qui évolue constamment. À cela s’ajoute un deuxième obstacle, inhérent à tous les processus multilatéraux qui fonctionnent sur la base du consensus : la résistance au changement et les difficultés à relancer le débat sur un langage ou des concepts précédemment adoptés, même si la réalité de la connaissance impose de le faire.
Le troisième obstacle est que ces processus ne se déroulent pas dans le vide et subissent les mêmes chocs géopolitiques mondiaux que la sphère « non onusienne ». Le mois de novembre 2019 marque probablement l’apogée du succès du GEG-SALA, avec l'adoption de onze principes directeurs. Certaines perspectives de progrès ont également été suscitées par la mise en place d’un mandat de deux ans visant à présenter à la Conférence d’examen de la CCAC en novembre 2021 une proposition plus concrète de cadre normatif et opérationnel pour les SALA. Quelques mois seulement après, et pendant toute la durée de ce mandat de deux ans, la pandémie mondiale a gravement compromis les négociations de fond. Le résultat a été un rapport décevant et un mandat pour 2022 renouvelé, mais pas particulièrement ambitieux, visant à élaborer, par consensus, des mesures possibles et d’autres options liées au cadre normatif et opérationnel sur les technologies émergentes dans le domaine des SALA. Le pire de la pandémie étant derrière nous, l’espoir de progrès plus substantiels en 2022 s’est de nouveau évanoui suite à l’invasion russe de l’Ukraine quelques semaines seulement avant la première session du GEG-SALA. Suite à cela s’est instauré un contexte géopolitique où le moindre consensus sur quoi que ce soit relève assurément de l’utopie.
Alors, quelle est la prochaine étape et pourquoi ne devrions-nous pas nous départir de notre optimisme ? Officiellement, le GEG-SALA a été reconduit pour une année supplémentaire avec le même mandat. Autrement dit, il y a fort à parier que les discussions sur les SALA suivent en 2023 le même schéma qu’en 2022, en espérant avancer sur des propositions substantielles.
Cependant, il y a des raisons de croire en un résultat plus important. Si l’on mesure les progrès exclusivement à l’aune du contenu des rapports officiellement adoptés par le GEG-SALA, on n’obtient qu’une image partielle de la situation. Au vu des rapports adoptés ces dernières années, il peut paraître difficile pour certains de constater des progrès significatifs. Cependant, si l’on examine plus en détail la richesse des discussions et la qualité des propositions qui ont été avancées par rapport aux années précédentes, on pourrait trouver des preuves du contraire.
Les propositions de fond qui sont actuellement sur la table diffèrent en termes d’approche, d’objectif, de portée et de résultat proposé, mais elles sont toutes là pour indiquer la volonté et l’empressement des États à faire progresser le débat. Les discussions de fond sur ces propositions ont mis en lumière d’importants domaines de convergence qui se sont fait jour au fil des ans. Il y a, par exemple, la reconnaissance de la pleine application du droit humanitaire international. Un autre domaine de convergence souligne que la caractérisation devrait se concentrer sur l’élément humain et son interface avec la machine, un aspect plus pertinent pour les questions de responsabilité et de redevabilité. Toutefois, les mêmes discussions ont aussi mis en évidence de fortes divergences de vues qui subsistent et entravent la capacité du GEG à progresser vers un résultat concret : de la nature du résultat lui-même (ex. : instrument juridiquement contraignant, mesures non juridiquement contraignantes, etc.) à l’absence de terrain d’entente sur la caractérisation des SALA et sur la nature et l’étendue du jugement, du contrôle et de l’implication humaine nécessaires pour garantir le respect du droit international humanitaire, pour n’en citer que quelques-uns.
Ces différences restent patentes et significatives, mais les États ont acquis la volonté et l’appétit nécessaires pour réaliser des progrès concrets dans l’élaboration d’un cadre normatif et opérationnel pour les armes autonomes. À cet égard, la Déclaration commune, qui a été prononcée par un groupe diversifié de 70 États, y compris ceux ayant des vues opposées sur le résultat souhaité du processus, lors de la 77e session de l’Assemblée générale des Nations Unies, revêt une dimension symbolique. Elle témoigne de la volonté de s’engager et de faire des progrès. Reste à savoir si, en 2023, cet engagement sera suffisant pour surmonter les facteurs externes qui influenceront inévitablement le fonctionnement du GEG. Il ne fait aucun doute que 2023 sera une année déterminante pour le GEG-SALA. Les pièces sont en place pour réaliser d’importants progrès. En cas d’échec du GEG-SALA, l’avenir du groupe sera inévitablement remis en question.
À propos de l’auteur
Giacomo Persi Paoli est le chef du programme Sécurité et Technologie à l’Institut des Nations Unies pour la recherche sur le désarmement (UNIDIR). Son expertise couvre le domaine de la science et de la technologie, notamment les implications des technologies émergentes pour la sécurité et la défense. Avant de rejoindre l’UNIDIR, Giacomo était directeur associé de RAND Europe et a servi pendant quatorze ans comme officier de guerre dans la marine italienne.
Clause de non responsabilité
Les opinions exprimées dans cette publication sont celles des auteurs. Elles ne prétendent pas refléter les opinions ou les points de vue du Geneva Policy Outlook ou de ses organisations partenaires. Cet article est une traduction d'une version originale en anglais. Pour toute utilisation officielle de l'article, veuillez vous référer à la version anglaise.
