Par Jean-Marc Rickli
Quel est le centre de gravité d’une démocratie ? De quelles fonctions une institution politique doit-elle se doter pour exercer ses missions et assurer sa survie ?
Le contrat social est le centre de gravité de la démocratie. Pierre angulaire de la philosophie politique de Rousseau, de Hobbes et de Locke sur l’État, le contrat social s’appuie sur la confiance. Les citoyens obéissent à des règles définies par le gouvernement, qui restreignent certaines libertés en échange de la protection par l’État de la sécurité et des droits. Pour cela, les citoyens doivent avoir confiance en leur gouvernement et en leurs institutions.
L’accès à l’information est un moteur essentiel de la confiance, permettant aux citoyens de juger de l’efficacité des politiques d'un gouvernement et de former une opinion afin d’élire un gouvernement démocratique. Les informations vérifiées constituent une devise critique dans les démocraties. Les établissements scolaires et les médias professionnels jouent également un rôle crucial pour garantir une information fiable. Cependant, ces gardiens sont de plus en plus submergés par la désinformation.
Dramaturgie de la désinformation
La désinformation, définie comme « la création et la diffusion délibérées d’informations fausses et/ou manipulées avec l’intention de tromper et/ou d’induire en erreur », n’est pas un phénomène nouveau. Elle est présente dans la communication humaine depuis des siècles, au moins depuis l'époque romaine ; cependant, en raison du développement des technologies de la communication, l’information est devenue de plus en plus vulnérable à la désinformation.
L’invention d’internet a rendu l’information omniprésente et accessible de n’importe où dans le monde. Les réseaux sociaux ont permis la démocratisation de la liberté d’expression ainsi que l’émergence de bulles d’informations et de chambres d’écho, ce qui a donné lieu à une arsenalisation croissante des récits.
Désormais l’intelligence artificielle générative (IAg) annonce une nouvelle ère de la désinformation où la subversion, la tentative délibérée de discréditer une autorité légitime, devient une caractéristique centrale des politiques de pouvoir et de l’influence mondiale.
L'utilisation de l’intelligence artificielle (IA) via l’apprentissage automatique, l’apprentissage profond et désormais l’intelligence artificielle générative (IAg) annonce une nouvelle ère de la désinformation où la subversion, la tentative délibérée de discréditer une autorité légitime, devient une caractéristique centrale des politiques de pouvoir et de l’influence mondiale.
En août 2023, Wired a indiqué dans un article qu’il était possible de générer de la propagande à grande échelle 24 heures sur 24 et 7 jours sur 7 pour moins de 400 $. Depuis, le coût a été divisé par près de quatre. Un citoyen américain, John Mark Dougan, a utilisé l'IAg pour produire du contenu et créer un « réseau de tromperie » en mettant sur pied 167 sites internet de désinformation russes se faisant passer pour des sources d’informations locales indépendantes des États-Unis en mai 2024. Les fermes de contenu issues de l’IA se développent à une vitesse exponentielle : le nombre de sites internet d’actualités et d'informations générés par l’IA identifiés sont ainsi passés de 49 en 2023 à 1090 en octobre 2024. Les « pink slimes », nom d’un phénomène qui désigne de faux sites internet financés par des groupes partisans et se présentant comme des organes d’information locaux neutres, dépassent désormais en nombre les vrais journaux quotidiens locaux. Dans une enquête publiée en avril 2024, 31 % des adultes aux États-Unis indiquent ressentir de l’incertitude la plupart du temps, et 52 % ont des doutes sur l’exactitude des informations sur l’élection de 2024. Les citoyens ressentent une défiance croissante envers l’information, ce qui contribue à l’érosion de la confiance dans les démocraties.
La démocratie perturbée
En 2024, 50 % de la population mondiale avait le droit d’élire son gouvernement ou son parlement. On craignait fortement que l’IA puisse avoir une action perturbatrice en permettant la manipulation des élections. Les exemples de manipulations via l’IA ont été légion : on pense notamment aux appels automatisés imitant la voix du président Biden au cours des primaires démocrates. Les deepfakes étaient omniprésents, comme en attestent la vidéo deepfake de l'acteur de Bollywood Aamir Khan soutenant un parti politique spécifique pendant les élections indiennes ou les images deepfake représentant Donald Trump avec des Américains noirs pour consolider leur soutien politique. Toutefois, l’effet de ces manipulations sur les résultats des élections a été marginal ; certains ont donc avancé que l'impact de l'IA sur les élections était exagéré ou, comme l'a souligné le Washington Post, que celle-ci n’avait pas influencé le résultat de l’élection.
La désinformation via l’IA actuelle peut générer de la désinformation à grande échelle, saturant et polluant l’espace de l’information, floutant la frontière entre le vrai et le faux.
Un tel argument néglige un point essentiel : le principal impact de la désinformation via l’IA ne concerne pas tant la possibilité d’influencer l’opinion politique d’une personne spécifiquement. Celle-ci vise plutôt à instiller le doute quant à la légitimité des institutions politiques et des résultats des processus démocratiques. La désinformation via l’IA actuelle peut générer de la désinformation à grande échelle, saturant et polluant l’espace de l’information, floutant la frontière entre le vrai et le faux, et en fin de compte, renforçant les points de vue selon lesquels les interprétations et perceptions subjectives ont la même valeur que les faits objectifs. Ce phénomène culmine dans une crise épistémique mondiale caractérisée par l’abandon des valeurs de l'époque des Lumières, fondées sur la raison humaine analytique et rationnelle.
La prolifération des outils de réalité augmentée et virtuelle (comme le casque Vision Pro sorti en février 2024), associée à l'émergence des appareils de neurotech émergents qui surveillent l’activité du cerveau (à l'image des dispositifs Emotiv) pour lire l’état émotionnel d’une personne, dévoile des perspectives dystopiques sur l’avenir de la désinformation. Ces technologies pourraient potentiellement permettre des manipulations individuelles ciblées à grande échelle. Si ce niveau de maturité n’a pas encore été atteint, la progression exponentielle de ces technologies signifie que le cerveau humain deviendra de plus en plus un champ de bataille où se dérouleront des guerres cognitives cherchant à contrôler les pensées des gens afin de contrôler leurs agissements.
À l’avenir, les utilisations malveillantes des neurotechnologies immersives (métaverses) et invasives (puis, plus tard, non-invasives) telles que les interfaces cerveau-ordinateur (par exemple les appareils ms
is au point par Neuralink) associées à l’IA pourraient devenir certaines des armes de ce nouveau type de guerre si ces technologies ne font sont pas l'objet d'une réglementation adaptée.
La diplomatie de la désinformation : une réponse multilatérale
Les institutions internationales luttent contre la désinformation : on peut notamment citer la résolution de l'AGNU 76/227 qui invite les États à combattre la désinformation via la mise en place de mesures adéquates, le plan d'action de l'UNESCO, le code de bonnes pratiques contre la désinformation de l’UE ou les efforts de l'OCDE pour lutter contre la désinformation. Les États prennent également des mesures. En 2021, le Chili a mis en place une nouvelle législation nationale pour protéger « l'intégrité mentale » et les neurodonnées dans sa constitution, devenant la première cour suprême à prononcer une décision sur un cas relatif à la neuro-confidentialité en 2023. Néanmoins, ces différentes initiatives nécessitent une coordination multilatérale.
Berceau du World Wide WebGenève a joué un rôle essentiel dans la communication et la gouvernance numérique mondiales ar l’intermédiaire d’institutions multilatérales telles que l’Union internationale des télécommunications ou le Forum sur la gouvernance de l’Internet ainsi que d’initiatives menées par les Nations Unies telles que le groupe de travail à composition non limitée ou le Groupe d'experts gouvernementaux sur le cyberespace.
Genève dispose d'une position unique pour devenir le pôle mondial de gouvernance concernant la lutte contre la désinformation et la création d'un régime émergent sur le contrôle de la subversion imitant ceux sur le contrôle des armes.
Genève dispose d'une position unique pour devenir le pôle mondial de gouvernance concernant la lutte contre la désinformation et la création d'un régime émergent sur le contrôle de la subversion imitant ceux sur le contrôle des armes. La croissance exponentielle de la désinformation via l’IA a créé une nouvelle catégorie d’ADM : les armes de désinformation massive, dont la technologie est principalement mise au point par le secteur privé. L'impératif ici est d’empêcher que ces technologies ne deviennent les nouvelles ADM du XXIe siècle qui, bien que non létales, pourraient s’avérer aussi destructrices que les armes de destruction massive du XXe siècle, et pour lesquelles Genève a un rôle important à jouer.
À propos de l’auteur
Jean-Marc Rickli est responsable des risques mondiaux et émergents au Centre de politique de sécurité (GCSP) de Genève.
Les opinions exprimées dans cette publication sont celles des auteurs. Elles ne prétendent pas refléter les opinions ou les points de vue du Geneva Policy Outlook ou de ses organisations partenaires.
