Jean-Marc Rickli
Wo liegt der Schwerpunkt einer Demokratie? Welche Funktionen muss eine politische Institution erfüllen, um ihre Aufgaben zu erfüllen und ihr Überleben zu sichern?
Das Gravitationszentrum einer Demokratie ist der Gesellschaftsvertrag. Der Gesellschaftsvertrag ist der Eckpfeiler der politischen Staatsphilosophie von Rousseau, Hobbes und Locke und beruht auf Vertrauen. Die Bürgerinnen und Bürger halten sich an die von der Regierung aufgestellten Regeln, die bestimmte Freiheiten einschränken und im Gegenzug den staatlichen Schutz der Sicherheit und der Bürgerrechte durch den Staat gewährleisten. Damit dies funktioniert, müssen die Bürgerinnen und Bürger ihren Regierungen und Institutionen vertrauen.
Der Zugang zu Informationen ist ein wichtiger Faktor für das Vertrauen, da es den Bürgerinnen und Bürgern ermöglicht, die Leistung der Regierungspolitik zu beurteilen und sich eine Meinung zu bilden und eine demokratische Regierung zu wählen. Verlässliche Informationen sind die wichtigste Währung in einer Demokratie. Schulen und kompetente Medien sind wichtige Garanten für vertrauenswürdige Informationen. Doch diese Wächter werden zunehmend mehr mit Fehlinformationen überschüttet.
Dramaturgie der Desinformation
Desinformation, die „vorsätzliche Erfindung und Weitergabe von falschen und/oder manipulierten Informationen mit der Absicht der Täuschung oder Irreführung“, ist kein neues Phänomen. Sie ist bereits seit Jahrhunderten, mindestens jedoch seit der Römerzeit, Teil der menschlichen Kommunikation, aber mit dem Aufkommen der Kommunikationstechnologien wurde der Informationsaustausch immer anfälliger für Desinformation.
Die Erfindung des Internets hat Informationen allgegenwärtig und weltweit gemacht. Soziale Medien ermöglichten die Demokratisierung der Meinungsfreiheit und die Entstehung von Informationsblasen und Echokammern, wodurch Erzählungen zunehmend zu Waffen wurden.
Jetzt läutet eine neue Ära der Desinformation ein, in der Zersetzung, der bewusste Versuch, eine legitime Autorität zu untergraben, zum Hauptmerkmal von Machtpolitik und globaler Einflussnahme wird.
Der Einsatz von künstlicher Intelligenz (KI) durch maschinelles Lernen, Deep Learning und jetzt durch generative künstliche Intelligenz (GenAI) läutet eine neue Ära der Desinformation ein, in der Zersetzung, der bewusste Versuch, eine legitime Autorität zu untergraben, zum Hauptmerkmal von Machtpolitik und globaler Einflussnahme wird.
Im August 2023 berichtete Wired, dass es möglich sei, Propaganda in großem Maßstab 24 Stunden am Tag und 7 Tage die Woche, für weniger als 400 US-Dollar pro Tag groß angelegte Propaganda zu betreiben. Seitdem sind diese Kosten um das Vierfache gesunken. Ein US-Bürger, John Mark Dougan, nutzte GenAI zur Generierung von Inhalten und schuf ein „Netzwerk der Täuschung“, indem er ab Mai 2024 167 russische Desinformationswebseiten generierte, die sich als unabhängige lokale US-Nachrichtenquellen ausgaben. KI-Content-Farmen wachsen exponentiell: Während im Jahr 2023 49 KI-generierte Nachrichten- und Informationswebseiten gefunden wurden, waren es im Oktober 2024 bereits 1090. Das „Pink Slime“-Phänomen, bei dem es sich um gefälschte, von parteiischen Gruppen finanzierten Webseiten handelt, die sich als neutrale lokale Nachrichtenanbieter ausgeben, übertrifft inzwischen zahlenmäßig echte lokalen Tageszeitungen. In einer im April 2024 veröffentlichten Umfrage gaben 31 % der Erwachsenen in den USA an, dass sie sich die meiste Zeit unsicher fühlten, und 52 % waren sich nicht sicher, ob die Informationen über die US-Wahlen 2024 korrekt waren. Das zunehmende Misstrauen der Bürgerinnen und Bürger gegenüber Informationen trägt dazu bei, das Vertrauen in Demokratien zu untergraben.
Die zerrüttete Demokratie
Im Jahr 2024 waren 50% der Weltbevölkerung berechtigt, eine Regierung oder ein Parlament zu wählen. Es gab große Befürchtungen, dass KI einen störenden Einfluss auf die Wahlen haben und diese manipulieren könnte. Es gab zahlreiche Beispiele für Manipulationen durch KI, wie etwa die automatischen Anrufe während der Vorwahlen, bei denen die Stimme von Präsident Biden imitiert wurde. Deep Fakes gab es überall, etwa das Deep Fake-Video des Bollywood-Schauspieler Aamir Khan der während der Wahlen in Indien angeblich eine bestimmte Partei unterstütze, oder die Deep Fake-Bilder von Donald Trump mit schwarzen Amerikanern, mit denen er sich mehr politische Unterstützung aus dieser Bevölkerungsgruppe sichern wollte. Die Auswirkungen dieser Manipulationen auf die Wahlergebnisse waren jedoch gering und führten allerdings zu dem Argument, dass der Einfluss von KI auf Wahlen überschätzt werde oder dass dadurch, wie die Washington Post betonte, die Wahlergebnisse nicht verändert worden seien.
Die heutige KI-gestützte Desinformation kann Falschinformationen in einem Ausmaß generieren, so dass sie den Informationsraum übersättigt und kontaminiert, die Grenzen zwischen wahr und falsch verwischt.
Eine solche Argumentation übersieht einen sehr wichtigen Punkt: Die Hauptwirkung von KI-gestützter Desinformation liegt weniger in der Fähigkeit, jemanden gezielt in seiner politischen Meinung schwanken zu lassen. Vielmehr geht es darum, Zweifel an der Legitimität politischer Institutionen und an den Ergebnissen demokratischer Prozesse zu säen. Die heutige KI-gestützte Desinformation kann Falschinformationen in einem Ausmaß generieren, so dass sie den Informationsraum übersättigt und kontaminiert, die Grenzen zwischen wahr und falsch verwischt und letztlich die Auffassung fördert, dass subjektive Interpretationen und Wahrnehmungen den gleichen Wert haben wie objektive Fakten. Dies kulminiert in einer globalen Wissenskrise, die durch eine Abkehr von den Werten der Aufklärung gekennzeichnet ist, die auf der rationalen, analytischen Vernunft des Menschen beruhen.
Die Verbreitung von Augmented-Reality- und Virtual-Reality-Geräten (z. B. das im Februar 2024 auf dem Markt kommende Vision Pro Headset von Apple) in Verbindung mit dem Aufkommen neuer technologischer Geräte, die die Gehirnaktivität überwachen (z. B. (Emotiv-Geräte), um den emotionalen Zustand einer Person zu erfassen, bieten dystopische Aussichten für Zukunft der Desinformation. Mit diesen Technologien könnte es möglich werden, einzelne Personen gezielt und in großem Umfang zu manipulieren. Auch wenn die Produkte noch nicht so weit ausgereift sind, bedeutet die exponentielle Entwicklung dieser Technologien dennoch, dass das menschliche Gehirn damit immer mehr zu einem Schlachtfeld gemacht werden könnte, auf dem durch mentale Kriegsführung versucht wird, die Gedanken der Menschen zu kontrollieren, um zu steuern, was sie tun.
In der Zukunft könnte der böswillige Einsatz von immersiven (Metaversum) und invasiven (und auch nicht invasiven) Neurotechnologien wie Gehirn-Computer-Schnittstellen (z. B. die von Neuralink entwickelten Elemente) in Kombination mit KI zu den Waffen in dieser neuen Form der Kriegsführung gehören, wenn diese Technologien nicht angemessen reguliert werden.
Diplomatie der Desinformation: Eine multilaterale Antwort
Internationale Institutionen befassen sich mit Desinformation, z. B. die Resolution 76/227 der Generalversammlung der Vereinten Nationen, in der die Staaten aufgefordert werden, Maßnahmen gegen Desinformation zu ergreifen, mit der Aktionsplan der UNESCO, der Verhaltenskodex der EU zur Bekämpfung von Desinformation und die OECD zur Bekämpfung von Desinformation. Auch die Staaten ergreifen Maßnahmen. Im Jahr 2021 hat Chile nationale Rechtsvorschriften zum Schutz der „geistigen Unversehrtheit“ und der neuronalen Daten in Landesverfassung eingeführt und wurde damit das erste Oberste Gericht, das 2023 in einen Fall von geistiger Privatsphäre ein Urteil fällte. Die verschiedenen Initiativen müssen jedoch multilateral koordiniert werden.
Als Geburtsstätte des World Wide Web spielt Genf seit jeher eine Schlüsselrolle in der globalen Kommunikation und der digitalen Kontrolle und Steuerung durch multilaterale Institutionen wie die Internationale Fernmeldeunion und das Internet Governance Forum sowie durch UNO-geführte Initiativen wie der ergebnisoffene Arbeitsgruppe oder die Regierungsexpertengruppe zum Cyberspace.
Genf befindet sich in einer einzigartigen Position, um zum Dreh- und Angelpunkt der globalen Gouvernanz im Kampf gegen Desinformation zu werden und ein neu entstehendes Regime der Desinformations Kontrolle zu schaffen, das sich an der Rüstungskontrolle orientiert.
Genf befindet sich in einer einzigartigen Position, um zum Dreh- und Angelpunkt der globalen Gouvernanz im Kampf gegen Desinformation zu werden und ein neu entstehendes Regime der Desinformations Kontrolle zu schaffen, das sich an der Rüstungskontrolle orientiert. Das exponentielle Wachstum von KI-gestützter Desinformation hat eine neue Klasse von Massenvernichtungswaffen geschaffen: Massen-Desinformation Waffen, deren Technologie hauptsächlich im privaten Sektor entwickelt wird. Es gilt zu verhindern, dass diese Technologien zu den Massenvernichtungswaffen des 21. Jahrhunderts werden, die zwar nicht tödlich sind, sich aber als ebenso zerstörerisch erweisen könnten wie die Massenvernichtungswaffen des 20. Jahrhunderts und bei denen Genf eine genauso wichtige Rolle eingenommen hat.
Über den Autor
Jean-Marc Rickli ist Leiter für globale und aufkommende Gefahren im Genfer Zentrum für Sicherheitspolitik.
Die in dieser Publikation zum Ausdruck gebrachten Meinungen sind die der Autoren. Sie geben nicht vor, die Meinungen oder Ansichten des Geneva Policy Outlook oder seiner Partnerorganisationen wiederzugeben.
