KI-Schwärme gegen Demokratie: Wie KI-Agenten autonom Desinformation koordinieren

KI-Agenten können sich ohne menschliche Steuerung zu Schwärmen koordinieren und Desinformationskampagnen fahren. Das zeigen zwei aktuelle Studien. Ein Science-Paper mit 22 Autoren von Universitäten wie Oxford, Yale und Harvard warnt vor künstlichem Konsens im großen Stil. Forscher der University of Southern California haben das im Labor nachgewiesen. Ein Policy Brief der Deutschen Gesellschaft für Auswärtige Politik zeigt: Deutschland ist darauf nicht vorbereitet.

Was die Studien zeigen

Das im Januar 2026 im Fachjournal Science veröffentlichte Paper beschreibt eine neue Generation von Desinformationswerkzeugen. KI-Schwärme sind Gruppen von KI-Agenten, die eigenständig Identitäten aufbauen und sich auf gemeinsame Ziele koordinieren. Sie passen sich in Echtzeit an ihr Publikum an und agieren plattformübergreifend. Die Autoren nennen das Phänomen „Synthetic Consensus“. Damit sind nicht einzelne Falschmeldungen gemeint, sondern die Illusion, dass eine breite Mehrheit eine bestimmte Meinung teilt.

Daniel Thilo Schroeder ist Erstautor der Studie und Forscher am norwegischen Forschungsinstitut SINTEF: „The danger isn’t only false content – it’s synthetic consensus: the illusion that everyone agrees, engineered at scale.„

Die USC-Studie liefert die empirische Bestätigung. Forscher des Information Sciences Institute bauten eine simulierte Social-Media-Umgebung nach dem Vorbild von X auf. 50 KI-Agenten agierten darin: zehn als Einflussoperatoren, 40 als normale Nutzer. Die Operatoren bekamen die Aufgabe, einen fiktiven Kandidaten zu bewerben sowie einen Kampagnen-Hashtag zu verbreiten. Die Forscher testeten dabei drei Bedingungen: Agenten, die nur das Kampagnenziel kannten, Agenten, die zusätzlich wussten wer ihre Teamkollegen waren und Agenten, die regelmäßige Strategiemeetings abhielten.

Das Ergebnis war eindeutig. Die Agenten verstärkten gegenseitig ihre Posts, konvergierten auf dieselben Narrative und recycelten erfolgreiche Inhalte. Luca Luceri ist leitender Wissenschaftler am USC Information Sciences Institute: „Even simple AI agents can autonomously coordinate, amplify each other and push shared narratives online without human control.„

Anzeige

Warum das gefährlicher ist als klassische Bots

Klassische Bot-Netzwerke folgen festen Skripten. Sie retweeten vorgegebene Accounts, posten vorgeschriebene Nachrichten und verwenden immer dieselben Hashtags. Die Inhalte wiederholen sich, die Muster sind erkennbar. Plattformen und Forscher können solche Netzwerke identifizieren.

KI-Schwärme funktionieren anders. Ein feindlicher Akteur gibt ein Ziel vor und weist einem Netzwerk von KI-Agenten Teamrollen zu. Ab diesem Punkt übernehmen die Agenten. Sie schreiben eigene Posts, lernen, welche Inhalte funktionieren, kopieren erfolgreiche Strategien ihrer Teamkollegen und verstärken sich gegenseitig. Weil jeder einzelne Post leicht anders formuliert ist und die Koordination unsichtbar bleibt, wirken die Diskussionen authentisch.

Das ist kein theoretisches Szenario. Der DGAP Policy Brief beschreibt das pro-russische „Pravda-Netzwerk“, das bis zu 23.000 Artikel pro Tag veröffentlicht. Diese Artikel richten sich nicht an menschliche Leser, sondern sollen die Trainingsdaten von KI-Modellen vergiften. Die DGAP-Autorin Katja Muñoz nennt das „LLM Grooming“: Wenn Sprachmodelle diese systematisch verzerrten Daten aufnehmen, reproduzieren sie die eingebetteten Narrative in ihren Antworten.