Digitale Desinformation

Pressefreiheit & Pressekodex

In der Demokratie kommt der Pressefreiheit eine zentrale Stellung zu. Sie gilt neben der Gewaltenteilung in Legislative (Gesetzgebung/ Parlament), Exekutive (Regierung, Polizei) und Judikative (Gerichte) als vierte Säule der Demokratie. Ihre Funktion ist es zum einen, den Bürgerinnen und Bürgern eine sachgemäße politische Willensbildung zu ermöglichen, indem sie über Vorgänge im öffentlichen Raum wahrheitsgemäß und umfassend berichten.

Dazu gehört als zweites die Kontrolle der anderen drei Säulen, das Aufdecken von Fehlverhalten und Skandalen, Einhalten von Wahlversprechen, Beobachten der Auswirkungen von politischen Handlungen etc. Insofern ist sie eine Macht im Staat, aber gerade nicht staatlich organisiert, sondern im Gegenteil: Es gibt eine breite Vielfalt von Medienangeboten, die gerade auch die Vielfalt der Bevölkerung abdecken soll.

Seriöse Pressearbeit ist daran zu erkennen, dass sie sich nach den Regeln des Pressekodex verhält, der seit 1973 ethische Standards für den Journalismus festhält. Dessen Ziffer 1 lautet: „Die Achtung vor der Wahrheit, die Wahrung der Menschenwürde und die wahrhaftige Unterrichtung der Öffentlichkeit sind oberste Gebote der Presse. Jede in der Presse tätige Person wahrt auf dieser Grundlage das Ansehen und die Glaubwürdigkeit der Medien.“1

Digitale Medien

Mit dem Aufstieg der digitalen Medien hat sich vieles verändert. Zunächst bewirken sie einen großen Zugewinn an Möglichkeiten: Jede/r kann jetzt zum Sender werden – es gibt keine Chefredaktion mehr als Flaschenhals und Kontrollinstanz. Zugleich geraten die klassischen Printmedien immer mehr unter Druck, weil die Einnahmen aus dem Werbemarkt wegbrechen und ins Digitale verschoben werden. Damit sinken die Ressourcen auch für solide Recherche.

Parallel dazu vollzog sich das Comeback des Rechtsextremismus in den letzten Jahren. Phänomene wie PEGIDA in Dresden hätte es ohne Facebook nicht gegeben. PEGIDA selbst nahm schon bei seiner Gründung starken Bezug auf den schon 10 Jahre früher gegründeten Blog „Politically Incorrect“. Das Wirken dieser digitalen Hetzplattform blieb nicht ohne Effekt.

Aufmerksamkeitsökonomie

Eine Zeitung kostet Geld. Die „Sozialen Medien“ werden scheinbar kostenfrei angeboten. „Bezahlt“ werden sie mit den Daten der Nutzer für den Werbemarkt. Das Anliegen der Plattformen ist, möglichst viel Werbung zu verkaufen. Das gelingt, wenn die Nutzer lange da bleiben. Zielvorgabe für die Programmierer und die Algorithmen ist also, die Verweildauer zu steigern. Aus den Milliarden von Interaktionen haben die Algorithmen gelernt, dass Erregung mehr Aufmerksamkeit liefert und damit mehr Interaktion, die wiederum die Verweildauer erhöht. Nüchterne, sachlich ausgewogene und auf Kompromiss und Verständigung zielende Kommentare erzielen hingegen weniger Interaktion. Folglich werden diese weniger ausgespielt und sind weniger sichtbar, während Hass und Hetze, Lügen und Provokationen vom Algorithmus bevorzugt und in ihrer Sichtbarkeit vervielfacht werden. Es ist dieser Mechanismus, der die sogenannten „sozialen“ Medien so toxisch werden lässt. Destruktive Umgangsformen werden belohnt und damit verstärkt, konstruktive Beiträge abgewertet. Das geschieht zunächst ohne böse Absicht – wird aber um des Profites willen von den Plattformbetreibern als Kollateralschaden wissend und billigend in Kauf genommen. Für Facebook hat das die frühere Produktmanagerin Frances Haugen 2021 öffentlich gemacht.2

Klickfarmen

Wo sich Geld verdienen lässt, sind Betrüger nicht fern. Wer mal den Begriff „Klickfarm“ in eine Suchmaschine eingibt, kann Bilder von Polizeirazzien in Zimmern finden, die mit Stahlrahmen vollgestellt sind, auf denen Hunderte bis Tausende Smartphones angebracht sind. Jedes von diesen wird von einem Steuerrechner mit Befehlen versorgt und kann im Internet beliebige Aufgaben ausführen. Technisch sind deren Aktionen nicht von Interaktionen realer Benutzer zu unterscheiden. Bei solchen Anbietern kann man sich dann Millionen Downloads für das eigene Musikstück oder das neue Video auf Youtube kaufen, um die Werbekostenerstattung nach oben zu treiben und den Algorithmen ein virales Interesse der Nutzerschaft vorzugaukeln, was durch die bessere Platzierung dann auch tatsächlich echte Nutzer anlockt. Diese halbkriminellen Technologien – zunächst aus rein kommerziellen Gründen ersonnen – lassen sich natürlich problemlos auch zur politischen Meinungsmanipulation nachnutzen. Die Erfahrung zeigt, dass das, was theoretisch möglich ist, auch praktisch gemacht wird.

Strategische Desinformation

Dieser durch die Aufmerksamkeitsökonomie bedingte Fehler (Bias) der Plattformen, schädliche Nachrichten tendenziell zu bevorzugen, ist aber nur das erste Level der Eskalation. Stufe zwei ist die absichtsvolle Streuung von tendenziösen bis komplett falschen Informationen, um Menschen zu beeinflussen. Das Internet und die sozialen Medien bieten dafür einen guten Nährboden – aus zwei Gründen: 1. Die Zugangshürden sind niedrig – jede/r kann Webseiten aufsetzen oder Accounts anlegen – bei ausreichend Interesse auch Tausende. Das führt zu Grund Nr. 2: Es ist im digitalen Bereich leicht, Masse zu suggerieren. Im analogen Raum muss man bei einer Demonstration wirklich echte Menschen auf die Straße bringen. Digital kann eine Armee aus Fake-Accounts („Sockenpuppen“) und Bots die Kommentarspalten und Drukos überschwemmen, sodass leicht der Eindruck entsteht, viele Menschen würden so denken. Dabei sind es in Wahrheit einige wenige Akteure, die aber mit technischer Raffinesse und krimineller Energie massiv Einfluss auf die „gefühlte“ öffentliche Meinung nehmen.

Echokammer

Vielfach beschrieben ist der Effekt der sogenannten „Echokammer“. Die Algorithmen der sozialen Medien versuchen, möglichst zu den eigenen Interessen passende Beiträge anderer Nutzer zu präsentieren. Das führt im Laufe der Zeit zu immer stärker sortierten „Bubbles“, in der die eigene Weltsicht nicht mehr von gegenläufigen Ansichten irritiert wird. Ob die Bubble aus realen Menschen oder zu 70% aus Fake-Bots besteht, ist für das eigene Gefühl unerheblich. In einer AfD-Blase entsteht leicht das Gefühl, fast alle würden so denken. Wenn dann Wahlergebnisse zeigen, dass es doch „nur“ 30% sind, erscheint eine Erzählung von Wahlfälschung schnell plausibel. Genauso beim Medienkonsum: Wenn die öffentlich-rechtlichen Medien aufgrund ihrer Wahrheits- und Qualitätsansprüche die in diesen Kreisen geteilten Fake News nicht reproduzieren, gilt das aus der Perspektive der Bubble schnell als „Zensur“ und wird als einseitig-tendenziöse Berichterstattung empfunden. Angesichts des krassen Abstandes der Bubble zur seriösen Faktenlage wird die innere Vielfalt und Bandbreite der öffentlichen Berichterstattung nicht mehr wahrgenommen.

Doppelgänger-Kampagne

Das Auswärtige Amt hat 2024 eine Analyse der „Doppelgänger–Kampagne“ veröffentlicht.3 Dabei wurde ein großes Netzwerk aus Hunderttausenden z. T. von Bots gesteuerten falschen Accounts enttarnt. Dieses hat Millionen Posts mit pro-russischen Narrativen verbreitet, um die Unterstützung für die Ukraine zu schwächen. Dazu wurden teilweise bis ins Detail nachgebaute Nachrichtenseiten bekannter Medien mit falschen Artikeln befüllt, die dann von dem Verstärkungsnetzwerk der Bots automatisiert in die sozialen Medien geschwemmt wurden – an manchen Tagen mit einer Frequenz von einem neuen Tweet pro Sekunde. Auch KI wurde zur Generierung dieser Nachrichten eingesetzt. Unterm Strich ist es für Putin viel billiger, ein paar Werbeagenturen zu bezahlen, die Heere aus digitalen Influencern losschicken, wenn sie damit die Bevölkerung zur Wahl von ihm genehmen Vasallen bringen, als mit Panzern und Drohnen anzugreifen. Dabei ist Putin bei Weitem nicht der einzige Akteur, der mit viel Geld im Hintergrund auf diese Weise versucht, im digitalen Raum Meinungen zu beeinflussen.

Verwirrung

In der Masse der Fake News, die den digitalen Raum überschwemmen, sind viele völlig widersprüchliche Aussagen. Welche Funktion haben Lügen über das Offensichtliche? Die ukrainisch-deutsche Politikerin Marina Weisband hat das bereits 2020 in einem Video mit dem Titel „Der Himmel ist grün“ sehr treffend analysiert.4 Die Lügen haben nicht den Zweck, geglaubt zu werden. Sie führen dazu, dass man nicht mehr weiß, was man glauben kann. Der Zweck ist, die gemeinsame Basis für Wahrheit zu vernichten. Wo diese fehlt, kann es keinen gesellschaftlichen Dialog geben. Von dem lebt aber eine Demokratie. Dann bleibt nur noch der Blick auf eine starke Autorität, die sagt, was wahr ist. Die durch widersprüchliche Aussagen erzeugte Verwirrung und Hilflosigkeit ist insofern Absicht, weil sie den Weg zu autoritären hierarchischen Strukturen vorbereitet.

KI-Trainingsdaten vergiften

Auf den Level der Doppelgänger-Kampagne liegt auch ein neues Phänomen: Im Internet sind zahlreiche neue Websites mit pro-russischer Propaganda aufgetaucht. Deren Texte und Beiträge haben gar nicht mehr die Funktion, von Menschen gelesen zu werden. Ihr einziger Zweck besteht darin, als Futter für die nach Trainingsdaten hungrigen KI-Systeme der „Large Language Models“ (LLM) zu dienen, die das ganze Internet abgrasen. Damit soll bewirkt werden, dass die Ausgaben künftiger LLM auf beliebige Anfragen in Putins Sinn beeinflusst werden.

Algorithmen kaufen

Mit solch aufwendigen Manipulationen hält sich Elon Musk nicht auf. Wozu mühsam die Algorithmen überlisten, wenn deren Programmierer auf der eigenen Gehaltsliste stehen und den eigenen Befehlen gehorchen müssen? Wozu über ein Netzwerk ärgern, wenn man es kaufen kann? Die Übernahme von Twitter durch Elon Musk ging einher mit einem tiefgreifenden Umbau. Der sorgt für eine massive Ungleichbehandlung verschiedener Beiträge – je nach politischer Erwünschtheit – und sorgt für die mit Abstand größte Reichweite für den Besitzer selbst. X ist keine faire Plattform mehr.

Diese Tendenz setzt sich mit Musks eigener LLM „Grok“ fort. Erklärtermaßen verfolgt Musk damit eine politische Agenda und will sein Sprachmodell als Gegenentwurf zu ChatGPT positionieren, das ihm zu „woke“ Antworten gebe. Offenbar werden deren Parameter fortwährend so verstellt, dass die Antworten weitestmöglich der Meinung von Elon Musk entsprechen.5

Demokratie kaputt

Die teilweise erschreckenden Wahlerfolge für rechtsextreme Parteien sind sicherlich nicht allein auf diese Formen der digitalen Manipulationen zurückzuführen. Dennoch ist offensichtlich, dass diese daran einen nicht unbeträchtlichen Anteil haben.

Die Bundes- oder Landeszentralen für politische Bildung oder evangelische Akademien und engagierte Kirchgemeinden sind vielfach und fleißig bemüht, Informations-, Bildungs- und Diskussionsveranstaltungen zu organisieren, um Gespräche und Austausch auch über die Grenzen der Bubbles auszulösen und die für die Demokratie wichtige politische Meinungsbildung auf sachlicher Grundlage voranzubringen. Aber schon rein zeitlich können all solche Veranstaltungen nicht gegen die mediale Dauerbeschallung mit digitaler Desinformation ankommen, die in unzähligen privaten Timelines auf Facebook, Telegram, Insta oder Tiktok auf die Menschen einprasselt. Was sind bestenfalls eine Stunde im Quartal gegen über 3 Stunden Social Media täglich?6

Was tun?

Selbstverständlich ist es gut und richtig, soziale Medien auch mit wertvollen, menschenrechtsorientierten Inhalten zu füllen und Hass und Hetze zu melden und zu blocken (was besser ist als zu interagieren). Aber angesichts des Bias in den Algorithmen genügt das nicht. Es braucht auf europäischer Ebene wirksame Regulierung der Plattformen und ihrer Algorithmen, um die gesellschaftsschädlichen Effekte zu beseitigen. Ein Social-Media-Verbot für Jugendliche löst das Problem nicht für die anderen Altersgruppen.

Es wäre aber naiv, allein auf die Regulierung zu vertrauen. Parallel dazu braucht es gemeinwohlorientierte öffentliche digitale Räume. Informationsinfrastruktur gehört zur staatlichen Daseinsvorsorge. Die Technik ist vorhanden. Es gibt mit dem Fediverse (z. B. Mastodon) und dem AT-Protokoll (Bluesky) dezentrale soziale Medien auf OpenSource-Basis ohne schädliche Algorithmen. Wenn deutlich mehr kommunale und staatliche Stellen entsprechende Server betreiben, sinkt zugleich die Abhängigkeit von amerikanischen Konzernen.

Eine Grundfrage der Zukunft wird sein: Wem schenke ich mein Vertrauen? Woher beziehe ich meine Informationen? Der Pressekodex ist eine hervorragende Grundlage für seriösen Journalismus. Seine konsequente Adaption auf den Social-Media-Bereich ist eine aktuelle Notwendigkeit. Die Demokratie kann nur überleben, wenn sie wirksame Strategien gegen die digitale Desinformation entwickelt, bevor sie daran zerbricht.

Harald Lamprecht