Das Bild zeigt eine Frau, die sympathisch lächelnd ein Schild hochhält. „Ich hab keinen Bock auf Islamisierung“ steht darauf auf Berlinerisch. Darunter ein Artikel: Ein Wahlhelfer behauptet, Stimmen der AfD fälschlicherweise den Grünen zugesprochen zu haben. Zwei Inhalte, frisch öffentlich gepostet und tausendfach geteilt im Internet und in den sozialen Netzwerken. Und dabei kaum hinterfragt.
Montag bis Samstag
Morgenpost der Chefredaktion
Die ersten News des Tages – direkt von der Chefredaktion. Montag bis Samstag um 6:30 Uhr.
Mit meiner Anmeldung zum Newsletter stimme ich der Werbevereinbarung zu.
Seit Mittwoch ist es Berlinerinnen und Berlinern nun möglich, selbst zu überprüfen, ob sie Fake News, Deepfakes oder gar gesteuerter Desinformationen aufgesessen sind. Mit dem Tool „Gretchenfrage“ geht ein KI-Werkzeug an den Start, das im Auftrag des Senats Orientierung in der polarisierten Zeit vor der anstehenden Abgeordnetenhauswahl am 20. September geben soll. Einer Zeit, in der verschiedenste Akteure bereits seit Wochen mit Falschinformationen Einfluss auf das Wahlergebnis nehmen wollen.
Inhalte von Instagram, Tiktok und X können überprüft werden
„‚Gretchenfrage‘ ist keine Lösung gegen Fake News, wohl aber eine Unterstützung“, sagt der Informatiker und KI-Forscher Tim Polzehl von der Technischen Universität Berlin, der sich für das Tool verantwortlich zeigt. „Wir geben den Nutzern Hilfestellungen in der Recherche, ohne selbst Wahlempfehlungen auszusprechen.“ Eine Pilotversion von „Gretchenfrage“ war schon während der diesjährigen Landtagswahl in Rheinland-Pfalz im Einsatz. Damals nutzten 20.000 Menschen das Angebot.
Auch interessant
Inhalte, die auf den Portalen Instagram, Tiktok oder X gepostet werden, können von nun an in einer geschlossenen Privatnachricht an den Instagram-Account „Gretchen_AI_Berlin“ geschickt werden. Ab nächster Woche soll es auch ein gleichnamiges Whatsapp-Konto geben. Die Software untersucht dann zunächst einmal auf synthetisch erzeugte oder manipulierte Inhalte.
Lesen Sie auch
Innensenatorin Iris Spranger (SPD): „Gezielte Einflussnahme“
Werden etwa das oben beschriebene Bild und der Artikel der „Gretchen“-KI zugespielt, ergibt sich schnell: Das Foto der Frau weist deutliche Hinweise auf eine KI-Generierung auf, der Artikel über den Wahlhelfer wiederum ist veraltet, wird aber als Teil aktueller Diskussionen verwendet. Unterlegt wird das Ergebnis mit Faktenchecks, belastbaren Quellen und offiziellen Verlautbarungen, die der weiteren Information und der eigenen Einordnung dienen sollen.
News zur Berlin-Wahl 2026
„Die Bürgerinnen und Bürger sollen ihre Wahlentscheidung auf Grundlage verlässlicher Informationen treffen können“, sagt Innensenatorin Iris Spranger (SPD). Desinformation und gezielte Einflussnahme würden dabei genau diese unabhängige Meinungsbildung mit manipulierten Aussagen beeinflussen wollen, so Spranger weiter.
Hinter den aggressivsten Kampagnen steckt Russland
In das Tool „Gretchenfrage“ fließen auch Erkenntnisse des Centers für Monitoring, Analyse und Strategie (Cemas) ein. Der Berliner Thinktank beobachtet soziale Netzwerke und deckt Desinformationskampagnen von ausländischen Akteuren auf. „Vor allem von Russland, weil es die aggressivsten Kampagnen betreibt“, erklärt Julia Smirnova, Forscherin bei Cemas.
Auch interessant
Erkenntnisse aus der Beobachtung russischer Staatsmedien fließen ein
Sie und ihre Kolleginnen und Kollegen folgen russischen Staatsmedien, Telegram-Kanälen und anderen Akteuren, die russische Narrative verbreiten. In manueller Arbeit sowie mit spezieller Software – etwa Programmen und Tools, mit denen sich Social-Media-Kanäle und nicht authentische Aktivitäten beobachten lassen – sammeln sie Erkenntnisse über die Kampagnen.
Russische „Matrjoschka“-Kampagne soll Wahlen im Westen beeinflussen
Dazu gehört etwa die Doppelgängerkampagne, die laut Smirnova seit dem Sommer 2022 läuft. In diesem Kontext werden Kopien von bekannten Medien-Webseiten erstellt und die Links zu diesen in den sozialen Netzwerken geteilt. Seit 2023 wird zudem die Kampagne „Matrjoschka“ registriert, bei der Videos mit Logos etablierter Medienhäuser verbreitet werden. „Die Kampagnen sind auf einen längeren Zeitraum ausgerichtet“, sagt Desinformationsexpertin Smirnova. Sie sollen durch die Verbreitung von Falschinformationen demokratische Parteien diskreditieren – oder die Integrität von Wahlen beschädigen.
Auch interessant
Letzteres sei ein typisches Narrativ vor Wahlen. Vergangene Woche dokumentierte Cemas die Falschbehauptung, in Sachsen-Anhalt finde Wahlbetrug statt. Smirnova befürchtet, dass solche Narrative auch im Berliner Wahlkampf zur Anwendung kommen könnten.
Desinformationskampagnen werden intensiver
Wie bewertet sie die aktuellen Kampagnen im Vergleich zur Bundestagswahl im vergangenen Jahr? „Die Qualität der ‚Matrjoschka‘-Kampagne ist heute deutlich anders“, so Smirnova. Statt allgemeine Falschinformationen über den Ablauf der Wahl und Parteien sind es Falschinformationen über zahlreiche konkrete Politikerinnen und Politiker. „Es wurden viel mehr Ressourcen und Zeit in die Kampagne gesteckt.“
Hintergründe zur Berlin-Wahl 2026
Die Wirkung der „Matrjoschka“-Kampagne auf die Bundestagswahl beurteilt sie jedoch eher als gering. Ohne das Problem kleinzureden, dürfe man die Desinformationskampagnen nicht überbewerten, mahnt sie.
Social-Media-Plattformen in die Pflicht nehmen
Was aber tun? Neben dem Monitoring-Tool „Gretchenfrage“ braucht es ihrer Meinung nach eine langfristige Strategie. „Maßnahmen dürfen nicht nur kurz vor der Wahl, sondern müssen auch nach der Wahl ergriffen werden“, so Smirnova. Das bedeutet: Social-Media-Unternehmen in die Pflicht nehmen, koordinierte Kampagnen von ausländischen Staaten verhindern und Accounts sperren. „Zudem muss Medienkompetenz vermittelt und die Öffentlichkeit informiert werden.“
Landeswahlleiter trifft sich mit Social-Media-Betreibern
Auch der Berliner Senat will nach dem Start des Tools am Mittwoch nicht einfach die Hände in den Schoß legen. Am kommenden Montag will sich Landeswahlleiter Stephan Bröchler mit den Betreibern großer Social-Media-Plattformen treffen, um die Werbetrommel für „Gretchenfrage“ zu rühren. „Ihnen muss bewusst werden, dass sie einen wichtigen Beitrag für Demokratie und Sicherheit leisten“, so Bröchler. Zudem würden alle Beteiligten der Wahl umfangreich zum Thema Desinformation geschult. Auch der Verfassungsschutz und die zuständige Abteilung 8 des Landeskriminalamtes bleiben wachsam.
