Mutter und Tochter ziehen in einem großen Flüchtlingstreck gemeinsam durch Mexiko, Richtung USA. An der Grenze wartet die Bürgerwehr, sie will „solche“ Leute auf gar keinen Fall im Land haben und ist bereit, sie aufzuhalten. Die Reporter, die das Duo begleiten, teilen sich auf. Einer geht mit den Einwanderinnen, der andere mit den bewaffneten US-Amerikanern.
Doch irgendwas passt nicht. Die Männer von der Bürgerwehr hätten sich nicht fotografieren lassen wollen, sagt der Journalist seinem Co-Autoren. Aber der glaubt ihm nicht. Denn die Bürgerwehr ist sonst nicht kamerascheu. Also meldet sich Reporter Juan Moreno beim Spiegel und meldet seine Zweifel an. Doch sein Kollege Claas Relotius kann sich rausreden – noch. Kurz darauf, im Dezember 2018, bricht das Kartenhaus dann zusammen.
Am 19. Dezember veröffentlicht das Magazin online einen Artikel mit dem Titel: SPIEGEL legt Betrugsfall im eigenen Haus offen. Mittlerweile hat der Spiegel alle Texte von Relotius eingehend geprüft, den Fall intern aufgearbeitet und vor allem Schlüsse für das eigene Handeln gezogen. Letztlich wurde die Redaktion Opfer eines geschickten Betrugs. Solche Fälle sind in den klassischen Medien die absolute Ausnahme. Der Spiegel hat, wie die meisten großen Medienhäuser, Mitarbeitende, die sämtliche Texte so gut wie möglich auf ihren Wahrheitsgehalt prüfen.
An der Hamburger Ericusspitze gibt es eine ganze Abteilung dafür, die sogenannte Dokumentation. Mehr als 50 Faktencheck-Profis prüfen alle Namen, Zahlen, Zusammenhänge. Gab es den Flüchtlingstreck an
diesem Tag? Gibt es die Bürgerwehr in Arizona? Enthält der Beitrag Widersprüche? Der Relotius-Skandal hat sich in den Köpfen eingebrannt, wurde verfilmt, hat Aufmerksamkeit und Empörung erregt. Doch bei allen herben Glaubwürdigkeitsverlusten: Claas Relotius hat am Ende „schön gemachte Märchen erzählt“,
wie der Spiegel es ausdrückt, und damit zumindest keine Menschen aufgehetzt.
Deutlich schlimmer und in den sozialen Medien allgegenwärtig sind Fake News. Ohne dass wir es merken, prasseln sie täglich auf uns ein. Ein Video, das zeigt, wie angeblich Tausende in New York gegen den US-Präsidenten Donald Trump protestieren? Fake. Alle deutschen Supermärkte müssen per Gesetz ab August eine Halal-Abteilung einrichten? Fake. Bilder von einem Polizeieinsatz in Leipzig, darüber der Titel: Schock in Leipzig: Achtjährige auf offener Straße vergewaltigt – Täter filmen die Tat.
Auch Fake. Die Beispiele zeigen: Wer solche Nachrichten verbreitet, bietet einen Nährboden für Hass und Hetze. Lieblingsthemen der Fälscher und Urheberinnen sind oft Migration und Religion, sie schießen aber auch gegen Menschen aus Wirtschaft und Politik. Manchmal sind es auch einfach süße Videos mit frei erfundenen „Fakten“ über Tiere, die wohl alle ohne Expertise erst einmal glauben.
Niemand ist gefeit
„Wir müssen uns bewusst machen, dass wir alle anfällig für Falschmeldungen sind. Wir überschätzen regelmäßig unser Wissen und Können“, sagt Pascal Siggelkow, Faktenfinder bei der ARD. Sein Job ist es, zusammen mit seiner Kollegin und ab und zu auch freien Journalisten, regelmäßig Fakten aus der Nachrichtenwelt zu prüfen. Er weiß genau, wie er Falschmeldungen entlarven kann. Aber auch er ist in seiner Freizeit nicht unfehlbar.
„Ich falle auch auf Fakes herein, zum Beispiel auf Meldungen aus der Fußball- oder Tierwelt und finde später heraus: Das stimmte gar nicht“, sagt Siggelkow. Wer eine Social-Media-App öffnet, muss wissen,
dass ein gewisser Prozentsatz der Nachrichten, Videos und Bilder nicht die Realität abbildet. Deswegen rät der Faktenfinder eindringlich: „Nichts einfach aus der Emotion heraus teilen. Fake News leben davon, dass viele Menschen sie sehen. Wer sie nicht teilt, hat schon viel getan.“
Siggelkow versucht, gemeinsam mit anderen Faktencheck-Profis gegen den Schwindel im Netz anzukommen. Die Arbeit gleicht einem Kampf gegen Windmühlen. „Wir können nie alles checken“, sagt Siggelkow. Täglich sucht er gemeinsam mit seiner Kollegin vor allem Social Media nach den neusten Fake News ab, die Wellen schlagen. Ausschlaggebend ist bei der Auswahl auch, ob die ARD-Faktenfinder das Gezeigte überhaupt prüfen können.
„Wenn ich mir zum Beispiel die Trump-Rede zu den Zöllen anhöre, dann filtere ich direkt alle Fakten heraus“, sagt Siggelkow. Aussagen wie „Es gibt gar keine Inflation“ kann er dann mithilfe verschiedener öffentlicher Daten eindeutig widerlegen. Es sind genau solche plakativen Aussagen, die bei den Leuten hängen bleiben, deswegen geht er ihnen besonders nach. Dass selbst hochrangige Persönlichkeiten aus der Politik falsche Angaben machen, kommt heute häufiger vor.
„Der Populismus hat weltweit zugenommen. Überall wird zugespitzt. Damit werden Aussagen aber teils falsch, und das können wir nicht einfach so stehen lassen“, sagt der Faktenfinder. Wenn er und seine Kollegin mal keine Quelle finden, fragen sie zum Beispiel bei Universitäten nach, die Zugang zu
einem noch viel größeren Wissensschatz haben. Und bei Bildern und Videos holen sie sich die ARD-eigene Verifikationsabteilung ins Boot.
Manchmal reicht es aber auch schon, die sogenannte Rückwärtssuche zu nutzen. Google bietet die Option, Bilder oder Screenshots von Videos hochzuladen und nach Duplikaten oder sehr ähnlichen Bildern zu suchen. Oft kommt dann dabei heraus: Die Bilder sind viel älter und von ganz anderen Ereignissen. Nicht nur die ARD, auch viele andere Medien veröffentlichen regelmäßig Faktenchecks. Das Medienhaus
Correctiv hat eine eigene Faktencheck Redaktion, die rund acht Jahre lang unter anderem die Faktenchecks für Metas Plattform Facebook durchgeführt hat. Dabei konnte sie zum Beispiel zeigen, auf welche Weise die russische Doppelgänger-Desinformationskampagne versucht, die Menschen hierzulande zu beeinflussen. Auch kleinere Initiativen wie die Plattformen Mimikama oder Der goldene Aluhut veröffentlichen regelmäßig Recherchen zu Falschmeldungen und Verschwörungsideologien. Sie legen dabei ihre Quellen offen, so dass die Faktenchecks gut nachvollziehbar sind.
Wenn Redaktionen oder Gerichte vor dem großen Rätsel stehen, ob ein Video nun echt ist oder nicht, landen sie auch immer wieder bei Martin Steinebach. Er leitet die Abteilung Media Security und IT Forensics am Fraunhofer-Institut für Sichere Informationstechnologie und prüft schon seit rund 20 Jahren bei dem Verdacht auf Deepfakes – also Videos, die mithilfe künstlicher Intelligenz grundlegend verfälscht wurden. Steinebach schreibt Gutachten und forscht selbst zum Thema. Während es vor vielen Jahren noch Profis brauchte, um Fake-Videos echt wirken zu lassen, gibt es heute zahlreiche kostenlose Programme.
Mit denen können Menschen zum Beispiel ihre Stimmen bearbeiten oder Gesichter austauschen, Face Swap genannt, und sich dann für andere ausgeben. Diese Techniken werden auch immer wieder genutzt, um sich als Politikerinnen und Politiker auszugeben und Fake News zu teilen oder an vertraulichen Gesprächen teilzunehmen. So hatte zum Beispiel 2022 ein vermeintlicher Vitali Klitschko die damals amtierende Berliner Bürgermeisterin Franziska Giffey angerufen.
Die Betrüger können sich mit solchen Deepfakes aber auch als Geschäftsführungen von Unternehmen ausgeben und so zum Beispiel Überweisungen auf ihre Konten veranlassen, das hat es schon mehrfach gegeben. Das Beispiel zeigt, wie wichtig es ist, dass Personalverantwortliche nicht nur Kenntnis von diesen Möglichkeiten haben, sondern auch wissen, woran sie solche Deepfakes erkennen können.
So erkennt man Fakes
Wer vermutet, dass mit einem Video etwas nicht stimmt, sollte zuerst auf die Lippen achten. Oft sind deren Bewegungen bei Deepfakes nicht synchron zum Gesagten. Ein weiterer guter Indikator ist die Seitenansicht des Kopfs, sagt Steinebach. „Bei Face Swaps scheinen manchmal die Ohren der eigentlichen Person durch und es kommt zu Bildfehlern.“ Weitere Tipps von ihm sind: Auf Hautunterschiede zur Stirn- und Halsregion achten, die tauscht die Software meist nicht aus. Wenn es sich um einen Videocall handelt, könne man die Person auch bitten, etwas Ungewöhnliches zu machen.
„Bei schnellen Kopfbewegungen kommt es zum Beispiel oft zu Fehlern. Oder man bittet die Person, einfach die Zunge rauszustrecken. Das kann KI nämlich gar nicht gut, dafür fehlt es ihr einfach an Übungsmaterial“, sagt der Fraunhofer-Experte. Am einfachsten sind Fake-Videos zu enttarnen, in denen besonders viel los ist. Steinebach nennt ein Beispiel: „Jemand teilt ein Video auf Social Media und behauptet, es habe einen Anschlag gegeben. Auf dem Video ist zu sehen, wie eine Menschenmasse auseinandergetrieben wird und alle schnell wegrennen. Dann passieren der KI oft Detailfehler“, erklärt der IT-Forensiker. „Menschen verschmelzen zum Beispiel miteinander oder wechseln plötzlich ihre Kleidung.“ Klingt offensichtlich – ist es aber nicht. Denn die Videos sind so produziert, dass sich die Zuschauenden von ihren Emotionen leiten lassen. Um Fehler zu erkennen, müssen Menschen erst mal den Impuls verspüren, genau hinzuschauen.
Dieser Blick fürs Detail geht oft verloren. Auch solche Fälle hat Steinebach manchmal für Gutachten auf dem Tisch. „Da war zum Beispiel ein Video, das ich prüfen sollte, weil die Einsender das Gefühl hatten,
das stimmt nicht“, erzählt Steinebach. Die Einreichenden hatten bereits nach Bildfehlern und ähnlichem gesucht. Dabei haben sie aber übersehen, dass unten rechts noch das Wasserzeichen der benutzten KI-Software zu sehen war. „Es ist normal, dass wir uns blenden lassen“, sagt Steinebach.
Auch er selbst ist schon auf KI-Stimmen reingefallen. „Ich habe mir während dem Putzen eine Dokumentation auf Youtube angemacht und nur hingehört“, sagt der IT-Forensiker. „Es ging um das römische Reich und welche Ämter die Leute bekleidet haben. Plötzlich war dann immer die Rede vom A-M-T. Da ist es mir aufgefallen.“ Die KI hatte das Wort also buchstabiert und nicht erkannt, dass es einfach um den Singular von Ämter, wie sie schon vielfach im Video vorkamen, ging. Ein typischer KI-Fehler.
Desinformation und Dekontextualisierung
Seit 2017 steht der Begriff Fake News im Duden. Er lässt sich nicht einfach mit Falschnachrichten übersetzen: Ursprünglich bezeichnete er Nachrichten, die den journalistischen Qualitätsansprüchen nicht genügen. Inzwischen hat sich die Bedeutung des Begriffs ausgedehnt: Fake News sind Falschmeldungen, die jemand „in manipulativer Absicht“ in die Welt setzt, wie es im Duden heißt. Der Begriff ist umstritten, da er leicht missverstanden wird – und auch als politischer Kampfbegriff inflationär gebraucht wird.
In der Wissenschaft sind andere Begriffe gängig: Missinformation umfasst in der Regel Falschinformationen, die unabsichtlich verbreitet werden, wie ungenaue oder irreführende Angaben. Von Desinformation ist hingegen die Rede, wenn jemand bewusst eine falsche Information streut. Desinformation gibt es in verschiedenen Formen: Wird eine Information aus dem Zusammenhang gerissen
und in einem neuen Kontext präsentiert, spricht man von bewusster Dekontextualisierung. Ein Beispiel ist ein Foto, das 2020 während des Corona-Lockdowns kursierte und die damalige Bundeskanzlerin Angela Merkel, Markus Söder und Olaf Scholz ohne Masken zeigte.
Lesen Sie auch:
Tatsächlich war das Bild aber von 2017 – es wurde aus dem Kontext gerissen. Eine Desinformation kann auch eine bewusste Falschinformation sein, also ein frei erfundener Inhalt. Auch manipulative Werbung zählt zur Desinformation. Sie wird häufig zu politischen Zwecken eingesetzt, wie der Brexit-Bus, der 2016 mit der Botschaft durch Großbritannien fuhr, man würde der EU wöchentlich 350 Millionen Pfund zahlen – dabei waren es tatsächlich 100 Millionen weniger. Pseudojournalismus kann ebenfalls unter dem Begriff Desinformation verbucht werden. Hier gibt es zum einen Plattformen, die sich nicht an journalistische Standards wie den Pressekodex halten und politischen Pseudojournalismus betreiben.
Daneben gibt es den ökonomisch orientierten Pseudojournalismus. Das sind häufig im Anzeigenbereich großer Medien verlinkte gefälschte Websites, die bekannten Medienwebsites täuschend ähnlich sehen, aber frei erfundene Berichte enthalten, in denen meist Prominente Krypto-Apps oder ähnliche Produkte anpreisen. Und auch Propaganda zählt zur Desinformation. Ein bekanntes Beispiel ist die Schwangere aus Mariupol, die mit Babybauch und blutverschmiertem Gesicht aus dem zerstörten Krankenhaus floh – und in einem von russischen Behörden verbreiteten Propaganda-Video später leugnete, dass es den (in Wahrheit gut dokumentierten) Angriff auf das Krankenhaus gab.
Dieser Beitrag erschien zuerst in der gedruckten Ausgabe Fake. Das Heft können Sie hier bestellen.
Jennifer Spatz
