Dossier: Fake News19. September 2024

Wir können unseren Augen nicht mehr trauen

Deepfakes sind ein wachsendes Problem, aber die eigentliche Gefahr ist nicht, dass die Menschen darauf hereinfallen, sondern, dass wir nichts mehr trauen können.

Eine Gegenüberstellung zweier Videoausschnitte, auf der Mark Zuckerberg einmal im Original und einmal als Deepfake zu sehen ist. Das Bild illustriert einen Artikel über das wachsende Problem von Deepfakes. — Täuschend echt: Ein Vergleich zwischen einem Original- und einem Deepfake-Video von Facebook-CEO Mark Zuckerberg wurde letztes Jahr auf der Social-Media-Plattform hochgeladen. © Getty Images

Auf den Punkt gebracht

Eine Gefahr. Die Deepfake-Technologie ist besorgniserregend, weil sie unser Gehirn überlistet.
Anders als gedacht. Aber das eigentliche Problem ist ein anderes: Wenn alles gefälscht sein kann, können wir nichts mehr glauben.
Völlig überschätzt. Viele Menschen und Medien unterschätzen auch, wie wenig Bedeutung viele Menschen der Wahrheit zusprechen.
Ein Silberstreif. Die größte Hoffnung ist, dass die Situation so schlimm wird, dass wir uns alle auf eine vertrauenswürdige Quelle einigen.

Taylor Swift ist nicht nur die erste Künstlerin, die viermal den Award für das „Beste Album des Jahres“ bei den Grammys eingeheimst hat. Sie nutzte ihren Auftritt auf dem roten Teppich heuer auch, um ihre Unterstützung für Donald Trump kundzutun, indem sie ein Schild mit der Aufschrift „Trump Won – Democrats cheated“ hochhielt. Etwa zur gleichen Zeit rief Präsident Joe Biden mittels einer aufgenommenen Nachricht Wähler in New Hampshire an und forderte sie auf, nicht an den demokratischen Vorwahlen teilzunehmen.

Mehr im Dossier Wahrheit

Natürlich haben sie das nicht getan. Beide Vorfälle fallen in die Kategorie der Deepfakes – KI-generierte Inhalte, die für die Augen des Betrachters oder die Ohren des Zuhörers echt erscheinen. Deepfakes können zu Propagandazwecken, für Betrügereien oder – ihre häufigste Anwendung – zur missbräuchlichen Erstellung von Pornos verwendet werden. Und im Zuge der US-Wahlen wird ihnen besondere Aufmerksamkeit zuteil, da befürchtet wird, dass ein Deepfake am Ende eine knappe, hart umkämpfte und – in den Augen vieler – sehr wichtige Präsidentschaftswahl entscheiden könnte.

Wie die „Lügendividende“ funktioniert

Deepfakes sind tatsächlich besorgniserregend, weil es sich dabei Bilder, Videos und Fotos handelt und wir Menschen dafür besonders empfänglich sind, weil wir sie als direkte Repräsentationen der Realität wahrnehmen. Da wir sie mit unseren eigenen Augen und Ohren wahrnehmen, ist es, als sähen wir die Realität. Sie benötigen keine tiefgreifende Interpretation; für unser Gehirn gibt es keinen Grund, an dem Wahrheitsgehalt zu zweifeln. Das macht Deepfakes mächtiger als jede andere Form von Fake News.

Zahlen & Fakten

Mit dem Laden des Inhalts akzeptierst du die Datenschutzerklärung von Datawrapper.
Inhalte von Datawrapper immer laden

Aber es gibt ein noch viel schwerwiegenderes Problem: Wenn alles ein Deepfake sein könnte, dann können wir nichts und niemandem mehr vertrauen. Forscher haben für dieses Phänomen den Begriff der „Lügendividende“ geprägt. Selbst wenn ein Video echt ist, können Menschen behaupten, dass es das nicht ist. Die Bedrohung für die Gesellschaft ist nicht so sehr, dass sich falsche Informationen und Überzeugungen breit machen. Es ist vielmehr das mangelnde Vertrauen in das, was wir sehen. Unsere Gesellschaft ist schon jetzt von einer großen Unsicherheit geprägt und viele Psychologen argumentieren, dass der Grund für die Zunahme von Verschwörungstheorien ist. Unsicherheit erzeugt Ängste. Und diese Ängste lassen viele Menschen empfänglich für Verschwörungstheorien werden.

Deepfakes: Eine neue Technologie, aber ein altes Problem

So gesehen verstärken Deepfakes lediglich eine Entwicklung in unserer Gesellschaft. Die Technologie, die hinter Deepfakes steht, mag zwar neu sein, das Phänomen selbst ist es jedoch nicht. Die Gesellschaft war schon immer mit dem Problem der Fake News konfrontiert. Sie waren schon immer Teil des gesellschaftlichen Diskurses – Propaganda ist zum Beispiel für jede Art von Krieg von zentraler Bedeutung. Zeitungen waren, zumindest in den Vereinigten Staaten, von Anfang an voller Lügen und falscher Nachrichten. Und es gab schon immer eine enge Verquickung von Berichterstattung und Anzeigen. Es ist nichts grundlegend Neues, dass man den Nachrichten nicht immer glauben kann.

Es bedurfte keiner Deepfakes, damit Donald Trump die sogenannte „Big Lie“ verbreiten konnte.

Dazu kommt noch ein anderer entscheidender Punkt: Die Wahrheit ist für die meisten Menschen nicht das Wichtigste. Ihnen ist es viel wichtiger, ihre Geschichte zu erzählen oder ihren Standpunkt zu vertreten, als sich zu vergewissern, dass das, was sie verbreiten, der Wahrheit entspricht. Es bedurfte keiner Deepfakes, damit Donald Trump die sogenannte „Big Lie“ verbreiten konnte, also dass er eigentlich die Wahl gegen Joe Biden gewonnen hätte. Es gibt eine erschreckend große Zahl von US-Amerikanern, die glauben, dass die US-Wahl 2020 gestohlen wurde, obwohl es dafür keinerlei Beweise gibt – und Unmengen Beweise für das Gegenteil. All das erreichte Trump ganz ohne Deepfakes.

Ein Deepfake wird nicht die Wahl entscheiden

Das soll nicht heißen, dass Deepfakes kein Problem sind, aber dass irgendein Deepfake auftaucht, alle darauf reinfallen und dann beispielsweise die US-Wahl deshalb anders ausgeht: So funktioniert die Welt nicht. Weil Deepfakes die Unsicherheit und Verwirrung verstärken, werden die Menschen noch stärker in ihre polarisierten Lager getrieben. Die Menschen neigen dazu, das zu glauben, was sie glauben wollen, unabhängig davon, ob das echt ist oder nicht. Wenn wir ein Video sehen, in dem jemand, dem wir vertrauen und den wir respektieren, etwas Schreckliches oder Lächerliches tut, wird die erste Reaktion der meisten Menschen sein: Das kann nicht wahr sein. Wenn sie etwas nicht glauben wollen, werden sie einen Grund finden, es für falsch zu halten.

Die Vorstellung einiger, dass die Menschen durch Fakten überzeugt werden können, ist falsch.

Die Vorstellung einiger – oft jener, die in den Medien arbeiten –, dass die Menschen durch Fakten überzeugt werden können, ist falsch. Die Medien haben eine große soziale Verantwortung, aber sie besteht nicht nur darin, die Fakten zu präsentieren. Sie müssen eine Debattenkultur schaffen, in der die Wahrheit eine Rolle spielt und in der die Menschen Dinge in Frage stellen, die vielleicht nicht wahr sind. Aber viele Medien kümmert das nicht: Stattdessen füttern sie ihr Publikum mit einem Narrativ, weil sie auf diese Weise ihr Produkt verkaufen können.

Die tägliche Sau

In den USA kann man kaum mehr den Fernseher einschalten, ohne eine Debatte über die Präsidentschaftswahlen zu sehen. Wer wird gewinnen? Wie lauten die neuesten Umfragen? Dadurch entsteht das grundlegende Narrativ eines Pferderennens, für das die Menschen so empfänglich sind. Es löst Angst und Hoffnung aus, primitive Gefühle, und davon leben die Medien. Die Medien sind wahrscheinlich hauptsächlich dafür verantwortlich, dass sich so viele Menschen in unserer Gesellschaft mehr Gedanken über die tägliche Sau machen, die gerade durch das Dorf getrieben wird, als darüber, was wahr und was falsch ist, und was wirklich vor sich geht.

Denn das, was wirklich vor sich geht, ist oft langweilig und technisch, und es ist schwer zu verstehen. Die Welt ist viel zu komplex, als dass ein Einzelner sie vollständig erfassen könnte. Deshalb ist die Reaktion der Medien in gewisser Hinsicht auch verständlich. Wenn sie sich auf das konzentrieren würden, was sie sollten, wären sie viel weniger unterhaltsam. Der Wettbewerb zwischen den Medienunternehmen ist ein großer Teil des Problems, denn er führt dazu, dass der kleinste gemeinsame Nenner gewinnt. Aus diesem Grund werden die Medien, wie sie sich derzeit präsentieren, das Problem der Fake News und Deepfakes höchstwahrscheinlich nicht lösen.

Der Silberstreif am Horizont

Auch ein Verbot von Deepfakes wird nicht durchsetzbar sein. Was kann also getan werden? Wir müssen eine Kultur schaffen, die bereit ist, die Behauptungen zu hinterfragen. Eine Kultur, die daran interessiert ist, die Wahrheit herauszufiltern. Filterblasen stellen ein wirklich großes Problem dar, weil Menschen zunehmend nur mehr mit Menschen sprechen, die derselben Meinung sind wie sie. Wenn wir nur mit Leuten sprechen, mit denen wir übereinstimmen, werden wir niemals mit jenen Gegenargumenten konfrontiert, die notwendig sind, um herauszufinden, was wahr oder falsch ist.

Aber es gibt auch einen möglichen Silberstreif am Horizont. Wenn Deepfakes erst einmal in jedermanns Händen sind und wirklich jeder überzeugende Deepfakes erstellen kann, könnten wir tatsächlich an einen Punkt kommen, an dem wir grundsätzlich nicht mehr glauben können, was wir mit unseren eigenen Augen sehen. In diesem Fall könnten wir als Gesellschaft verstehen, dass wir eine besondere vertrauenswürdige Quelle brauchen, die wir alle akzeptieren und deren Aufgabe es ist, zu verifizieren, was wir sehen und hören. So haben wir früher in den USA über den legendären Nachrichtensprecher Walter Cronkite gedacht.

Wenn es genug Unsicherheit gibt, könnte es eine Nachfrage nach einer solchen Quelle geben, einer Medienquelle, die einen hervorragenden Ruf genießt und der jeder als Quelle der Wahrheit vertraut. Eine solche Institution ist nicht nur ein Hirngespinst, denn es würde dabei um viel Geld gehen, wenn jeder dieser Quelle vertraut. Deshalb könnte der Anreiz, ein solches Medium zu entwickeln, groß sein.

Conclusio

Fakten. Verstehen. Handeln.

Deepfakes sind nicht nur so realistisch, dass sie wirken wie echt. Weil sie Bilder und Töne sind, wirken sie auch auf unser Gehirn glaubwürdig. Und weil wir das wissen, könnten wir bald das Problem haben, dass wir nichts und niemandem mehr glauben können – weil ja alles gefälscht sein könnte. Deshalb brauchen wir eine Institution, der wir alle glauben, damit wir uns wieder auf eine Wirklichkeit einigen können.