Der ukrainische Präsident Wolodymyr Selenskyj und blickt ernst in die Kamera. Eine weltweit bekannte Szene. Seitdem Russland die Ukraine überfallen hat, veröffentlicht Selenskyj regelmäßig kurze Clips im Netz.
Doch das Video vom März 2022 war ungewöhnlich: Selenskyj ruft darin augenscheinlich zur Kapitulation der Ukraine auf und riet den eigenen Truppen, sich zu ergeben. Schnell entlarvten Faktenchecker*innen das Video als Fälschung. Es zeigt: Die Gefahr, dass falsche Nachrichten zunehmend auch über sogenannte Deepfake-Videos verbreitet werden, ist real.
Was sind Deepfakes?
Deepfakes sind Videos, Bilder oder Audioaufnahmen, die mittels künstlicher Intelligenz erstellt oder so manipuliert wurden, dass der Inhalt oder die auftretenden Personen verfälscht werden. So tun oder sagen die dargestellten Personen Dinge, die in der Realität so nie geschehen sind – zum Beispiel durch veränderte Lippensynchronisation oder das Klonen von Stimmen. Oft wirken diese Fälschungen so realistisch, dass man sie nicht ohne Weiteres erkennen kann.
Schenk uns bitte ein Like auf Facebook! #meinungsfreiheit #pressefreiheit
Danke!
Wie erkennen?
Um Deepfakes, die durch KI generiert werden, zu erkennen, können verschiedene Methoden und Tools verwendet werden. Einige Deepfake-Generatoren hinterlassen absichtlich klare Spuren von Manipulation in den Videodaten und fügen ein sichtbares Wasserzeichen hinzu, um anzuzeigen, dass das Video ein Deepfake ist. Darüber hinaus stehen spezialisierte KI-gestützte Tools und Software zur Verfügung, die bei der Erkennung von Deepfakes helfen, indem sie Videos und Bilder auf Unstimmigkeiten und unnatürliche Elemente analysieren. Diese Tools verwenden oft maschinelles Lernen, um Muster und Anomalien zu identifizieren, die auf Deepfake-Manipulation hinweisen. Darüber hinaus entwickeln und verbessern Organisationen und Forscher kontinuierlich Deepfake-Erkennungstechniken mithilfe fortschrittlicher Technologien wie Computer Vision und forensischer Analyse.
Bilder-Rückwärtssuche kann Manipulation entlarven
Oft ist das Videomaterial einfach aus dem Zusammenhang gerissen und schon vor langer Zeit in einem völlig anderen Kontext entstanden. In solchen Fällen kann eine Bilder-Rückwärtssuche schnell den Ursprung klären.
Die häufigsten Merkmale von Deepfakes sind eine unnatürliche Mimik, ein leerer Blick, nicht korrekte Schattenwürfe im Gesicht, Verzerrungen oder Veränderungen im Gesicht, unscharfe Übergänge, fehlendes Blinzeln, unterschiedliche Qualität des Gesichts im Vergleich zum Rest des Videos oder Bildes und ein unlogischer Hintergrund.
Zudem hinterlassen einige Deepfake-Generatoren absichtlich klare Spuren von Manipulation in den Videodaten und fügen ein sichtbares Wasserzeichen hinzu, um anzuzeigen, dass das Video ein Deepfake ist.
Der Ansatz von Google & Co.
Auch Adobe, Google und Co. sprechen ja schon seit einer Weile darüber, die Bilder, die über ihre AI erzeugt werden, mit einem digitalen Wasserzeichen auszustatten.
Google hat hierzu ein Tool namens SynthID vorgestellt.
Diese Wasserzeichen sind für das menschliche Auge unsichtbar und machen eine klare Identifizierung von AI Inhalten möglich.
Reality-Check: Muttermale, Tattoos und Stimme
Bei bekannten Personen kann es auch helfen, das Video mit älteren Aufnahmen zu vergleichen. Hat die Person zum Beispiel Muttermale, Tattoos oder andere sichtbare Besonderheiten? Und sind die auch im fraglichen Video zu erkennen und an der richtigen Stelle?
Auch die Stimme und die Art des Sprechens sind bei jedem Menschen anders. Und damit für Expert*innen ein guter Ansatz für einen Faktencheck. Julia Bayer und ihr Team haben sich beim Selenskyj-Video deshalb mit der Audiospur beschäftigt. „Wir haben uns die Stimme genau angehört und mit Originalaufnahmen verglichen. Sie passte mit der Betonung, dem Sprachmuster und der Bewegung der Lippen nicht zu Originalaufnahmen.“
Geolokalisierung: Wo wurde das Video aufgenommen?
Auch den Ort eines Videos zu bestimmen, kann Fakes aufdecken. Geolokalisierung nennt sich dieser Fachbereich des Factcheckings. Gibt es im Hintergrund zum Beispiel Gegenstände, Gebäude, Straßenschilder, Pflanzen oder andere Hinweise auf den Ort? Passen sie zu dem, was man in dem Video vermeintlich sehen soll?
Gute Deepfakes sind !noch! sehr aufwendig.
Noch sind richtig gute Fakes in Videos eher selten. „Deepfakes sind zwar schon seit mehreren Jahren ein Thema. Aber die Technologie, um ein gutes Deepfake zu produzieren, ist noch sehr komplex. Es braucht dafür starke Rechenpower, viel Material und technisches Know-how“, erklärt Julia Bayer. Wie von Laien künstlich erstellte Videos aussehen, zeigte erst kürzlich ein misslungener Trailer für die Kinderserie „Heidi“, der im Netz für Lacher sorgte. Gleich auf den ersten Blick war das künstlich erstellte Video als solches zu erkennen.
Auch bei dem vermeintlichen Selenskyj-Video hat das Faktenchecken nicht lange gedauert. In dem Fall war es noch mit bloßen Augen zu entlarven. Aber seit vergangenem November sehen wir mit ChatGPT, Midjourney und anderen Tools, wie schnell Softwareentwicklung in dem Bereich funktioniert. Es ist nur eine Frage der Zeit, bis auch täuschend echte Deepfake-Videos mit solchen für alle zugänglichen Tools produziert werden.
Am besten: Genau hinschauen und hinhören
Deshalb betont sie, wie wichtig es ist, genau hinzuschauen. „Teilt nicht einfach Inhalte im Netz, sondern guckt es euch genau an. Wenn man etwas mit Freund*innen teilt, schickt man dem Inhalt ja auch einen gewissen Vertrauensvorschuss mit.“ Um Fakes zu erkennen, helfe es, die eigenen Sinne zu schärfen: „Genau hingucken, genau hinhören. Ton aus und nur hingucken oder – andersrum – nur hinhören.“
Bei Unsicherheit: Video melden
Fehlt die Zeit oder das Kontextwissen, um das Video selbst als Fake analysieren und bewerten zu können, kann man es auch kostenlos an Meldestellen wie den Correctiv-Faktencheck, an den Faktencheck der dpa oder an die Faktenchecker der Deutschen Welle schicken, die das Video dann prüfen.
