Vorsicht vor Deep Fakes

Genau hinschauen und Quellen prüfen

Deep Fakes können großen Schaden anrichten

© SecondSide/stock.adobe.com

“President Trump is a total and complete dipshit!” – „Präsident Trump ist ein absoluter Vollidiot!” Mit dieser Beleidigung überraschte Barack Obama in einem YouTube-Video, das sich rasend schnell im Netz verbreitete. Im Verlauf des Videos wurde jedoch schnell klar: Bei der Aufnahme handelt es sich um eine Fälschung, ein so genanntes Deep Fake. Das Video stammt von Forschern der University of Washington, die auf das heikle Thema Videofälschungen aufmerksam machen wollten. Der Begriff „Deep Fake“ setzt sich aus den Worten „Deep Learning“, also der Fähigkeit künstlicher Intelligenz zu lernen, und „Fake“ (Fälschung) zusammen. Wie solche Deep Fakes entstehen und woran man sie erkennen kann, erklärt Informatiker Andreas Rössler von der TU München.

Manipulationen auch für Laien möglich

Um Deep Fakes herzustellen, braucht es nicht viel: Lediglich eine entsprechende Software, die es inzwischen frei verfügbar im Netz gibt, und möglichst viel Bild- und Videomaterial von der Person, über die man die Fehlinformationen verbreiten will. Auf Grundlage dieser Datenbasis wird die Software trainiert – und ist dann etwa in der Lage, ein Gesicht in ein anderes umzuwandeln. Bei einem Video wird dann das ursprüngliche Gesicht extrahiert und das andere eingefügt. Das alles läuft vollautomatisiert ab und ist so auch für Laien möglich. „Die Hauptarbeit für den Menschen ist, genügend Material zu sammeln“, erklärt Andreas Rössler. Den Rest erledigt die Software – die ist dann allerdings auch gut einen Tag mit der Berechnung des Endergebnisses beschäftigt.

Fälschungen werden immer besser

Wie gut das Ergebnis wird, hängt vor allem davon ab, mit wie viel Bildmaterial die Software gefüttert werden kann. „Es gibt viele Fakes, die man noch als Fälschung erkennen kann und wiederum andere, die überzeugend gemacht sind. Dabei fällt es dem Betrachter dann nicht mehr auf, dass es sich in Wirklichkeit um ein Deep Fake handelt“, erklärt Rössler. Da die Forschung und die technischen Möglichkeiten in diesem Bereich schnell voranschreiten, ist davon auszugehen, dass die Qualität der gefälschten Videos künftig immer besser wird. Rössler: „Im Bereich Virtuelle Realität wird viel geforscht – für Unternehmen ist das ein absolutes Zukunftsthema. Dabei ist es wichtig, Gesichter und Körper so bearbeiten zu können, dass sie möglichst realistisch wirken, um auch wirklich in eine virtuelle Welt eintauchen zu können. Die Ergebnisse dieser Forschung können dann aber eben auch von Betrügern zu illegalen Zwecken genutzt werden.“ Künftig wird es also zunehmend eine Herausforderung sein, echte von gefälschten Bildern und Videos zu unterscheiden. „Wir werden an den Punkt kommen, an dem Bilder und Videos nicht mehr als Beweismaterial angesehen werden können. Im Moment gelten Bilder und Videos größtenteils noch als glaubwürdig. Man nimmt sie als real hin – das wird sich ändern“, so der Experte.

Seite: 12 weiter >>