Vorsicht vor Deep Fakes
Genau hinschauen und Quellen prüfen
Deep Fakes können großen Schaden anrichten
© SecondSide/stock.adobe.com
“President Trump is a total and complete dipshit!” – „Präsident Trump ist ein absoluter Vollidiot!” Mit dieser Beleidigung überraschte Barack Obama in einem YouTube-Video, das sich rasend schnell im Netz verbreitete. Im Verlauf des Videos wurde jedoch schnell klar: Bei der Aufnahme handelt es sich um eine Fälschung, ein so genanntes Deep Fake. Das Video stammt von Forschern der University of Washington, die auf das heikle Thema Videofälschungen aufmerksam machen wollten. Der Begriff „Deep Fake“ setzt sich aus den Worten „Deep Learning“, also der Fähigkeit künstlicher Intelligenz zu lernen, und „Fake“ (Fälschung) zusammen. Wie solche Deep Fakes entstehen und woran man sie erkennen kann, erklärt Informatiker Andreas Rössler von der TU München.
Manipulationen auch für Laien möglich
Um Deep Fakes herzustellen, braucht es nicht viel: Lediglich eine entsprechende Software, die es inzwischen frei verfügbar im Netz gibt, und möglichst viel Bild- und Videomaterial von der Person, über die man die Fehlinformationen verbreiten will. Auf Grundlage dieser Datenbasis wird die Software trainiert – und ist dann etwa in der Lage, ein Gesicht in ein anderes umzuwandeln. Bei einem Video wird dann das ursprüngliche Gesicht extrahiert und das andere eingefügt. Das alles läuft vollautomatisiert ab und ist so auch für Laien möglich. „Die Hauptarbeit für den Menschen ist, genügend Material zu sammeln“, erklärt Andreas Rössler. Den Rest erledigt die Software – die ist dann allerdings auch gut einen Tag mit der Berechnung des Endergebnisses beschäftigt.
Fälschungen werden immer besser
Wie gut das Ergebnis wird, hängt vor allem davon ab, mit wie viel Bildmaterial die Software gefüttert werden kann. „Es gibt viele Fakes, die man noch als Fälschung erkennen kann und wiederum andere, die überzeugend gemacht sind. Dabei fällt es dem Betrachter dann nicht mehr auf, dass es sich in Wirklichkeit um ein Deep Fake handelt“, erklärt Rössler. Da die Forschung und die technischen Möglichkeiten in diesem Bereich schnell voranschreiten, ist davon auszugehen, dass die Qualität der gefälschten Videos künftig immer besser wird. Rössler: „Im Bereich Virtuelle Realität wird viel geforscht – für Unternehmen ist das ein absolutes Zukunftsthema. Dabei ist es wichtig, Gesichter und Körper so bearbeiten zu können, dass sie möglichst realistisch wirken, um auch wirklich in eine virtuelle Welt eintauchen zu können. Die Ergebnisse dieser Forschung können dann aber eben auch von Betrügern zu illegalen Zwecken genutzt werden.“ Künftig wird es also zunehmend eine Herausforderung sein, echte von gefälschten Bildern und Videos zu unterscheiden. „Wir werden an den Punkt kommen, an dem Bilder und Videos nicht mehr als Beweismaterial angesehen werden können. Im Moment gelten Bilder und Videos größtenteils noch als glaubwürdig. Man nimmt sie als real hin – das wird sich ändern“, so der Experte.
Weitere Infos zum Thema Extremismus und Gewalt
Niemand wird als Rechtsradikaler oder Islamist geboren
Wenn Extremisten sich aus ihrer Szene lösen wollen, haben sie oft...[mehr erfahren]
Beratungsangebote unterstützen betroffene Familien
Zunehmend schließen sich junge Menschen extremistisch islamistischen...[mehr erfahren]
Die Gewerkschaft der Polizei legt grundsätzliche Positionen zur...[mehr erfahren]
Verfassungswidrige Kennzeichen sind in Deutschland verboten
Im August 2016 geriet ein rechtsradikaler Fußballfan bei einem...[mehr erfahren]
Handreichung für Lehrkräfte und Trainer
Die Wanderausstellung „VorBILDER – Sport und Politik vereint gegen...[mehr erfahren]
Ansätze für mehr Sicherheit im öffentlichen Raum
Paris, Berlin, London – Städte in Europa werden immer wieder zur...[mehr erfahren]
Die unterschätzte Gefahr
Der rechtsextremistisch motivierte Mord am Kasseler...[mehr erfahren]
Neues Unterstützungsinstrument für die Polizei
Ob das Aushalten von Beschimpfungen, der Anblick von Tod oder...[mehr erfahren]
Aktivitäten
Service
Audio Podcasts
Hier finden Sie alle Podcasts
Präventionsvideos
"Ein Bild sagt mehr als tausend Worte". Und gerade mit bewegten Bildern werden wir alle viel leichter erreicht als mit nüchternen Informationsmaterialien, die nur den Verstand ansprechen. Hier finden Sie die Präventionsvideos.
Schützen Sie Ihre Immobilie gegen Einbruch!
Erklärung einschlägiger Präventions-Begriffe
Beliebte Artikel zum Thema Gewalt im Extremismus
Braune Ideologie auf grünem Grund
Sie propagieren ein Leben abseits der Gesellschaft inmitten der...[mehr erfahren]
Wie Nazis das Thema sexueller Missbrauch für ihre Zwecke nutzen
Personen mit rechtsextremistischer Einstellung erkennt man nicht...[mehr erfahren]
Aussteigerprogramm „Exit“ hilft Ex-Rechtsradikalen beim Neuanfang
Gabriel L. bewegte sich 13 Jahre in rechtsextremen Kreisen und war...[mehr erfahren]