Unternehmen mit Deepfakes täuschen
Missbrauch von KI zur Audio- und Videomanipulation
Mit dem Boom von Videokonferenzen wächst auch das Risiko für Deepfakes
© Mdv Edwards/stock.adobe.com
Videokonferenzen und Telefonkonferenzen gehören zum Arbeitsalltag von Unternehmen. Seit der Covid-19-Pandemie hat der Trend zum Homeoffice stark zugenommen. Viele Vor-Termine bei Kunden oder mit Dienstleistern, die bis 2020 noch vor Ort stattfanden, werden seitdem noch per Videokonferenz durchgeführt. Doch das Gegenüber auf dem Bildschirm oder die Stimme in der Telefonleitung kann eine virtuelle Marionette von Cyberkriminellen sein. KI-Technologie macht es möglich.
Mit wem spreche ich? Wer sitzt mir gegenüber?
Der CEO eines britischen Energieunternehmens wurde um umgerechnet 220 000 Euro betrogen. Die Anrufer fälschten die Stimme seines Vorgesetzten aus dem Mutterunternehmen und forderten einen Notfall-Geldtransfer an. Das Audio-Fake war so überzeugend, dass der CEO erst gar nicht misstrauisch wurde. Die Summe wurde jedoch nicht an das Büro des Mutterkonzerns überwiesen, sondern auf ein Drittanbieter-Bankkonto. Als der CEO seinen Fehler bemerkte, war es bereits zu spät, um das Geld zurück zu holen. Mit Deepfake-Videos kann man auch Firmenvorstände erpressen. Die Täter drohen etwa, die gefälschten Videos, die den Ruf der Opfer ruinieren würden, zu veröffentlichen, wenn kein Schweigegeld bezahlt wird. Ein weiterer Trick: Kriminelle rufen Beschäftigte in Unternehmen mit der gefälschten Stimme ihres Chief Information Officers an und bringen sie dazu, ihnen Passwörter und Berechtigungen bereitzustellen, mit denen sie die Kontrolle über vertrauliche Daten erlangen. Aus dem politischen Bereich sind Täuschungsversuche mit Fake-Videos bekannt: So wurde die damalige Regierende Bürgermeisterin von Berlin ebenso wie ihre Kollegen aus Mailand und Wien von einem falschen Vitali Klitschko per Videocall erreicht. Zwei der drei Angerufenen wurden im Lauf der Videokonferenz jedoch skeptisch und brachen die Schalte ab. Denn nicht jedes sogenannte Deepfake-Video ist bereits eine perfekte Täuschung.
So funktioniert es technisch
Der Begriff „Deepfake“ ist ein sogenanntes Kofferwort, das sich aus „Deep“ für „Deep Learning“ und „Fake“ wie Täuschung zusammensetzt. Die „Deep Learning“-Methode arbeitet mit künstlicher Intelligenz (KI). Sie gewinnt aus den Rohdaten wie etwa einem Video oder einem Telefon-Mitschnitt der Zielperson schrittweise immer feinere Merkmale. Diese Technologie kann aus unstrukturierten Daten lernen, etwa aus dem menschlichen Gesicht, indem sie Daten zu körperlichen Bewegungen erfasst und lernt, diese nachzuahmen. In einem weiteren Verarbeitungsschritt mit einem spezialisierten sogenannten „Machine Learning“-System wird dann ein gefälschtes Foto oder Video erstellt. Da die KI die Bilder immer wieder anhand der Trainingsdaten testet, werden die Ergebnisse von Versuch zu Versuch überzeugender. Technisch nennt man so etwas ein „Face-Swapping“-Verfahren. Diese KI-gestützten Techniken können auch Stimmen nachahmen. Beim sogenannten „Text-to-Speech“-Verfahren wird zu einem vorgegebenen Text ein Audio-Signal erzeugt, das sich sowohl für den Menschen als auch für eine automatische Sprechererkennung wie eine Zielperson anhört. Das macht Deepfake zu einer echten Gefahr.
Kriminelle müssen ihre Opfer gut studieren
Die Fakes in Video- und Audiokonferenzen können naturgemäß nicht vorproduziert werden, da die Person ja spontan sprechen und handeln sowie auf Fragen richtig antworten muss. Die KI legt „nur“ das Bild der gefälschten Person über das Bild des oder der Cyberkriminellen. Dieses darübergelegte Bild übernimmt die Mimik und Gestik der dahinter sitzenden Person. Das nennen die Fachleute „Face Reenactment“. Die Betrüger müssen jedoch die Ausdrucksweise oder auch die Gesten der Person gut studieren und nachahmen können. Die KI liefert ihnen nur das fast perfekte Bild dazu oder leiht ihnen bei Audio-Fakes die Stimme ihres Opfers.
Technische und kognitive Abwehr
So erkennen Sie Deepfake-Videos:
- Überprüfen Sie, ob eine Videokonferenz wirklich von einem Unternehmen angemeldet wurde, das Ihnen bekannt ist
- Informieren Sie Ihre Beschäftigten über das Phänomen der Deepfakes
- Schulen Sie ihre Belegschaft: Erklären Sie, an welchen Indizien man Deepfake-Videos erkennen kann
- Etablieren Sie ein Vier-Augen-Prinzip bei Überweisen, sodass niemals eine Person allein den Transfer einer größeren Summe an Dritte freigeben kann
- Informieren Sie sich etwa auf der Website des BSI über „Deepfakes – Gefahren und Gegenmaßnahmen“
Zum Erkennen von Deepfake-Videos gibt es Abwehrmöglichkeiten. Sie analysieren die Videobilder und lassen Fakes auffliegen. Damit haben sich die Anbieter von Cybersicherheitsprogrammen einen neuen Absatzmarkt erschlossen. Sie bieten Erkennungsalgorithmen an, die beispielsweise Verfälschungen am Gesicht im Bereich der Nase wahrnehmen. Diese entstehen, weil die Fake-KI zuerst zweidimensionale Gesichter erzeugt, die sie dann verzerrt, um räumliche Tiefe vorzuspiegeln. Aber es gibt auch eine Reihe von Anzeichen, an denen man auch ohne den Einsatz einer Gegenspionage-KI erkennen kann, ob ein Videobild gefälscht ist oder nicht. Es reicht zum Beispiel, wenn man darauf achtet, ob es ruckartige Bewegungen im Video gibt oder ob sich die Beleuchtung plötzlich verändert. Dadurch sollte man misstrauisch werden. Ein weiteres Indiz ist das Blinzeln der Augen. Blinzelt das Gegenüber niemals, könnte es sich um einen Fake handeln. Das stärkste Anzeichen ist jedoch, wenn die Stimme und die Lippenbewegungen nicht synchron sind. Falls mehrere dieser Merkmale auftreten, sollte man eine Videokonferenz umgehend beenden. „Wer in Live-Videos gegenüber seiner Kontaktperson misstrauisch ist, kann auch darum bitten, dass diese sich kurz an die Nase oder Wange tippt", rät übrigens der Verfassungsschutz. „Die KI ist bis dato selbst in ihrer besten Form nicht in der Lage, diese Animation darzustellen. Das Bild würde sichtlich verzerrt werden.“
WL (Stand: 28.04.2023)
Kurztipps
![](/typo3temp/assets/_processed_/3/1/csm_2023_0017_01_d7c3776c32.jpg)
Darauf sollten Sie achten, wenn Sie Ihren nächsten Urlaub mit dem...
![](/typo3temp/assets/_processed_/8/e/csm_2022_0016_02_6d0aa4e737.jpg)
So verhalten Sie sich bei einem Stau richtig.
![](/typo3temp/assets/_processed_/d/8/csm_2021_0126_01_193e0d1d87.jpg)
Darauf sollten Sie achten, wenn Ihr Wagen auf der Autobahn oder...
![](/typo3temp/assets/_processed_/7/8/csm_fahrrad-winter_495760489a.jpg)
Darauf sollten Sie achten, wenn Sie in der kalten Jahreszeit trotz...
![](/typo3temp/assets/_processed_/0/4/csm_Schutz-vor-Wildunfaellen_907e5fd7f6.jpg)
Darauf sollten Sie achten, wenn Sie im Herbst und Winter in...
![](/typo3temp/assets/_processed_/0/2/csm_auto-alter_e4e1ed012a.png)
Darauf sollten Sie achten, wenn Sie als älterer Mensch Auto fahren.
![](/typo3temp/assets/_processed_/4/6/csm_sicher-e-auto-fahren_8866fcce78.jpg)
Darauf sollten Sie am Steuer eines Elektroautos achten.
![](/typo3temp/assets/_processed_/7/e/csm_2020_0137_01_21c3cd2904.jpg)
Darauf sollten Sie achten, wenn Sie einen Transporter (z. B. als...
![](/uploads/pics/schutz-vor-autodiebstahl.jpg)
So können Sie das Risiko für einen Pkw-Diebstahl deutlich reduzieren.
![](/typo3temp/assets/_processed_/3/2/csm_carsharing_cb321608f7.jpg)
Darauf sollten Sie vor der Fahrt mit einem Gemeinschaftsauto achten.
![](/typo3temp/assets/_processed_/8/1/csm_souvenirs_00c4e138ac.jpg)
Das sollten Sie beachten, wenn Sie Urlaubsandenken erwerben.
![](/uploads/pics/verkehrssicher-im-winter.jpg)
So können Autofahrer das Unfallrisiko reduzieren.
![](/typo3temp/assets/_processed_/0/5/csm_sichere-mietwagenbuchung_fb7dd2635f.jpg)
![](/typo3temp/assets/_processed_/6/2/csm_sicherer-schulweg_598f057e2f.jpg)
![](/typo3temp/assets/_processed_/a/e/csm_2018_0008_01_38836fd82b.jpg)
So verstauen Sie das Gepäck oder die Einkäufe richtig.
![](/typo3temp/assets/_processed_/9/7/csm_2017_0222_01_ed082607df.jpg)
Vor dem Winter sollte das Auto für die kalte Jahreszeit gewappnet...
![](/typo3temp/assets/_processed_/1/c/csm_2017_0232_01_c76f1193c9.jpg)
Was Sie tun sollten, wenn Sie einer verletzten Person helfen wollen.
Weitere Infos für Autofahrer
Richtig beladen, richtig fahren
Großeinkäufe aus dem Baumarkt nach Hause schaffen, Laub aus dem...[mehr erfahren]
Portal Hilfefinder.de bietet Unterstützung bei psychischen Belastungen
Im Jahr 2018 nahm die Polizei bundesweit etwa 2,6 Millionen...[mehr erfahren]
Die Bilanz fällt positiv aus
Feinstaub- und Rußpartikel in der Atemluft dringen tief in die...[mehr erfahren]
Das Unfallrisiko fährt bei Einsätzen immer mit
Bei Einsatzfahrten von Rettungsdienst, Feuerwehr und Polizei zählt...[mehr erfahren]
Ein Seminar des LAFP NRW bereitet Polizisten auf Realkontrollen vor
Kiffen ist in Deutschland in den meisten Fällen verboten. Dennoch ist...[mehr erfahren]
Mehr Sicherheit durch Abbiegeassistenten
Im März 2019 starb auf der Hamburger Allee in Hannover ein...[mehr erfahren]
Wie man das Auto ordnungsgemäß abstellt
Viele Autos, wenig Platz: Vor allem in deutschen Großstädten sind...[mehr erfahren]
„Härtere Strafen sind nicht notwendig“
Sie ketten sich an Brücken und verursachen kilometerlange Staus: Um...[mehr erfahren]
Mobilität erhalten und Selbsteinsicht fördern
Im Landkreis Dahme-Spreewald hat ein 81-jähriger Autofahrer Mitte Mai...[mehr erfahren]
Deutsche und polnische Polizei in einem Team
Europa wächst zusammen. Die offenen Grenzen führen jedoch auch dazu,...[mehr erfahren]
Aktivitäten
Service
Audio Podcasts
Hier finden Sie alle Podcasts
Präventionsvideos
"Ein Bild sagt mehr als tausend Worte". Und gerade mit bewegten Bildern werden wir alle viel leichter erreicht als mit nüchternen Informationsmaterialien, die nur den Verstand ansprechen. Hier finden Sie die Präventionsvideos.
Schützen Sie Ihre Immobilie gegen Einbruch!
Erklärung einschlägiger Präventions-Begriffe
Beliebte Artikel
Blechschaden, Nachbarschaftsstreit, Prügelei: Wann sollte man die Polizei rufen?
Bei Wohnungseinbrüchen, schweren Unfällen oder Körperverletzungen ist...[mehr erfahren]
Vertrauen ist gut, Kontrolle ist besser
Wer viel im Internet einkauft, kann bei seinen Zahlungen und...[mehr erfahren]
Wer den Unterschied nicht kennt, kann sich strafbar machen
Schwarzarbeit ist kein Kavaliersdelikt, sondern wird in schweren...[mehr erfahren]