Betrug mit KI und Avataren
Wie Kriminelle Deep Fake-Techniken einsetzen
Auch Betrüger nutzen Avatare für ihre Zwecke
© Shutterstock/Rifrazione_foto
Dank künstlicher Intelligenz kann jeder die Stimme einer anderen Person ziemlich perfekt imitieren und sie Sätze nach seinem Willen sprechen lassen. Das nennt man ein „Deep Fake“-Audio. So etwas funktioniert auch mit Videos. Man benötigt nur die geeigneten Programme und genügend Video- oder Audio-Originalmaterial. Je preiswerter die Programme werden, desto interessanter werden sie auch für Kriminelle.
Die ersten Deep Fake-Videos wurden im Jahr 2017 auf der Socialmedia-Plattform Reddit gezeigt. Dort präsentierte ein Nutzer verfälschte Videosequenzen berühmter Schauspielerinnen. Den von ihm selbst programmierten Algorithmus stellte er als Open-Source-Code zur Verfügung. Das ermöglichte es Anderen, mit dieser Anleitung eigene Deep Fakes zu erstellen. Seitdem hat sich die Technik enorm weiterentwickelt. Heute werben virtuelle Influencer, die auf dem Bildschirm wie echte Menschen agieren, im Internet für Marken und generieren Follower. Und die Band ABBA ging bei ihrer virtuellen Wiedervereinigung nicht mehr persönlich, sondern nur noch mit ihren Avataren auf Tournee. Doch diese KI-Technik beflügelt nicht nur die Unterhaltungsindustrie, sondern sie ruft auch Betrüger auf den Plan.
Avatar berät zu Fake-Reiseangeboten
Zwei Beispiele für den Betrug mit Audio- und Video-Deep Fakes wurden in letzter Zeit publik. Der erste Fall kam aus der Reisebranche: Kriminelle hatten eine Internet-Seite der Fake-Firma „Kofi Reisen“ online gestellt. Zur Kontaktanbahnung schickten die Betrüger den Kunden unaufgeforderte WhatsApp, in denen dann auf das Angebot preiswerter Reisen verwiesen wurde. Auf der Startseite beriet eine sympathisch aussehende junge Frau interessierte Kundinnen und Kunden im Videochat zu den Schnäppchenangeboten. Sie war ein täuschend echter Avatar, der von den Betrügern in Echtzeit wie eine Handpuppe gesteuert wurde. So verschleierten die Täter ihre wahre Identität. Die Nutzungsrechte für den Avatar „Emma“ hatten die Kriminellen für wenig Geld bei einem britischen Start-Up eingekauft. Solche Avatare werden normalerweise dafür eingesetzt, um etwa Schulungsprogramme oder Erklärvideos interessanter zu gestalten. Die digitalen Zwillinge basieren auf dem Aussehen echter Menschen und sprechen zahlreich Sprachen. Die betrügerische Reisewebsite ist längst offline. Aber viele Menschen haben nicht zuletzt wegen des sympathischen Avatars Emma und ihrer „persönlichen Beratung“ zu den angeblichen Schnäppchen-Reisen Geld an „Kofi Reisen“ überwiesen, für das sie nie eine Gegenleistung erhalten. Zum zweiten Anwendungsfall sind offensichtlich noch keine Opfer bekannt, aber das dürfte nur eine Frage der Zeit sein. Er betrifft den Enkeltrick: Beim herkömmlichen Enkeltrick rufen Kriminelle bei älteren Menschen an und geben sich als ein Enkelkind aus, das in einer Notlage ist und dringend Geld benötigt. Bislang müssen die Täter darauf hoffen, dass die Opfer die Stimmen ihrer Enkel nicht besonders genau in Erinnerung haben. „Bei KI-basierten Stimmen fällt es dem Bürger sehr, sehr schwer, diesen Unterschied überhaupt noch zu erkennen“, sagte Hans Hülsbeck vom LKA NRW kürzlich bei „WDR Aktuell“: „Das kann also ganz einfach sein im Bereich des Enkeltricks, den wir kennen, dass jetzt die Stimme der Enkelin oder des Enkels KI-basiert nachgemacht wird.“ Die Voraussetzung ist natürlich, dass die Betrüger über Audio-Aufzeichnungen von der Stimme des Enkels oder der Enkelin verfügen, mit denen sie die KI füttern können.
![](https://www.polizei-dein-partner.de/fileadmin/img/thumbs/2023_0067_02.jpg)
Artificial Intelligence (Künstlichen Intelligenz) stellt unser Vertrauen in die eigene Wahrnehmung in Frage
© Shutterstock/SuPatMaN
Mit der Fake-Stimme die Hausbank ausgetrickst
Die passenden Programme, um eine Stimme täuschend echt nachzumachen, sind über das Internet inzwischen preiswert erhältlich. Und sie führen zum Erfolg. Die „Wall Street Journal“-Reporterin Joanna Stern probierte zunächst aus, ob ihre Kollegen und ihre Familie auf ihre Fake-Stimme hereinfallen würden, berichtet das Magazin „Capital“. Ihr Fazit: Je kürzer die Fake-Stimme zu hören war, desto eher gelang es ihr, die Menschen aus ihrem Umfeld zu täuschen. Mulmig wurde ihr, als es ihr gelang, mit ihrer eigenen Deep-Fake-Stimme die automatische Stimmenerkennung bei der Kreditkartenverifizierung ihrer Bank auszutricksen. Sie verband die Reporterin direkt mit einer Service-Mitarbeiterin, ohne weitere Fragen zu stellen. Audio-Deepfakes sind also aktuell noch eine größere Bedrohung als Video-Deepfakes wie im Fall des fiktiven Reiseunternehmens „Kofi Reisen“. Denn die Video-Deep Fakes sind noch nicht perfekt. Eine unnatürliche Mimik oder ein leerer Blick können ein Hinweis darauf sein, dass es sich um ein Fake-Video handelt. Besonders bei den Übergängen wie zum Beispiel zwischen Gesicht und Haaren oder Gesicht und Hals sind Deep Fakes heute noch oftmals unscharf. Außerdem blinzeln Menschen ganz automatisch alle paar Sekunden. Fällt dies weg, kann es sich um ein Deep Fake-Video handeln.
WL (25.08.2023)
Kurztipps
![](/typo3temp/assets/_processed_/8/6/csm_2024_0045_01_3b5e475cf7.jpg)
So schützen Sie sich vor falschen Handwerkern:
![](/typo3temp/assets/_processed_/5/6/csm_2020_0012_308f9c6978.jpg)
Mit diesen Tipps sind Sie für Ihren nächsten Flug gut gerüstet:
![](/typo3temp/assets/_processed_/8/c/csm_2024_0005_01_ade78df792.jpg)
So erkennen Sie Marken- oder Produktfälschungen:
![](/typo3temp/assets/_processed_/7/3/csm_2023_0089_01_6598b5aecc.jpg)
Diese Sicherungsmaßnahmen machen Sinn.
![](/typo3temp/assets/_processed_/1/c/csm_2023_0066_01_cc8a78ec09.jpg)
So sollten Sie sich in Bezug auf Vorsorge- oder Bankvollmachten...
![](/typo3temp/assets/_processed_/e/b/csm_2022_0123_01_07480cae8e.jpg)
Darauf sollten Sie achten, wenn Sie Ihren Rechner und Ihre...
![](/typo3temp/assets/_processed_/1/6/csm_2022_0114_01_3a2182a4a1.jpg)
Darauf sollten Sie achten, wenn Sie Gewalt gegen pflegebedürftige...
![](/typo3temp/assets/_processed_/f/3/csm_2022_0067_01_9d30cd5d90.jpg)
So schützen Sie sich im Urlaub vor Trickbetrügern und anderen Ganoven.
![](/typo3temp/assets/_processed_/1/c/csm_2022_0062_01_f60e0f6708.jpg)
So kommen Sie sicher und rücksichtsvoll durch den Stadtverkehr.
![](/typo3temp/assets/_processed_/7/8/csm_fahrrad-winter_495760489a.jpg)
Darauf sollten Sie achten, wenn Sie in der kalten Jahreszeit trotz...
![](/typo3temp/assets/_processed_/0/4/csm_Schutz-vor-Wildunfaellen_907e5fd7f6.jpg)
Darauf sollten Sie achten, wenn Sie im Herbst und Winter in...
![](/typo3temp/assets/_processed_/0/2/csm_auto-alter_e4e1ed012a.png)
Darauf sollten Sie achten, wenn Sie als älterer Mensch Auto fahren.
![](/uploads/pics/2021_0098_01.jpg)
Darauf sollten Sie achten, wenn Sie auf eine Wanderung gehen möchten.
![](/typo3temp/assets/_processed_/c/d/csm_2021_0068_01_93ed6ffc37.jpg)
Darauf sollten Sie achten, um am Telefon nicht auf Betrüger...
![](/typo3temp/assets/_processed_/b/0/csm_2021_0083_01_2e3cc4f171.jpg)
Darauf sollten Sie achten, wenn Sie im Urlaub mobile Geräte nutzen.
![](/typo3temp/assets/_processed_/1/e/csm_2021_0057_01_aa03cd26d0.jpg)
Darauf sollten Sie achten, wenn Sie einen abgeschlossenen...
![](/typo3temp/assets/_processed_/4/7/csm_2021_0038_01_c8d5f18e72.jpg)
Darauf sollten Sie achten, wenn Sie online bezahlen möchten.
![](/typo3temp/assets/_processed_/c/4/csm_skipiste_a3e4702cee.jpg)
Darauf sollten Sie achten, wenn Sie in der Wintersportsaison auf...
![](/typo3temp/assets/_processed_/a/3/csm_Umgang-Spammails_56b149a6ed.jpg)
Darauf sollten Sie achten, wenn Sie von Spam-Mails in Ihrem...
![](/typo3temp/assets/_processed_/c/9/csm_sicher-mit-der-bahn_dbb28ca343.jpg)
So schützen Sie sich vor Taschendieben und kommen sicher ans Ziel.
![](/typo3temp/assets/_processed_/3/0/csm_taschendiebstahl-weihnachtsmarkt_c1b6e0df69.jpg)
So können Sie sich vor Taschendiebstahl schützen.
![](/typo3temp/assets/_processed_/c/9/csm_fallen-geschenkekauf_2bfb6e974d.jpg)
So verhindern Sie, dass der Einkauf nicht mit Frust endet.
![](/typo3temp/assets/_processed_/6/b/csm_sicheres-passwort_e3bc3d96fe.jpg)
Darauf sollten Sie bei der Passworterstellung achten.
![](/typo3temp/assets/_processed_/8/1/csm_souvenirs_00c4e138ac.jpg)
Das sollten Sie beachten, wenn Sie Urlaubsandenken erwerben.
![](/typo3temp/assets/_processed_/4/7/csm_medikamente_f7f9afb1d0.jpg)
Darauf sollten Sie achten, wenn Sie Arzneimittel online bestellen.
![](/typo3temp/assets/_processed_/1/1/csm_sicheres-pedelec_9b2aa4dc63.jpg)
Darauf sollten Sie achten, bevor Sie mit dem E-Fahrrad losfahren.
![](/uploads/pics/verkehrssicher-im-winter.jpg)
So können Autofahrer das Unfallrisiko reduzieren.
![](/typo3temp/assets/_processed_/c/a/csm_Sichere-App-Nutzung_669b513f8b.jpg)
Das sollten Sie beachten, wenn Sie Apps herunterladen und nutzen.
![](/typo3temp/assets/_processed_/1/3/csm_katastrophenvorsorge_2ee30007f0.jpg)
So sind Sie für den Ernstfall richtig vorbereitet.
![](/typo3temp/assets/_processed_/4/b/csm_schutz-vor-fahrraddiebstahl_40f9dfc5a6.jpg)
So erschweren Sie Fahrraddieben ihr Vorhaben.
Weitere Infos für Senioren
Tipps für Senioren
Die Generation „60+“ ist längst von der Werbewirtschaft und der...[mehr erfahren]
Kölner Polizei betreibt aktive Präventionsarbeit
Der Saal der evangelischen Kirchengemeinde in Köln-Porz ist von...[mehr erfahren]
Angebot in Bochum soll Handlungssicherheit verbessern
„Viele ältere Menschen haben Angst, öffentliche Verkehrsmittel zu...[mehr erfahren]
Achten Sie beim Krankenhausaufenthalt auf Ihre Wertsachen
Immer wieder berichten Patienten nach Aufenthalten in Krankenhäusern...[mehr erfahren]
Technische Einrichtungen helfen der Feuerwehr
Mittags um 14.17 Uhr in einer Essener Klinik: Die Brandmeldeanlage...[mehr erfahren]
Aktivitäten
Service
Präventionsvideos
"Ein Bild sagt mehr als tausend Worte". Und gerade mit bewegten Bildern werden wir alle viel leichter erreicht als mit nüchternen Informationsmaterialien, die nur den Verstand ansprechen. Hier finden Sie die Präventionsvideos.
Schützen Sie Ihre Immobilie gegen Einbruch!
Erklärung einschlägiger Präventions-Begriffe
Beliebte Artikel
Blechschaden, Nachbarschaftsstreit, Prügelei: Wann sollte man die Polizei rufen?
Bei Wohnungseinbrüchen, schweren Unfällen oder Körperverletzungen ist...[mehr erfahren]
Vertrauen ist gut, Kontrolle ist besser
Wer viel im Internet einkauft, kann bei seinen Zahlungen und...[mehr erfahren]
Wer den Unterschied nicht kennt, kann sich strafbar machen
Schwarzarbeit ist kein Kavaliersdelikt, sondern wird in schweren...[mehr erfahren]