BSI-Themenseite erklärt Gefahren und Gegenmaßnahmen

Die Technologie zur Fälschung medialer Identitäten hat sich in den letzten Jahren insbesondere durch die Fortschritte im Bereich der künstlichen Intelligenz (KI) deutlich weiterentwickelt. Forscher gehen davon aus, dass die manuelle Erkennung von Fälschungen in Zukunft immer schwieriger werden wird. Aus diesem Grund hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) seine Aktivitäten rund um die Sicherheit von KI-Systemen verstärkt. Dabei herausgekommen ist eine neue Themenseite, die sich dem steigenden Gefahrenpotenzial von Deepfakes widmet. Unter Deepfakes versteht man mit Hilfe künstlicher Intelligenz erstellte, realistisch wirkende Medieninhalte. Diese Technik wird genutzt, um z. B. Gesichter in Videosequenzen durch Gesichter anderer Personen zu ersetzen. Deepfakes wirken wie realistische Aufnahmen – sind aber gefälscht. Auf der BSI-Seite werden zunächst verschiedene Manipulationsverfahren, darunter „Face Swapping“ oder „Text-to-Speech“, sowie daraus entstehende Bedrohungsszenarien dargestellt. Ein Beispiel-Video zeigt eine mittels KI erstellte virtuelle Kopie des BSI-Präsidenten Arne Schönbohm und demonstriert, wie die verschiedenen Fälschungsmethoden angewendet werden. Abgerundet wird die Themenseite mit Hinweisen zu Präventionsmaßnahmen.