Was sind Deepfakes und wie können Sie sich schützen?

Künstliche Intelligenz entwickelt sich rasant – und mit ihr auch die Methoden zur Manipulation von digitalen Inhalten. Besonders brisant: sogenannte Deepfakes. Dabei handelt es sich um täuschend echte Videos, Bilder oder Tonaufnahmen, die mithilfe von KI erstellt und bewusst verfälscht werden.

Die Folgen von Deepfake können gravierend sein – etwa wenn bekannte Persönlichkeiten scheinbar Aussagen machen, die sie nie getätigt haben. Doch Deepfakes betreffen längst nicht mehr nur Prominente. Auch im Alltag – etwa im privaten oder beruflichen Umfeld – werden manipulierte Inhalte zur Gefahr. Umso wichtiger ist es, zu verstehen, wie Deepfakes funktionieren, welche Risiken sie bergen und wie man sich wirksam davor schützen kann.

Was sind die Gefahren von Deepfakes?

Deepfaking reicht von politischen Falschinformationen über persönliche Rachefeldzüge bis hin zu grossangelegten Betrugs- und Erpressungsversuchen. Von Deepfakes gehen unterschiedliche Bedrohungsszenarien aus, darunter: 

• Social-Engineering: Besonders häufig nutzen Cyberkriminelle Deepfakes für Phishing-Angriffe, in diesem Bereich auch als Spear-Phishing bekannt. Sie versuchen, mit den Deepfakes an vertrauliche Informationen, wie Bank- oder Adressdaten, zu gelangen.  
• Verleumdung: Falsche Behauptungen über angebliche Taten oder Worte können dem Ruf erheblich schaden. Durch Deepfakes lassen sich Lügen verbreiten, die den Ruf der Opfer massiv schädigen. Hierunter fällt auch das Vermischen von pornografischen Inhalten mit Gesichtern von Unbeteiligten. 
• Deepfakes in biometrischen Systemen: Deepfakes können Inhalte erstellen, die aussehen und klingen wie eine echte Person. Besonders problematisch ist das bei Spracherkennungs- oder Video-Ident-Verfahren. Denn das System kann nicht kontrollieren, wo die Aufnahmen gemacht oder ob sie manipuliert wurden. 
• Desinformationskampagnen: Einige Personen nutzen Deepfakes gezielt für Desinformationskampagnen im Internet. In ihren Videos imitieren sie bekannte Persönlichkeiten, die Falschinformationen über ein bestimmtes Ereignis verbreiten. Besonders häufig beobachten Expertinnen und Experten breit angelegte Desinformationskampagnen in den sozialen Netzwerken. 

Konkrete Beispiele für Deepfakes

Deepfakes wurden in der Vergangenheit wiederholt genutzt, um Straftaten zu begehen: 

• 35 Millionen Dollar Schaden durch Voice-Swapping: Durch einen gefakten Telefonanruf erbeuteten Kriminelle mehr als 35 Millionen Dollar von einer Bank mit Sitz in Dubai. Cyberkriminelle nutzten die Deepfake-Technik Voice-Swapping und gaben sich dem Bankdirektor gegenüber als ein Grosskonzern aus, der bei der dortigen Bank ein Konto besass. Durch die vorherigen Gespräche war der Bankdirektor mit der Stimme seiner Kontaktperson im Unternehmen vertraut. Er zweifelte also nicht an der Echtheit des Anrufs und gewährte eine Transaktion in dieser Höhe.
• Deepfake bringt den CEO eines Energieunternehmens um 220'000 Euro: Ein CEO eines britischen Energiekonzerns fiel 2019 auf einen Deepfake herein. So rief sein vermeintlicher Vorgesetzter aus dem Mutterkonzern bei ihm an, um einen Notfall-Geldtransfer anzufordern. Die gefälschte Stimme klang so echt, dass der CEO nicht zweifelte und davon ausging, mit seinem Vorgesetzten zu sprechen. Er sollte das Geld allerdings nicht an den Mutterkonzern, sondern an ein Drittanbieter-Konto überweisen. Erst als sein Vorgesetzter erneut Geld anforderte, wurde der CEO hellhörig. Da war es allerdings bereits zu spät, um den überwiesenen Betrag zurückzubuchen.

Wie erkennt man Deepfakes?

Cyberkriminelle arbeiten ständig an immer raffinierteren Fälschungen. Gleichzeitig entwickeln Cybersecurity-Unternehmen fortlaufend neue Algorithmen zur Erkennung solcher Inhalte. Es ist ein regelrechtes Wettrennen um den technologischen Vorsprung entbrannt. Doch auch für Laiinnen und Laien gibt es Hinweise, wie sich manipulierte Inhalte entlarven lassen. 

7 Indizien, die für einen Deepfake sprechen

Es gibt einige Anzeichen, an denen sich ein Deepfake-Video erkennen lässt: 

• Leerer Blick: Deepfakes erkennt man häufig an fehlender Mimik der Person. Passt der Gesichtsausdruck nicht zu der gesprochenen Aussage oder wirkt das Gesicht starr und emotionslos? 
• Unnatürliche Augenbewegungen: Blinzelt die Person gar nicht oder auffällig oft? Bewegen sich die Augen auf unnatürliche Weise?
• Verschwommene Ausrichtung: Gibt es unscharfe Bildränder oder wirkt die Person nicht korrekt im Bild positioniert? Sind einzelne Frames verzerrt oder unnatürlich? 
• Ungewöhnliche Körperbewegungen und -proportionen: Fällt auf, dass sich die Person ruckartig bewegt? Wirkt der Kopf im Verhältnis zum Körper gross – oder umgekehrt? 
• Unnatürliche Zähne und Haare: KI hat oft Schwierigkeiten, Details wie einzelne Zähne oder fliegende Haarsträhnen realistisch darzustellen. Wenn solche Details fehlen oder künstliche wirken, kann das ein Hinweis auf einen Deepfake sein. 
• Merkwürdige Belichtung oder Färbung: Ist das Licht unnatürlich? Verändert sich die Beleuchtung auffällig von Szene zu Szene? Sieht die Hautfarbe vor der Kamera seltsam oder unnatürlich aus? Solche Merkmale können auf ein manipuliertes Video hinweisen. 
• Auffällige Tongeräusche: Stimmen die Lippenbewegungen nicht mit dem Gesagten überein? Gibt es auffällige Verzögerungen, Pausen oder sogar Ton-Aussetzer?Auch seltsame Hintergrundgeräusche können ein Zeichen für Deepfake-Technologie sein. 

So prüfen Sie die Echtheit des Inhalts selbst

Vermuten Sie hinter einem Video einen Deepfake, sollten Sie den Blick auf die Quelle richten. Im ersten Schritt prüfen Sie, ob bereits bekannte Faktencheck-Portale den Inhalt unter die Lupe genommen haben. Zu den bekanntesten Portalen gehören beispielsweise:

• CORRECTIV
• dpa-Faktencheck
• Mimikama

Am wichtigsten ist: Bleiben Sie kritisch. Natürlich müssen Sie nicht hinter jedem Video einen Deepfake vermuten. Doch bei unrealistischen oder unglaubwürdigen Szenarien ist eine gesunde Portion Skepsis angebracht. 

Gibt es Tools oder Technologien, um Deepfakes automatisch zu erkennen?

Beim Kampf gegen Deepfakes sind Sie nicht komplett auf sich allein gestellt. Es gibt mittlerweile einige Tools, mit denen Sie Deepfake-Videos, -Audios oder -Bilder erkennen können, zum Beispiel: 

• Deepware Scanner 
• FakeCatcher 
• DeepFake-o-meter
• Attestiv 
• Intels Echtzeit-Deepfake-Detektor 
• Video Authenticator Tool von Microsoft 
• WeVerify