Que sont les deepfakes et comment s’en protéger?

L’intelligence artificielle se développe à toute vitesse, tout comme les méthodes de manipulation des contenus numériques. L’une d’entre elle, particulièrement inquiétante, sont les deepfakes. Il s’agit de vidéos, d’images ou d’enregistrements sonores criants de vérité, mais créés à l’aide de l’intelligence artificielle et délibérément falsifiés.

Les conséquences d’un deepfake peuvent être très graves, par exemple lorsque des personnalités connues donnent l’impression de faire des déclarations qu’elles n’ont jamais faites. Mais il y a longtemps que les deepfakes ne concernent plus que les célébrités. Au quotidien, que ce soit dans la sphère privée ou professionnelle, les contenus manipulés constituent aussi un vrai danger. Il est donc d’autant plus important de comprendre comment fonctionnent les deepfakes, quels sont les risques qu’ils recèlent et comment s’en prémunir efficacement.

Quels sont les dangers des deepfakes?

Le deepfaking va de la désinformation politique aux tentatives d’escroquerie et d’extorsion à grande échelle, en passant par les représailles personnelles. Différentes menaces peuvent émaner des deepfakes, par exemple: 

• Ingénierie sociale: les cybercriminels utilisent très souvent des deepfakes pour leurs attaques de phishing, également appelées spear phishing dans ce contexte. Ils essaient d’accéder à des informations confidentielles, telles que des données bancaires ou des adresses.  
• Calomnie: de fausses affirmations sur de prétendus actes ou paroles peuvent gravement ternir la réputation d’une personne. Les deepfakes permettent de répandre des mensonges qui nuisent fortement à la réputation des victimes. Le mélange de contenus pornographiques avec le visage de personnes n’ayant rien à voir avec ces contenus entre également dans cette catégorie. 
• Deepfakes dans les systèmes biométriques: les deepfakes peuvent créer des contenus dont l’image et le son ressemblent à s’y méprendre à une personne réelle. C’est particulièrement problématique avec les procédés de reconnaissance vocale ou d’identification vidéo. En effet, le système ne peut pas contrôler où les enregistrements ont été faits ou s’ils ont été manipulés. 
• Campagnes de désinformation: certaines personnes utilisent de manière ciblée des deepfakes pour des campagnes de désinformation sur Internet. Dans leurs vidéos, elles imitent des personnalités connues qui diffusent de fausses informations sur un événement précis. Les experts observent souvent des campagnes de désinformation de grande envergure sur les réseaux sociaux. 

Exemples concrets de deepfakes

Les deepfakes ont été utilisés à plusieurs reprises dans le passé pour commettre des infractions. 

• 35 millions de dollars de dommages à cause du voice swapping: un faux appel téléphonique a permis à des criminels d’extorquer plus de 35 millions de dollars à une banque basée à Dubaï. Les cybercriminels ont recouru à la technique de deepfake «voice swapping» pour se faire passer pour un grand groupe détenant un compte auprès du directeur de la banque. Lors des entretiens précédents, le directeur de la banque connaissait bien la voix de son interlocuteur au sein de l’entreprise. Il n’a donc pas douté de l’authenticité de l’appel et a accordé une transaction de plus de 35 millions de dollars.
• Le deepfake rapporte 220 000 euros au CEO d’une entreprise énergétique: En 2019, le CEO d’un groupe énergétique britannique est tombé dans le piège d’un deepfake. C’est ainsi que son prétendu supérieur de la maison mère l’a appelé pour demander un transfert d’argent en urgence. La voix falsifiée semblait si réelle que le CEO n’en a pas douté et pensait réellement parler à son supérieur. Toutefois, le virement ne devait pas être effectué vers la maison mère, mais sur le compte d’un tiers. C’est lorsque le supérieur a de nouveau réclamé de l’argent que le CEO a eu la puce à l’oreille. Mais il était déjà trop tard pour annuler le virement.

Comment reconnaître les deepfakes?

Les cybercriminels s’efforcent de rendre leurs trucages toujours plus réalistes. Et au même moment, les entreprises de cybersécurité développent en permanence de nouveaux algorithmes pour détecter ce type de contenu. C’est une véritable course à l’avance technologique. Mais certains indices permettent malgré tout de déceler les contenus falsifiés. 

Sept indices qui trahissent les deepfakes

Certains signes permettent parfois de reconnaître une vidéo deepfake: 

• Regard vide: les deepfakes sont souvent reconnaissables à l’absence de mimiques de la personne. L’expression du visage ne correspond pas à ce qui est dit, ou le visage semble figé et sans émotion. 
• Mouvements oculaires anormaux: la personne ne cligne pas du tout des yeux, ou trop fréquemment. Les yeux bougent de manière anormale.
• Mauvais cadrage: les bords de l’image sont flous ou la personne ne semble pas positionnée correctement dans l’image. Certaines images sont déformées ou semblent contre nature. 
• Mouvements et proportions du corps inhabituels: la personne bouge brusquement. La tête n’a pas les mêmes proportions que le reste du corps. 
• Dents et cheveux non naturels: l’IA a souvent du mal à représenter de façon réaliste des détails tels que des dents ou des mèches de cheveux en mouvement. Si de tels détails manquent ou semblent artificiels, cela peut être le signe d’un deepfake. 
• Exposition ou coloration anormale: la lumière n’est pas naturelle. L’éclairage change fortement d’une scène à l’autre. La couleur de la peau devant la caméra semble étrange ou peu naturelle. Ces caractéristiques peuvent indiquer que la vidéo a été manipulée. 
• Bruits anormaux: les mouvements des lèvres ne correspondent pas à ce qui est dit. Il y a des retards, des pauses ou même des coupures dans la bande son. Des bruits de fond étranges peuvent aussi être un signe de deepfake. 

Comment vérifier vous-même l’authenticité du contenu

Si vous soupçonnez qu’une vidéo est un deepfake, contrôlez la source. Dans un premier temps, vérifiez si les portails de fact-checking que vous connaissez déjà ont passé son contenu au crible. Les principaux portails en français sont:

• Le Monde - Les Décodeurs
• AFP Factuel
• Hoaxbuster

Mais surtout, gardez l’esprit critique. Bien sûr, chaque vidéo ne renferme pas un deepfake. Mais en présence de scénarios irréalistes ou peu crédibles, il convient de faire preuve d’une bonne dose de scepticisme. 

Existe-t-il des outils ou des technologies pour détecter automatiquement les deepfakes?

Dans la lutte contre les deepfakes, vous n’êtes pas complètement livré à vous-même. Il existe désormais quelques outils qui vous permettent de détecter des deepfakes sous forme de vidéos, d’audios ou d’images, tels que: 

• Scanner Deepware 
• Fakecatcher 
• DeepFake-o-meter
• Attestiv 
• Détecteur de deepfake en temps réel d’Intel 
• Outil Video Authenticator de Microsoft 
• WeVerify