Un deepfake est un enregistrement vidéo ou audio réalisé ou modifié grâce à l'IA. Ce terme fait référence non seulement au contenu ainsi créé, mais aussi aux technologies utilisées. Le mot deepfake est une abréviation de "Deep Learning" et "Fake", qui peut être traduit par "fausse profondeur". En fait, il fait référence à des contenus faux qui sont rendus profondément crédibles par l'intelligence artificielle.

Avec l’émergence des logiciels utilisant l'IA il est très facile aujourd'hui de produire du contenu de ce type. Il est même maintenant d'usage de nos jours de tomber sur des vidéos satiriques mettant en scène des personnalités politiques ou publique sur les réseaux sociaux.

La genèse 

En 2014, une technique inventée par le chercheur Ian Goodfellow est à l'origine des deepfakes. Il s'agit du GAN (Generative Adverarial Networks). Selon cette technologie, deux algorithmes s'entraînent mutuellement : 

1. l'un tente de fabriquer des contrefaçons aussi fiables que possible ; 

2. l'autre tente de détecter les faux. 

De cette façon, les deux algorithmes s'améliorent ensemble au fil du temps grâce à leur entraînement respectif. Plus le nombre d'échantillons disponibles augmente, plus l'amélioration de ceux-ci est importante. 

Le phénomène du deepfake est officiellement né à l'automne 2017 et est apparue sur le site web Reddit. Depuis 2017, le nombre de deepfakes augmente considérablement. D’après les chercheurs de la société Deeptrace, le nombre de vidéos deepfakes trouvées en ligne en 2019 étaient d’environ 15000, contre un peu moins de 8000 vidéos recensées un an auparavant. 

En ce qui concerne les deepfakes audio, la création de ceux-ci nécessite des ressources matérielles très importantes, cela relève donc pour l'instant majoritairement des professionnels dans ce domaine. 

Quels sont les risques liés aux deepfakes ?

Grâce à l'IA, tout le monde peut créer des deepfakes très facilement et sans connaissances techniques particulières en téléchargeant une application simple comme FakeApp. 

En analysant les mouvements de nos visages, l'algorithme de l'application va pouvoir nous "rajeunir" ou nous "vieillir" assez simplement, par exemple. Ce ne sont pas des deepfakes élaborés permettant de créer de faux contenus qui peuvent être compromettant, mais ceux-ci deviendront de plus en plus réalistes au fur et à mesure des évolutions technologiques, et donc de plus en plus problématiques...

Avec l'avènement des fakes news et ses effets néfastes sur les réseaux sociaux, la diffusion de deepfake sur le web constitue donc une nouvelle menace technologique. Manipulation, désinformation, humiliation, diffamation... 

les dangers des deepfakes seront de plus en plus nombreux. C’est pour cela que Google a publié, en septembre 2019, une base de données d’un peu plus de 3000 vidéos deepfakes, ce qui permet d’apporter une aide aux ingénieurs et chercheurs essayant de créer des outils de détection automatisés, reposant sur l’IA. Cela permettrait aussi d’augmenter l’efficacité de ces outils, surtout que Google continue à alimenter cette base de données. 

Le grand retour des attaque de type "Arnaque au président".

Avec le les Deepfakes c'est le grand retour des attaque de type "Arnaque au président".

L’arnaque au président est une angoisse pour tout chef d’entreprise. Cette fraude consiste en une usurpation de l’identité du dirigeant par des malfaiteurs. Le but est d’obtenir auprès de vrais employés - notamment les comptables ou les responsables financiers - des virements bancaires. Le motif évoqué est souvent urgent ou confidentiel, ce qui met le collaborateur en charge des virements, sous pression. 

En France, le géant du conseil et du contrôle KPMG avait subi en 2012 une escroquerie d’un montant de 7,6 millions d’eur

Conclusion 

Ne croyez pas tous ce que vous voyez sur les médias et surtout les réseaux sociaux, faites preuves de discernement et écoutez les avis divergeants.