Les deepfakes, la nouvelle forme de manipulation numérique

Il est plus facile de croire à ce que nous voyons qu'à ce qu'on nous dit. Les « deepfakes » exploitent justement notre crédulité/innocence.
Les deepfakes, la nouvelle forme de manipulation numérique
Valeria213

Rédigé et vérifié par la psychologue Valeria213 dans 15 novembre, 2021.

Dernière mise à jour : 15 novembre, 2021

Cela ressemble à de la sorcellerie, mais ce n’en est pas. En fait, c’est de l’ingénierie du futur à l’état pur, un dispositif d’intelligence artificielle digne des livres d’Arthur C. Clarke. Les deepfakes sont des vidéos qui sont modifiées numériquement et qui vous permettent de changer le visage d’une personne en le remplaçant par un autre. Le résultat est si parfait que nous pouvons montrer n’importe qui disant ou faisant quelque chose qu’il n’a jamais réellement dit ou fait.

La plupart des gens utilisent cette ressource pour faire des blagues à leurs amis et leur famille. Ainsi, beaucoup ont déjà mis leur visage sur celui d’un acteur ou chanteur bien connu : Lady Gaga, Leonardo DiCaprio, Captain America, Scarlett Johansson, etc. De cette façon, nous nous retrouvons soudain à danser dans un clip ou à jouer dans un extrait de film célèbre.

Or, la technologie peut être utilisée à des fins inoffensives ou criminelles. Un exemple est celui de Raffaela Spone, une femme de 50 ans vivant dans une ville de Pennsylvanie. Cette femme au foyer a manipulé des photos de l’équipe de pom-pom girls de sa fille dans l’idée que les filles arrêtent cette activité. Pour cela, elle a créé des images pornographiques et les a envoyées.

Mme Spone a été arrêtée et accusée de cyberintimidation de mineurs. Son but était d’écarter les rivales potentielles de sa fille. Ses photos manipulées ont été diffusées à l’école et sur les réseaux sociaux. Heureusement, la police a prévenu qu’elles avaient été créées à travers la technologie de l’intelligence artificielle.

Un autre exemple est une vidéo d’Obama qui a circulé sur YouTube. Dans cette dernière, il disait que Donald Trump était un idiot, ce qui a débouché sur une grande polémique médiatique. Ce n’était pas une vraie vidéo, mais une expérience de l’Université de Washington. Celle-ci a démontré l’effet que la capacité de manipuler des vidéos via un algorithme d’intelligence artificielle était capable de produire.

fille avec des nombres binaires symbolisant les deepfakes

Les deepfakes et l’importance de la pensée critique

Les deepfakes sont à la mode. Mettre le visage d’une personne sur le corps d’une autre pour dire ou faire quelque chose de concret peut être un formidable outil d’ingéniosité. D’ailleurs, une légende urbaine dit que si vous prononcez le mot deepfake trois fois, Tom Cruise apparaîtra.

De même, il y a quelque chose d’évident qu’on nous explique dans un article de recherche réalisé par l’Université de Victoria (Canada), l’Université de Nottingham Trent (Royaume-Uni) et l’Université LUISS Guido Carli (Italie). La manipulation photographique est quelque chose qui se fait depuis le XIXème siècle.

Cependant, l’arrivée des deepfakes a marqué un tournant. Dans de nombreux cas, on les utilise à des fins criminelles, telles que la pornographie, les fake news ou la fraude financière. Le problème est si grave qu’il sera probablement bientôt régulé.

En cette ère numérique, la tromperie, que ce soit par le biais de fausses nouvelles ou d’images, est à l’ordre du jour. Et l’impact social est énorme. Nous devons être prêts à détecter ces dispositifs de manipulation.

Quand l’image a plus de pouvoir que les mots (et la vérité)

Il est plus facile de croire en ce que nous voyons qu’en ce qu’on nous dit. Cependant, les deepfakes altèrent la vérité en manipulant des documents visuels. Un exemple de ceci est ce qui s’est passé à Venise pendant la pandémie. À la suite du confinement, des images de cygnes noirs se déplaçant sereinement dans l’eau des canaux ont commencé à être publiées.

Nous avons également vu des poissons aux formes étranges remplir ces rues inondées à cette époque. Cependant, rien n’était vrai. Les cygnes étaient le produit de l’intelligence artificielle. Dans le monde de la désinformation, les deepfakes sont de grands alliés.

Contenu pornographique et deepfakes

Rappelons-nous le cas de Mme Raffaela Spone voulant écarter les coéquipières pom-pom girls de sa fille. Dans de nombreux cas, la technologie deepfake est utilisée comme moyen de harcèlement et de vengeance. Pour cela, rien de mieux que de créer des vidéos pornographiques. Il suffit de choisir un clip avec ce contenu et d’y placer le visage de qui vous voulez.

Vient ensuite l’étape suivante : le faire circuler. Il est important de savoir que les vidéos pornographiques créées avec la technologie deepfake s’utilisent à l’école et au travail. C’est une forme de harcèlement très efficace.

La réalité est piratée

Les deepfakes sont apparus en 2007, peu avant que les fake news ne deviennent à l’ordre du jour. À l’heure actuelle, toutes ces tendances piratent et altèrent complètement notre réalité. On s’en sert dans des campagnes de diffamation pour attaquer des personnalités publiques. De plus, selon une publication du Crime Science Journal, les deepfakes à des fins criminelles déplacent chaque année une grosse somme d’argent.

On estime qu’il pourrait y avoir plus de 50 000 deepfakes circulant sur Internet. Or, nous accordons à bon nombre de ces contenus une véracité complète.

femme regardant des deepfakes

Que pouvons-nous faire avec ce type de technologie?

Des pays comme la Chine ont interdit l’utilisation de ce type d’intelligence artificielle. Facebook a créé un fonds de plus de 10 millions de dollars avec l’intention de générer des outils qui protègent la population contre son utilisation abusive. Microsoft, par exemple, nous propose d’utiliser son Video Authenticator pour savoir si cette vidéo ou cette image qui nous est parvenue a été manipulée.

Ainsi, et au-delà des ressources dont nous disposons pour identifier les deepfakes, il y a quelque chose d’essentiel. La première chose est de ne pas recourir à ce type de technologie à des fins de harcèlement ou de vengeance. La deuxième est de développer un sens critique face aux messages qui nous parviennent. Dans un monde où la réalité est de plus en plus manipulée, seul le filtre de la prudence peut nous protéger...

Cela pourrait vous intéresser ...
La post-vérité et les fake news selon Noam Chomsky
Nos Pensées
Lisez-le dans Nos Pensées
La post-vérité et les fake news selon Noam Chomsky

Chomsky nous alerte des risques du phénomène de la post-vérité et des fake news sur lesquelles les gens s'appuient pour prendre des décisions impor...



  • Nguyen, Thanh & Nguyen, Cuong M. & Nguyen, Tien & Nguyen, Duc & Nahavandi, Saeid. (2019). Deep Learning for Deepfakes Creation and Detection: A Survey.
  • Kietzmann, J.; Lee, L. W.; McCarthy, I. P.; Kietzmann, T. C. (2020). “Deepfakes: Trick or treat?”. Business Horizons63 (2): 135–146. doi:10.1016/j.bushor.2019.11.006
  • Roose, Kevin (4 March 2018). “Here Come the Fake Videos, Too”. The New York Times. ISSN 0362-4331