Deep fake Joconde

L’hypertrucage est une technique s’appuyant sur des technologies visant à faire croire à un interlocuteur que la personne émettrice du message est la vraie alors qu’il s’agit en réalité d’une manipulation de la voie ou du physique de la personne.

Lié à l’essor de l’essor de l’intelligence artificielle, cette technique est utilisée dans le cadre d’attaque contre des entreprises ou des collectivités, par exemple. Les attaquants vont créer des entités virtuelles copiant la voie ou le visage d’interlocuteurs connus, dans le but de leur faire effectuer des actions sensibles ou non voulues.

Les domaines d’applications sont variés et la création de faux pose évidemment plusieurs questions dans finalités recherchées. Les deepfakes sont des menaces à prendre au sérieux sur de nombreux sujets :

  • Fraude bancaire : cela permet de rendre plus concret la fraude au président. La fraude au président permet, par exemple, faire effectuer des actions type transfert de fond ou virement bancaire. Avec un interlocuteur plus vrai que nature, il y a de quoi déstabiliser la victime;
  • Politique, hacktivisme : ici, il s’agit de faire dire des propos à des hommes/femmes politiques contraires à leurs valeurs. Il s’agit d’une manipulation des citoyens dans un but de faire basculer des opinions ou des votes;
  • Modification d’œuvres soumises aux droits d’auteurs : l’idée est de proposer de nouvelles œuvres modifiées, rallongées ou nouvelles;
  • Propagation de fausses informations avec pour but (voulu ou non) de modifier la perception du monde ou influencer les populations.

Au-delà de ces applications concrètes, la création de faux pose évidemment plusieurs questions :

  • Les sources d’apprentissage des outils respectent-elles les droits d’auteurs. En effet, entrainer un modèle implique de l’alimenter de nombreuses sources. Ces sources ne sont pas forcément libre de droits. Dans ce cas, l’auteur de la création pourrait être poursuivi pour violation des droits d’auteurs;
  • L’utilisation de l’image d’une personne pour générer le fake. La personne a-t-elle autorisée l’utilisation de son image ?

Si les lois ne sont pas parfaites par rapport à ces nouveautés, néanmoins des textes existent et cadrent ces créations :

  • Les mentions “Images retouchées” ou “Images virtuelles” (Loi n° 2023-451 du 9 juin 2023) pour les personnes dites “influenceuses” qui font de la promotion commerciale
  • L’IA Act (Règlement européen) qui oblige à “marquer” toute production faite avec des outils de type IA
  • Plus simplement, le code pénal, dans son article 226-8 qui indique : Est puni d’un an d’emprisonnement et de 15 000 euros d’amende le fait de porter à la connaissance du public ou d’un tiers, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention.

Deepfake avec le célèbre tableau de Léonard de Vinci : La Joconde

Deepfake avec le portrait d’Isaac Newton