Hypertrucage et arnaques : quand les publicités frauduleuses envahissent le web

Elon Musk, Kelly Clarkson et Jennifer Aniston.

Adepte des technologies? Ne manquez pas Planète techno, les vendredis à 19h!

Aller à la fiche de l'émission

Que ce soit sur Facebook, YouTube, Instagram, TikTok ou X (feu Twitter), les techniques d’hypertrucage (deepfake) sont de plus en plus utilisées pour créer des publicités mensongères à l’aide du visage et de la voix de personnalités connues. Certains de ces contenus promotionnels frauduleux circulent depuis des mois sur ces plateformes sans intervention efficace de la part des géants du web, qui forcent de plus en plus la publicité dans leur environnement.

L’ère des algorithmes d’intelligence artificielle (IA) et de l’hypertrucage ne fait que commencer, mais il révèle déjà ses côtés sombres et le besoin d’un meilleur encadrement.

Non, l’actrice Jennifer Aniston ne fait pas tirer 10 000 MacBook, un concours tout aussi faux que la supposée plateforme d’investissement de l’homme d’affaires Elon Musk. Et, soyons clairs, la chanteuse Kelly Clarkson ne vend pas non plus des bonbons en gélatine qui permettent de perdre du poids. 

Ces campagnes publicitaires frauduleuses, et bien d’autres qui utilisent l’hypertrucage, sont régulièrement présentées de manière anodine avant un contenu vidéo, ou comme un contenu légitime dans les espaces publicitaires de Google et des autres géants du web.

Grâce à certains algorithmes d'intelligence artificielle qui permettent de créer des hypertrucages, les escrocs peuvent utiliser la voix et le visage de célébrités pour leur faire raconter n’importe quoi, un contenu mensonger qui se fait bien sûr sans l’autorisation des personnes mises en cause. 

Des fraudeurs ont même poussé l’audace jusqu’à faire passer certaines de leurs publicités pour des reportages légitimes de Radio-Canada, de CBC et d’autres grands médias à plusieurs occasions. Les liens commandités liés à ces campagnes mènent inévitablement vers de faux articles qui imitent les sites officiels des entreprises médiatiques.

Un exemple de faux reportage de Radio-Canada dans lequel la voix de l'animatrice Anne-Marie Dussault est manipulée par l'IA.

Le but ultime de ce type de contenu est toujours le même : soutirer de l’argent et des informations personnelles aux internautes qui se font avoir. Dans certains cas, des victimes de ce type de fraude ont perdu des milliers de dollars au profit des escrocs après avoir été bernées par un contenu publicitaire.

Une arnaque semblable liée à Elon Musk et aux cryptomonnaies circule même depuis environ deux ans, dans l’indifférence, ou à tout le moins sans actions efficaces, des géants du web.

Alors que ce phénomène prend de l’ampleur, ces grandes entreprises ont plutôt fait part de leur désir d’augmenter la place de la publicité sur leurs plateformes et de développer des stratégies pour empêcher le fonctionnement des logiciels de blocage publicitaire.

Autrement dit, ce type de contenu publicitaire frauduleux n’est pas près de disparaître, bien au contraire.
 

Une évolution rapide et inquiétante

L’intelligence artificielle progresse rapidement, et ce progrès vient avec une diversité d’outils qui sont peu à peu mis à la disposition du grand public. L’hypertrucage en fait partie : cette technologie qui était encore considérée comme complexe à utiliser il y a deux ou trois ans est devenue beaucoup plus accessible depuis.

Les algorithmes qui développent ce type de contenu sont entraînés avec des échantillons d’images et de son, donc plus il y a de contenus sur une personne, plus il est facile d’obtenir une reproduction réaliste de sa voix et de son visage en mouvement. Les célébrités, constamment devant les caméras, deviennent ainsi des cibles idéales pour entraîner les algorithmes et créer des vidéos manipulées par l'IA.

Un exemple d'hypertrucage réalisé en 72 h avec le visage et la voix de l'animateur Anderson Cooper.

Par exemple, la vidéo frauduleuse de Jennifer Aniston et de son concours n’est pas forcément la plus réaliste, mais elle l’est tout de même suffisamment pour tromper les personnes qui ne connaissent pas ce type de technologies. 

Les technologies d’hypertrucages possèdent un pouvoir d’influence considérable, que ce soit pour monter de grandes arnaques ou pour orienter l’opinion publique sur des sujets sensibles.

Ces algorithmes continueront également à évoluer au fil des prochains mois et des prochaines années, et il sera donc de plus en plus difficile de différencier le vrai du faux.

En réaction à cette problématique, de nombreuses voix s’élèvent parmi la communauté scientifique mondiale pour demander un meilleur encadrement des différents algorithmes d’intelligence artificielle, mais l’évolution de cette technologie s’avère pour l'instant beaucoup plus rapide que la réaction des pouvoirs publics.