Le Deepfake: l'intelligence artificielle de trop?

Récemment, des vidéos de célébrités mondialement connues ont été diffusées sur les réseaux sociaux, on a pu notamment y voir Tom Cruise faire du golf ou Barack Obama faire un discours. Vous vous dites sûrement, quoi de plus normal ? Cependant des vidéos dégradantes mettant en scène Jessica Alba ou Gal Gadot ont été diffusées sur des sites pornographiques. Non, ces personnalités n’ont pas décidé de se reconvertir mais se sont tout simplement fait voler leur visage pour être collés sur le corps d’autres personnes ! L’ex président des États-Unis a, lui, donné son accord pour montrer les dangers de cette technologie appelée le « deepfake ».

Qu'est-ce que le "Deepfake"?

Le « Deepfake » est un mot-valise composé de « deep » venant de « deep learning » qui est une méthode d’apprentissage des machines qui utilisent l’intelligence artificielle et de « fake » qui est tout simplement la traduction de « faux » en français. Étymologiquement parlant, le mot en dit long.

Ainsi, le deepfake est une vidéo, une image ou un enregistrement audio produit ou modifié grâce à l’intelligence artificielle. Cela permet des manipulations presque imperceptibles du visage, de la voix ou du corps, notamment les « faceswaps », qui consistent à greffer numériquement le visage d’une personne sur une autre.

Comment ça fonctionne?

Actuellement il existe de nombreux programmes et applications accessibles à quiconque souhaiterait l’utiliser et qui vous permettra de créer un deepfake. Il suffit de se procurer l’un de ces logiciels et de compiler des vidéos de la personne avec laquelle vous voulez créer le montage et de les entrer dans le programme. 

D’un point de vue un peu plus technique, à partir des images fournies en amont, le premier algorithme de l’intelligence artificielle, dit « générateur » cherche à créer de fausses imitations aussi crédibles que possible. Ensuite, le second algorithme dit « discriminateur », va chercher à détecter les faux les plus efficacement possible. Au fil du temps les algorithmes vont progresser dans leurs tâches respectives et au final donner un résultat suffisamment réaliste pour tromper l’œil.

Plus les données fournies à l’algorithme au début du processus sont nombreuses et plus l’intelligence sera capable de créer un faux rapidement. C’est la raison pour laquelle les anciens présidents américains et les stars d’Hollywood ont été utilisés pour la création des Deepfakes.

Quels sont les risques ?

Ces faux contenus ont tout d’abord concerné des personnalités publiques mais avec l’explosion des réseaux sociaux et l’accessibilité de l’intelligence artificielle, les deepfakes débarquent aujourd’hui dans nos salons.

En effet, grâce à l’intelligence artificielle, n’importe qui peut créer un Deepfake via une application (FaceApp) ou un logiciel et ce, sans compétences techniques particulières. Ainsi tout le monde peut produire un tel contenu afin de servir ses intérêts en manipulant l’opinion des spectateurs.

Jusqu’à présent, faire des Deepfakes amusaient les petits malins en mettant en scène des stars dans les films porno ou faire des politiciens des sujets de moquerie, rien de bien méchant. 

Et si cette innovation était également utilisée à des fins de propagande, de terrorisme ou discréditer des candidats aux élections ? En effet, si ces contenus fallacieux viennent à se développer sur la toile, les internautes pourraient cesser définitivement de faire confiance à ce qu’ils voient en vidéo de manière générale. Sans même aller jusqu’à la Deepfake de personnalités, le simple fait d’utiliser ce système comme objet d’harcèlement ou de chantage sur les réseaux sociaux peut être un danger. 

Les intelligences artificielles apprennent de plus en plus vite et tombent dans de mauvaises mains, elles peuvent être de véritables armes. Au-delà de ça, le risque de manipulation politique est également important. Une menace a été notamment soulignée en Septembre 2018 en France dans le rapport sur les manipulations de l’information publié par le CAPS/IRSEM qui présente le deepfake comme « un défi pour nos démocraties ».