Deepfake, le mensonge technologique pour le meilleur et le pire ?

Déjà 2017 semble loin. Cette année-là, sur le réseau Reddit, sont apparues les premières vidéos détournées via l’intelligence artificielle (IA) et baptisées pour la première fois « deepfakes ». Il n’était alors question que de faire rire avec des détournements au ton léger. Des mises en situation de personnalités qui ne tentaient pas de laisser croire à un semblant de vérité. L’humour reste l’immense majorité de la production de deepfakes, mais la technologie fait aussi les beaux jours des manipulateurs d’opinion. Deepfakes et « fake news » ont envahi nos réseaux sociaux, pour le pire comme pour, parfois, le meilleur.

Sur…

Déjà 2017 semble loin. Cette année-là, sur le réseau Reddit, sont apparues les premières vidéos détournées via l’intelligence artificielle (IA) et baptisées pour la première fois « deepfakes ». Il n’était alors question que de faire rire avec des détournements au ton léger. Des mises en situation de personnalités qui ne tentaient pas de laisser croire à un semblant de vérité. L’humour reste l’immense majorité de la production de deepfakes, mais la technologie fait aussi les beaux jours des manipulateurs d’opinion. Deepfakes et « fake news » ont envahi nos réseaux sociaux, pour le pire comme pour, parfois, le meilleur.

1 Qu’est-ce qu’un contenu deepfake ?

L’anglicisme « deepfake » désigne un contenu fallacieux réalisé à l’aide d’une technologie d’intelligence artificielle. Celle-ci permet, notamment, de superposer et animer à partir d’une simple photo le fichier numérique d’un visage ou d’une voix, voire les deux, sur un autre fichier numérique, vidéo, message sonore… d’une autre personne, dans le but de produire du faux contenu – de plus en plus réaliste et qui sera sans doute avec le temps toujours plus difficile à identifier.

« Les outils d’intelligence artificielle qui permettent de produire des ‘‘vidéos hypertruquées’’, comme les Québécois traduisent les ‘‘deepfakes’’, progressent plus chaque mois que lors de l’année entière qui a précédé. Dès que l’IA générative est confrontée à des méthodes de détection de fausses vidéos, elle s’adapte, elle apprend à les contourner. La course à la vérification, qui est capitale pour lutter contre la désinformation que ces outils utilisés à dessein permettent de produire, est donc sans fin », assure Jean-Luc Dugelay, informaticien, chercheur et professeur à l’école d’ingénieurs Eurecom, au département sécurité numérique.

2 Un combat pour la vérité perdu d’avance ?

Un constat que partage un autre expert, Nicolas Obin, maître de conférences à la Sorbonne, chercheur à l’Institut de recherche et coordination acoustique-musique (Ircam) à Paris. Ce dernier est spécialiste de l’IA mise au service de l’utilisation, du détournement de la voix, un autre bon moyen de désinformation. Nicolas Obin et Jean-Luc Dugelay participent au projet Detox, qui vise à mettre au point un détecteur de vidéos et de sons « hypertruqués » qui concerneraient essentiellement les personnalités les plus « sensibles » de nos sociétés – chefs d’État, candidats à des scrutins importants, grands décideurs économiques et financiers… Des personnalités dont des détournements de paroles et d’actes pourraient entraîner des crises politiques, économiques voire géopolitiques.

Désormais, « le petit deepfake bricolé est facilement détecté »

« Sommes-nous condamnés à perdre face à la désinformation technologique ? Non, car, au fur et à mesure que la technologie de détection progresse, la technologie nécessaire pour produire du deepfake devient de plus en plus puissante et onéreuse. Le petit deepfake bricolé est facilement détecté. La détection rend la vie des gens malhonnêtes plus compliquée… » assure Jean-Luc Dugelay.

3 Le « cheap fake » plus efficace pour manipuler

L’analyse des chercheurs « parle » à Grégoire Lemarchand, rédacteur en chef de l’investigation numérique de l’Agence France-Presse (AFP) : « Le deepfake n’est pas notre obsession. C’est, potentiellement, une arme de désinformation qui demande beaucoup d’investissement, de temps si l’on veut qu’elle soit efficace. En matière de fausse information et de manipulation, un simple message sur un réseau social, une vidéo basique, prise au téléphone et accompagnée d’un commentaire mensonger peut faire beaucoup plus de mal. Nous passons plus de temps à vérifier des « shallow fakes » ou « cheap fakes » (1) que du deepfake ultra-élaboré. Le cheap fake, c’est 90 % de notre activité ! »

4 Au service (également) de la vérité

Reste que le deepfake peut aussi se révéler un atout majeur au service de… la vérité. Exemple avec le documentaire « Nous jeunesse(s) d’Iran », diffusé le 21 avril dernier et toujours disponible sur la plateforme France TV : la technologie de l’intelligence artificielle a permis de recréer entièrement les visages des témoins du documentaire. Ici, pas de manipulation recherchée mais le souhait de protéger celles et ceux qui s’opposent au régime de l’ayatollah Ali Khamenei, afin qu’ils partagent librement leur vie quotidienne sans craindre une possible répression. Pour le meilleur, donc, mais aussi pour le pire, telle est l’union qui nous lie désormais à l’IA et aux deepfakes.

(1) Cet anglicisme désigne un type de vidéo ou d’image manipulée créé à l’aide de techniques plus simples que pour le deepfake, en coupant, recadrant ou collant des parties de la vidéo ou de l’image, ou en modifiant le son ou les sous-titres, par exemple.