Deepfakes : la menace des ultrafakes et de la désinformation

À l'ère du numérique, où l'information est synonyme de pouvoir, une nouvelle technologie menace de saper les fondements mêmes de la réalité : les deepfakes. Ces montages hyperréalistes, créés grâce à l'intelligence artificielle (IA), représentent une menace existentielle pour la confiance du public. Leur plus grand danger n'est pas seulement d'induire les gens en erreur avec de faux contenus, mais de détruire la confiance dans la véracité de tout contenu, un phénomène corrosif connu sous le nom de « dividende du menteur ». De plus en plus accessible, cette technologie se démocratise et devient un outil de fraude, de harcèlement et de déstabilisation politique, avec des risques particulièrement graves pour les démocraties latino-américaines.

Que sont les Deepfakes et comment fonctionnent-ils ?

Le terme « deepfake » désigne des fichiers vidéo, image ou audio manipulés ou générés synthétiquement par l'IA pour paraître authentiques et réels. Cette technologie repose sur un type d'apprentissage profond utilisant des réseaux antagonistes génératifs (GAN). Dans ce système, deux réseaux d'IA s'affrontent : un « générateur » crée le faux contenu (par exemple, en superposant le visage d'un homme politique sur le corps d'une autre personne) et un « discriminateur » tente de le détecter. Ce processus compétitif permet à l'IA d'apprendre et de s'améliorer de manière exponentielle, produisant des faux de plus en plus convaincants.

De la fraude financière à la désinformation politique

Bien que la technologie ait des applications bénignes dans le cinéma et l’art, son potentiel d’utilisation malveillante est vaste et est déjà en train d’être réalisé :

* Fraude et extorsion : Les criminels utilisent les deepfakes pour se faire passer pour des individus. Dans un cas notoire à Hong Kong, un employé du secteur financier a été piégé et amené à transférer 25 millions de dollars après une visioconférence où tous les participants, y compris le directeur financier de son entreprise, étaient des deepfakes. Sur le plan personnel, cette technologie est utilisée pour créer de la pornographie non consensuelle mettant en scène les visages des victimes à des fins de harcèlement ou d'extorsion. Une étude a révélé que 96 % des deepfakes détectés en ligne étaient de nature pornographique.

* Désinformation et manipulation politique : Les deepfakes sont l’arme idéale pour la désinformation. Des vidéos de dirigeants politiques tenant des propos ou faisant des choses qui n’ont jamais eu lieu peuvent être créées pour manipuler l’opinion publique, influencer les élections ou inciter à la violence. Pendant la guerre en Ukraine, une fausse vidéo a fait surface, montrant le président Zelensky appelant ses troupes à la reddition.

* Érosion de la confiance : La simple existence de cette technologie érode la confiance dans les institutions, les médias et les preuves elles-mêmes. Une étude expérimentale a montré que l'exposition à un deepfake concernant l'effondrement d'un pont augmentait la méfiance envers le gouvernement parmi les participants américains.

Le dividende du menteur : douter de tout

L'impact le plus corrosif des deepfakes n'est pas de nous faire croire au faux, mais de nous faire douter du vrai. C'est le « dividende du menteur » : la technologie offre à toute personnalité publique un démenti plausible de toute preuve réelle contre elle. Si une vidéo authentique incriminant un homme politique fait surface, il peut simplement prétendre qu'il s'agit d'un deepfake. Cette affirmation, même mensongère, introduit suffisamment de doute pour que la preuve perde sa force. Le débat se déplace de la transgression elle-même vers un débat sans fin sur l'authenticité de la vidéo, détruisant ainsi le concept de réalité partagée, fondamental pour la responsabilité démocratique.

La démocratisation du chaos et le risque pour l'Amérique latine

Alors que les gros titres se concentrent sur les deepfakes de dirigeants mondiaux, le véritable danger se situe au niveau local et personnel. La technologie devient bon marché et facile à utiliser, la mettant à la portée de toute personne malintentionnée. Dans les écosystèmes des médias sociaux d'Amérique latine, souvent très polarisés et où la confiance envers les médias traditionnels est moindre, cette « démocratisation du chaos » est particulièrement dangereuse. Une vidéo deepfake peut être utilisée pour détruire la réputation d'un candidat municipal, fabriquer des preuves contre un militant social ou inciter à la haine contre une minorité, causant des dommages irréparables bien avant qu'elle ne puisse être démentie.

Pour nous protéger, les experts recommandent une combinaison d'éducation favorisant l'esprit critique, de développement d'outils technologiques de détection et de réglementations exigeant transparence et responsabilité. Il est essentiel d'être vigilant, d'analyser l'information en détail, de comparer les sources et de faire preuve de bon sens. À l'ère numérique, la démocratie ne peut se défendre seule ; elle a besoin d'une citoyenneté active et critique, consciente des nouvelles formes de mensonge.