Intelligence artificielle : la grande arnaque en vidéo

Le Parisien

Jake Paul qui fait son coming-out sur TikTok, Will Smith qui mange des spaghettis ou encore Macron et Trump qui s'embrassent passionnément... des milliers de vidéos réalistes, générées par IA, circulent aujourd’hui sur Internet. Mais peut-on encore distinguer le vrai du faux ? On fait le point avec Patrick Bas, directeur de recherche au CNRS et chercheur au laboratoire CRIStAL.

Transcript

00:00Voici l'histoire d'un influenceur qui fait son coming-out sur TikTok.

00:08Sauf que ces vidéos sont entièrement fausses.

00:11Elles ont été créées par l'intelligence artificielle d'OpenIA, Sora.

00:20Une image loin de la figure pro-Trump, virile du boxeur,

00:24que promeut habituellement Jake Paul sur ses réseaux,

00:26mais qui, avec le développement de l'IA ces dernières années, devient tout à fait réaliste.

00:33Donc au tout début de Tchad GPT, on avait des problèmes de type géométrique.

00:39En 2023, on avait donc des vidéos qui ressemblaient à ça.

00:43Donc ça, c'était des artefacts qu'on pouvait voir sur certains générateurs il y a encore deux ans.

00:47Mais maintenant, les IA génératives sont faites pour tromper l'humain.

00:50Elles sont de très bonne qualité.

00:52Si visuellement, on a de moins en moins d'indices, quelques détails subsistent

00:56et surtout, comme Patrick Bass, de nombreux chercheurs travaillent aujourd'hui

00:59avec des logiciels de reconnaissance de plus en plus performants.

01:02Moi, ce que j'ai envie de regarder, alors, on appelle ça le bruit d'une image.

01:06C'est complètement invisible, mais c'est vraiment des variations très très fines

01:10dans l'image ou dans la vidéo.

01:12En passant de plateforme en plateforme, la qualité des vidéos générées,

01:15en partie ou entièrement, est souvent un peu dégradée,

01:17ce qui fait que les images sont un peu moins détaillées.

01:20Comme avec cette vieille dame en larmes.

01:22Effectivement, ça ressemble un peu à ces face swaps qu'on avait il y a quelques années.

01:29Si on compare, par exemple, la qualité de la robe,

01:31qui est relativement fine à celle du visage, on voit que c'est pas très cohérent.

01:34Et derrière l'utilisation probable de l'IA dans ce cas-ci,

01:38cette femme âgée qui porte des lunettes jaunes,

01:40eh bien, elle existe.

01:41C'est en fait une créatrice de contenu américaine sur TikTok.

01:43Comme d'autres personnes âgées, son image a été détournée

01:49pour promouvoir des produits prétendument faits à la main,

01:56des petits ours ou des chaussons, par exemple.

01:58Ça va être la qualité, par exemple, de la peau.

02:01Est-ce qu'on a de la texture ?

02:02Est-ce qu'on arrive à voir, je sais pas, des rides,

02:06des poils apparaître, des reflets,

02:09des choses vraiment de l'ordre pratiquement de la vision du microscope ?

02:14En Belgique, cette année, le roi Philippe en a aussi fait les frais.

02:17AQ Trade AI, il suffit de commencer avec seulement 250 euros.

02:23Dans une vidéo faisant la promo d'un soi-disant service de crypto-trading.

02:26La voix ressemble vraiment à une voix de robot.

02:28Là, pour le coup, ça reste fortement visible

02:31parce que des vidéos de telle qualité à notre époque, ça n'existe plus,

02:34sauf si ça a été généré par une IA générative relativement vieille.

02:39Après, si c'est grossier concernant le roi belge,

02:42la plupart des voix aujourd'hui trafiquées par IA

02:44sont, comme l'image, de plus en plus crédibles.

02:46Et même les anonymes peuvent en être la cible.

02:48Moi, professeur d'université,

02:51mon image est détournée par la propagande russe

02:55et je trouve ça quand même assez inquiétant

02:58dans la mesure où chaque citoyen peut être touché de cette façon-là.

03:02Dominique Frison de Lamotte est professeur de Sergi Paris Université,

03:06géologue et passionné par le vexin, un territoire du nord de la France.

03:10Il y a quelques semaines, il a découvert que le son de sa voix

03:12dans une simple vidéo pédagogique publiée par l'université a été reproduite.

03:16Une fausse intervention qui a circulé sur Telegram

03:18au moment des élections législatives moldaves.

03:20En tant que personne ayant des racines moldaves,

03:23je suis profondément choqué par la lutte brutale de Sandou

03:27contre ces rivaux politiques.

03:28Je n'ai pas compris tellement l'intérêt de ce détournement

03:31puisque je parle en français,

03:34donc à qui s'adresse cette affaire ?

03:36Je n'ai aucun lien, aucune sorte avec la Moldavie.

03:40Avec notre IA d'analyse,

03:43qui se comporte un peu comme un microscope,

03:45essayer de regarder les parties fines du signal,

03:48des toutes petites variations pour pouvoir prédire

03:51si l'audio qu'on est en train d'entendre est généré ou non.

03:55Et avec les milliards de contenus

03:57qui nourrissent les générateurs d'IA aujourd'hui,

03:59son utilisation finit même par avoir des répercussions

04:01directement sur notre quotidien.

04:03C'est-à-dire qu'on va bientôt pouvoir générer des films entiers

04:05si ce n'est pas déjà le cas.

04:07Ici, des centaines d'internautes ont participé à une trend,

04:10celle du Homeless Man.

04:11Ils génèrent des photos de sans-abri dans leur maison

04:18avant de les envoyer par message à leurs proches,

04:21généralement leurs parents.

04:22C'est plutôt bien fait.

04:24C'est des IA qu'on appelle, nous, dans notre jargon,

04:26des in-paintings, où on va remplacer

04:28une portion de l'image par une autre.

04:30Donc, ça renforce le côté réaliste.

04:33Une blague anodine au départ

04:34qui a pris de véritables proportions.

04:36Et cette farce, selon les autorités de Salem,

04:45dans le Massachusetts notamment,

04:47gaspille réellement des ressources policières.

04:52Ces interventions ont aussi eu lieu

04:54dans d'autres villes des États-Unis et au Royaume-Uni.

04:57Alors, si on ne distingue déjà plus vraiment le vrai du faux,

05:00va-t-on un jour ne plus pouvoir du tout dissocier les deux ?

05:03C'est assez difficile de prévoir

05:05de quoi le futur sera fait dans cette mouvance

05:07où on va avoir de plus en plus de générateurs

05:09qui seront de bonne qualité.

05:11Donc, on a vraiment ce qu'on a classiquement

05:13dans les domaines de la sécurité,

05:15un jeu d'attaque-contre-attaque,

05:17du chat et de la souris.

05:18Mais ça reste assez difficile de prédire

05:20qui va gagner dans cette bataille.

Catégorie

Transcription

Écris le tout premier commentaire

Recommandations