00:00Voici l'histoire d'un influenceur qui fait son coming-out sur TikTok.
00:08Sauf que ces vidéos sont entièrement fausses.
00:11Elles ont été créées par l'intelligence artificielle d'OpenIA, Sora.
00:20Une image loin de la figure pro-Trump, virile du boxeur,
00:24que promeut habituellement Jake Paul sur ses réseaux,
00:26mais qui, avec le développement de l'IA ces dernières années, devient tout à fait réaliste.
00:33Donc au tout début de Tchad GPT, on avait des problèmes de type géométrique.
00:39En 2023, on avait donc des vidéos qui ressemblaient à ça.
00:43Donc ça, c'était des artefacts qu'on pouvait voir sur certains générateurs il y a encore deux ans.
00:47Mais maintenant, les IA génératives sont faites pour tromper l'humain.
00:50Elles sont de très bonne qualité.
00:52Si visuellement, on a de moins en moins d'indices, quelques détails subsistent
00:56et surtout, comme Patrick Bass, de nombreux chercheurs travaillent aujourd'hui
00:59avec des logiciels de reconnaissance de plus en plus performants.
01:02Moi, ce que j'ai envie de regarder, alors, on appelle ça le bruit d'une image.
01:06C'est complètement invisible, mais c'est vraiment des variations très très fines
01:10dans l'image ou dans la vidéo.
01:12En passant de plateforme en plateforme, la qualité des vidéos générées,
01:15en partie ou entièrement, est souvent un peu dégradée,
01:17ce qui fait que les images sont un peu moins détaillées.
01:20Comme avec cette vieille dame en larmes.
01:22Effectivement, ça ressemble un peu à ces face swaps qu'on avait il y a quelques années.
01:29Si on compare, par exemple, la qualité de la robe,
01:31qui est relativement fine à celle du visage, on voit que c'est pas très cohérent.
01:34Et derrière l'utilisation probable de l'IA dans ce cas-ci,
01:38cette femme âgée qui porte des lunettes jaunes,
01:40eh bien, elle existe.
01:41C'est en fait une créatrice de contenu américaine sur TikTok.
01:43Comme d'autres personnes âgées, son image a été détournée
01:49pour promouvoir des produits prétendument faits à la main,
01:56des petits ours ou des chaussons, par exemple.
01:58Ça va être la qualité, par exemple, de la peau.
02:01Est-ce qu'on a de la texture ?
02:02Est-ce qu'on arrive à voir, je sais pas, des rides,
02:06des poils apparaître, des reflets,
02:09des choses vraiment de l'ordre pratiquement de la vision du microscope ?
02:14En Belgique, cette année, le roi Philippe en a aussi fait les frais.
02:17AQ Trade AI, il suffit de commencer avec seulement 250 euros.
02:23Dans une vidéo faisant la promo d'un soi-disant service de crypto-trading.
02:26La voix ressemble vraiment à une voix de robot.
02:28Là, pour le coup, ça reste fortement visible
02:31parce que des vidéos de telle qualité à notre époque, ça n'existe plus,
02:34sauf si ça a été généré par une IA générative relativement vieille.
02:39Après, si c'est grossier concernant le roi belge,
02:42la plupart des voix aujourd'hui trafiquées par IA
02:44sont, comme l'image, de plus en plus crédibles.
02:46Et même les anonymes peuvent en être la cible.
02:48Moi, professeur d'université,
02:51mon image est détournée par la propagande russe
02:55et je trouve ça quand même assez inquiétant
02:58dans la mesure où chaque citoyen peut être touché de cette façon-là.
03:02Dominique Frison de Lamotte est professeur de Sergi Paris Université,
03:06géologue et passionné par le vexin, un territoire du nord de la France.
03:10Il y a quelques semaines, il a découvert que le son de sa voix
03:12dans une simple vidéo pédagogique publiée par l'université a été reproduite.
03:16Une fausse intervention qui a circulé sur Telegram
03:18au moment des élections législatives moldaves.
03:20En tant que personne ayant des racines moldaves,
03:23je suis profondément choqué par la lutte brutale de Sandou
03:27contre ces rivaux politiques.
03:28Je n'ai pas compris tellement l'intérêt de ce détournement
03:31puisque je parle en français,
03:34donc à qui s'adresse cette affaire ?
03:36Je n'ai aucun lien, aucune sorte avec la Moldavie.
03:40Avec notre IA d'analyse,
03:43qui se comporte un peu comme un microscope,
03:45essayer de regarder les parties fines du signal,
03:48des toutes petites variations pour pouvoir prédire
03:51si l'audio qu'on est en train d'entendre est généré ou non.
03:55Et avec les milliards de contenus
03:57qui nourrissent les générateurs d'IA aujourd'hui,
03:59son utilisation finit même par avoir des répercussions
04:01directement sur notre quotidien.
04:03C'est-à-dire qu'on va bientôt pouvoir générer des films entiers
04:05si ce n'est pas déjà le cas.
04:07Ici, des centaines d'internautes ont participé à une trend,
04:10celle du Homeless Man.
04:11Ils génèrent des photos de sans-abri dans leur maison
04:18avant de les envoyer par message à leurs proches,
04:21généralement leurs parents.
04:22C'est plutôt bien fait.
04:24C'est des IA qu'on appelle, nous, dans notre jargon,
04:26des in-paintings, où on va remplacer
04:28une portion de l'image par une autre.
04:30Donc, ça renforce le côté réaliste.
04:33Une blague anodine au départ
04:34qui a pris de véritables proportions.
04:36Et cette farce, selon les autorités de Salem,
04:45dans le Massachusetts notamment,
04:47gaspille réellement des ressources policières.
04:52Ces interventions ont aussi eu lieu
04:54dans d'autres villes des États-Unis et au Royaume-Uni.
04:57Alors, si on ne distingue déjà plus vraiment le vrai du faux,
05:00va-t-on un jour ne plus pouvoir du tout dissocier les deux ?
05:03C'est assez difficile de prévoir
05:05de quoi le futur sera fait dans cette mouvance
05:07où on va avoir de plus en plus de générateurs
05:09qui seront de bonne qualité.
05:11Donc, on a vraiment ce qu'on a classiquement
05:13dans les domaines de la sécurité,
05:15un jeu d'attaque-contre-attaque,
05:17du chat et de la souris.
05:18Mais ça reste assez difficile de prédire
05:20qui va gagner dans cette bataille.
Commentaires