00:00 Les députés doivent adopter aujourd'hui la loi sur la régulation de l'espace numérique.
00:05 C'est un texte qui ambitionne de réguler le far-west qu'est devenu Internet, en particulier avec les deepfakes.
00:11 Vous savez, ce sont ces images et ces vidéos ultra réalistes générées par l'intelligence artificielle.
00:17 Marie nous en a souvent montré dans l'image du jour.
00:19 C'est vrai qu'au début, ça nous a épaté, voire ça nous a bien fait rire, mais plus du tout aujourd'hui.
00:24 Non, les deepfakes, ça existe depuis sept ans, mais leur degré de précision n'a pas cessé d'évoluer
00:28 au point maintenant de tromper même ceux qui sont les plus vigilants.
00:31 Les plaintes pour escroqueries se multiplient.
00:33 On va regarder quelques exemples avec ce reportage de Blandine D'Alena et Philippine Navide.
00:37 Et on en parle ensuite avec vous, Gérald Holubovitch, spécialiste de l'intelligence artificielle,
00:41 d'EddyFake et fondateur par ailleurs de la newsletter Synth Media Reportage.
00:45 Le célèbre acteur français Guillaume Canet a annoncé le lancement d'une nouvelle application mobile
00:51 qui permet à quiconque de gagner de l'argent.
00:53 Vous devez être dans le jeu et jouer pour de l'argent réel.
00:57 Que ce soit Anne-Claire Coudray ou Guillaume Canet, aucun des deux n'a jamais prononcé ces mots.
01:02 Il s'agit d'un deepfake, un montage réalisé grâce à l'intelligence artificielle,
01:06 qui n'a pas plu du tout à l'acteur français.
01:09 Alors non, je ne parle pas comme un robot et non, je n'ai créé aucune application pour jeu d'argent
01:13 et je ne le ferai jamais.
01:14 Les responsables politiques ont eux aussi le droit à leur deepfake.
01:17 Vladimir Poutine qui vous prend en photo, ou Donald Trump en prison.
01:21 Autant de fake news qui inondent Internet.
01:24 Le plus souvent, elles sont faites pour tromper.
01:26 On peut tous imaginer que citoyens, que nous sommes,
01:31 soyons trompés dans notre jugement et peut-être même dans notre vote lors des campagnes électorales.
01:37 Dans un règlement applicable d'ici deux ans,
01:39 l'Union européenne imposera au créateur du deepfake une obligation de transparence.
01:44 Le 2 avril, en France, le Sénat est allé plus loin en votant un nouveau texte.
01:48 Ce projet prévoit d'adapter l'infraction de montage à l'intelligence artificielle, au deepfake.
01:55 Donc on va pouvoir réprimer ceux qui effectuent un montage grâce à l'intelligence artificielle.
02:02 Pour le revenge porn, l'infraction a également été élargie
02:06 parce que maintenant, on inclut l'intelligence artificielle.
02:09 C'était uniquement avec l'utilisation des images réelles.
02:12 En cas de publication d'un deepfake sans le consentement de la personne,
02:16 l'auteur risquera jusqu'à deux ans de prison et 45 000 euros d'amende.
02:19 S'il est à caractère sexuel, la sanction monte à trois ans d'emprisonnement et 75 000 euros d'amende.
02:25 Gérald, comment on fait pour repérer un deepfake ?
02:29 C'est très compliqué parce qu'en réalité, il n'existe pas de détecteur estampillé officiel.
02:35 Donc du coup, il faut en revenir aux bonnes vieilles méthodes, l'esprit critique, un peu de recul.
02:41 On voit d'où vient le contenu qui nous est proposé.
02:45 Évidemment, on essaie de prendre un peu de distance avec tout ce qui se dit sur Internet
02:51 et de réfléchir un peu à tout ça.
02:53 L'esprit critique, c'est de se dire que Guillaume Canet ne va pas faire la promo d'un truc lancé par une claircoudrée, c'est ça ?
02:58 Voilà, c'est-à-dire que quand c'est trop beau, c'est effectivement trop beau pour être vrai.
03:02 Ce n'est pas toujours facile quand la présentation semble tout à fait officielle.
03:06 On le voit là avec un journal télévisé qui est détourné
03:09 ou on a parfois des allocutions politiques avec des gens derrière des pupitres.
03:13 Oui, c'est ça en fait. Les deepfakes, ces médias un peu synthétiques qui arrivent dans nos vies comme ça,
03:19 elles arrivent par la petite porte, par une messagerie WhatsApp, par une messagerie signal.
03:24 Et puis, c'est dans nos vies.
03:26 C'est-à-dire qu'on regarde ça en faisant les courses ou autre chose
03:29 et on ne prête pas forcément attention à ce genre de détails.
03:32 Mais effectivement, maintenant, il faut faire vraiment attention à l'ensemble du paquet.
03:37 Je pense que l'IA, en fait, annonce une ère où on va devoir être de plus en plus critique sur Internet
03:44 et faire de plus en plus attention à ce qu'on relaie aussi sur les réseaux.
03:48 D'autant que ça génère d'énormes escroqueries avec des arnaques qui s'élèvent à des dizaines de milliers d'euros.
03:53 Quelle est à votre connaissance la plus grosse escroquerie liée à un deepfake ?
03:58 Il y avait eu il y a quelques années déjà au niveau avec un deepfake audio,
04:03 une forme d'arnaque d'une entreprise en Grande-Bretagne.
04:07 On avait parlé de 2 millions de pounds à l'époque.
04:10 Mais bon, voilà, en fait, c'est plutôt dans le cumulatif qu'on va aller aujourd'hui.
04:15 Et puis, l'IA générative qui est apparue il y a deux ans maintenant,
04:20 en fait, facilite énormément cette pratique et donc, du coup, génère énormément d'argent.
04:26 Là, pour le coup, au niveau international, c'est plusieurs milliards de dollars.
04:30 Comment on fait la différence entre ce qui est un deepfake et ce qui est une simple blague ?
04:33 Parce que, par exemple, quand on voit Donald Trump en prison avec sa combinaison orange,
04:37 on se doute que ce n'est pas vrai. On sait qu'il n'a jamais été mis en prison.
04:41 Alors, nous, on se doute que ce n'est pas vrai, mais c'est peut-être pour certains, ça peut être effectivement le cas.
04:46 Il y avait eu la même image, une image un peu similaire où on le voyait arrêté par les policiers à Mar-à-Lago.
04:53 Et en fait, certains avaient cru qu'effectivement, il était arrêté.
04:57 Et ça va poser un vrai problème démocratique avec les campagnes électorales ?
05:01 Alors, il y a déjà eu un exemple en Slovaquie à l'automne dernier.
05:05 En fait, il y a le candidat de gauche qui était à couteau tiré avec le candidat de droite qui était à 21-19,
05:11 en fait, a été victime d'un deepfake audio qui lui a fait chuter dans les élections.
05:16 C'était 48 heures avant le scrutin et il a perdu.
05:19 C'est un deepfake où on l'entendait manipuler à l'avance les résultats du scrutin.
05:24 Comment on se débarrasse de tout ça, de ces deepfakes ?
05:27 Parce qu'on a l'impression qu'on a beau essayer d'éviter les pièges, ils reviennent à chaque fois en fait.
05:32 Ça revient à chaque fois.
05:33 Malheureusement, on ne pourra pas se débarrasser de tout ça.
05:36 Maintenant, le génie est hors de la boîte.
05:38 En fait, les logiciels sont disponibles pour beaucoup sur Internet en open source ou alors de façon commerciale gratuite.
05:45 Et donc, du coup, en fait, ça permet à beaucoup de gens de pouvoir se saisir de l'outil et puis de faire ce qu'ils ont envie de faire avec.
05:52 Il y a une proposition de loi qui sera adoptée cet après-midi à l'Assemblée nationale.
05:56 Il y a aussi l'Union européenne qui a demandé aux plateformes de lutter contre la désinformation avant les élections européennes et américaines.
06:02 Et Meta a annoncé une nouveauté il y a quelques jours.
06:06 Il y aura une mention "made with AI", fait avec intelligence artificielle, sur les vidéos et les photos générées par l'IA.
06:14 Ça peut être le bon filtre d'imposer une mention ?
06:18 Ça vient un peu tard, parce que le phénomène des deepfakes, c'est quand même pas tout neuf.
06:22 Ils avaient déjà tenté des dispositifs de ce type-là.
06:26 Est-ce que ça peut servir ? Oui et non.
06:28 C'est-à-dire qu'en fait, ces dispositifs sont facilement contournables.
06:31 Si effectivement, c'est embarqué sur la plateforme, pourquoi pas.
06:34 Mais on ne peut pas dire que Facebook ait montré beaucoup d'acuité sur l'accuration de ces contenus.
06:40 Soyez vigilant et exercez votre esprit critique.
06:43 C'est la leçon du jour.
06:45 Merci Gérald d'avoir été avec nous ce matin.
Commentaires