- il y a 2 jours
Catégorie
🏖
VoyagesTranscription
00:00Sous-titrage Société Radio-Canada
00:33Bienvenue dans l'univers des deepfakes, un monde où n'importe qui peut se faire usurper son corps et sa
00:39voix.
00:39La menace, je pense, c'est qu'il n'est plus possible de croire en fait ce qu'on voit.
00:44On pourrait se retrouver avec des vidéos très crédibles avec le petit logo de Radio-Canada ou le logo de
00:49CNN qui ont été complètement trafiqués et qui ont l'air extrêmement crédibles.
01:05Ce discours de Barack Obama passera l'histoire, non pas en raison de son contenu.
01:11Ce discours d'Obama est historique parce qu'il ne l'a jamais prononcé.
01:19On voit Barack Obama, on entend l'ancien président, mais il s'agit d'un deepfake, selon le terme désormais
01:26consacré dans le vocabulaire techno.
01:28Un deepfake, c'est une vidéo complètement fausse créée au moyen de l'intelligence artificielle.
01:34You see, I would never say these things, at least not in a public address, but someone else would. Someone,
01:42like Jordan Peele.
01:44Jordan Peele, c'est le réalisateur qui a réussi ce trucage d'Obama.
01:48Moving forward, we need to be more vigilant with what we trust from the Internet.
01:51Son but était d'alerter le public aux dérives potentielles du procédé.
01:56Obama, ça a été vraiment une prise de conscience qu'on était face à quelque chose qui était potentiellement très
02:02dangereux.
02:03dans notre rapport à la démocratie.
02:17Ici, sur la promenade des célébrités à Los Angeles, on déambule dans un monde d'illusions, de faux et de
02:23pacotilles.
02:27Mais dans la mecque du cinéma américain, on est aux premières loges pour rencontrer des étoiles du domaine de l
02:32'animation.
02:33et de l'intelligence artificielle qui ont développé des outils aussi fabuleux que dangereux.
02:41Nous sommes chez Pinscreen, un studio de Los Angeles, pour rencontrer l'un de ses nouveaux maîtres de l'illusion.
02:48Ce que je vais faire, je vais juste prendre une photo de moi-même.
02:50Nous y avons rencontré Hao Li, vrai post-docteur en sciences informatiques et fausse danseuse de Gangnam Style.
02:59Il me prête son visage et je lui prête ma voix.
03:02Alors, salut Hao, je suis très, très heureuse de te rencontrer, rencontrer toute ton équipe.
03:07Ici, chez Pinscreen, vous faites vraiment du boulot un peu inquiétant, mais très réaliste et très sophistiqué.
03:16Avec sa jeune entreprise, il brasse de vraies grosses affaires dans le domaine du faux.
03:22Le but qu'on a, en fait, c'est de créer une technologie qui permet, en fait, des gens de
03:25communiquer en 3D dans le futur
03:29et aussi de créer, en fait, des avatars.
03:33En 2013, Hao Li a contribué à un trucage historique.
03:37Quand le comédien Paul Walker est mort dans un accident de voiture, en marge du tournage du film Fast and
03:43Furious,
03:44les producteurs ont voulu le ramener à la vie.
03:46Ils ont demandé à ses frères, qui lui ressemblaient déjà beaucoup, de prendre la relève
03:51pour ensuite remplacer leur visage par celui de Paul Walker.
03:55Moi, en particulier, j'ai travaillé sur le tracking, en fait, du visage de son frère.
04:00Donc, l'idée, c'est que vous avez des caméras qui filment son frère sur les scènes.
04:05Et, en fait, ce qu'on doit capturer, en fait, c'est ces mouvements en 3D
04:09d'une manière vraiment très précise pour, en fait, avoir un visage photoréaliste.
04:18À l'époque, une telle prouesse technologique demandait des moyens considérables.
04:23Mais ce n'est plus le cas.
04:24Et là où ces possibilités deviennent plus inquiétantes,
04:27c'est qu'on peut maintenant usurper l'image de n'importe qui grâce à une photo prise sur Internet.
04:33Kim Jong-un.
04:35Ouais.
04:35Je pense que le truc qui est vraiment nouveau ici, c'est que tout ce qu'on a besoin,
04:40c'est vraiment juste une seule image.
04:42Donc, en fait, les images, c'est quelque chose qui est vraiment accessible,
04:46quelque chose qui est vraiment facile d'obtenir sur Internet.
04:49Là, j'ai plus besoin d'une image.
04:52Et, ouais, là, on peut créer un fake news en temps réel.
04:59Dans cette version, encore en développement, la coiffure trahit la supercherie.
05:03Mais Pinscreen travaille à résoudre ce problème.
05:06Ouais, c'est le bas, non?
05:07Ça vous va très bien.
05:09Donc, on peut mettre la photo de Justin Trudeau sur n'importe qui?
05:13Sur n'importe qui, sur vous-même.
05:15C'est tellement simple et rapide, et ça fonctionne avec à peu près toutes les photos disponibles sur le web.
05:21C'est très bizarre.
05:23Essayez peut-être la mairesse de Montréal, Valérie Plante.
05:28On va ici.
05:29Et voilà.
05:33Mais c'est moi, là.
05:35Ou je pourrais lui faire dire quelque chose de pas crédible, comme...
05:40Je trouve que la ville de Québec est bien plus belle que la ville de Montréal.
05:44Et puis, je suis jalouse de Régis Labeaume, qui est le maire de la plus belle ville du Québec.
05:49C'est impressionnant.
05:51C'est vraiment bien fait.
05:53Et on s'imagine les conséquences ou le tollé que ça créerait nécessairement.
05:58Puis j'imagine comment moi et mon équipe, on essaierait de dire, non, non, c'est pas vrai et tout
06:04ça.
06:04Puis moi, je me pose la question, comment on fait pour faire la contre-preuve même?
06:08Imaginez jusqu'où un politicien pourrait se retrouver dans l'embarras en raison d'un deepfake.
06:13Ce qui me ferait peur aussi, c'est l'utiliser à des fins pour créer de la... comment dire, de
06:19la chicane, si je peux dire,
06:21ou venir appuyer des... je sais pas moi si on me faisait dire des propos racistes, par exemple, ou... je
06:27veux dire, c'est horrible, là.
06:30Mathieu Dugal est journaliste et animateur techno à Radio-Canada. Il s'intéresse au phénomène.
06:34On pourrait se retrouver avec des vidéos très crédibles avec le petit logo de Radio-Canada,
06:39ou le logo de CNN, ou le logo de France 2.
06:42Et là, de voir des vidéos circuler qui ont été complètement trafiquées et qui ont l'air extrêmement crédibles.
06:49My fellow Americans, after serious consideration, I have decided to resign from the office of the president.
07:00Le cauchemar, ce serait une vidéo de Trump qui dit avoir lancé une attaque nucléaire sur la Corée du Nord.
07:06Avant même qu'on se rende compte que c'est un trucage, on serait en pleine guerre nucléaire.
07:10Ça a peu de chances de se produire, mais c'est possible. Chose certaine, la technologie existe.
07:15Annie Farid se spécialise en analyse et en authentification des contenus numériques.
07:20N'importe qui peut créer des trucages convaincants. Je pense que ça va mener à une apocalypse de l'information.
07:28Les deepfakes ne sont pas qu'une menace à la démocratie.
07:32Les trucages sophistiqués peuvent avoir un effet dégradant pour des personnalités publiques, en particulier les femmes.
07:38Ça a commencé dans la pornographie. Et donc, on a pu voir, par exemple, le visage de Michelle Obama plaqué
07:45sur une actrice afro-américaine, actrice pornographique afro-américaine.
07:50Les actrices Emma Watson, Cameron Diaz, entre autres, en ont été victimes.
07:54Leur visage collé à d'autres corps dans des positions sexuellement explicites, évidemment à leur insu.
08:01En Inde, une journaliste d'enquête critique envers le pouvoir a aussi été victime de ce traitement dégradant.
08:07Le deepfake est devenu viral.
08:10Et en Irak, où une élection se prépare pour le printemps prochain, des femmes candidates ont été victimes de la
08:16mise en circulation de vidéos sexuellement explicites d'elles-mêmes.
08:20On le sait, les femmes, les personnes publiques, mais surtout les politiciens, on est plus vulnérables face aux perceptions, aux
08:26opinions publiques défavorables.
08:28La critique est souvent beaucoup plus acerbe, plus rapide. Le jugement est plus rapide.
08:33L'une des candidates irakiennes a choisi de retirer sa candidature, même si elle affirme être victime d'un trucage.
08:40Même pour moi, c'est difficile de dire si ça a été fabriqué ou pas.
08:44Il y a des artefacts qu'on voit souvent, mais il y a tellement de compressions qu'on ne peut
08:48pas voir.
08:49Mais si les gens ne savent pas que c'est possible de manipuler des vidéos comme ça de nos jours,
08:54c'est quelque chose de vraiment grave.
08:56Même si ces images-là sont fausses, on se retrouve avec des compositions vidéos de soi qui tournent en ligne
09:03et que les gens regardent et qui prennent ça pour du cash.
09:06Même si on arrive à prouver que ce n'est pas une vraie image, l'image va circuler et les
09:12gens vont nous regarder,
09:12vont regarder notre visage collé sur une actrice pornographique ou dans des situations dégradantes.
09:19Ce qui est inquiétant, c'est que ça n'arrive plus qu'aux personnalités publiques.
09:23Une jeune étudiante australienne a vécu un véritable enfer.
09:27On a greffé son visage à des images pornographiques à de nombreuses reprises.
09:32Ça a commencé lorsqu'elle avait 17 ans.
09:38Après six ans, elle trouve encore des vidéos dégradantes d'elle-même, malgré une loi qui criminalise maintenant ce geste.
09:52Elle a raconté son cauchemar au Wall Street Journal.
10:06Il faut s'y préparer.
10:07Les outils sont plus accessibles qu'avant et ils se perfectionnent sans cesse,
10:12ce qui va rendre les trucages de plus en plus difficiles à déceler.
10:15Parce qu'on vous a montré de fausses images, mais ne serait-ce pas encore plus surréaliste,
10:21si on pouvait imiter la voix, on est déjà rendu là.
10:33Liarbird, une jeune entreprise de Montréal, a développé des outils qui permettent d'imiter la voix.
10:42Une technologie qui peut faire de belles choses,
10:44comme permettre à une personne rendue muette de communiquer avec son ancienne voix.
10:49Comme pour cet homme atteint de sclérose latérale amyotrophique,
10:52aussi appelée la maladie de Lou Gehrig.
11:05Vous pouvez faire le test vous-même et générer votre propre voix artificielle
11:11en enregistrant un minimum de 30 phrases.
11:14Le système analyse la voix pour en dégager les caractéristiques.
11:19Plus vous lisez de phrases, plus le résultat se rapproche de votre voix.
11:23Nous avons testé l'outil en lisant une centaine de phrases.
11:26Pour le moment, le système ne fonctionne qu'en anglais
11:29et le résultat est plutôt robotique.
11:32Ce n'est pas entièrement convaincant pour le moment.
11:38C'est un logiciel gratuit disponible sur Internet,
11:41mais ça se perfectionne assez rapidement.
11:43Et après la pause, on va rencontrer des gens qui détectent les fausses voix.
11:47Restez là.
11:58Évidemment, ça s'impose.
12:02Je suis convaincu que ça va arriver.
12:06Il est maintenant possible d'usurper la voix de personnalités publiques
12:10en reprenant leur discours, par exemple.
12:12Merci.
12:14Nuance, une entreprise internationale qui oeuvre dans le domaine de l'intelligence artificielle,
12:19développe une technologie qui permet de différencier le vrai du faux.
12:24L'imitation de la voix, c'est une technique qui est utilisée par les fraudeurs depuis très, très longtemps.
12:29Mais aussi, on est en mesure de détecter des attaques beaucoup plus sophistiquées,
12:34telles que les voix synthétiques.
12:35Je vais vous montrer une voix synthétique de très haute qualité.
12:38OK.
12:41Hello? Hi.
12:43Hi. I'd like to reserve a table for Friday the 3rd.
12:47Mm-hmm.
12:48For two people.
12:49Yeah. The first name is Daniel. That's D-A-N-I-E-L.
12:54OK. Great. Thanks.
12:56Donc, vous voyez, à l'oreille humaine, on dirait que c'est une voix réelle.
13:00C'est très convaincant.
13:02C'est très, très convaincant.
13:03Par contre, les algorithmes sont en mesure de détecter qu'effectivement, c'est une voix synthétique.
13:08Si je vous demandais de répéter une phrase 100 fois, vous allez toujours, parce que vous êtes un être humain,
13:14vous allez toujours avoir une variation naturelle.
13:17Tandis que si on demande à un ordinateur de le faire, il y a un pattern qui se répète.
13:23Et c'est comme ça qu'on est en mesure de détecter que c'est une voix synthétique.
13:27Des manipulations de voix qui interfèrent avec la démocratie, ça existe déjà.
13:33En 2012, un politicien colombien a été accusé d'avoir collaboré avec les FARC, ce qui l'a conduit en
13:39prison.
13:48C'est la technologie de nuance qui a permis de démasquer la supercherie.
13:53C'est grâce à notre logiciel qu'on a pu prouver que la vidéo était fausse.
14:00Il y avait une motivation politique, mais dans l'avenir, on pourrait voir qu'un citoyen qui a un différent
14:09avec son voisin
14:11pourrait utiliser des technologies qui vont devenir de plus en plus disponibles pour créer du fake news sur cette personne
14:20-là.
14:21Si la technologie de nuance peut détecter les faux, elle peut aussi identifier les vrais enregistrements.
14:28Il y a des vidéos, effectivement, qui ont été analysées par notre logiciel, par les services de l'ordre,
14:33qui ont permis de prévenir des actes terroristes.
14:39M. Baronek n'a pu nous en dire davantage, mais tout porte à croire qu'il s'agit du terroriste
14:44Aaron Driver.
14:49Il avait enregistré une vidéo qu'il a fait circuler dans les milieux extrémistes,
14:54et la police a fait authentifier sa voix, ce qui a permis de conclure avec certitude que c'était bien
15:00lui.
15:02Résultat, on a pu l'intercepter juste avant qu'il ne mette à exécution son projet d'attentat.
15:07Il a fait détenir sa ceinture d'explosif au moment de l'opération policière.
15:12C'est un exemple saisissant de l'utilité de créer des outils d'identification des voix.
15:18De façon beaucoup plus courante en ce moment, les technologies de nuance servent surtout à détecter les fraudes bancaires,
15:25parce que les criminels tentent aussi d'imiter les voix.
15:29C'est vraiment des gens dans le domaine du crime organisé qui vont utiliser ces technologies-là pour voler votre
15:35agent.
15:35Vous appelez à votre institution financière, on vous demande souvent votre nom, votre adresse, le sol de votre compte, peut
15:44-être d'autres informations.
15:46Mais toutes ces informations-là sont disponibles sur le Dark Web.
15:50Et les fraudeurs sont en mesure de prendre nos identités puis commettre de la fraude.
15:55Pour faire échec à la fraude, des institutions financières ont maintenant entrepris d'échantillonner la voix de leurs clients.
16:02Les services anti-fraude au sein des entreprises ont investi dans les technologies de nuance pour prévenir ces types de
16:10fraude.
16:11À mesure que les technologies se raffinent, des pistes de solutions sont aussi mises de l'avant.
16:16On a des intelligences artificielles qui sont capables de repérer si un pixel a été changé dans une photo.
16:23Et donc ça, ça serait assez puissant pour reconnaître que la photo serait une fausse.
16:28On peut aussi avoir des techniques de photographie traditionnelles.
16:31Par exemple, si les ombres ne cadrent pas, si par exemple on a une lumière qui éclaire l'épaule de
16:38la personne,
16:38mais que le visage n'est pas éclairé de la même manière que la lumière qui éclaire l'épaule,
16:44ce pourrait être un signe qu'on est face à un deepfake.
16:47Et donc on est face à une technologie qui est en train d'évoluer.
16:49Mais peu importe les avancées technologiques, tous les intervenants auxquels nous avons parlé s'entendent pour dire que dans un
16:56monde de fausses nouvelles,
16:57les gens vont croire ce qu'ils veulent croire.
17:01Le vrai problème, c'est même pas ces algorithmes. Je pense que le problème, c'est beaucoup dans nous.
17:05De nos jours, il suffit de dire quelque chose que les gens veulent y croire pour propager des informations vraiment
17:13à un niveau où il n'y a pas moyen de contrôler, en fait.
17:16J'ai des doutes sur la capacité des gens d'être critiques et d'investir l'effort pour valider si,
17:23oui ou non, une nouvelle ou une vidéo est réelle ou non.
17:27Le problème, c'est notre propre volonté de croire n'importe quoi.
17:36Dans ce monde d'illusions, on ne le répétera jamais assez, il sera toujours préférable de se tourner vers des
17:42sources fiables.
17:54Très récemment, le Canada a modifié la loi électorale pour interdire les fausses vidéos, comme les deepfakes,
18:00si elles sont produites dans le but d'influencer le résultat d'une élection.
18:04On parle d'images ou de vidéos qui tentent frauduleusement de faire croire qu'elles sont authentiques.
18:10Et cette période d'interdiction, elle vaut pour la période électorale, mais aussi pour la période préélectorale qui commence le
18:1530 juin prochain.
18:43Sous-titrage Société Radio-Canada
18:46Sous-titrage Société Radio-Canada