00:00 Pensez-vous que votre mère saurait distinguer votre voix d'une voix créée par un ordinateur ?
00:25 Cette intelligence artificielle a presque réussi à piéger la mère de Donny O'Sullivan,
00:30 spécialiste des nouvelles technologies pour la chaîne américaine CNN.
00:34 C'est l'accent qui lui a mis la puce à l'oreille.
00:36 Si le journaliste n'avait pas été irlandais, le tour était joué.
00:40 Au-delà de l'effervescence autour des intelligences artificielles
00:42 capables de rédiger des textes, comme "Chat GPT",
00:45 ou de créer des images, comme "Mid-Journey",
00:49 de nouveaux outils capables d'imiter le timbre de nos voix intriguent la presse mondiale.
00:54 L'entreprise britannique Eleven Labs, par exemple,
00:57 a dévoilé dès septembre 2022 une démonstration des capacités de son I.A.
01:01 Grâce à cet outil, un discours de Leonardo DiCaprio à l'ONU
01:05 est prononcé par les voix de plusieurs personnalités publiques,
01:08 comme Steve Jobs, le créateur d'Apple, aujourd'hui disparu,
01:11 ou encore la vedette américaine Kim Kardashian.
01:18 Et ce n'est pas tout.
01:22 Si vous avez toujours rêvé de faire croire que vous maîtrisez parfaitement l'anglais
01:26 ou le mandarin, par exemple,
01:27 vous pourriez être intéressé par Vol.i,
01:29 la nouvelle I.A. dévoilée en début d'année par Microsoft.
01:32 En faisant un tour sur leur site de présentation,
01:35 on peut faire dire à une voix une même phrase en anglais et en chinois,
01:39 et même jouer sur les émotions.
01:49 "Réfléchis, sérieusement."
01:52 "Beaucoup de réponses très simples."
01:55 Certains internautes ont profité de ces nouveaux outils
01:57 pour faire chanter toutes sortes de chansons à leurs artistes préférés,
02:00 comme par exemple ce morceau de Lana Del Rey,
02:03 modifié pour être interprété avec la voix de Lady Gaga,
02:17 ou bien la voix d'Ariana Grande utilisée pour chanter en coréen
02:21 et en espagnol.
02:28 Alors évidemment, ces nouvelles fonctionnalités posent beaucoup,
02:37 beaucoup de questions éthiques.
02:39 "Parce que les dérives possibles sont nombreuses",
02:42 explique Annie Farid, professeure à l'université de Berkeley,
02:45 interrogée par CNN.
02:47 "C'est beaucoup de plaisir."
02:48 "Bien sûr, mais c'est aussi vraiment effrayant."
02:50 "Je pense que, une fois que vous avez éliminé ce facteur de géo-wise,
02:54 je ne pense pas que ça prend du temps à regarder les risques."
02:57 Le reporter de CNN donne un exemple pour montrer
03:00 en quoi utiliser la voix de quelqu'un d'autre,
03:02 ici un de ses collègues présentateurs,
03:04 pour lui faire dire des choses qu'il n'a jamais dites,
03:06 peut bien sûr lui porter préjudice.
03:09 "En m'implantant quelques minutes dans les voix de mes collègues
03:12 dans un service audio AI,
03:14 j'ai pu créer quelques fakes convaincants,
03:17 y compris celui de Anderson Cooper."
03:19 "D'O'Neill Sullivan est un vrai morceau de chien."
03:21 "C'est l'IA."
03:24 Tout le danger des deepfakes
03:26 est qu'ils peuvent être utilisés de manière malveillante
03:28 pour diffuser de fausses informations.
03:30 De nombreux exemples ont déjà été relevés sur les réseaux sociaux,
03:33 comme dans cette vidéo modifiée pour faire croire que le président ukrainien,
03:37 Volodymyr Zelensky, appelait ses troupes à se replier.
03:41 À l'approche de l'élection présidentielle 2024 aux Etats-Unis,
03:44 les médias sonnent l'alerte et se préparent à un raz-de-marée de trucages.
03:48 Insider publie par exemple un article
03:50 qui liste des techniques pour détecter les contenus truqués.
03:53 Le site américain évoque notamment l'outil FakeCatcher,
03:57 développé par la firme Intel,
03:59 qui se targue d'avoir un taux de réussite de 96%
04:02 pour détecter les deepfakes vidéo.
04:04 Parmi les facteurs analysés,
04:06 Intel cite la couleur des veines.
04:08 "Quand notre cœur pompe le sang,
04:10 nos veines changent de couleur.
04:12 Ces signaux de flux sanguins sont collectés sur tout le visage
04:15 et les algorithmes traduisent ces signaux en cartes spatio-temporelles."
04:19 Ce paramètre permettrait de déterminer
04:21 si une vidéo a été truquée ou non.
04:24 Mais certains nouveaux outils compliquent encore la donne.
04:27 Dernière née parmi les intelligences artificielles
04:29 capables de truquer des vidéos,
04:31 l'application FaceMega permet de remplacer n'importe quel visage
04:35 par celui d'une autre personne.
04:37 "Le social media est en train de se faire un frenzy
04:39 sur de nouvelles vidéos de deepfakes
04:41 qui dépiquent une femme
04:43 avec ce qui semble être la tête d'une actrice Emma Watson
04:46 qui est impliquée dans un acte sexuel explicit."
04:48 "C'est absolument fou.
04:49 La campagne de la large-scale application
04:51 a promis une nouvelle application de deepfake
04:53 qui permet aux utilisateurs de changer de visage avec n'importe qui."
04:56 Certains Etats ont commencé à légiférer
04:58 pour limiter ces dérives.
05:00 Au Royaume-Uni, depuis fin 2022,
05:02 la pornographie en deepfake est un délit passible de prison.
05:05 En revanche, le fait de diffuser ces contenus en ligne
05:07 n'engendre pas de poursuites.
05:09 Et la Chine est le pays qui possède
05:11 les lois les plus complètes au monde
05:13 sur l'encadrement de ces nouvelles technologies,
05:15 d'après le magazine "De Diplomate".
05:17 Le 10 janvier 2023,
05:19 l'organe d'administration du cyberespace chinois
05:21 a dévoilé une législation
05:23 qui interdit la production de deepfake
05:25 sans le consentement de l'utilisateur concerné
05:27 et exige qu'une mention spécifique
05:29 distingue les contenus
05:31 créés par une intelligence artificielle.
05:33 Partout dans le monde, cet enjeu est en passe
05:35 de devenir central.
05:37 ...
Commentaires