00:00Je me suis fait voler ma voix.
00:01La première fois dans le football africain...
00:03Ce que vous entendez là, c'est censé être moi, même ton, même rythme, même voix.
00:07Pourtant, je n'ai jamais enregistré cette vidéo.
00:09Où est passé Paul Pogba ?
00:11En fait, ma voix a été clonée à l'aide d'un outil d'intelligence artificielle
00:13puis utilisée pour fabriquer des voix off sur ses deux comptes d'ActuFoot.
00:16C'est un phénomène émergent qui va certainement aller en s'accroissant progressivement.
00:22J'ai été victime d'un clonage vocal et on va essayer de remonter la piste de ces voleurs de
00:26voix.
00:27Si je suis tombé sur ces vidéos, c'est totalement le fruit du hasard des algorithmes.
00:30En fait, c'est un ami qui m'a envoyé une vidéo, je l'ai ouverte,
00:32et là, j'ai entendu ma voix et j'ai complètement buggé.
00:35Fomar Abou, qui avait promis la victoire du Mali à la Cannes,
00:37a été arrêté pour escroquerie après l'élimination du Mali.
00:40Alors, je clique sur le compte et là, je me rends compte que ce n'est pas une,
00:42mais plusieurs dizaines de vidéos qui utilisent ma voix.
00:45Real Madrid souhaiterait recruter Cristiano Ronaldo. Va-t-il quitter l'Arabie Saoudite ?
00:48Là où c'est très fort, c'est que l'illusion est parfaite.
00:50Parce que je suis journaliste au Parisien, je fais des vidéos,
00:52et je traite beaucoup de sujets sport et notamment du foot.
00:55Donc, ça aurait complètement pu être moi derrière ces vidéos.
00:57Le PSG condamné a payé 61 millions d'euros à Kylian Mbappé,
01:01qui, comme doublure pour Vitigna,
01:03sûrement l'un des seuls joueurs du Paris Saint-Germain à ne pas avoir de doublure.
01:06Avant, cloner une voix, ça demandait des compétences techniques.
01:08Aujourd'hui, c'est à la portée de tous, grâce à l'IA.
01:10Beaucoup d'applications vous permettent, par exemple,
01:13de créer du contenu synthétique à partir de votre voix.
01:16Eleven Labs, Descript, Speechify,
01:18les outils sont hyper nombreux pour cloner des voix,
01:21et certains sont très faciles d'utilisation,
01:23avec très peu de protection,
01:24et c'est là que ça peut devenir dangereux.
01:26Alors, quand on a découvert que ma voix a été utilisée par un autre compte,
01:29le Parisien a immédiatement envoyé une mise en demeure au propriétaire du compte,
01:33lui demandant de supprimer toutes les vidéos qui utilisaient ma voix.
01:35On ne s'attendait pas à ce qu'il réponde.
01:36Finalement, dans la journée, toutes les vidéos étaient supprimées.
01:39Mais comme on avait un contact direct, je me suis dit,
01:41je vais le contacter, je vais lui poser des questions.
01:42Et on a pu échanger par message.
01:43Je voulais savoir comment vous avez fait pour trouver ma voix
01:46et l'utiliser dans vos vidéos.
01:47Ça m'intéresse.
01:48Je m'excuse encore une fois.
01:49En ce qui concerne la provenance de votre voix,
01:51je ne sais pas trop,
01:52mais je pense que ça doit être soit sur YouTube ou sur TikTok.
01:55Je n'avais pas fait attention.
01:57J'ai cloné des voix de différentes personnes,
01:58journalistes, célébrités, grâce à l'IA.
02:01Mais ensuite, c'est vous qui avez cloné la voix ?
02:02Vous utilisez quel logiciel ?
02:04N'importe quel logiciel IA peut le faire.
02:06J'utilise Eleven Labs.
02:08Et donc vous avez mis un extrait avec ma voix,
02:09l'IA s'est entraînée avec,
02:10et ensuite vous n'aviez qu'à taper le texte et ça générait la voix ?
02:13Exactement.
02:14Et donc là, pour que je comprenne comment ça marche,
02:16il faut que j'essaye moi aussi.
02:17Et pour ça, je suis allé voir Stanislas Olivonnière,
02:19chef du service Data et Innovation du Parisien.
02:21Donc on va essayer de jouer à prendre ta voix
02:24et à essayer d'en faire un clone.
02:27C'est-à-dire que je vais pouvoir après lui faire dire
02:30ce que j'ai envie de lui faire dire.
02:32Alors pour la démo, j'ai envoyé des extraits de mes précédentes vidéos.
02:34C'est ça qui va servir de base, de modèle, en fait,
02:36pour cloner ma voix.
02:37D'une certaine manière, il va faire un moule sur ce qu'il a.
02:42Là, c'est là où on parle d'intelligence artificielle,
02:44c'est qu'on l'entraide avec ce qu'on lui a envoyé.
02:47Et puis là, il va, une fois que c'est prêt,
02:49ça prend quelques secondes ou minutes,
02:52et il va tout simplement me dire que c'est prêt,
02:55que je vais pouvoir l'utiliser.
02:56Le truc, et ça confirme un peu mes craintes,
02:58c'est qu'on se rend compte qu'il y a très peu de protection.
03:00Avec ce modèle-là, pour pouvoir utiliser ma voix,
03:02on a juste à cliquer sur cette case.
03:03Ça permet en fait à la plateforme de se dédouaner
03:06en cas d'utilisation frauduleuse de la voix.
03:07Est-ce que j'ai le droit d'utiliser cette voix ?
03:09Et donc cette plateforme, dans ces cas-là,
03:11assez naturellement, ne sait pas d'où vient la source,
03:16ne sait pas quelle est l'intention de l'utiliser,
03:18et donc va juridiquement déporter la responsabilité
03:21sur la personne qui l'utilise.
03:22Et le résultat est troublant.
03:23Senal a réalisé une campagne invaincue jusqu'en finale.
03:26Vous avez bien entendu, invaincue.
03:28Porté par un collectif soudé
03:30et quelques individualités de très haut niveau,
03:32ils ont balayé l'Athlético Madrid en demi-finale
03:34pour se qualifier pour ce grand soir.
03:36Et voilà.
03:37C'est moi là.
03:39C'est carrément moi.
03:40Le rendu n'est pas parfait,
03:41la voix est encore un peu robotique,
03:43mais en vrai c'est suffisant pour semer le doute.
03:45Il y a quand même une demi-seconde où on se dit
03:49je comprends qu'on puisse y croire.
03:52Si on prend un peu de recul, dans mon cas,
03:53ma voix est utilisée simplement par un compte TikTok
03:55pour parler de football.
03:56Les conséquences restent quand même assez limitées.
03:58Mais vous allez le voir,
03:59il y a aussi des personnes malveillantes
04:00qui utilisent le clonage de voix
04:01et ça peut déstabiliser tout un pays.
04:03Quand bien même on saurait que c'est du contenu synthétique,
04:06cela peut conduire à imprimer des narratifs,
04:10troubler la réalité,
04:11emporter un large contexte de confusion.
04:14Corneille Nonga,
04:15ancien président de la CENI,
04:17devenu chef rebelle aux côtés du M23,
04:19vient d'annoncer son retrait de la rébellion
04:21et sa désolidarisation du président rondé Paul Kagame.
04:24Qu'est-ce que vous venez d'entendre ?
04:25Eh bien c'est totalement fake.
04:26Un matin, après ma sieste de sortie de matinale,
04:30je reçois un SMS de la cellule InfoVérif,
04:34puisqu'on a une cellule InfoVérif à RFI,
04:36qui me dit « Attention Arthur,
04:37ta voix, ta fausse voix,
04:41est utilisée pour propager des mensonges. »
04:44Lui c'est Arthur Ponchelet,
04:45il est journaliste à RFI,
04:46et en avril 2025,
04:48lui aussi s'est fait voler sa voix.
04:49Et à la une,
04:50dans une annonce surprenante,
04:52Corneille Nonga Yobeluo,
04:53ancien président de la Commission électorale nationale indépendante
04:56de la République démocratique du Congo,
04:58a exprimé de profonds regrets
04:59concernant son rôle dans la création de l'Alliance Flux Congo,
05:03un mouvement politico-militaire
05:04accusé d'être cité dans l'est du pays.
05:06Là, on n'est pas seulement sur un vol de voix classique,
05:09on est dans de la manipulation,
05:10dans un conflit réel.
05:11On me fait lancer un son qui n'existe pas
05:15du chef de la FCM23
05:17qui présenterait ses excuses au peuple congolais,
05:22ce qui n'est jamais arrivé.
05:23Moi, Corneille Nonga Yobeluo,
05:25me tiens devant vous,
05:27accablé par le poids de mes fautes
05:29et consumé par le remords.
05:31Dans ce type de fake,
05:32ce qui est volé,
05:33ce n'est pas seulement la voix,
05:34c'est aussi la crédibilité d'un média.
05:36Là, ils utilisent la marque,
05:38puisque RFI est une marque
05:40qui est considérée comme très sérieuse
05:42par beaucoup d'auditeurs,
05:44notamment en RDC.
05:46Donc, on se sert de la marque
05:47pour propager des fausses informations.
05:51Évidemment, ça a des conséquences,
05:53puisque ça a beaucoup tourné
05:54sur les réseaux sociaux,
05:57surtout sur des groupes WhatsApp,
05:59où là, pour le coup,
06:00c'est très difficile de remonter
06:01jusqu'à l'auteur de cette fake news.
06:05L'info prend l'escalier
06:07et la fake news prend l'ascenseur.
06:09Là, en plus,
06:10c'est un sujet très sensible.
06:12Alors, face à ça,
06:13qu'est-ce qu'on peut faire ?
06:13Aujourd'hui,
06:14de nombreuses professions
06:15sont menacées par le clonage de voix,
06:16les journalistes donc,
06:17mais aussi les acteurs,
06:18les doubleurs, les chanteurs.
06:19En fait,
06:20une fois que votre voix
06:20est disponible sur Internet,
06:22elle est compromise.
06:23N'importe qui peut l'enregistrer,
06:24la cloner
06:25et la faire parler à votre place.
06:26C'est très inquiétant
06:27parce qu'on se dit,
06:28on m'a fait dire ça,
06:29mais en fait,
06:30on peut me faire dire n'importe quoi.
06:32C'est vraiment une usurpation
06:35d'identité au sens propre.
06:36Et malheureusement,
06:36ça ne va pas aller en s'arrangeant.
06:37Les ias de clonage de voix
06:38sont de plus en plus puissantes.
06:40Maintenant,
06:40à peine quelques secondes
06:41de votre voix suffisent
06:42pour la cloner.
06:42Ce n'est pas du tout suffisant,
06:44satisfaisant
06:44de se sentir
06:45en situation d'insécurité.
06:47On peut avoir
06:49des mécaniques
06:50de captation illicite
06:51de la voix,
06:53etc.
06:53Donc là,
06:54il est important,
06:55en tout cas,
06:55c'est ce à quoi
06:56nous travaillons
06:57nos équipes de recherche,
06:59à un,
06:59s'assurer que le cadre légal
07:01est satisfaisant
07:01ou le plus satisfaisant possible
07:03et deux,
07:04peut-être travailler
07:04à des solutions techniques
07:06parce que j'allais dire,
07:07il y a trois aussi
07:08la nécessité
07:09de mieux former
07:10les utilisateurs
07:11au respect d'autrui.
07:12Mais lorsque vous avez affaire
07:13à des utilisateurs
07:14plus malveillants,
07:15cette formation
07:16ne sera pas suffisante.
07:17Et même juridiquement,
07:18comme c'est nouveau,
07:19c'est flou.
07:19Porter plainte contre qui ?
07:22En vérité,
07:23c'est impossible
07:23de savoir
07:24qui a fait ça.
07:25Impossible.
07:26Le cadre légal
07:27n'est pas nécessairement
07:29aussi protecteur
07:31possiblement
07:31qui pourrait l'être
07:32face au risque
07:33de manipulation,
07:35de captation
07:35de notre réputation.
07:37Finalement,
07:37ce n'est pas forcément
07:38de la notoriété,
07:38mais d'une réputation
07:39d'une personne.
07:41Il peut y avoir
07:42également d'ailleurs
07:44une incrimination
07:45que l'on peut actionner
07:46au titre de l'usurpation
07:47d'identité.
07:48Dans le cas d'un vol de voix
07:49comme moi,
07:49il faut être capable
07:50de prouver
07:50que c'est bien ma voix
07:51qui a été volée.
07:52Et ça,
07:52c'est pas si simple.
07:53Même si dans mon cas,
07:54on me reconnaît
07:54et que les gens
07:55qui me connaissent
07:55reconnaissent ma voix,
07:56il serait très difficile
07:57de prouver juridiquement
07:58que cette voix
07:58ce n'est pas la mienne
07:59et qu'elle a été clonée.
08:00D'ailleurs,
08:00vous ne vous en êtes
08:01peut-être pas rendu compte,
08:02mais la voix juste avant,
08:03c'était une IA qui parlait.
08:04Sous-titrage Société Radio-Canada
Commentaires