00:00Non mais il y a des questions, franchement, Anthony Morel, qu'on aurait cru ne pas se poser il y
00:03a encore quelques mois.
00:04Est-ce que la personne avec laquelle je suis en train de discuter est bien réelle ?
00:08Les outils de visioconférence commencent à intégrer des détecteurs de deepfake.
00:11Oui, c'est ça, il y a une nouvelle fonctionnalité qui vient d'être lancée par Zoom.
00:15C'est un badge de vérification des êtres humains.
00:18C'est-à-dire que désormais, quand vous vous connecterez sur Zoom,
00:20et bien sous la vignette de certains de vos interlocuteurs,
00:23vous allez voir apparaître une petite mention « humain, vérifié ».
00:27Et ça, ça veut dire qu'on est sûr et certain que la personne en face de vous,
00:30c'est bien un être humain et ce n'est pas un clone généré par l'intelligence artificielle.
00:35Puisqu'aujourd'hui, avec une photo et 30 secondes de voix d'une personne,
00:38on est capable de la répliquer et de lui faire dire potentiellement n'importe quoi,
00:42y compris dans une visioconférence.
00:44Donc l'idée qu'ils ont eue, c'est de créer une sorte de passeport d'humanité, si l'on
00:48peut dire.
00:48Alors c'est assez contraignant, il faut faire scanner son visage,
00:51mais on ne peut pas le faire avec sa webcam.
00:52C'est des caméras très spéciales avec des capteurs de profondeur
00:55qui vont analyser le moindre millimètre carré de votre visage,
00:58qui vont venir scanner votre iris aussi, qui est un marqueur biométrique.
01:01Et ensuite, quand vous vous connectez en visio,
01:03on va comparer cette image biométrique extrêmement précise
01:05avec l'image renvoyée par votre webcam pour vérifier en temps réel
01:10si c'est bien vous, si c'est bien une vraie personne qui est en train de parler.
01:15Il y avait déjà des détecteurs d'authenticité
01:17qui allaient chercher des choses comme
01:18les clignements des yeux un peu bizarres,
01:20la désynchronisation entre les lèvres et la voix.
01:22Mais en fait, l'IA avance tellement vite,
01:24on arrive à faire des deepfakes tellement perfectionnés
01:26qu'il faut aujourd'hui avoir des outils encore plus puissants
01:29d'authentification de l'être humain.
01:32Ça va être notamment,
01:32alors ce n'est pas forcément pour n'importe quelle conversation.
01:34Oui, ce n'est pas tous vos zooms,
01:35c'est pour des zooms de chefs importants par exemple.
01:37Voilà, c'est pour les VIP,
01:39pour un conseil d'administration,
01:41on peut imaginer, d'une grande entreprise,
01:42tout le monde est en distanciel,
01:43vous avez 10 personnes,
01:44eh bien il faut absolument avoir son badge d'humanité,
01:47son badge humain vérifié,
01:48pour pouvoir...
01:49Non mais c'est fou, encore une fois,
01:50on n'aurait jamais pensé prononcer ce genre de mots,
01:52mais oui, je pense que ça va devenir une nécessité,
01:55en tout cas sur les échanges à haute sensibilité.
01:58Dans la défense aussi, on peut imaginer...
02:02Nécessité, parce que les chiffres de fraude
02:03sont quand même sérieux.
02:04C'est considérable, alors c'est le cabinet Deloitte
02:07qui estime que la fraude alimentée par l'IA génératif,
02:10ça pourrait atteindre les 40 milliards de dollars,
02:12rien qu'aux Etats-Unis, d'ici l'an prochain,
02:15sachant que les deepfakes, c'est vraiment le moteur de cette fraude.
02:18Alors il y a déjà eu des cas extrêmement spectaculaires,
02:21je me souviens de cette affaire à Hong Kong,
02:23c'était en 2024,
02:24une entreprise qui s'était faite arnaquer de 25 millions de dollars,
02:27quand un responsable de la direction financière
02:30se retrouve en visio avec toute la direction,
02:32et on lui dit, on a signé un gros contrat avec une entreprise,
02:35il faut faire un virement de 25 millions de dollars.
02:37Donc il réalise le virement,
02:38et on se rend compte qu'en fait,
02:39toute la visio avait été générée par de l'intelligence artificielle,
02:42que toute la direction, que tous ses collègues qu'ils connaissaient
02:44ou qu'ils voyaient leur visage...
02:45Il n'y avait personne en fait.
02:46Il n'y avait personne.
02:47Tout avait été généré par une IA,
02:48alors c'est vraiment un cas à la Ocean's Eleven pour le coup,
02:50mais c'est des cas, on était en 2024,
02:53aujourd'hui en 2026, l'IA est encore plus perfectionnée,
02:55en 2028 ou en 2030, ce sera encore autre chose,
02:58donc vraiment, il va falloir se prémunir de plus en plus face à ces risques-là.
03:02Mais c'est-à-dire que vous allez commencer toutes vos visios en disant
03:04« Michel, est-ce que c'est vraiment toi ? Tu n'as pas ton badge ? »
03:07« Cligne les yeux douze fois, prends le journal d'aujourd'hui. »
03:09Ou lui poser des questions à clé, avec des mots de passe.
03:12Voilà, c'est ça, ou un truc que seul Michel est susceptible de savoir.
03:16Non mais vraiment, c'est ça,
03:17c'est-à-dire qu'on entre dans une nouvelle ère du soupçon
03:19où il va falloir douter d'absolument tout.
03:21Depuis le début des années 2000, quand on se connecte à un site,
03:24il y a toujours ce truc où il faut cliquer sur des passages piétons
03:26et des feux rouges pour prouver qu'on n'est pas un robot.
03:28En fait, ça ne suffit plus.
03:29Il faut vraiment partir du principe que tout ce qu'on voit à l'écran,
03:33eh bien, il faut avoir un doute raisonnable face à ce qu'on voit
03:36parce qu'il peut y avoir une supercherie, un deepfake,
03:39d'où la nécessité de créer ces systèmes d'authentification de l'être humain.
Commentaires