00:06BFM Business et Tech&Co présente Tech&Co, la quotidienne. François Sorel.
00:12Le retour de Tech&Co, la quotidienne, toujours au World AI Cannes Festival et on va maintenant
00:18s'intéresser à un vrai problème qui évidemment touche toute notre société, c'est ce contenu
00:24vidéo généré par l'IA et aujourd'hui avec les derniers modèles on arrive à avoir des
00:29choses qui sont totalement réalistes, on n'arrive plus aujourd'hui à discerner le vrai du faux.
00:35Est-ce qu'on peut avoir des outils qui peuvent nous aider justement sur ce sujet ? On va
00:38en parler avec mon invité, il s'agit de Florian Barbaro, bonsoir Florian.
00:42Bonjour et merci de me recevoir.
00:44Vous êtes le fondateur de Uncovv.i et alors on est en plein dans le sujet parce que vous,
00:49vous faites la chasse aux deepfakes qui ont été conçus par l'IA, expliquez-nous un peu
00:54comment ça marche et quelle est votre philosophie en fait ?
00:57Donc en fait le but c'est de créer des modèles qui soient les plus légers possible mais
01:04qui ont les mêmes capacités que de gros gros modèles et qui permettent justement d'être
01:08capable de détecter si un texte, une image, un audio ou une vidéo soient générés par
01:14intelligence artificielle.
01:15et par exemple si on prend un texte généré par une intelligence artificielle pour qu'il
01:20soit généré, le modèle va maximiser certaines probabilités et donc ça va inclure une linéarité
01:28dans le texte généré et en fait ça va être des patterns comme ça qu'on va être capable
01:31de détecter pour savoir si c'est humain ou plus probablement généré par une intelligence
01:37artificielle.
01:38C'est passionnant ce sujet parce que vous n'êtes pas le premier à faire ça et on se
01:42rend compte que ce n'est pas facile à détecter l'IA aujourd'hui.
01:46Quelle est votre technologie et comment vous arrivez à détecter si un texte, une photo,
01:54une vidéo a été générée par l'IA ? Vous avez une recette à vous en fait ?
01:58Oui le but c'est qu'on a commencé à travailler, on a été parmi les premiers justement à
02:03détecter ce type de technologie il y a maintenant plus de 3 ans et au moment où justement en
02:09novembre 2022 GBT est sorti et en 2023 on a vraiment développé nos premiers modèles et
02:16le but en fait c'est de prendre ce que j'ai pu apprendre durant mon doctorat pour
02:23développer des modèles qui soient légers basés sur des modèles mathématiques et qui
02:29puissent être robustes justement aux nouveaux modèles qui sortent sur le marché.
02:34Est-ce que ça marche sincèrement aujourd'hui ?
02:37En étant transparent on a vraiment des bons résultats chez les clients, notamment par
02:44exemple on travaillait avec un assureur, on arrive à avoir vraiment des bons taux de précision.
02:50Après il faut savoir que...
02:51Mais c'est quoi les bons taux de précision ?
02:53Donc là par exemple à l'assuré en question on est arrivé aux alentours de 93-95% de taux
02:58de détection.
02:59C'est des taux qui sont vraiment bien.
03:03Oui, significatifs.
03:04Et après il faut savoir aussi que par exemple la détection est très difficile et donc en fait il faut
03:11l'adapter au use case du client et surtout à sa chaîne d'information.
03:16Parce que ce qu'on voit c'est que par exemple quand on parle avec des assureurs ou avec des
03:21banques ou d'autres grandes entreprises,
03:23chaque entreprise va avoir son système d'information avec son traitement des différents contenus.
03:30Et donc en adaptant aux différents types de traitement des contenus, on va être capable d'adapter les modèles pour
03:37avoir des meilleures précisions.
03:38Ça sert à quoi pour un assureur de savoir si du texte ou des données ont été générées par l
03:44'IA en fait ?
03:45Alors c'est très important parce qu'aujourd'hui par exemple chez vous, vous allez avoir un problème technique sur
03:52votre plafond
03:53ou vous avez simplement envie de vous acheter un nouvel ordinateur, c'est pas à faire.
03:58Mais vous pouvez rapidement générer une image de votre plafond avec une tâche d'humidité, l'envoyer à votre assureur
04:04et comme ça sera en dessous d'un seuil d'envoi d'un expert, l'assurance serait tentée de vous
04:09rembourser.
04:10Et après il y a cette partie là...
04:11Ces arnaques à l'assurance existent de plus en plus aujourd'hui ?
04:14Oui, c'est ce qu'on note justement en travaillant avec des assureurs où on voit une augmentation des cas
04:20de triche.
04:22C'est-à-dire qu'on peut demander à GPT ou Gemini, on fait une photo de sa salle de
04:26bain, rajoute-moi des tâches d'humidité quoi.
04:28Exactement, tout simplement.
04:30Ou sinon par exemple votre voiture, vous achetez une voiture qui est toute endommagée,
04:34vous demandez à GPT ou Gemini de vous la refaire toute neuve, vous l'assurez en étant neuve,
04:42sauf qu'en fait elle est toute cassée et donc en fait vous envoyez l'image de la vraie voiture
04:46à votre assureur.
04:46Vous attendez quelques jours et vous envoyez la vraie photo cette fois-ci.
04:49C'est ça. Et après il y a d'autres use cases aussi qui sont très importants pour les VIP
04:55des assureurs ou des grands groupes.
04:58C'est de protéger les VIP, par exemple les Sherman et autres contre les deepfakes audio.
05:05Oui, alors c'est vrai qu'il y a eu des histoires incroyables.
05:09En Italie, il y a eu l'ancien président de l'Inter de Milan qui a été scammé par l
05:16'ancien ministre de la Défense italienne.
05:20Aux Etats-Unis, on a eu le cas avec Marco Rubio qui s'est fait impersonnifié par une personne pour
05:25avoir des secrets d'Etat.
05:26Et en France, on a une grande entreprise dont le CEO d'une filiale a été impersonnifié pour obtenir des
05:34lignes de crédit.
05:35Incroyable. Et alors, quand on fait un focus sur les réseaux sociaux, on se rend compte qu'aujourd'hui, les
05:40vidéos générées par l'IA, ça devient vraiment le grand n'importe quoi.
05:45Le Far West. Il y a des vidéos qui sont amusantes. Il y a des vidéos qui sont à la
05:50lisière de la réalité, mais qui ont été justement générées par l'IA.
05:53Donc, on peut tomber dans le panneau, si je puis utiliser cette expression. Est-ce que là aussi, vous êtes
06:00pertinent ? Est-ce que ça marche, votre solution ?
06:02Là, par exemple, justement, dans le cadre de cette vidéo qui avait été propagée par un influenceur burkinabé, où il
06:11a posté une vidéo de la révolution à Paris,
06:14où on voyait les chaînes d'information.
06:15Oui, oui, oui, oui.
06:16Et on est capable de détecter ce type d'image. Et donc, en fait, les personnes, que ce soit les
06:21citoyens ou les gouvernements,
06:23peuvent utiliser, par exemple, nos solutions pour envoyer ce type d'image et savoir si elle est réelle ou générée
06:31par l'intelligence artificielle.
06:32Après, le plus important, c'est de prendre du recul, d'utiliser nos outils ou les outils d'autres constructeurs
06:40pour prendre du recul et vraiment faire attention à ce qu'on voit sur les réseaux sociaux.
06:45Ce qui manque, en fait, c'est carrément un outil pour chacun d'entre nous, finalement.
06:50C'est ça.
06:51Une espèce de petite application qui tournerait sur notre smartphone et qui nous alerterait dès qu'on regarde un contenu
06:57qui est fake, finalement.
06:58Parce qu'Instagram, TikTok, de temps en temps, écrit, généré par l'IA, mais on sait que ce n'est
07:06pas la majorité des vidéos qui font ça.
07:09Il faudrait qu'il y ait une espèce de prise de conscience même de la part des constructeurs de smartphones,
07:13non ?
07:13Donc, on a l'implémentation au niveau des réseaux sociaux est très compliquée parce que ça fait partie du business
07:19model d'avoir de la viralité.
07:21Par contre, on est capable aujourd'hui d'aider tout un chacun d'utiliser, par exemple, notre bot WhatsApp et
07:28d'envoyer des vidéos, des images qu'il voit sur Instagram, TikTok ou autre.
07:33Il envoie directement comme s'il discutait avec un membre de leur famille.
07:37Et en fait, il s'agit de notre bot WhatsApp qui répond, qui va répondre justement en disant, voilà, faites
07:42attention, cette image, cette vidéo est générée par l'intelligence artificielle.
07:46Alors, comment on fait pour vous contacter sur WhatsApp ?
07:49Donc, en fait, il suffit juste d'aller sur le site Internet, on clique et ça nous ouvre le bot
07:54WhatsApp et après, on crée un compte et après, il suffit simplement de transférer des contenus qu'on souhaite analyser.
08:01Et c'est gratuit.
08:02Et on a le droit à 5 contenus par jour gratuitement.
08:06C'est pas mal déjà.
08:07Mais ça permet d'avoir justement, de commencer à prendre conscience et après, si on a besoin de plus, on
08:14peut prendre des abonnements supplémentaires.
08:16Et ça marche pour tout, ce compte WhatsApp, même pour du contenu écrit ou c'est que pour la vidéo
08:21?
08:21Pour le WhatsApp, actuellement, c'est images, audio et vidéo.
08:25OK.
08:26Parce que c'est vrai que les contenus générés par l'IA envahissent même, on va dire, l'école.
08:32Les enseignants peuvent se faire berner, etc.
08:35Vous avez des demandes de la part de l'éducation nationale, notamment ?
08:39On a eu quelques demandes de l'éducation nationale, mais c'est vrai qu'on se focalise plus sur la
08:45partie banque, assurance et protection de grands groupes,
08:51notamment pour tout ce qui va être recrutement, protéger les VIP de ces grands groupes et après, la partie assurantielle.
09:00Et enfin, la partie médias, justement, où on aide les médias à les aider dans la partie fact-checking pour
09:10voir justement si ce contenu a été généré,
09:12trouver le contexte autour d'une image, d'une vidéo, d'un audio pour les aider justement dans leur travail
09:17et leur faire gagner du temps.
09:19Est-ce que les modèles d'IA sont en train de contrer ce que vous faites pour essayer de masquer
09:24justement le fait que c'est du contenu généré par l'IA ?
09:27Est-ce qu'il y a une bataille, on va dire, de l'innovation dans ce domaine-là ?
09:32Je pense qu'en fait, la bataille, elle est inhérente, mais ce n'est pas dans leur intérêt.
09:38Leur intérêt, c'est les images, les vidéos, les contenus qui soient les plus réels possibles.
09:42Et donc, c'est cette bataille un peu virus-antivirus et donc, il faut maintenir la cadence.
09:49Donc, il y a une veille parce que votre système de détection sera peut-être plus valable dans quelques mois.
09:54Il va falloir le mettre à jour.
09:56En fait, il est mis à jour de manière constante et on a développé en plus de nos personnels des
10:03systèmes qui vont analyser, scraper tous les différents modèles
10:07et on va tester de manière automatique tous les modèles, implémenter tous les papiers pour justement améliorer de manière continue
10:14nos modèles
10:15pour justement ne pas être à la page et ne pas attendre six mois que quelque chose de nouveau arrive
10:20et qu'on soit un peu berné plus facilement.
10:23Merci beaucoup, Florian.
10:25Merci à vous pour l'invitation.
10:26Florian Barbaro, fondateur d'Uncov.vei.
10:30Merci et puis sachez qu'on peut vous voir aussi sur M6 parce que vous faites partie de l'émission
10:34qui va être mon associé.
10:36On n'en dira pas plus.
10:38Merci beaucoup.
10:39Merci.
Commentaires