- il y a 2 mois
Lundi 8 décembre 2025, retrouvez Benjamin Oschmann (Responsable Technique Europe du Sud, Lookout), Roxana RUGINA, (Directrice Exécutive, Impact AI), Anthony Level (Responsable de la stratégie, Labe4.ai) et Grégoire Toussaint (Directeur au sein d'Edgar, Dunn & Company) dans SMART TECH, une émission présentée par Delphine Sabattier.
Catégorie
🗞
NewsTranscription
00:00Bonjour à tous, bienvenue dans Smartech. Aujourd'hui, nous passons 28 minutes ensemble avec deux grands rendez-vous.
00:21Le premier, c'est le rendez-vous de l'IA, des interviews de l'IA avec des acteurs qui font l'actualité dans le domaine de l'intelligence artificielle.
00:28Et le deuxième, c'est un rendez-vous sur la cybersécurité parce qu'on est en période d'achat de Noël et donc en période de risque.
00:34On va en parler avec des risques principalement sur les smartphones.
00:38Mais d'abord, je vous propose donc ces interviews de l'IA. C'est parti pour 20 minutes.
00:47Et donc, on démarre cette édition avec les interviews de l'IA, le rendez-vous de Smartech qui donne la parole à ceux qui font l'actualité dans le domaine de l'intelligence artificielle.
00:54Aujourd'hui, au tour de la table, trois personnalités. Grégoire Toussaint d'abord, avec qui on va parler de fraude au paiement, notamment avec l'arrivée de ce commerce agentique.
01:05Et puis Anthony Lebel, avec qui on va mieux comprendre comment on peut détecter ces IA qui veulent nous tromper.
01:13Mais on commence avec vous, Roxana Regina. Bonjour à tous les trois et bonjour Roxana.
01:18Vous êtes directrice exécutive d'Impact AI qui lance les cafés de l'IA responsable.
01:23Première question, qu'est-ce que vous appelez l'IA responsable ?
01:27Merci beaucoup pour la question.
01:29Nous sommes un collectif de 100 entreprises, donc se mettre d'accord sur une définition de l'IA responsable, ça nous a pris un petit moment.
01:40Et c'est un voyage en fait pour nos liens responsables, puisqu'on y est depuis 2017, ensemble, en train de réfléchir, de se partager des bonnes pratiques, des outils, de comment la mettre en place, cet IA responsable.
01:53La question reste, qu'est-ce que c'est ? Et ça évolue aussi dans le temps.
01:57Si au début on s'est mis d'accord sur ces principes qui ont été partagés par OECD, mis aussi en valeur dans l'IA Act, on les retrouve dans la régulation aujourd'hui et dans le texte de loi.
02:08On trouve aussi des sujets qui apparaissent avec l'IA agentique, les deepfakes, des nouveaux concepts qu'on doit intégrer dans ces définitions, qu'on doit prendre en compte.
02:22Donc pour moi, une IA responsable, c'est une culture, une culture qu'on doit développer au sein de l'entreprise aujourd'hui.
02:28D'accord, et donc qui est évolutive, mais qui peut être aussi personnalisable, ça dépend de l'activité dans laquelle…
02:35Ça dépend beaucoup des valeurs de l'entreprise.
02:38Chez nous, on a beaucoup d'entreprises qui ont un comité éthique, qui ont une charte éthique,
02:42donc qui partent des valeurs de l'entreprise et qui intègrent en fait l'IA au cœur de leur business avec une vraie stratégie autour des sujets comme la durabilité,
02:54l'impact sur l'environnement ou l'impact sur le travail qui se posent aujourd'hui de manière très claire sur la table.
03:01Donc ils doivent avoir toutes ces réflexions et répondre avec un cadre qui est mis en place, qui existe, de gouvernance de l'IA au sein de l'entreprise.
03:09Les cafés de l'IA, l'objectif c'est de former des collaborateurs en entreprise, c'est ça ?
03:14Former un million de salariés.
03:15Un petit café entre nous, ou comment ça se passe ?
03:18Ça se passe exactement comme ça, ça peut se passer autour d'un café, parce que ce qu'on propose aujourd'hui,
03:25c'est une forme d'essai image de l'initiative que Gilles Babinet a eue avec le Conseil national du numérique, les cafés IA,
03:32qui s'adresse à tout public.
03:34Donc l'idée c'est de décliner ça pour les entreprises.
03:37Nous ça fait 7 ans qu'on a un observatoire de la perception des salariés de l'IA et de comment est-ce que leurs usages influencent la confiance qu'ils ont ou pas dans l'IA.
03:48Et la question de la confiance est les clés.
03:51A cette question on répond de manière technique, avec des formations très techniques de comment prompter, comment adopter les outils.
03:57Mais aujourd'hui l'enjeu est de lever les francs psychologiques, émotionnels.
04:02Il y a des angoisses, des vraies angoisses que les salariés ont, et ils ont besoin de s'exprimer, de libérer la parole.
04:07Donc ce format de café, petit café autour de la machine à café, ou peut-être entre nous, d'une manière ludique, exploratoire,
04:17et qui permet d'échanger, s'invite à nous.
04:22Et nous on réfléchit depuis un moment.
04:25Donc là maintenant c'est l'occasion de lancer un vrai programme modulaire qui peut s'adapter en fonction de l'entreprise,
04:33de la taille d'entreprise et de ses priorités.
04:35Il peut s'adapter sur la durée.
04:36Il peut y avoir les dirigeants de l'entreprise aussi,
04:38parce que parfois c'est eux qui ont des idées fausses sur l'intelligence artificielle
04:42et ce qu'ils peuvent en faire au sein de leurs équipes.
04:45L'esprit de ces cafés c'est justement d'amener tout le monde autour de la table,
04:50des techs, des non-techs, des sachants, des débutants, des personnes qui n'ont peut-être pas confiance,
04:55voire ils sont vraiment méfiants face à la machine,
04:59et de permettre d'échanger autour des usages,
05:01de comment est-ce qu'il y a à entre dans son quotidien en tant que professionnel.
05:06Il y a aussi la question des métiers, comment est-ce qu'elle impacte les différents métiers,
05:11et donner des cas concrets pour partir sur les dilemmes éthiques
05:14et échanger à tour de rôle, faire des jeux sympathiques avec des cartes.
05:19On a prévu pas mal des outils et des formats très différents qui permettent d'interagir.
05:24Les outils proches de l'intelligence collective ?
05:27Exactement.
05:27Nous, chez Impact AI c'est ce qu'on fait, intelligence collective,
05:31on amène tous nos sachants ensemble, les experts IA,
05:34mais pas que, les experts en RSE, en pédagogie,
05:37les psychologues, les sociologues qui étudient ces phénomènes
05:41de Shadow AI, de Naive AI,
05:43et qui viennent maintenant tous proposer,
05:46avec leur regard et leur perspective, différentes solutions.
05:49Qu'est-ce que vous en pensez autour de la table ?
05:52Je pense que c'est effectivement une excellente idée
05:54d'essayer de créer une émulation autour de l'usage responsable de l'IA.
05:57J'essaierai de plaider tout à l'heure pour un usage responsable en particulier
05:59qui est la transparence de l'IA,
06:01mais je trouve qu'effectivement il faut dialoguer,
06:02et quelquefois il y a un plafond de verre, effectivement,
06:04où les dirigeants et les comex ne sont pas du tout sensibilisés
06:06à des problématiques pour lesquelles ils devraient l'être.
06:09Et surtout, on n'entend pas souvent parler
06:11les utilisateurs de l'IA,
06:15c'est les voix les moins entendues.
06:18Pour lancer ces cafés de l'IA responsable,
06:22on a lancé un premier module,
06:23parce que j'ai oublié de dire,
06:24mais ce sont des modules qui seront accessibles
06:26à toutes les entreprises,
06:28en open source,
06:29toutes nos publications sont disponibles
06:31sur le site internet,
06:32et le premier module,
06:34c'est un podcast qui s'appelle
06:36« Mon job avec l'IA »
06:37et c'est dix voix, dix témoins
06:39avec dix métiers différents
06:41qui racontent leur vie,
06:43leur quotidien avec l'IA,
06:45comment ça les impacte,
06:46quels sont leurs questionnements.
06:47On les entend maintenant en ligne,
06:49on est très contents
06:50et on espère que beaucoup plus de voix
06:53se rejoindront en nous.
06:55Et c'est vrai que c'est important,
06:56je pense qu'il y a deux mots qui sont clés,
06:58la partie réfractaire,
06:59je pense qu'il y a la conduite du changement,
07:01avoir l'IA et pouvoir l'utiliser
07:03en tant que salarié,
07:04mais aussi en tant que particulier
07:05au jour le jour,
07:06et puis la notion de confiance.
07:08Des nouveaux usages se créent,
07:10est-ce qu'on a confiance ?
07:12Où va l'IA ?
07:13Est-ce que ce sont des choses concrètes
07:15ou des choses qu'on appréhende un peu ?
07:17Et cette notion de confiance,
07:18je pense que ça se construit au fur et à mesure.
07:20Alors, on va parler confiance d'ailleurs
07:21avec vous deux.
07:22On commence, Grégoire Toussaint,
07:23avec vous.
07:24Donc, vous êtes directeur
07:25au sein du cabinet de conseil en stratégie
07:26spécialisé dans les moyens de paiement
07:28Edgarden Company,
07:30chairman des sessions paiement
07:32du salon Trustech.
07:33Trustech 2025,
07:34ça va être du 2 au 4 décembre,
07:36je précise pour ceux qui ont envie
07:37de passer une tête
07:37au Parc des Expos
07:39à Portes de Versailles.
07:40C'est plutôt un salon professionnel ?
07:42Oui, salon professionnel
07:43sur les solutions de paiement
07:45et d'identité également.
07:47D'accord.
07:49Comment est-ce que vous abordez aujourd'hui
07:50cette question de la confiance
07:51avec l'intelligence artificielle
07:53et notamment dans la question du paiement ?
07:56Est-ce que vous voyez l'IA
07:56comme un facteur aggravant pour les fraudes
07:59ou au contraire comme une solution ?
08:01Alors, je pense que l'IA...
08:02Les deux, vous allez me dire.
08:03Tout à fait.
08:04Mais si on prend un peu de recul,
08:06je pense que l'IA,
08:07on a un tournant,
08:08comme au début des années 2000
08:08avec l'e-commerce,
08:10ça devient un nouveau canal de vente
08:11pour les commerçants.
08:13On se souvient,
08:14dans les années 2000,
08:14il y a certains commerçants
08:15qui disaient non,
08:16l'e-commerce, j'y crois pas,
08:17moi, je reste dans mes magasins.
08:19Je pense que l'IA,
08:20ça va être la même chose,
08:21c'est un nouveau canal de vente
08:22qui se crée,
08:22un petit peu comme dans le domaine
08:23du voyage,
08:24où il y a des agents de voyage
08:25qui vont proposer
08:26et distribuer les services
08:27des compagnies aériennes
08:28ou des chaînes hôtelières.
08:30Donc, d'une certaine manière,
08:31les marchands vont devoir collaborer,
08:32offrir ce nouveau canal de vente
08:34et la manière...
08:35Après, ça va être des agents IA
08:36qui vont proposer aux particuliers.
08:39On va plus faire une recherche...
08:41C'est un peu ce qui s'est passé
08:41aussi avec la révolution
08:42moteur de recherche
08:43qui devenait un premier filtre
08:47vers les sites.
08:48Là, c'est un filtre supplémentaire
08:50avec les agents.
08:51Ça va être compliqué quand même.
08:52Oui, exactement.
08:53Et plus, d'ailleurs,
08:54ciblé sur certains usages.
08:56J'ai envie de faire de l'escalade
08:57ou j'ai envie de voyager.
08:59Et après, comment le paiement
09:01va s'intégrer ?
09:02Parce qu'il va y avoir
09:02une partie recherche
09:03et l'IA va faciliter
09:04toute la partie recherche
09:06comme l'a fait le moteur de recherche
09:07sur Internet.
09:08Et après, la partie paiement,
09:09comment elle va s'intégrer ?
09:11Donc, il y a beaucoup de questions
09:12au sujet du consentement,
09:14de l'authentification
09:15au niveau de la transaction.
09:17Mais une fois qu'on a payé,
09:19après, s'il peut y avoir
09:22des cas de fraude,
09:22parce qu'on en revient
09:23au niveau de confiance,
09:24et quand il y a des cas de fraude,
09:26comment est-ce qu'on va disputer
09:27ces transactions ?
09:28Donc, tout un aspect
09:30qui sont toujours à développer
09:32au niveau des paiements.
09:33Si, par exemple,
09:35l'IA réalise,
09:37ou l'agent IA réalise
09:39une transaction
09:39et que je la conteste,
09:41aujourd'hui,
09:42ce cas-là n'est pas encore arrivé,
09:43j'imagine,
09:44mais comment ça va se passer
09:45avec ma banque ?
09:46Alors, c'est une très bonne question.
09:48En ce moment,
09:49les transactions au niveau IA,
09:51ce qu'on appelle
09:51le commerce agentique,
09:52existent,
09:53mais restent faibles.
09:54Mais on utilise
09:56tous les standards
09:57et les protocoles existants.
09:58Donc, c'est-à-dire
09:59que s'il y a une transaction
10:00qui est effectuée,
10:02s'il y a eu un 3D secure,
10:03une authentification forte
10:04que j'ai faite,
10:05là, il y a la preuve
10:06de la transaction.
10:07Si ce n'est pas le cas,
10:08on peut contester
10:09et donc, du coup,
10:09être remboursé
10:10parce qu'il n'y a pas justement
10:11ce niveau de sécurité
10:12qui a été apporté.
10:13Vous avez le sentiment
10:14que la confiance augmente
10:16ou au contraire
10:17qu'on a de plus en plus
10:18un problème de confiance
10:19dans les paiements ?
10:20Je pense qu'il y a
10:21toujours une notion de confiance
10:22qui est difficile à trouver.
10:23Il faut trouver le bon équilibre
10:24sur les paiements.
10:25Est-ce qu'on souhaite
10:26avoir un parcours client
10:27qui soit le plus fluide possible ?
10:29Idéalement,
10:29dans le commerce agentique,
10:30c'est, s'il te plaît,
10:33achète, fais-moi mes courses
10:34pour acheter un pot au feu
10:36et hop,
10:36il y a la liste des courses
10:37qui est immédiatement achetée
10:38et je suis livré le lendemain
10:39et le paiement est intégré.
10:40Ceci tendu...
10:41Je n'ai même pas vu
10:41combien ça me coûtait.
10:44Après, il peut y avoir
10:45justement certaines étapes
10:46mais c'est un très bon exemple.
10:48Pour arriver à ce cas d'usage,
10:50il y a des aspects
10:52au niveau paiement,
10:52au niveau consentement,
10:53authentification
10:54qui sont très importants
10:55et après,
10:56cette confiance
10:56qui va arriver
10:57au fur et à mesure.
10:58Je pense que ce cas de figure,
11:00il ne va pas se développer
11:01l'année prochaine
11:03mais au fur et à mesure
11:04qu'on interagit
11:05avec l'intelligence artificielle,
11:06qu'on fait des recherches,
11:07après,
11:07le passage suivant,
11:08l'étape suivante,
11:09ce serait justement le paiement.
11:11Des réactions là-dessus
11:12sur ce point ?
11:13Non, ce qu'on a vu,
11:14c'est que plus on utilise l'IA,
11:16moins on a confiance.
11:18Je veux dire,
11:18plus on est conscient
11:20des risques.
11:22Et c'est sûr...
11:23Attendez,
11:23refaites-moi la phrase
11:24que je suis sûre d'avoir compris
11:25dans le bon sens.
11:26Plus on utilise l'IA au quotidien,
11:29plus on est conscient
11:30de ses limites aussi
11:32et donc des risques
11:35auxquels on est exposé.
11:37Et donc,
11:37moins on a confiance
11:38dans l'IA en général.
11:40Du coup,
11:40c'est pour ça
11:41qu'on proposait
11:41les cafés IA
11:42pour redonner des repères
11:45au sein de l'entreprise
11:46parce que c'est là
11:47où on retrouve la confiance
11:48dans le fait
11:50que je sais vers qui aller.
11:52Si j'ai une question,
11:53si mon outil de RH,
11:54je vois qu'il favorise
11:56un certain type de profil,
11:58je m'oriente vers qui ?
12:00Comment est-ce que
12:00je vais mettre en place
12:01des mesures
12:04pour limiter les biais ?
12:06Pour le cas du paiement,
12:07on aura qui comme référent ?
12:08Je parlais de la banque,
12:09par exemple,
12:09je vais appeler ma banque,
12:10je vais lui dire
12:10que c'est mon agent
12:11qui a réalisé la transaction.
12:13Est-ce qu'on ne va pas manquer
12:15d'un tiers de confiance ?
12:17In fine,
12:18comme une transaction carte,
12:20on a l'émetteur de la carte.
12:22Donc là,
12:22la banque,
12:23si on a une suspicion de fraude,
12:25c'est la banque
12:25qu'on va contacter en premier.
12:27Après,
12:28c'est la banque,
12:28au travers des paiements,
12:29qui va apporter la preuve
12:31de savoir
12:32si cette transaction
12:33a été autorisée,
12:34authentifiée
12:35comme elle se doit.
12:36Et c'est pour ça
12:37que c'est tout l'enjeu
12:37des standards de paiement
12:39pour vérifier l'identité
12:41de l'acheteur
12:42et s'assurer
12:42que la transaction
12:43soit une bonne transaction.
12:45Une transparence
12:45dans toute la chaîne.
12:46et l'enjeu
12:47de l'explicabilité
12:48à savoir
12:49comment
12:49la décision
12:50a été prise
12:51et comment
12:53je peux
12:53revenir
12:57en arrière
12:58si besoin
12:59contrôler
13:00et démarrer
13:02une procédure.
13:03Et ça,
13:04c'est un très bon exemple
13:05parce que je pense
13:05qu'il y a le niveau
13:06du consentement
13:06au niveau de l'humain
13:07mais aussi au niveau
13:08de l'agent.
13:08Est-ce que c'est
13:09un bon humain
13:10ou un mauvais humain
13:10ce qui est le cas
13:11au niveau des fraudes ?
13:12Après,
13:12est-ce que c'est
13:13un bon agent
13:14ou un bon bot
13:15ou est-ce que c'est
13:15un mauvais ?
13:16Et je pense
13:17qu'avec le commerce
13:19agentique,
13:19il va y avoir
13:19de plus en plus
13:20de changements.
13:21Parce qu'on va être
13:21soit en train de taper
13:22soit en train de commerce
13:24en train de parler
13:25à son agent
13:26achète-moi une télé
13:28pour le mois prochain.
13:30La question,
13:31c'est
13:31est-ce que demain
13:32on veut changer ?
13:34En fait,
13:35non,
13:35je n'ai plus confiance
13:36en cette marque,
13:36je me suis trompé.
13:37Donc,
13:37il va y avoir
13:38un effet
13:40ou une fenêtre
13:41de temple
13:42dans laquelle
13:42je pense qu'il va
13:43pouvoir des changements.
13:45J'ai offert un cadeau
13:45mais en fait,
13:46ma femme a offert
13:46le même en même temps.
13:47Donc,
13:48il faut en annuler.
13:49Donc,
13:49il y a toute cette notion
13:50de confiance
13:50et cette notion
13:52de traçabilité
13:53et de rapidité
13:55qu'il va falloir
13:55prendre en compte également.
13:57Tout ça est très
13:58absolument vertigineux
13:59et Anthony Level
14:00ne va pas arranger
14:02notre cas.
14:03J'en ai pas.
14:03Vous êtes responsable
14:04de la stratégie
14:05chez Label4AI
14:08qui est une deep tech
14:09française toute jeune,
14:10moins d'un an,
14:11étroitement liée
14:12au laboratoire de recherche
14:13français Enria
14:14et CNRS.
14:16Vous êtes venu
14:16avec un petit chaton.
14:17Je voulais qu'on voit
14:18ce petit chat
14:19tellement mignon.
14:22S'il veut bien venir.
14:24Alors,
14:25on me dit
14:25qu'il est un petit peu
14:26en retard le chat.
14:27Un petit peu timide.
14:27Oui,
14:28il va se présenter,
14:29on ne désespère pas.
14:29Donc,
14:30la mission de Label4AI
14:31c'est détecter,
14:32tracer
14:33les contenus
14:34qui sont générés
14:35par IA
14:36mais qui sont en fait
14:36manipulés
14:37par des intelligences artificielles.
14:39C'est ça ?
14:39Générés,
14:40entièrement générés
14:41ou un petit peu manipulés
14:42par l'IA.
14:42C'est en partie
14:43lutter contre les deepfakes.
14:44En partie ?
14:45Pas seulement ?
14:46C'est aussi pour un devoir
14:47de transparence ?
14:48Exactement.
14:49Label4AI,
14:50en français ça veut dire
14:51l'identification
14:51pour l'intelligence artificielle.
14:53C'est au départ
14:53effectivement la réunion
14:54de chercheurs
14:56issus du CNRS
14:56et de l'INRIA
14:57et de professionnels
14:58de l'audiovisuel
14:58et du numérique
14:59qui se sont réunis
15:00et qui en fait
15:02se sont donnés pour mission
15:03de rendre
15:04finalement comment on fait
15:04pour distinguer
15:05le vrai du faux.
15:06Donc c'est une mission
15:06qui est presque
15:07une mission d'utilité publique
15:08et les enjeux
15:09sont absolument majeurs
15:10en termes de fraude,
15:12en termes de confiance en ligne,
15:13en termes d'arnaque
15:14au président,
15:14en termes de risque cyber
15:15boosté en ingénierie sociale
15:17ou pas.
15:17D'information aussi.
15:18Il y a de désinformation
15:19évidemment.
15:20Donc les sujets
15:21sont absolument majeurs
15:22même jusqu'au cognitif
15:23puisqu'il y a des problématiques
15:23de santé qui vont arriver aussi,
15:25la confusion totale
15:25qui est pour les individus
15:27et déjà qui est une fatigue
15:27informationnelle énorme.
15:28En plus il faut savoir
15:29distinguer le vrai du faux.
15:31Comment est-ce qu'on fait
15:32aujourd'hui pour distinguer
15:33le vrai du faux ?
15:33Parce que moi je vois
15:34il y a plein de petites applications
15:35par exemple
15:35qui peuvent repérer
15:37si ce sont des vraies
15:37ou des fausses images.
15:38Alors je ne les conseille pas
15:39celles qui sont en ligne.
15:40Non c'est vrai que
15:41ce n'est pas très fiable.
15:42Voilà, vous l'avez dit.
15:43Nous en fait on s'appuie
15:44sur la science,
15:44on s'appuie sur 20,
15:4525 années presque
15:46de recherche publique
15:48française et européenne
15:49sur des domaines
15:50qui sont la stéganographie.
15:51La stéganographie c'est
15:52l'art de rendre
15:53un message invisible
15:54dans un contenu.
15:54C'est l'encre sympathique,
15:55l'encre ou citron de l'époque
15:56c'est un bon exemple.
15:57Et puis en traitement du signal
15:58qui fait qu'en fait
16:00on va essayer de chercher
16:01des micro-signaux,
16:02des signatures,
16:03du bruit qui est propre
16:04à certaines IA.
16:05Par exemple un bruit
16:05que fait un capteur photographique
16:06n'est pas du tout le même
16:07qu'un bruit que fait une IA.
16:09On sait même distinguer
16:10et attribuer en fait
16:11certains signaux et artefacts
16:13à certaines IA
16:13et dire ça, ça vient de Grock,
16:15ça, ça vient de ChatGPT,
16:16ça, ça vient d'ailleurs
16:16ça s'était manipulé
16:17par un outil open source.
16:18Donc on sait aussi attribuer
16:19la source de la génération IA.
16:21Alors, je ne sais pas
16:23si le chat arrive
16:23mais le chat est en cours
16:25il est en route
16:26il faudrait peut-être
16:27donner ses croquettes
16:28parce qu'il accélérerait
16:29un petit peu.
16:30Et donc là-dessus
16:31on les sort les croquettes.
16:33On les sort les croquettes.
16:34Et donc tout le défi
16:35en fait consiste à passer
16:36en fait de la recherche
16:37Ah regardez !
16:38Il va y suivre
16:38de dire croquettes.
16:39Exactement et ça fonctionne.
16:40C'est le mot-clé.
16:41Alors ce que vous avez vu
16:42Alors presque bien
16:42parce que là
16:43on n'a même pas eu le temps
16:44de voir ce qui se passait.
16:45Voilà.
16:45Donc là qu'est-ce qu'on voit ?
16:46Alors ce que vous voyez
16:47furtivement
16:47c'est une sorte
16:48comme une caméra thermique
16:49en fait
16:49qui vient révéler
16:50les traces d'IA
16:51que nous on a trouvées
16:52avec différents capteurs
16:53dédiés.
16:54Je vous en ai nommé quelques-uns.
16:55Quand c'est rouge
16:55c'est pas bon ?
16:56Quand c'est rouge
16:56c'est là où on a
16:57le plus de traces
16:57le plus de certitude
16:58sur la présence d'IA
17:00l'intervention d'IA
17:00dans cette vidéo.
17:01D'accord.
17:02Alors pourquoi en fait ?
17:03C'est une vidéo
17:03sur A2
17:04donc c'est une vidéo
17:05pour laquelle on peut
17:05faire un prompt
17:06et ça vous fait
17:07une vidéo assez courte
17:08mais hyper réaliste
17:09ils sont de plus en plus réalistes
17:10Google a sorti aussi VO3
17:11c'est vraiment
17:11on ne sait plus distinguer
17:12le vrai du faux.
17:13Mais là pourquoi ?
17:14Vous allez me dire
17:14pourquoi la vidéo
17:15elle n'est pas toute rouge
17:16puisqu'elle est entièrement
17:17générée par l'IA ?
17:17Eh bien je vous réponds
17:18je vous réponds
17:19qu'en fait nous
17:20tout le principe
17:20tout le défi
17:21consiste à transformer
17:22la recherche académique
17:23en industrielle
17:24c'est-à-dire
17:24confronter à la vraie vie.
17:26Elle aurait été toute rouge
17:27cette vidéo
17:27si on l'avait analysée
17:28en sortie de générateur
17:29parce que là
17:29elle n'aurait pas été compressée
17:30elle n'aurait pas été réencodée
17:31elle n'aurait pas été torturée en ligne.
17:33Et donc nous
17:33ce qu'on essaie de faire
17:34justement c'est de développer
17:35des détecteurs
17:35qui résistent en fait
17:36à l'ensemble des altérations communes
17:38qu'on peut avoir en ligne
17:38et qui permettent
17:39finalement d'avoir quand même
17:40à la fin des traces
17:41et qui nous permettent
17:42de qualifier cette vidéo.
17:44On le fait sur l'image
17:44on le fait sur les documents
17:45on le fait sur l'audio
17:46on le fait sur le live aussi bientôt
17:48de manière à ce que
17:49rien ne nous échappe.
17:50Pourquoi on est multimodal ?
17:51Bah typiquement
17:52si vous êtes face à une vidéo
17:53il faut pouvoir analyser l'image
17:54il faut pouvoir analyser le son
17:55même le texte
17:56s'il y a des sous-titres.
17:57Donc pour être parfaitement complet
17:58en fait nous on s'attaque
17:59en multimodal à la problématique.
18:01Alors les grands opérateurs
18:04d'intelligence artificielle
18:06les big tech
18:07pour ne pas les citer nommément
18:09elles travaillent aussi
18:10sur des outils
18:11pour labelliser les images
18:13pour repérer les deepfakes
18:14elles sont aussi très sensibilisées
18:16sur ce sujet de la confiance.
18:18Absolument
18:18déjà il y a une pression réglementaire
18:19ensuite ils ont plusieurs intérêts
18:21en fait à pouvoir distinguer
18:22eux le vrai du faux
18:23il faut savoir déjà
18:23qu'ils savent distinguer
18:24que ce qui sort de leur propre générateur
18:26aujourd'hui par exemple
18:27Google avec St-ID
18:28qui est son tatouage numérique
18:30en fait qui s'appelle comme ça
18:31et donc tout ce qui sort de Gemini
18:32de VO3
18:33ou des autres outils Google
18:34est tatoué
18:35même du texte
18:35c'est le tatoué
18:36nous aussi.
18:36Mais ça vous allez les voir donc
18:38Alors pour le moment
18:39effectivement le détecteur
18:40ce détecteur
18:41il vient d'être mis à disposition
18:42du public en réalité
18:43et en fait il y a un vrai danger
18:44à mettre à disposition
18:45un détecteur au public
18:45c'est qu'il peut être testé
18:46justement par le public
18:48et que certaines personnes
18:49peuvent essayer
18:50de voir quels sont ses secrets
18:51et essayer d'imiter
18:52finalement la marque de Google
18:53ou de la supprimer.
18:55Donc il y a un vrai défi
18:56en termes de sécurité
18:57et de robustesse
18:57alors ils ont sorti aussi
18:59ce détecteur A
18:59parce qu'ils ne souhaitent pas
19:00se réentraîner
19:01sur des images synthétiques.
19:02Vous savez les modèles
19:03de génération
19:04ont tendance à dégénérer
19:05s'ils s'entraînent trop
19:06sur des synthétiques
19:06donc ça leur fait un avantage
19:07concurrentiel
19:08puisque c'est les plus avancés
19:09et puis ça permet
19:10d'éviter de se piquer
19:11aussi les images ?
19:12Alors ça je pense que oui
19:14c'est possible
19:14qu'ils continuent à se les piquer
19:15mais voilà
19:16ça permet d'attribuer en fait
19:17presque entre guillemets
19:20une propriété sur la chose
19:21et encore ces pouvoirs-là
19:22de distinguer le vrai du faux
19:23qui est un pouvoir
19:24presque démurgique demain
19:25et ça c'est de nouveau
19:27concentré potentiellement
19:28dans les big tech.
19:28Nous on représente justement
19:29l'alternative souveraine européenne
19:30à cette appropriation
19:32dans les big tech.
19:33Des questions de votre côté
19:35sur cette nouvelle technologie ?
19:37Je vois l'application
19:38directement dans les paiements
19:40dans le secteur
19:40dans lequel je travaille
19:41parce que quand on va
19:42sur des sites web
19:43pour faire des achats
19:44il y a souvent un captcha
19:45pour vérifier justement
19:46que c'est un véritable humain
19:50je le vois vraiment aussi
19:51dans le cas
19:52est-ce que ça va être
19:53un vrai bot ?
19:54Est-ce qu'on va pouvoir faire
19:55ce commerce argentique
19:57et s'assurer derrière
19:58ou filtrer au maximum
20:00et éviter les cas de fraude
20:02notamment ?
20:04Alors je fais une remarque
20:04là-dessus c'est que nous
20:05on n'est pas capable
20:06d'identifier les bots
20:08mais on fait
20:08de l'analyse morphologique
20:09c'est-à-dire ce que produit
20:10par contre un bot
20:10ou un générateur
20:11là on est capable
20:12de l'analyser
20:12mais pas l'automation.
20:16Vous vouliez réagir
20:16sur cette technologie ?
20:19Il faudra l'expliquer aussi
20:20dans vos cafés
20:20qui sont responsables
20:22parce que là
20:22on est en plein dedans en fait.
20:23Carrément, je pense
20:24qu'il est d'autant plus
20:26important de pouvoir
20:28donner aussi des outils
20:29concrets aux salariés
20:31pour pouvoir prendre
20:33des décisions
20:33pour savoir
20:34comment est-ce qu'ils avancent.
20:36Aujourd'hui
20:36ils se forment
20:37individuellement.
20:39On trouve des petites applications
20:41On utilise les outils
20:44qu'on trouve
20:45on ne sait pas vraiment
20:47comment on se situe
20:48par rapport au cadre
20:49qui existe dans l'entreprise
20:50donc c'est important
20:51de parler de ça.
20:53On peut parier
20:54sur le fait
20:54que ça va se déployer
20:55puisque vous avez réalisé
20:56une levée de fonds ?
20:57Oui, on a réalisé
20:57une levée de fonds
20:58d'un million d'euros
20:59au début d'été dernier
21:00auprès de Business Angels
21:01pour accélérer
21:02sur le marché français
21:04européen
21:04voire mondial
21:05absolument.
21:06Merci beaucoup
21:07Anthony Levelle
21:08responsable de la stratégie
21:09chez Labelfort
21:10AI, Roxana Regina
21:12qui est directrice
21:13exécutive d'Impact AI
21:14et Grégoire Toussaint
21:15pour Edgarden & Company
21:17Merci à vous
21:18de continuer à nous suivre
21:19parce que là maintenant
21:20on va s'intéresser encore
21:21à un sujet de confiance
21:21les mobiles
21:23et les cyberfraudes.
21:30On termine cette édition
21:32avec un rendez-vous cyber
21:34et Benjamin Hochman
21:35qui est connecté avec nous
21:36il dirige la stratégie technique
21:38de Lookout
21:39pour les marchés
21:40Europe du Sud
21:41Bonjour Benjamin
21:42Bonjour
21:44Alors on va s'intéresser
21:45aux achats sur mobile
21:46avec ces risques
21:48qui explosent
21:49explosent-ils d'ailleurs ?
21:52Tout à fait
21:52déjà
21:53aujourd'hui
21:54aujourd'hui
21:56on a déjà plus d'un achat
21:57sur deux
21:57qui est réalisé
21:58en France
21:58sur un mobile
21:59donc c'est vraiment
22:00finalement la majorité
22:02des achats
22:02qui sont réalisés en ligne
22:03et notamment
22:04la période de fête
22:05comme celle
22:06dans laquelle on est
22:07et donc le mobile
22:09devient finalement
22:10la cible facile
22:11pour les annacqueurs
22:12et on a tous reçu
22:15effectivement des SMS
22:16pour nous indiquer
22:17les colis perdus
22:18pour nous demander
22:20d'installer une application
22:21pour vérifier
22:21si notre colis
22:23était bien arrivé
22:24et donc tout ça
22:25ce sont des risques
22:26pour les consommateurs
22:28qui après avoir réalisé
22:29plusieurs achats
22:31sur différents sites
22:33peuvent se trouver
22:34un petit peu
22:34en situation
22:36difficile
22:37pour reconnaître
22:38si c'est bien
22:39le marchand
22:40la société
22:42sur laquelle
22:42ils ont bien
22:43acheté leurs biens
22:43ou pas
22:44et ce sont des attaques
22:45qui sont plus efficaces
22:47que celles
22:48qui sont menées
22:49de manière classique
22:50sur les navigateurs
22:51internet
22:51qu'on consulte
22:53sur notre ordinateur
22:54tout à fait
22:55aujourd'hui
22:56on estime nous
22:57que
22:57enfin les études
22:58montrent qu'on a
22:58dix fois plus
22:59de succès
23:00sur une campagne SMS
23:01par les acteurs malveillants
23:02que sur les campagnes
23:03par email
23:04traditionnel
23:06comment vous l'expliquez ça
23:07alors parce que c'est
23:08un objet personnel
23:09on se dit qu'on va être
23:10moins soumis
23:10à des cyberattaquants
23:11peut-être
23:12alors il y a plusieurs
23:14déjà tout ce qu'on nous a appris
23:15au fur et à mesure
23:16des différentes formations
23:17qu'on a pu avoir
23:18en entreprise
23:18où notre usage du terminal
23:20est différent
23:21on n'a pas forcément
23:22les mêmes réflexes
23:23on n'a pas forcément
23:23les mêmes outils aussi
23:24pour vérifier
23:25si la destination
23:26est la bonne ou autre
23:27et donc les acteurs malveillants
23:29jouent sur ça
23:30pour augmenter
23:32et on a aussi
23:32tendance à cliquer
23:34avant de vérifier
23:35ce qui du coup
23:37fait que les utilisateurs
23:38sont plus à même
23:38de tomber dans le panneau
23:39on clique plus vite
23:41sur notre mobile
23:43que sur notre ordinateur
23:45tout à fait
23:46aujourd'hui
23:46nos études montrent
23:47qu'on a un taux
23:49finalement de clic
23:50sur une campagne
23:51par SMS
23:51autour des 90 secondes
23:53donc c'est très rapide
23:54là où historiquement
23:55sur les campagnes
23:56de phishing
23:57par email
23:58on est plutôt
23:58autour des 90 minutes
23:59donc on voit
24:00qu'il y a quand même
24:01un temps de réaction
24:02qui est beaucoup plus
24:02rapide sur mobile
24:04et puis il y a un problème
24:05c'est que
24:05en fait sur les smartphones
24:07on ne voit pas
24:08l'adresse
24:08l'URL
24:09véritablement
24:10s'afficher en entier
24:11donc on ne peut pas
24:12bien vérifier
24:13si on arrive
24:14sur le bon site
24:15est-ce qu'il y a des
24:16est-ce que vous pouvez
24:17nous partager des conseils
24:18des outils
24:18qui peuvent nous aider
24:19oui alors déjà
24:22effectivement
24:22au-delà
24:24du mécanisme
24:26de faire cliquer
24:27à l'utilisateur
24:27il y a aussi le fait
24:28que l'utilisateur
24:29peut être aussi
24:29amené à utiliser
24:31son terminal personnel
24:32pour
24:33accéder à des données
24:35d'entreprise
24:35donc on peut peut-être
24:36accéder à ses emails
24:37à son SharePoint
24:38à ses différentes solutions
24:40d'entreprise
24:40et donc on peut aussi
24:41exposer par rebond
24:43son entreprise
24:43pour des solutions
24:46pour cela
24:47effectivement on a
24:47l'ANSI
24:48qui il y a quelques semaines
24:49aussi a sorti un rapport
24:50sur la sécurité mobile
24:51donc il n'y a pas
24:52de solution miracle
24:53mais l'idée
24:54c'est de protéger
24:55le facteur humain
24:56donc nous
24:56de former ses employés
24:58pour un consommateur
25:00et bien on peut
25:01installer des solutions
25:02pour protéger
25:04contre les URL
25:04de phishing
25:05pour réduire finalement
25:06son exposition
25:07et puis
25:08pour les employeurs
25:09c'est aussi protéger
25:10les terminaux mobiles
25:12de leurs employés
25:13puisqu'ils peuvent être
25:14aussi amenés
25:15à ne pas être
25:16que des terminaux
25:17professionnels
25:18ça veut dire
25:19limiter les usages
25:20en fait
25:20sur les smartphones
25:21professionnels ?
25:24Alors
25:24il y a plusieurs choses
25:25déjà en tant que consommateur
25:26si je reçois
25:28un message
25:29d'un inconnu
25:30le premier réflexe
25:32c'est de faire attention
25:33et de possiblement
25:34ne pas cliquer
25:34si on me demande
25:36par exemple
25:36d'installer une application
25:38c'est aussi de vérifier
25:39si je suis bien sur le site
25:41de la société en question
25:43ou alors juste
25:44d'aller par moi-même
25:45sur internet
25:45pour aller vérifier
25:46ou dans le catalogue
25:50d'application
25:50de mon téléphone
25:52si c'est la bonne application
25:54Oui c'est-à-dire
25:55plutôt que de cliquer
25:56sur le lien
25:56pour aller sur le site
25:57de nous-mêmes saisir
25:58l'adresse du site
25:59sur notre navigateur mobile
26:00voilà
26:00vérifier qu'on va bien
26:03sur le bon site
26:03comme ça
26:05et pour les entreprises
26:07effectivement
26:08c'est de
26:09déployer des solutions
26:11pour récupérer
26:11de la visibilité
26:12parce qu'aujourd'hui
26:13si on regarde
26:14les différentes attaques
26:15récemment
26:15et notamment
26:16si on prend
26:17les achats en ligne
26:17on a eu
26:18sur la partie automobile
26:20Jaguar
26:21et Jaguar
26:22il y a quelques semaines
26:22et Mark & Spencer
26:24il y a quelques mois
26:24où ils ont utilisé
26:26finalement
26:26des attaques similaires
26:27par ingénierie sociale
26:29pour tromper les employés
26:30et impacter finalement
26:31toute l'entreprise
26:32donc bien faire attention
26:34sur mobile
26:34le risque est présent
26:36et on a des moyens
26:37effectivement
26:38pour se protéger
26:38avec ces différentes solutions
26:39Et vous confirmez
26:40que la période
26:41de Noël
26:42des cadeaux de Noël
26:43est particulièrement à risque ?
26:46Tout à fait
26:47puisque
26:47vous voyez dans les chiffres
26:48Tout à fait
26:49effectivement
26:50les chiffres nous montrent
26:51qu'il y a quand même
26:51une augmentation
26:52assez forte
26:53des campagnes
26:54aujourd'hui nous
26:55on a plus de 40 millions
26:56de détections
26:57sur la partie
26:57phishing malicieux
26:59ou un contenu interdit
27:00sur 2024
27:01avec des hausses
27:02assez importantes
27:02sur les pertes
27:03de fin d'année
27:03et c'est comme
27:05on l'expliquait
27:06au début
27:06de cette interview
27:08sur
27:08j'ai acheté
27:10plusieurs
27:10plusieurs colis
27:12et donc
27:13je me retrouve
27:14à ne plus forcément
27:14savoir
27:15et donc pour
27:15les campagnes malveillantes
27:17c'est beaucoup plus facile
27:18finalement
27:19de vous cibler
27:20puisque vous allez être perdu
27:21dans tout ce que vous avez
27:22commandé
27:23Et surtout
27:23quand on clique
27:24visiblement
27:25donc beaucoup trop vite
27:26sur notre
27:26beaucoup plus vite
27:27Merci beaucoup
27:28Benjamin Hochman
27:30d'être avec nous
27:31d'avoir été avec nous
27:32je rappelle que
27:32vous travaillez pour
27:33Lookout
27:33donc pour protéger
27:35nos mobiles
27:35mais avant tout
27:36vigilance à tout le monde
27:38merci à vous tous
27:39de nous suivre
27:40avec une grande fidélité
27:41c'était Smartech
27:42votre émission
27:43sur le numérique
27:44l'innovation
27:44et la tech
27:45que vous regardez
27:46sur la chaîne
27:46Bsmart
27:47à très bientôt
27:47à très bientôt
Commentaires