- il y a 2 mois
Ce mercredi 10 décembre, Lucas Perraudin, cofondateur d'AI Partners, Éric Antibi, directeur technique de Palo Alto Networks France, Wojtek Swiatek, vice-président de CISO Dassault Systèmes, Guillaume Rincé, CTO de la MAIF, Laurent Besset, deputy CEO d'I-Tracing, Éric Bohec, CTO Groupe de Nomios, Cyril Demonceaux, directeur SOC d'OCD, Ludovic Kornacker, directeur Channel France de PANW, et Marion Carré, présidente et cofondatrice d'Ask Mona, étaient les invités de l'émission spéciale « L’ère des IA Agentiques : confiance, sécurité et nouveaux horizons » sur de BFM Business, présentée par Frédéric Simottel.
Catégorie
📺
TVTranscription
00:00BFM Business présente
00:06L'ère des IA agentiques. Confiance, sécurité et nouveaux horizons.
00:15Frédéric Simotel.
00:17Bonsoir et bienvenue sur BFM Business dans cette émission L'ère des IA agentiques.
00:21On vous a parlé de l'IA, de l'IA générative.
00:23Ce soir, nous allons vous parler de l'IA agentique, tous ces agents autonomes.
00:27Essayer de comprendre à quoi ils servent, essayer de voir comment ils rendent les entreprises plus efficaces.
00:32Ce sont des technologies qui ne se contentent plus d'assister seulement les humains, les collaborateurs que nous sommes,
00:37mais qui sont vraiment en train de transformer les process de l'entreprise.
00:40On va voir tout ça. On va débuter avec un expert qui va nous donner un peu un panorama de ce que sont vraiment ces IA agentiques, ces agents IA.
00:47On reviendra ensuite avec deux témoins, Maïf et Dassault Systèmes,
00:51qui nous diront un peu comment ils commencent à exploiter ces agents autonomes dans leurs entreprises.
00:56Et puis, deuxième partie de l'émission, là, on sera avec des experts.
00:59On rentrera aussi dans l'efficacité opérationnelle de ces agents, la transformation.
01:03On parlera cyber aussi avec nos invités.
01:05Et puis, on terminera par une petite note.
01:07Alors, pas un pas de côté parce que l'humain est au cœur de tout ça.
01:10Mais justement, vous allez voir, on va aborder cet IA d'une autre façon avec l'auteur du livre « Le paradoxe du tapis roulant ».
01:16On verra tout ça. Restez avec nous. On est ensemble pendant une heure sur BFM Business.
01:19Voilà. Et nous voici avec cette...
01:28Essayez de comprendre, c'est qu'est le liage antique.
01:29Lucas Perrodin, bonsoir.
01:30Bonsoir, Frédéric.
01:31Merci d'être avec nous.
01:32Co-fondateur d'AI Partners.
01:33Alors, vous conseillez évidemment les entreprises sur tous ces sujets.
01:36Ma première question, c'est l'état de l'art liage antique.
01:39On en parle beaucoup.
01:40Tout le monde a l'impression d'en faire ou pas d'en faire.
01:43Qu'est-ce qu'on peut dire aujourd'hui ?
01:44Est-ce que ce sont des systèmes réellement autonomes ?
01:47Alors, on peut dire d'abord que toutes les entreprises ont compris qu'elles devaient plus ou moins s'y intéresser.
01:53Ça, c'est certain.
01:54Qu'il y a plusieurs vitesses d'adoption et plusieurs stratégies.
01:58Donc, on voit beaucoup d'entreprises qui, malheureusement, ont sauté dans l'IA générative à Gentic sans beaucoup de stratégie.
02:07Donc, on sait bien, on en parle parfois, la mort par overdose de prototypes qui ne deviennent jamais des processus.
02:16Donc, ça, on en voit beaucoup.
02:17Et puis, on a un certain nombre d'acteurs qui commencent à avoir réellement avec une stratégie d'outils de formation et de construction de cas d'usage d'agents en production.
02:27Donc, on a les trois types de vitesses.
02:30Je disais tout à l'heure en introduction que si l'IA générative était là plutôt pour nous assister, nous, en tant que collaborateurs sur nos tâches au quotidien,
02:37l'IA agentique, elle est plus là pour transformer les process.
02:41C'est ça.
02:42Et c'est tout cela, les défis d'adoption, parce que là, on touche à l'organisation de l'entreprise.
02:46Alors, une bonne façon de regarder le terme agent, il est utilisé à tort et à travers, donc c'est un peu compliqué.
02:51Une bonne façon de faire une ségrégation entre un assistant et un agent, c'est un assistant.
02:55Je pose une question, j'ai une réponse.
02:57Donc, je vais dans le chat de GPT, je pose une question, j'ai une réponse.
02:59Il y a plein d'entreprises qui ont des assistants spécialisés.
03:04On a plein d'assistants RH, par exemple.
03:06Combien il me reste de jours de vacances ?
03:07Donc, je vais dans le système, je pose la question, j'ai une réponse.
03:09L'agent, c'est différent, il fait quelque chose.
03:11C'est-à-dire, je lui donne un process et il a accès à des outils, à des bases de données, potentiellement à des modèles et il doit accomplir une tâche.
03:20Par exemple, on a beaucoup d'agents aujourd'hui qui font de la création de contenu.
03:24Si j'ai besoin de contenu pour mon site web, je donne un thème, il va regarder sur Internet ce qui se dit sur ce thème,
03:30il va faire un résumé et ensuite fabriquer un article qui soit optimisé pour être bien représenté sur Google ou sur ChatGPT d'ailleurs.
03:37Donc là, tout le contrôle dépendra de la façon dont j'ai défini ce thème ?
03:40Exactement. Et la science et l'art dans l'agentique, c'est l'orchestration.
03:46Et tu parlais d'autonomie tout à l'heure. Est-ce qu'ils sont autonomes ? Non.
03:52Enfin, ça n'existe pas vraiment les agents autonomes.
03:53Nous, on a des vrais agents en production dans des vrais endroits, par exemple des magasins de retail.
03:58Et entre ce qu'on entend, ce qu'on voit et ce qu'on sait être réellement le cas dans les entreprises, il y a une différence.
04:04C'est plutôt des choses dont l'orchestration et la capacité qu'on a à fabriquer le contexte de ces agents pour qu'ils comprennent bien les métiers.
04:14En fait, il faut expliquer à un espèce de savant incroyable qui est le modèle comment se passe un métier très précis sur lequel il n'a aucune idée.
04:20Donc, c'est comme demander à... J'ai vu, l'autre jour, j'étais dans une conférence aux US où il disait, vous demandez à quelqu'un avec 300 QI qui ne connaît rien au système des taxes français de faire vos taxes en France.
04:30D'accord.
04:31Ou si vous demandez à un comptable qui a un QI normal mais qui connaît bien les taxes, il le fera mieux. Il faut donner cette information-là aux savants.
04:37Ça veut dire que, et on va en reparler avec nos invités, il faut une qualité de données importante.
04:43Il faut aussi, justement, ce n'est pas parce que ces IA, on va les laisser se débrouiller tout seul, ces IA agentiques, qu'il ne faut pas aussi des compétences.
04:49Ça, c'est deux des freins, deux des défis aujourd'hui ?
04:52Oui. Le premier, c'est la compréhension de l'orchestration. En fait, avoir les bons niveaux d'attente par rapport à ce que l'IA agentique peut faire et ne peut pas faire.
05:02Le deuxième, ça va être vraiment l'orchestration. Et il y a quelque chose qui n'est pas très clair pour la plupart des entreprises.
05:06Nous, on rencontre beaucoup d'entreprises qui nous disent, Google, Gemini 3 maintenant est meilleur qu'Open AI. Est-ce que je dois changer ?
05:11Et en fait, c'est important, mais ce n'est pas ce qu'il y a de plus important parce que ce n'est pas quelque chose qui est très engageant.
05:16On peut changer de modèle en 48 heures, en brancher un, en débrancher un. Par contre, bien définir les process qu'on va automatiser et avoir des couches d'orchestration,
05:25ça, ça a beaucoup d'inertie. Donc, il faut faire les bons choix tout de suite et il faut avoir une bonne stratégie technique et business pour le faire.
05:32Oui, ce n'est pas juste rajouter une couche d'IA sur des process existants.
05:36Littéralement, c'est les process qui vivent dans des PDF, dans des PowerPoint ou dans la tête des travailleurs et qui se passent les uns les autres
05:44quand ils s'expliquent comment faire le métier, qu'il faut formaliser et mettre noir sur blanc.
05:47Il y a un autre phénomène qui est hyper intéressant, c'est qu'aujourd'hui, dans une entreprise, vous demandez à trois personnes de décrire le même process,
05:52on a trois réponses différentes. Mais avant de les donner à l'IA, il faut arriver à singulariser le process sur quelque chose sur lequel tout le monde est d'accord.
05:58Donc, il y a un premier travail qui est en fait de documentation des process pour pouvoir ensuite les mettre dans des agents.
06:03Alors, vous parliez justement de Gemini 3, de ChatGPT 5, on a Mistral aussi, pour parler d'un Français, mais on a les Chinois Dipsy,
06:11on a beaucoup de choses, on a Claude. Aujourd'hui, on voit, c'est une rapidité d'innovation.
06:15Comment faire quand on est avec ces IA, ces IA génératives et puis ces IA agentiques pour se dire,
06:21non mais là, à un moment, je vais me faire dépasser par le rythme d'innovation.
06:24Comment on réussit justement à gérer l'évolution rapide de ces modèles ?
06:27Pour l'agentique, on a cette chance qu'il y a des choses qui changent et d'autres qui ne changent pas.
06:31Ce qui va changer très vite, c'est quel modèle on utilise. Ce qui ne va pas changer, c'est quel process on adresse.
06:36Le processus de gestion des complaintes clients, il est ancien dans l'entreprise, il y a une façon de le faire, il y a des réponses types à donner.
06:46Donc, documenter ces process, qu'on le fasse sur GPT 4 ou GPT 25, il faut qu'on ait orchestré ce process pour pouvoir l'exploiter avec de l'IA.
06:55Donc ça, c'est un investissement cognitif de temps et d'argent pour les entreprises qui sera amorti dans le temps et qui va servir à faire de l'agentique.
07:03Donc, documenter les process et ensuite la partie culture, avoir des gens qui savent fabriquer des agents,
07:09au moins qui savent qualifier quel process est lisible à un agent ou pas.
07:12Après, les fabriquer ou pas, c'est notre question.
07:13Et la troisième partie, c'est la data.
07:15La data, c'est des stéroïdes pour les agents.
07:18Donc, plus on va… et la data, c'est un travail qui est long.
07:20Donc, les process, la culture, la data, il faut y travailler ici et maintenant et c'est un retour sur investissement à long terme.
07:27À la limite, de ce que je comprends, c'est qu'il ne faut pas se focaliser sur les modèles eux-mêmes.
07:32Il faut plus se focaliser sur l'écosystème qu'on va être autour, si c'est plus…
07:35Alors, bien sûr, il y en a qui sont plus spécialisés pour des développeurs ou pour des centres de relations clients, pour des RH,
07:40mais il faut vraiment voir un petit peu tout ce qu'on va avoir comme écosystème sur la sécurité, les outils de dev, de développement, etc.
07:46L'orchestration. Littéralement, c'est l'orchestration, la mémoire, le contexte qui fait la différence.
07:52Pour ceux d'entre nous qui sont spécialistes, on sait que c'est ce qu'on appelle memory management,
07:56la gestion de la mémoire dans les flux agentiques qui fait toute la différence de performance.
07:59Une bonne orchestration, un contexte bien fait, c'est dix fois le retour de choisir Jiminy par rapport à GPT-5.
08:07Parce qu'ils sont tellement proches, ces modèles, qu'à la fin de la journée.
08:10Par contre, une bonne orchestration, ça va donner un retour sur investissement extrêmement fort.
08:13On va pas mal parler cybersécurité aussi ce soir.
08:17Et là, un agent autonome, ça représente une nouvelle surface d'attaque.
08:19Comment vous l'expliquez aux entreprises, ce risque aussi ?
08:23Alors, les agents complètement autonomes pour l'instant en prod, en production, on n'en met pas.
08:28Parce qu'ils sont trop instables.
08:34Et en fait, quand on fait des agents autonomes, pour qu'on explique un peu,
08:37ce dont je parlais tout à l'heure, c'est la couche d'orchestration.
08:39Si on décrit le processus, tu fais ça, ensuite ça, ensuite ça, ensuite ça, ensuite ça.
08:43Il y a des process autonomes où on dit, au lieu de dire de bien décrire le processus
08:47et d'avoir un processus en dur dans lequel on va appeler de l'IA à certaines étapes,
08:51on a pensé qu'on allait avoir des agents généralistes.
08:53C'est-à-dire qu'on va avoir un agent travaillant, on va lui dire,
08:55voilà la tâche que tu as à accomplir et puis voilà tous les outils auxquels tu as accès.
09:00Et décide, sois autonome.
09:01Bon, ça, c'est dangereux, ça ne marche pas très bien aujourd'hui.
09:04Donc, pour résumer, en 2025-2026, des gens qui font des vrais agents autonomes
09:08et même les gens comme Anthropique, enfin, il y a encore Anthropique qui a fait des évaluations.
09:11Ce qui est important, c'est de faire des contextes de domaine d'expertise
09:17et de faire des choses qui soient très carrées dans l'orchestration
09:19pour pouvoir exploiter l'IA généraliste dedans.
09:22Et du coup, si on parle, pour cette dernière question, il nous reste un peu moins d'une minute,
09:26si on parle de gouvernance, c'est, on voit dans les entreprises,
09:29on connaissait les FinOps dans le cloud, on connaissait les GreenOps quand on parlait de durabilité,
09:33il y a les AIOps, ce sont des nouveaux postes qui vont apparaître ?
09:36Il y a GEN et AIOps, mais la différence, c'est que par rapport au cloud, etc.,
09:41c'est que là, ça touche tous les métiers de l'entreprise.
09:44L'école blanc, l'école bleue, l'IA génératif, ça touche tout le monde.
09:47Donc là, c'est un problème HR, stratégie.
09:50Aujourd'hui, nous, on fait des choses end-to-end avec quel outil, quelle politique,
09:54quel training, quels agents et quelles nouvelles organisations
09:56vont être déployées grâce à l'IA génératif.
09:59On a bien compris, donc il faut piloter ces projets d'agentique,
10:03alors pas comme un projet IT, mais vraiment comme un projet…
10:05Un projet métier, un projet stratégique.
10:06Un projet métier, un projet d'orchestration.
10:08Merci, Lucas Perrona, d'être venu parler de tout ça.
10:10On vous retrouve régulièrement sur nos antennes Tech&Co,
10:13expert, cofondateur des AI Partners,
10:15évidemment, expert de toutes ces technologies d'IA agentiques.
10:19Allez, on marque une très courte pause.
10:21On va se plonger dans les entreprises avec nos invités suivants.
10:24On va parler avec Dassault Systèmes, avec Palo Alto, avec la Maïf.
10:26C'est tout de suite sur BFM Business.
10:27Voilà, ils s'installent, ils vont venir, Guillaume Rincey,
10:36Ouajek Suatek et Éric Antiby.
10:39Alors, dans l'ordre, Éric à côté de moi, Éric Antiby,
10:43CTO de Palo Alto Networks.
10:44Bonsoir.
10:45À vos côtés, que je prononce bien.
10:48Voïté Exatek.
10:49Voïté Exatek.
10:50C'est très bien.
10:50Oui, c'est rapide.
10:51Vice-président CISO chez Dassault Systèmes.
10:54Et puis, Guillaume Rincey, bonsoir.
10:55Rincey, bonsoir.
10:55Rincey, bonsoir.
10:56Voilà, prononçons tout bien.
10:58CTO de Maïf, donc la mutuelle d'assurance que l'on connaît bien.
11:02Éric, on vient avoir une première définition des IA agentiques.
11:06Là, on va avoir ces témoignages concrets.
11:08Les nouveaux challenges pour vous, là, un peu,
11:10alors sans redire ce que vient de dire Lucas Perrona,
11:12mais autour de cette IA et agentique, qu'est-ce qui change vraiment ?
11:15Puis vous êtes un spécialiste de la cyber.
11:17Qu'est-ce que dans l'attaque, la défense ?
11:19Alors, commençons par l'attaque.
11:20Effectivement, ces phénomènes ont des impacts clairement sur les attaques.
11:25Si je prends quelques exemples dans l'ordre chronologique,
11:28la première chose, c'est que les attaquants ne se privent pas
11:29d'utiliser ces nouvelles technologies,
11:31que ce soit l'automatisation liée à Généaï ou la partie agent.
11:36Et la première chose qu'on a constatée, c'est déjà il y a quelques mois,
11:38nos experts unit 42 ont regardé des cas concrets,
11:41ont fait des mesures.
11:42Et là où il y a encore quelques mois ou quelques années,
11:45une attaque, entre l'intrusion dans un système d'information
11:47et le fait qu'une attaque arrive à ses objectifs,
11:49il peut y se passer quelques semaines, voire quelques mois.
11:51Maintenant, on parle de quelques minutes.
11:52Donc la première chose, c'est la vélocité, le volume des attaques.
11:55D'ailleurs, je crois qu'il y a un rapport de...
11:57On n'aura qu'un de Orange Cyber Défense qui est avec nous,
11:59mais il y a le rapport d'Orange Cyber Défense
12:00qui explique maintenant ce qui change,
12:02alors au-delà les PME plus attaqués, etc.,
12:04mais c'est que dès qu'il y a une faille,
12:06elle est exploitée quasiment immédiatement.
12:08La deuxième chose, quand on parle de Gen AI et de prompt,
12:13c'est qu'on parle maintenant,
12:14avant on parlait beaucoup de protection de données,
12:16de vol de données, c'est toujours la réalité, bien sûr,
12:18mais c'est tout ce qui est autour de l'intégrité de la data.
12:20C'est-à-dire qu'aujourd'hui, il y a un vrai sujet
12:22qui est avec des promptes d'injection du data poisonique,
12:24est-ce que je fais confiance à ce que me répond mon IA ?
12:26Donc ça, c'est vraiment un nouveau sujet.
12:28On peut venir pirater les promptes.
12:30On peut venir tout à fait pirater les promptes,
12:31c'est un nouveau risque sur lequel il faut se pencher.
12:33Et la troisième, on est dans le sujet de ce soir,
12:34c'est évidemment autour de l'agent.
12:36Là, je ne citerai qu'un seul exemple.
12:38D'ailleurs, Lucas l'a très bien dit en introduction.
12:40Les agents, ils ont accès à tout.
12:41Ils ont accès à des bases de données,
12:42à tout un ensemble d'informations du système d'information
12:44pour pouvoir agir, pour qu'ils soient efficaces.
12:47Et donc, l'attaque récemment documentée par Anthropik,
12:50où on se rend compte qu'une attaque a été à 80-90%
12:52entièrement pilotée par un agent.
12:55Les hackers étaient quelque part les stratèges,
12:56ils ont décidé quelles étaient les entreprises à cibler, etc.
12:58Et tout le reste a été fait par des agents.
13:00On dit que 90% de cette attaque était quasiment automatisée.
13:03Et était quasiment automatisée, pilotée par des agents.
13:05Donc ça, c'est côté attaquant.
13:07Et pour faire très simple, côté défense,
13:09l'enjeu, c'est quoi ?
13:10C'est face à des agents, face à des attaques
13:11qui utilisent du Généa et de l'automatisation,
13:14il faut se défendre en utilisant les mêmes moyens.
13:16Si on continue à avoir des analystes avec des écrans et des claviers,
13:19on n'arrivera pas clairement à se défendre.
13:20Et bien, on en reparlera.
13:21Et puis, on en reparlera pas mal,
13:22notamment en deuxième partie d'émission.
13:23Là, on va élargir un peu le spectre.
13:25Avec vous, que j'ai accès chez Dassault Systèmes,
13:27l'état d'avancement des projets IA
13:29lors d'associer notre fleuron technologique aujourd'hui
13:34sur tout un domaine industriel, domaine de la santé.
13:37Vous en êtes où aujourd'hui, votre projet IA ?
13:40L'IA, ce n'est plus du tout une idée futuriste.
13:45Aujourd'hui, c'est ce que nous avons dans nos entreprises.
13:47Ça fait partie de nos process de tous les jours.
13:51Nous avons en face de nous une déferlante de données.
13:55Avant, les attaques, elles étaient larges,
13:57mais elles étaient raisonnables.
13:58Aujourd'hui, nous avons une vraie déferlante de données.
14:01Et nous devons mettre en place une solution
14:02qui, comme Eric l'a dit ici,
14:05il y a un besoin vrai de répondre aux IA par les IA.
14:10Cela étant dit, brancher une IA sur un socle,
14:14sur un système de défense,
14:15ce n'est pas comme brancher un grippin au courant.
14:19C'est quelque chose qui est imprévisible.
14:22C'est quelque chose qui n'est pas prédictible dès le début.
14:26Ce sont des données qui sont volatiles.
14:28C'est quelque chose qu'il faut approcher à petits pas.
14:31Et l'IA s'y prête très bien à travers les agents.
14:33Créer des agents pour certains environnements.
14:35Regarder le passé.
14:36Parce que très souvent, on a dans le passé
14:38des choses très intéressantes
14:39qui nous permettent de nous entraîner pour le futur.
14:41Et petit à petit, sous forme de cycles,
14:46mettre en place des agents qui répondront
14:49justement à ce genre d'attaque.
14:51Guillaume Rincet, chez Maïf,
14:52vous en êtes où de vos projets IA ?
14:54J'imagine bien avancés.
14:55On parle souvent du secteur des administrations,
14:57des assurances, pardon,
14:59des secteurs financiers
15:00qui ont déjà pas mal avancé sur cette IA.
15:02Finalement, l'IA, ce n'est pas nouveau.
15:04En fait, on en fait depuis plus de 10 ans aujourd'hui
15:06dans les assurances,
15:07en particulier à la Maïf.
15:08On a plein de cas d'usage historique.
15:10On traite nos mails.
15:11On fait de la détection de fraudes.
15:13Donc là, c'est plutôt finalement
15:14de nouvelles opportunités,
15:15d'aller travailler de nouveaux use cases.
15:18Donc on est aujourd'hui en train de passer
15:19des prototypes à des cas d'usage en production.
15:23Je dirais qu'il y a principalement
15:25deux sujets aujourd'hui
15:26qui sont très intéressants.
15:28C'est donner l'accès à la connaissance
15:30à nos utilisateurs.
15:32On est dans des industries
15:33où il y a beaucoup de complexité,
15:35beaucoup de documentation,
15:36beaucoup d'offres.
15:38Et donc quand on rentre en relation
15:39avec un client,
15:39il faut pouvoir trouver l'information rapidement.
15:42Donc ça, l'IA,
15:42ça nous permet de faire des recherches
15:44finalement d'informations
15:46dans un contexte client donné.
15:47Et ça, c'est relativement nouveau.
15:50Et puis je dirais que les autres sujets,
15:51c'est plutôt des sujets d'automatisation.
15:53Il y a des tâches
15:54qui n'étaient pas accessibles
15:55auparavant par des humains,
15:59des tâches qu'on ne pouvait pas
15:59forcément automatiser.
16:01Si je prends un exemple assez concret,
16:03on a des dossiers sinistres
16:04qui peuvent être très longs,
16:05par exemple dans notre métier.
16:06Et quand on a un client
16:07avec qui on rentre en relation,
16:08ça permet d'avoir un résumé
16:09par exemple de ce dossier sinistre
16:11immédiatement à jour,
16:12disponible pour le conseiller
16:13et qui va du coup
16:14pouvoir répondre aux questions
16:16des clients facilement.
16:17Et alors, je reviens
16:18sur ce que disait tout à l'heure
16:19Lucas Perrona
16:21en disant que ces IA autonomes,
16:23ces agents autonomes,
16:24ils vont aller se noyer un peu,
16:26enfin se noyer,
16:26ce n'est pas le bon terme,
16:27partir un peu,
16:28chercher des datas
16:29pour faire des choses
16:30un peu de façon plus autonome.
16:33Chez vous, dans la science,
16:34on imagine tout le bénéfice.
16:35Vous avez déjà des premiers projets
16:38d'IA agentiques ?
16:39En fait, ce qu'on regarde le plus
16:40finalement nous sur les agents,
16:41c'est plutôt les agents grand public
16:43parce qu'en fait,
16:43on voit arriver dans les mains
16:45de nos clients
16:45finalement de nouveaux outils,
16:47notamment les navigateurs
16:49qui sont augmentés
16:49avec des agents à l'intérieur
16:50et qui permettent du coup
16:52aux clients de réfléchir
16:53finalement avant de discuter
16:55avec leur assureur
16:55d'une stratégie
16:57sur comment ils vont assurer
16:58leurs biens,
16:58comment ils vont assurer
16:59leurs véhicules.
17:00Et ça, ça change beaucoup
17:01finalement la manière
17:02dont on va discuter
17:03avec ses clients
17:04parce qu'ils sont
17:05quelque part augmentés
17:06par ses capacités d'IA.
17:09Donc nous, on essaye
17:09de comprendre en fait
17:10comment ça va influer
17:11sur la relation
17:12qu'on a avec nos clients.
17:13On a une stratégie vraiment
17:14de mettre beaucoup d'humains
17:15dans la relation
17:16et donc là,
17:17il y a quelque chose
17:17de presque un peu
17:18contre-intuitif
17:19parce qu'en face de nous,
17:20on a un client
17:20qui a accès
17:22à une manière
17:23un peu instantanée
17:24de comparer ce qu'on fait.
17:25Le client aura lui-même
17:25sa propre IA
17:26qui vous appellera
17:26quand il aura sa vie.
17:27Oui, absolument.
17:27Mais c'est presque déjà ça.
17:28Vous pouvez réfléchir aujourd'hui
17:30avec votre IA en disant
17:31je veux assurer
17:32mon nouveau véhicule,
17:34quelles sont les questions
17:34que je vais me poser,
17:36qu'est-ce que tu m'en recommandes
17:37finalement comme assureur
17:38ou qu'est-ce que tu me recommandes
17:39de poser comme question.
17:40Et donc, on a des clients
17:41aujourd'hui qui arrivent
17:42presque avec une stratégie
17:43en fait de dialogue
17:43avec nous.
17:45Donc ça, c'est assez nouveau
17:45effectivement dans notre métier.
17:47Les premières expérimentations
17:48chez Dassault Systèmes aussi,
17:50Roger ?
17:50Oui, alors évidemment,
17:52le grand avantage...
17:52En IA agentique,
17:53j'entends parler.
17:53Bien sûr, justement,
17:54le grand avantage
17:55des agences,
17:57c'est qu'à la différence
17:57d'une IA conversationnelle
17:59où on pose des questions
17:59et on reçoit quelque chose
18:01de généré,
18:02nous avons la possibilité
18:03de connecter ces agents
18:05pour qu'ils prennent
18:06des décisions.
18:08Mais comme je le dis toujours,
18:09le futur,
18:10ce n'est pas l'automatisation,
18:11le futur,
18:12c'est le pilotage.
18:13Les IA vont piloter des choses.
18:14On dit l'orchestration
18:15tout à l'heure.
18:16Mais nous sommes au volant.
18:18Il y a toujours
18:19l'élément humain derrière
18:20qui nous permet
18:22d'être sûrs
18:23que ce qu'on fait
18:24est raisonnable.
18:25Les agents ont une puissance
18:27énorme
18:28de capacité
18:30de transformer
18:30des informations
18:31beaucoup plus que les gens.
18:33Donc, ça peut être
18:34un super analyse
18:36de niveau zéro
18:36qui reçoit
18:37beaucoup d'informations,
18:38qui les enrichit,
18:39qui les groupe parfois.
18:41L'automatisation demande
18:42à ce que deux choses
18:43soient identiques
18:43et si on a A et A,
18:45ça fait deux A.
18:46Pour un agent,
18:48on peut avoir
18:48un peu A,
18:49un peu B.
18:50Mais finalement,
18:51en gros,
18:51c'est un peu A.
18:52Donc, les agents
18:54permettent de grouper
18:55certaines choses
18:55que nous ne verrons pas
18:56sur des volumes énormes.
18:58Ça, c'est une première chose.
18:59Et la deuxième chose,
19:00un sujet
19:00qui a été discuté ici,
19:03c'est la capacité
19:05de discuter
19:07avec ceux
19:08que l'on a déjà.
19:09L'historique
19:10que nous avons
19:11nous permet
19:11d'enrichir
19:12nos réponses.
19:13Nous avons un incident,
19:15nous avons une attaque,
19:16nous avons eu
19:17ce type d'attaque
19:18dans le passé,
19:19pas exactement
19:19la même attaque,
19:20pas exactement
19:21le même contexte,
19:21mais l'IA
19:23et les agents d'IA
19:24qui sont capables
19:24d'accéder,
19:25ils sont capables
19:26de retrouver le contexte
19:27et de nous dire
19:28« Ah, écoute,
19:29ici, on a une attaque
19:31qui se ressemble
19:32et c'est ce que vous avez fait
19:33et voilà,
19:34je vous propose
19:34et peut-être
19:35que directement,
19:36je peux,
19:36si vous le voulez bien
19:37ou si vous l'avez
19:38autorisé avant,
19:40je vais directement
19:40prendre des décisions,
19:43le même type
19:44de décision
19:44qui a été prise
19:45dans le passé.
19:45Donc ça,
19:46c'est un travail
19:47de longue haleine
19:51mais c'est un travail
19:52indispensable.
19:53La capacité de l'IA
19:54à nous proposer
19:55des solutions
19:56des solutions
19:57auxquelles nous aurions pensé
19:58mais peut-être
19:59un peu moins rapidement,
20:00c'est la force
20:00de tous ces agents.
20:04Alors, Eric,
20:05on a fait venir
20:06deux témoins
20:07Maïf d'Astrosystem
20:09parce qu'ils ont
20:09des choses à dire
20:09mais justement,
20:11ils commencent
20:12à entrer dans une phase
20:13où on se sent
20:13assez mature
20:14dans tout ce domaine-là.
20:16Où est-ce qu'on en est
20:17sur le marché ?
20:17Est-ce qu'on est encore
20:18dans une phase
20:18d'excitation,
20:20d'apprentissage
20:20où déjà,
20:21globalement,
20:22même si là,
20:23on a deux acteurs
20:23assez en avance,
20:25on est dans une phase
20:25de pré-industrialisation ?
20:27Effectivement,
20:27je confirme qu'on a
20:28deux acteurs ici
20:28assez en avance,
20:30plus globalement
20:30pour répondre à cette question.
20:31Ça met la pression
20:32sur ceux qui nous écoutent
20:33et nous regardent.
20:33Le niveau de maturité,
20:35je dirais,
20:35sur ce sujet,
20:36et je reviendrai bien sûr
20:37à la partie cyber,
20:38je me référerais à,
20:39il y a un rapport
20:40State of AI
20:40de McKinsey
20:41qui est sorti là,
20:42qui est tout récent,
20:432025,
20:43qui est assez intéressant
20:44et j'ai retenu trois points
20:45qui, je trouve,
20:46illustrent parfaitement
20:47où on en est aujourd'hui.
20:48Le premier,
20:49qu'ils ont appelé
20:49le paradoxe
20:50des high performers,
20:51je m'explique,
20:51c'est qu'il y a
20:52les high performers en IA,
20:53donc des entreprises
20:54qui ont mené des projets,
20:57qui sont vraiment
20:57en avance sur le sujet
20:58et le paradoxe,
20:59c'est quoi ?
21:00C'est que sur l'aspect cyber,
21:01ce sont eux qui relatent,
21:02il y avait 2000 personnes
21:03qui ont répondu
21:03à cette enquête,
21:06qui relatent
21:06les problématiques cyber
21:08qu'ils ont rencontrés,
21:09avec une grosse crainte
21:10sur la protection
21:10de la propriété intellectuelle,
21:12sur le fait de ne pas être
21:13en règle avec leur conformité,
21:14etc.
21:14Donc ça,
21:15c'est le premier élément.
21:16Le second,
21:16c'est que sur cette population,
21:1751% ont déjà eu
21:19des problèmes de cyber,
21:20ont déjà révélé
21:21des problèmes de cyber
21:22en général.
21:23Et le troisième,
21:23et ça reprendra tout à fait
21:24un élément d'introduction
21:25de Lucas,
21:26c'est que finalement,
21:27il s'avère que la cybersécurité
21:29est le pont indispensable
21:31qui va faire qu'on va passer
21:32des prototypes
21:32dont on parlait tout à l'heure
21:33à vraiment des projets d'IA
21:35à l'échelle.
21:36Donc il y a encore
21:38qu'on va la gérer.
21:39On avance sur l'IA,
21:40mais la cyber est un élément clé
21:41pour passer vraiment
21:42une fois de plus à l'échelle.
21:43Et donc pour ça,
21:44évidemment,
21:45côté protection,
21:46je reviens à ce que j'ai dit
21:47tout à l'heure,
21:48on a aussi de la protection
21:49qui est pilotée par des agents
21:50aujourd'hui à 80-90%,
21:51exactement comme
21:52la fameuse attaque
21:53dont on parlait tout à l'heure.
21:53Alors l'IA, gentil,
21:54c'est évidemment notre thème,
21:55notre fil rouge
21:56de cette émission.
21:57On reparlera beaucoup d'humains
21:58à la toute fin de l'émission,
22:00mais on en parle quand même
22:01quelque part.
22:02Il est là en filigrame
22:03pendant tout.
22:03Vachek,
22:04c'est d'AssoSystem,
22:05l'IA, elle est censée
22:06aider l'humain
22:07sur des tâches
22:08sans valeur ajoutée,
22:09répétitives.
22:11Comment les métiers
22:12se transforment justement
22:13aujourd'hui chez vous ?
22:13Alors bien sûr,
22:14ils sont assistés
22:14comme beaucoup
22:15dans leurs tâches bureautiques,
22:17mais voilà,
22:17on commence à aller
22:18un peu plus loin
22:18que de simples gains
22:20de productivité
22:21parce qu'on va écrire
22:21plus rapidement un mail.
22:22Oui, voilà,
22:23c'est là la différence
22:25entre l'IA conversationnelle
22:27que l'on utilise
22:28tous les jours
22:28pour préparer un mail,
22:30pour résumer un article.
22:32Ici, nous avons affaire
22:34à des systèmes
22:36qui nous permettent
22:37de dégager le terrain,
22:38de balayer le terrain,
22:40en fait,
22:41pour les métiers
22:42de la cybersécurité,
22:43de ressortir
22:44la partie intéressante.
22:46Typiquement,
22:47lorsque vous avez
22:47des analystes,
22:48leur travail consistait
22:49souvent à aller
22:50d'endroit en endroit
22:51pour voir
22:52quelles sont les répercussions
22:53d'une attaque ici,
22:54là, encore autre part,
22:56et après,
22:56de voir à quel point
22:57on est capable
22:58d'augmenter l'information.
23:01Aujourd'hui,
23:01ils sont présentés
23:02sur leur cockpit
23:03avec toutes ces informations
23:04en place.
23:05Il y a tout l'historique,
23:06il y a ce qui se passe
23:07chez les autres.
23:08À travers des partenariats,
23:10nous avons des informations
23:10sur ce qui se passe
23:12chez d'autres grands acteurs
23:14de la cybersécurité.
23:16Et donc,
23:17la personne
23:17qui doit résoudre
23:19un problème,
23:20elle sait tout.
23:21Elle sait où ça se passe
23:21dans le monde,
23:22elle sait ce que c'est,
23:23elle sait est-ce que ça s'est passé
23:24dans le passé.
23:25Toutes ces informations-là
23:26sont d'un niveau
23:27beaucoup plus intéressant
23:29pour les métiers.
23:29Et donc,
23:30pour un métier
23:30de la cybersécurité,
23:32l'IA et l'IA agentique,
23:33c'est extraordinaire.
23:34D'accord.
23:35Et dans les métiers
23:36de l'assurance,
23:37j'imagine,
23:38l'humain,
23:38vous l'avez dit tout à l'heure,
23:39Guillaume Rincey
23:40est toujours bien présent
23:41chez Maïf
23:42avec l'utilisation
23:43de cette IA.
23:44Comment ça se passe
23:45aujourd'hui ?
23:45J'imagine que
23:46une grande partie
23:47ont été formées ?
23:48En fait,
23:49évidemment,
23:49je vous l'avais dit,
23:50l'humain,
23:50c'est absolument essentiel
23:51et c'est au cœur
23:52de notre modèle.
23:53Et en fait,
23:53nous,
23:53ce qu'on a souhaité,
23:59c'est qu'on a fait
24:00une convention salariée,
24:01un peu sur le modèle
24:02des conventions citoyens
24:03dont vous avez entendu parler
24:04sur d'autres sujets
24:05ces dernières années.
24:06Et donc,
24:06on a tiré au sort
24:07une trentaine de collaborateurs
24:08représentatifs
24:09des métiers de l'entreprise.
24:11Et l'idée,
24:12ça a été de les faire réfléchir
24:13finalement sur comment intégrer
24:15de la bonne manière,
24:16de manière équilibrée
24:17l'IA générative
24:18dans nos activités.
24:20Et donc,
24:20on les a accompagnés.
24:21Ils ont eu des témoignages d'experts.
24:23Ils ont pu travailler
24:23sur ce sujet-là.
24:25Et ils ont formulé
24:26des recommandations,
24:2739 recommandations
24:28qui ont été formulées
24:29auprès de la direction générale,
24:30sur lesquelles l'entreprise
24:31a pris des engagements.
24:32Et donc,
24:32on s'est engagé
24:33en regard de ça.
24:34Donc,
24:34ça nous permet d'avoir...
24:35Donc,
24:35à la fois technologique,
24:36éthique,
24:37métier...
24:38Plutôt éthique et métier
24:39que technologique d'ailleurs.
24:41C'est vraiment l'idée
24:41de se dire
24:41comment on va bien faire ça
24:43dans l'entreprise
24:44parce qu'il y a des risques,
24:45il y a des fantasmes aussi
24:45par rapport à l'IA.
24:48Et donc,
24:48ces propositions,
24:49ça nous permet d'avancer
24:50avec un certain volontarisme
24:51mais une certaine maîtrise aussi.
24:53Si je prends deux exemples,
24:54par exemple,
24:54on a mis en place
24:55un comité numérique éthique
24:56qui permet vraiment
24:57de se poser
24:57toutes les bonnes questions
24:58sur le sujet.
25:00Et un autre sujet
25:01qui nous est assez cher,
25:02par exemple,
25:03c'est aussi
25:03le fait qu'on s'est engagé
25:05à évaluer systématiquement
25:06l'impact écologique
25:07des choix qu'on fait.
25:09Et donc,
25:09ça veut dire
25:10qu'il y a certains cas d'usage
25:11qu'on ne fera pas
25:11si l'impact écologique
25:13ne nous paraît pas pertinent.
25:14Voilà.
25:14Donc là,
25:15c'est bien encadré.
25:16Un dernier mot,
25:16Eric,
25:17rapidement,
25:17sur la souveraineté.
25:18C'est un critère
25:18qui prend de plus en plus de place.
25:20Encore plus
25:20quand on est un lecteur
25:21d'origine,
25:22enfin américain,
25:22pas le Hilton Edwards,
25:24mais évidemment
25:24qui rayonne à travers le monde.
25:26Mais justement,
25:27quelle est la réponse
25:28que vous apportez
25:29aux entreprises aujourd'hui ?
25:30Parce que cette petite musique,
25:31enfin,
25:31si c'était une petite musique
25:32aujourd'hui,
25:33ça fait partie
25:34du critère de choix.
25:35C'est tout à fait exact.
25:36La réponse,
25:37en fait,
25:37elle est extrêmement simple.
25:37Déjà,
25:38la première chose,
25:39on n'aura pas le temps,
25:39ce serait de définir
25:40ce qu'on entend par souveraineté.
25:41Nous,
25:41on a tendance plutôt
25:42à voir quand on discute
25:43avec les clients,
25:44à parler de maîtrise
25:46de son système d'information
25:47et de ses solutions
25:48de cyber,
25:49bien évidemment.
25:51Et la deuxième chose,
25:52côté Palo Alto Networks,
25:53justement,
25:53c'est que même
25:54si on en parle beaucoup
25:54en ce moment,
25:55pour nous,
25:55ce n'est pas un sujet nouveau.
25:56C'est-à-dire que ça fait 10 ans
25:57que, par exemple,
25:57on fournit des solutions
25:58de sécurité réseau
25:59qui sont certifiées
25:59par l'ANSI, etc.
26:00Donc, au niveau,
26:01en tout cas,
26:01local et au niveau France,
26:02on a pris ce sujet
26:03à cœur
26:05dès le départ.
26:06Une fois qu'on a dit ça,
26:08on apporte aussi
26:08tout un ensemble de garanties
26:09sur la localisation des datas,
26:11sur la transparence des logs,
26:12etc.
26:13Et puis,
26:13pour finir sur ce sujet,
26:14je dirais qu'il y a
26:15effectivement des initiatives
26:16de cloud de confiance
26:17en France
26:17et nous,
26:18on est partenaire
26:18sur l'ensemble
26:19de ces initiatives.
26:20Aujourd'hui,
26:21on a une roadmap commune
26:22avec tous ces acteurs.
26:22Vous confirmez,
26:23Vachek,
26:23c'est évidemment
26:24chez l'association
26:25de la souveraineté.
26:25Oui, c'est un point important.
26:26Oui, bien sûr.
26:27Comme Guillaume a mentionné
26:29le côté éthique,
26:31la gouvernance autour
26:31de l'IA change.
26:33La gouvernance autour
26:33de solutions techniques
26:34était en général très simple.
26:36Il n'y avait qu'une chose
26:37à mettre en place
26:37et on voyait
26:38quels étaient les impacts.
26:39Aujourd'hui,
26:39la gouvernance de l'IA,
26:40c'est la gouvernance technique
26:41et le côté juridique
26:43et le côté éthique.
26:44Donc,
26:44elle est vraiment élargie.
26:45En fait,
26:46la souveraineté
26:47telle qu'on la voit,
26:50c'est aller vite
26:51mais pas avec n'importe qui
26:52et pas n'importe où.
26:54C'est ça
26:54le cœur
26:56de la souveraineté.
26:56Une bonne définition.
26:57Guillaume,
26:58pour conclure,
26:58on a le même sujet.
27:00Peut-être que je voulais
27:01attirer l'attention
27:01sur un point en particulier
27:02qui est le sujet
27:05des gatekeepers.
27:05On a un vrai risque
27:06aujourd'hui
27:06dans les IA grand public.
27:07Les gatekeepers
27:08sont en général
27:08des grandes plateformes.
27:09Des grandes plateformes
27:10qui vont se mettre
27:10en coupure
27:11et finalement
27:12contrôler tous les accès
27:13et finalement,
27:14nous,
27:14dans nos métiers,
27:15que ce soit
27:15les métiers du commerce
27:16ou les métiers des services,
27:17on a un risque demain
27:18d'avoir ces IA
27:20finalement en frontale
27:21et en gatekeeper.
27:22Surtout que c'est souvent
27:22les mêmes qui sont
27:23assez proches.
27:23C'est souvent les mêmes
27:24qui maîtrisent effectivement
27:25assez bien ça.
27:27Et moi,
27:27je pense que ça,
27:28c'est un vrai risque aujourd'hui
27:28notamment parce qu'il y a
27:29peu d'acteurs européens
27:30et peut-être pas d'acteurs européens
27:31qui sera capables
27:32de se positionner
27:33sur ces sujets.
27:34Ça veut dire peut-être
27:35demain un risque
27:36sur la valeur économique
27:36de nos services,
27:37peut-être un risque
27:38de filtrage
27:39ou de présélection
27:40par les IA
27:40de ce qu'ils ont envie
27:42de favoriser ou pas.
27:44Et finalement,
27:44on parle souvent
27:45du risque humain
27:46qui est quelque chose
27:47qu'il faut qu'on garde en tête.
27:48Moi,
27:48j'ai l'impression
27:49qu'on a un risque économique
27:50à relativement court terme
27:51et à l'heure où
27:52on voit des retours en arrière
27:54sur le RGPD
27:55avec la directive Omnibus,
27:56plein de questions
27:57autour de ces sujets-là,
27:58moi,
27:58j'ai envie de nous appeler
27:59à être extrêmement vigilants
28:00sur le risque de gatekeeper
28:01de ces IA grand public
28:03parce qu'on pourrait
28:03le payer très cher demain.
28:04Eh bien,
28:05voilà.
28:05Eh bien,
28:05l'appel est lancé.
28:06Merci,
28:06Guillaume Rincey,
28:07CTO de chez Maïf,
28:08Wojek,
28:09Swetek,
28:10CISO d'AssoSystem,
28:11vice-président,
28:12et Eric Antigui,
28:13CTO de Palo Alto.
28:14On va marquer une courte pause
28:15autour d'une page de pub
28:16et on va retrouver encore
28:17des experts
28:18pour continuer à parler
28:19de ces IA agentiques.
28:21Allez,
28:21à tout de suite
28:21sur BFM Business.
28:22Allez,
28:34retour dans notre émission
28:34l'ère des IA agentiques
28:36sur BFM Business.
28:37IA agentiques,
28:38efficacité opérationnelle,
28:39promesses,
28:40réalité,
28:41cyber,
28:42la transformation du socle.
28:43On va parler de tout ça,
28:44comment l'IA améliore
28:45justement ses socles,
28:46à quoi ressemble
28:47l'analyste augmenté
28:48de demain
28:48et puis comment on accompagne
28:50justement les entreprises
28:51à basculer.
28:52On en avait deux à l'instant
28:53qui étaient avec nous
28:53au Maïf et d'AssoSystem.
28:56Alors,
28:56on va en parler
28:56avec nos invités
28:58que je vous présente
28:58tout de suite.
28:59Eric Boeck,
29:00bonjour.
29:01Eric,
29:01merci d'être avec nous.
29:02Bonsoir.
29:02Directeur technique groupe
29:03chez Nomios.
29:05À vos côtés,
29:06Cyril Demonceau.
29:07Bonsoir,
29:07Cyril.
29:08Bonsoir.
29:08Bienvenue,
29:09directeur du SOC Orange Cyberdéfense,
29:11donc l'entité cyber d'Orange,
29:14l'opérateur télécom.
29:16Et avec nous également,
29:17Laurent Bessé.
29:18Bonsoir.
29:18Bonsoir.
29:19Laurent de chez e-tracing,
29:20directeur général
29:21adjoint.
29:21Donc là,
29:22on est bien dans la cyber.
29:24On est en plein,
29:24enfin avec vous,
29:25chacun d'entre vous d'ailleurs.
29:26Et on poursuit avec Ludovic Kornaker.
29:28Bonsoir.
29:28Bonsoir.
29:28Ludovic,
29:29merci d'être avec nous.
29:29Directeur de Channel France
29:30chez Palo Alto Networks.
29:32Alors,
29:32je vais démarrer avec vous,
29:34Laurent.
29:37Lorsqu'on a préparé cette émission,
29:39on m'a dit,
29:40dans un SOC,
29:41le vrai sujet,
29:42ce n'est pas la technologie,
29:43mais ça,
29:43on n'arrête pas de le dire.
29:43On l'a dit tout à l'heure
29:44avec Lucas Perrodin,
29:45mais la capacité
29:46à en tirer de la valeur.
29:48Concrètement,
29:48où est-ce que l'IA
29:49peut aider à gagner
29:50sur ces SOC,
29:51qui sont ces centres
29:52de supervision cyber,
29:54notamment,
29:55enfin,
29:55tous les événements
29:56qui se passent dans l'entreprise ?
29:57On a un métier,
29:58en fait,
29:58qui peut se résumer
30:00en trois temps.
30:01On détecte,
30:02on analyse
30:03pour essayer de trouver
30:04des attaques
30:04et on y répond.
30:06On a beaucoup parlé
30:07d'orchestration.
30:08Un des gros avantages
30:09qu'on a depuis une quinzaine d'années,
30:10c'est qu'on orchestre
30:11d'une autre manière
30:12qu'avec des agents.
30:14Et donc,
30:14aujourd'hui,
30:14on a la structure
30:15qui nous permet
30:16à certains endroits
30:18sur lesquels
30:19et sur certaines activités
30:20sur lesquelles
30:20les agents sont pertinents
30:21et sont capables
30:22de nous amener
30:23de l'autonomie,
30:24de les insérer
30:25dans des chaînes de traitement
30:26qui existent déjà.
30:27C'est beaucoup
30:28dans la partie analyse.
30:30Un petit peu,
30:31aujourd'hui,
30:31dans la partie réponse,
30:33en sachant qu'on retombe
30:34sur les sujets
30:35de prise de décision
30:37autonome
30:37dont on a discuté.
30:38C'est dans la détection,
30:39il faut encore
30:39davantage travailler ?
30:40On a encore un petit peu
30:41de travail dans la détection.
30:43ont été déjà évoquées.
30:44C'est la data
30:45qui doit être encore
30:46nettoyée ?
30:47Je pense que
30:48c'est des très,
30:48très grands ensembles
30:49et c'est une sorte
30:50de graal pour nous
30:51d'avoir
30:52une intelligence autonome
30:54qui détecte
30:54toute seule
30:55une cyberattaque.
30:56Elle est capable
30:56de faire un petit peu
30:57de tri,
30:58elle est capable
30:58de nous aider
30:59à y voir
30:59un petit peu plus clair,
31:00mais aujourd'hui,
31:01le détecteur parfait,
31:03autonome,
31:03il n'existe pas encore.
31:05Alors,
31:05Eric,
31:05chez Nomios,
31:06vous avez un SOC automatisé,
31:07l'IA,
31:08je crois,
31:08elle est présente
31:08depuis 18 mois,
31:1018 mois,
31:10deux ans à peu près.
31:12Alors,
31:12on parle d'efficacité opérationnelle
31:13dans cette partie
31:14de l'émission,
31:15du SOC.
31:17Dans quelle partie,
31:17justement,
31:18du workflow,
31:19si je devais l'appeler
31:20comme ça,
31:20le triage,
31:21la corrélation,
31:22la priorisation des données,
31:23l'IA apporte vraiment
31:24cette qualité de service ?
31:26Alors,
31:26aujourd'hui,
31:26nous,
31:27l'IA,
31:27elle est plutôt
31:27sur la partie investigation.
31:29Donc là,
31:29sur une investigation,
31:30on est carrément
31:31sur des gains
31:32qui sont significatifs.
31:33On est passé
31:33de 30 minutes
31:35pour une investigation humaine
31:36à 3 minutes.
31:36Ah oui.
31:37Pour un résultat
31:38plutôt très bon.
31:39par contre,
31:39on ne donne toujours
31:40pas la décision
31:41à l'IA.
31:42L'humain reste en décision
31:43sur l'action de rémédiation
31:44qui en suit,
31:45qui en découle.
31:46Et on a déjà,
31:47depuis maintenant des années,
31:49bénéficié de l'IA
31:49dans les outils eux-mêmes,
31:51tout ce qui est
31:51EDR,
31:52NDR,
31:52XDR,
31:53qui sont finalement
31:54sur des approches
31:55machine learning
31:56et deep learning
31:57qui sont déjà de l'IA,
31:59qui nous permettent
31:59de détecter bien plus facilement
32:00qu'avec une approche
32:02historique SIEM,
32:03où on était basé
32:03sur des logs.
32:04Donc là,
32:05des produits comme ceux-ci
32:06nous permettent
32:07d'avoir des événements
32:08de sécurité directement
32:09qui sortent finalement
32:10de leurs unités de détection.
32:12Après,
32:12j'imagine qu'il faut
32:13rester prudent
32:13parce que je pense
32:14qu'on travaille tous
32:16dans des entreprises.
32:17Il y a ce qu'on appelle
32:17le shadow IA,
32:18donc on utilise un peu
32:19chacun de notre côté
32:20parce qu'on y trouve
32:21un peu son compte
32:23avec n'importe lequel
32:24des modèles.
32:25Et là,
32:25pour vous,
32:27c'est une nouvelle surface
32:28d'attaque.
32:29Il y a notre faille
32:30qui peut se dessiner.
32:31Tout à fait,
32:31mais le shadow IA,
32:32ce n'est pas un sujet
32:33qu'on traite au SOC,
32:34c'est plutôt un sujet
32:34qu'on va traiter
32:35dans les entreprises
32:36en accompagnement
32:36de nos clients.
32:37Ça se fait plutôt
32:38autour des gateways,
32:39des proxys,
32:40des DLP
32:41et de la partie CASB.
32:42Ce n'est pas avec le SOC
32:43qu'on va repérer un peu
32:43s'il y a des activités un peu ?
32:44Non, forcément pas
32:45sur le shadow IA.
32:46Il faut plutôt scruter
32:47les promptes
32:48à travers d'outils différents
32:49pour savoir exactement
32:50ce qui se passe
32:51et les éventuelles fuites
32:52de données
32:52qui pourraient exister.
32:54Alors,
32:55on reste dans cette partie SOC
32:56avec vous, Cyril.
32:58Pouvez-vous nous donner
32:59un exemple justement
32:59où l'IA,
33:00elle a aidé
33:01à ce time to detect,
33:02l'importance
33:03de détecter rapidement
33:05et puis surtout,
33:07derrière,
33:08parce qu'on se rend compte
33:09que tout cela,
33:10c'est compliqué.
33:12C'est Lucas Perrodin
33:12qui le disait tout à l'heure.
33:14Faire des tests d'époque,
33:15ça, on peut y aller,
33:16mais quand il faut
33:17industrialiser,
33:18là,
33:18on se casse parfois
33:19un peu le nez.
33:20En effet.
33:21Alors,
33:21ce qu'il faut savoir déjà,
33:23c'est que le cœur du réacteur,
33:24le carburant de l'IA,
33:26c'est vraiment la donnée.
33:26On l'a dit tout à l'heure.
33:28Et en matière de données,
33:29en matière de cyber,
33:29c'est vraiment ce qu'on appelle
33:31des bases de renseignements
33:32de type threat intelligence.
33:33Et donc,
33:34chez Orange Cyber Défense,
33:35on développe des bases
33:36de threat intelligence
33:37sur la base
33:38de tous les incidents
33:39qu'on va traiter.
33:40On traite aussi
33:40des crises très dures
33:42et on va superviser
33:43des milliers de clients,
33:45que ce soit
33:45des petites entreprises,
33:47des grands comptes,
33:47des milieux de marché.
33:48Et donc, finalement,
33:49on va nourrir
33:50une base de connaissances
33:51et l'IA va pouvoir profiter
33:53finalement
33:54de l'ensemble
33:54de ces connaissances.
33:55On parle de millions d'objets
33:57et grâce à l'IA,
33:58on va pouvoir exploiter
33:59au mieux cette base.
34:00Et un cas vraiment typique
34:02sur lequel
34:02l'association de l'IA
34:06et de cette base
34:06va être utile,
34:07c'est en cas de publication
34:08de vulnérabilité.
34:09Vous avez parlé tout à l'heure
34:10du rapport annuel
34:11d'Orange Cyber Défense.
34:12En matière de vulnérabilité,
34:13on en a des milliers par an,
34:15notamment ce qui touche
34:16ce qu'on appelle
34:17la surface d'exposition externe,
34:20tout ce qui est pare-feu,
34:21ou autre.
34:22Et là,
34:23il y a une course
34:24contre la monte
34:24avec l'attaquant
34:25qui va essayer
34:26finalement d'exploiter
34:28les failles
34:28avant même que finalement
34:29les victimes aient le temps
34:31de corriger,
34:31parce qu'il y a toujours
34:32un temps d'installation.
34:33Je trouve dans l'apport
34:34qu'il y en a qui mettaient
34:35beaucoup de temps
34:36à corriger quand même.
34:36Oui, mais malheureusement,
34:38c'est plusieurs jours.
34:39L'attaquant a un temps
34:40d'avance là-dessus,
34:41c'est clair.
34:42Et donc finalement,
34:42grâce à l'IA,
34:43on va réduire finalement
34:45le temps de détection
34:46grâce à la détection
34:47de signaux faibles
34:48et on passe
34:49de réactions
34:50de quelques heures
34:51à quelques minutes.
34:52Donc vraiment,
34:53ce rapport heure-minute,
34:54il est très essentiel
34:55pour pouvoir intervenir
34:57le plus tôt possible,
34:58prévenir nos clients
34:59et on va dire
35:00contenir cette attaque.
35:02Ludovic,
35:02si on prend un peu de recul
35:03par rapport à tout ça,
35:04est-ce qu'on le voit
35:05comme dans beaucoup de domaines
35:06aujourd'hui avec l'IA,
35:07est-ce qu'il faut
35:08complètement repenser
35:09un SOC
35:10ou alors il faut
35:11juste rajouter
35:12cette couche IA ?
35:13Comment ça se passe ?
35:14Alors aujourd'hui,
35:15déjà l'IA
35:16est by design
35:17dans nos solutions.
35:18D'accord ?
35:19On en parle
35:19à travers le machine learning,
35:20le deep learning,
35:21le Gen AI.
35:22Donc ça,
35:22je ne sais pas
35:23le Waltonetworks,
35:24c'est créé
35:25sur l'intégralité
35:25de nos plateformes.
35:26Après,
35:27on redescend sur la partie
35:27architecture SOC.
35:29Aujourd'hui,
35:30l'objectif,
35:30et ça a été dit précédemment,
35:32c'est de réduire
35:32ce temps de détection
35:33et ce temps de réponse.
35:35Jusqu'à maintenant
35:36et sur les SOCs traditionnels,
35:37on était sur vraiment
35:38un mode réactif
35:39de gestion des alertes.
35:41Il y a de plus en plus
35:42de data,
35:43ça a été dit
35:44par DASO Système précédemment.
35:46Maintenant,
35:46il faut qu'on puisse
35:48à travers l'IA
35:49à fusionner ces datas,
35:51normaliser la data,
35:53la corréler
35:53et la contextualiser.
35:55Et à travers ça,
35:55oui,
35:56il faut repenser
35:57l'architecture SOC.
35:58Il ne s'agit pas juste
35:59de l'augmenter
35:59avec de l'IA ?
36:00Non,
36:00l'augmenter,
36:01ça voudrait dire
36:02rajouter un outil
36:03pour effectivement
36:04gérer un certain nombre
36:05de cases.
36:06On a parlé effectivement
36:07de la mise en production
36:08d'outils d'IA,
36:09de tester les modèles.
36:10La réalité,
36:11c'est qu'il faut en fait
36:12intégrer l'IA
36:13en copilotage
36:15avec les analystes
36:16et c'est ce qu'on fait
36:18avec nos partenaires
36:19ici autour de la table.
36:20C'est comment
36:20on va les accompagner
36:23dans le triage
36:23et cette automatisation
36:25du niveau 0,
36:26niveau 1
36:26et concentrer l'analyste
36:28sur vraiment
36:29l'investigation
36:30d'attaques complexes.
36:31Et alors,
36:32je voulais rebondir
36:33avec chacun d'entre vous
36:33vraiment très rapidement
36:35parce que j'aimerais
36:35qu'on voit aussi
36:36comment on accompagne
36:37les entreprises
36:37et tout ça.
36:37mais autour de l'analyste
36:40augmentée,
36:41Laurent,
36:41donc il faut apprendre
36:42à parler,
36:43on le voit tous,
36:43on doit tous apprendre
36:44à prompter,
36:45apprendre à parler
36:45à cet agent.
36:46Ça s'organise comment
36:47chez vous ?
36:49On est aidé
36:49par l'évolution
36:51des technologies
36:52et de la société.
36:53Je pense qu'on a
36:54des démographies
36:55qui sont assez jeunes
36:56dans les socs,
36:56donc des gens
36:57qui sont plutôt technophiles
36:59et qui ont l'habitude
36:59de discuter
37:00avec les IA
37:02et de prompter.
37:03Après,
37:03je pense que la transformation,
37:05c'est par rapport
37:07à un monde
37:07qui a toujours été
37:08très automatisé
37:09et orchestré.
37:11Maintenant,
37:11on a face à nous,
37:12l'analyste,
37:13il va avoir un agent
37:14qui est un collègue.
37:15Aujourd'hui,
37:16c'est sans doute
37:16un petit peu
37:16un collègue subalterne.
37:18On parle beaucoup
37:19de niveaux,
37:19donc il y a des niveaux
37:21et puis c'est un niveau
37:21un petit peu plus bas.
37:23Plus on va avancer
37:23dans le temps,
37:24plus on va commencer
37:25à avoir des discussions
37:27d'égal à égal
37:27et puis peut-être
37:28qu'un jour,
37:29je ne sais pas
37:30si on peut préfigurer ça,
37:31mais on aura peut-être
37:33des chefs
37:34qui seront des agents
37:35dans certains cas.
37:36En fait,
37:37c'est ça,
37:37il faut trouver
37:38la bonne répartition
37:39entre les tâches humaines
37:40et les tâches
37:41qu'on va déléguer
37:41à l'IA.
37:43Exactement.
37:43Ce qu'on observe,
37:44nous,
37:44au fur et à mesure
37:45de l'intégration
37:46de ces solutions,
37:47c'est que nos analystes,
37:48ils deviennent
37:48la tour de contrôle
37:49de l'IA,
37:50c'est-à-dire qu'ils vont
37:50participer à l'apprentissage
37:52des agents,
37:53ils vont valider
37:53et invalider des résultats,
37:55ils vont être le garant
37:55des résultats.
37:57Aujourd'hui,
37:57effectivement,
37:58il faut ce chef d'orchestre
37:59et c'est un peu
38:00comme un pilote de ligne.
38:01Finalement,
38:02il y a un autopilote
38:03comme l'IA,
38:04mais on a encore
38:05des indicateurs
38:06et on va pouvoir
38:07se concentrer
38:08sur les incidents
38:09les plus complexes
38:10et les plus critiques
38:11et finalement,
38:13s'il y a besoin
38:13d'intervention,
38:14ça reste un humain
38:15derrière qui va
38:15prendre la main
38:16sur un poste de travail,
38:17un serveur
38:18et qui va,
38:18je dirais,
38:19arrêter l'attaque.
38:20On parlait d'orchestrateur
38:21tout à l'heure,
38:23Ludovic,
38:23on aura plus,
38:24c'est davantage,
38:25l'analyste augmenté,
38:27ce sera toujours
38:28un ingénieur
38:29qui pilote,
38:30qui manipule l'IA,
38:32mais c'est peut-être
38:32plus un superviseur
38:33qui va gérer
38:34à la fois des agents
38:35autonomes,
38:35à la fois des agents humains.
38:36En fait,
38:37quand on parle
38:37de responsabilité
38:38au sein d'un SOC,
38:39un analyste,
38:40on garde la main
38:40pour la réponse
38:41au sein de l'analyste,
38:42donc l'IA va l'augmenter,
38:44lui permettre
38:44d'avoir une décision
38:45peut-être plus précise
38:46et plus rapide
38:46et de déporter finalement
38:48son temps
38:48qu'il aura gagné
38:49sur la phase
38:50de détection
38:50et d'investigation
38:51à la rémunération
38:52et l'accompagnement
38:53du client
38:53sur la résolution
38:54de ce problème.
38:55L'idée,
38:55c'est de les accompagner
38:56et de couvrir
38:56toujours plus et mieux
38:57les risques cyber
38:59auxquels ils font face,
39:00donc de venir chercher
39:01pourquoi on a eu
39:02cet incident
39:02et d'essayer
39:03de le tuer complètement
39:06de manière
39:06à ce que ça
39:07ne se reproduise plus.
39:10Cyril,
39:11si on doit voir
39:12comment accompagner
39:13les clients
39:13dans l'adoption
39:14de l'IA en cyber,
39:16justement,
39:17chez Orange Cyber Défense,
39:18comment vous les accompagnez
39:20justement
39:21à cette adoption
39:21de l'IA ?
39:22Le constat qu'on fait,
39:24c'est que 70%
39:25des entreprises
39:25déclarent aujourd'hui
39:26utiliser de l'IA
39:27au quotidien,
39:29mais sur ces 70%,
39:3080% des utilisateurs
39:31le font de manière
39:32non maîtrisée,
39:33sans stratégie,
39:34sans même validation
39:35potentiellement
39:35de l'hierarchie.
39:36Donc,
39:37une des premières
39:37missions,
39:38c'est de sensibiliser
39:39au risque,
39:40au risque de détournement
39:41des moteurs d'IA,
39:43avec un système d'inventique,
39:44on peut faire des choses
39:45complexes,
39:46au risque aussi
39:46d'exposition des données
39:48non maîtrisées.
39:49On a plein d'exemples
39:50publics ou non
39:51sur le sujet.
39:52Et finalement,
39:53on va accompagner
39:54nos clients
39:55sur ce qu'on appelle
39:56des analyses de risque,
39:57donc quels sont
39:57les besoins de sécurité
39:59par rapport à un usage,
40:00les risques exposés également,
40:02l'environnement réglementaire,
40:04et ensuite,
40:04on peut les accompagner
40:05sur la mise en place
40:06de contrôles d'accès
40:07aux moteurs d'IA,
40:08de filtrage du prompt
40:10pour les risques
40:11des filtration de données,
40:12jusqu'à un audit
40:13du moteur en tant que tel,
40:14un audit de code source,
40:15voire des actions
40:16de ce qu'on appelle
40:17du pen test,
40:17des moteurs LLM,
40:18c'est une chose
40:18qu'on fait maintenant aujourd'hui.
40:19On va accompagner
40:20de bout en bout
40:21nos clients
40:22sur la sécurisation
40:23de leurs moyens
40:24et les enjeux
40:25ne vont pas être les mêmes
40:25selon la taille,
40:26le secteur et les besoins.
40:27J'ai dit Ludovic tout à l'heure,
40:28mais c'était Eric,
40:29bien entendu,
40:30chez Nomios.
40:31Vos clients vous demandent
40:32d'intégrer l'IA
40:33dans leur processus,
40:35mais ils doivent accepter
40:37justement de déléguer
40:37certaines fonctions,
40:39on l'a vu.
40:40Comment vous travaillez
40:41un peu pour lever
40:42les freins,
40:42les obstacles aujourd'hui ?
40:44Le principal frein,
40:45c'est quand même la sécurité.
40:46Je pense que si beaucoup
40:46d'entreprises
40:47n'ont pas encore adopté,
40:48c'est parce qu'ils voient
40:49un peu la menace
40:49que cela peut faire peser
40:51sur la société.
40:52C'est une nouvelle
40:52surface d'attache.
40:53Exactement.
40:53Donc l'approche,
40:54c'est vraiment de dire
40:55déjà de considérer l'IA
40:56et cet agent,
40:57parce qu'on parle vraiment
40:57de l'agentique,
40:58comme un collaborateur
40:59et donc d'y appliquer
41:00un modèle Zero Trust
41:01comme on applique déjà
41:02à des utilisateurs classiques.
41:04C'est un collaborateur,
41:05il faut contrôler
41:05son identité,
41:06à quoi il a accès,
41:07la donnée,
41:08marquer les données,
41:09poser des notions de DLP
41:11aussi sur la data
41:12auquel accède l'IA.
41:13La gouvernance,
41:14ça reste encore un frein
41:15autour de tout ça ?
41:16Oui, complètement.
41:17On a parlé tout à l'heure
41:18du processus,
41:19comprendre le processus
41:20de l'entreprise
41:21que l'on va agentifier.
41:23Quand on pose la question
41:23à trois employés,
41:24c'est ce que j'ai entendu,
41:25on a trois processus différents.
41:26C'est vrai.
41:27Ça rend la tâche
41:28un peu compliquée.
41:29Donc d'abord,
41:30on identifie bien le processus,
41:31on pose une gouvernance
41:32autour de ce processus
41:33qui a le droit
41:33de l'exécuter
41:34et quelles sont
41:35les entrées en input
41:36et quelle va être
41:37la sortie,
41:37l'exécution de l'IA.
41:38Et ensuite,
41:39on peut poser
41:39tout le contrôle
41:40nécessaire autour
41:40avec les différentes plateformes
41:42qui viennent maintenant
41:42nous aider
41:43à sécuriser
41:44les agents
41:45dans les entreprises.
41:47Laurent,
41:47au tout début
41:48de cette émission,
41:48je disais
41:49la difficulté
41:50que l'on a
41:50à gérer
41:51un peu l'évolution
41:52de ces technologies
41:52qui vont
41:53à 100 à l'heure,
41:54à 200 à l'heure.
41:55On voit
41:55des nouvelles versions
41:56qui sortent.
41:58Donc l'innovation
41:59est très rapide.
42:00Mais justement,
42:00les clients,
42:01ils ont besoin
42:01un peu de stabilité.
42:03ils se posent
42:04beaucoup de questions.
42:06Comment on fait
42:06pour les accompagner
42:08dans l'adoption
42:09de ces outils IA
42:09dans leur gestion
42:12du risque
42:13alors que
42:14tous les 15 jours,
42:16il y a une nouvelle version
42:17d'un modèle
42:18qui arrive ?
42:19Je pense que
42:20notre métier
42:21à tous,
42:22c'est d'essayer
42:23de les faire passer
42:23d'une approche
42:25de sécurité
42:26qui est plutôt réactive
42:27au début
42:28à une approche
42:28qui est un peu
42:29plus proactive.
42:30Nos clients,
42:31ils sont souvent dépassés
42:32par les usages,
42:33par leur métier
42:34qui veulent de l'adoption,
42:35qui veulent pousser
42:36et dire
42:36on a de l'IA
42:37dans nos process,
42:38dans nos offres,
42:39etc.
42:40C'est souvent assez anarchique
42:41au début.
42:43L'audit technique
42:44est souvent une bonne réponse
42:45à ça,
42:46un petit peu de conseil.
42:47Et puis après,
42:47vient le temps
42:48un peu plus
42:48de la réflexion
42:49qui va être
42:50maintenant,
42:51il y a l'accompagnement
42:52des projets,
42:53le security by design,
42:55des notions d'architecture.
42:57Et puis,
42:57en filigrane,
42:59derrière,
42:59il y a toujours
43:00cette notion de contrôle
43:01qui nous ramène
43:02à notre métier
43:03à tous les trois.
43:03Un métier humain
43:04qui peut toujours être là.
43:05Qui est important.
43:06Donc,
43:07il faut surveiller aussi
43:07ces usages-là,
43:09détecter les détournements,
43:10les attaques potentielles
43:11et puis y répondre.
43:12Alors,
43:13Ludovic,
43:14l'IA,
43:14elle apporte
43:15accélération,
43:16automatisation,
43:17plutôt raisonnée,
43:18augmentation des analystes.
43:20L'IA gentil,
43:21on le voit,
43:22le fondement
43:22un peu
43:23d'un nouveau modèle
43:24d'entreprise,
43:24de soc,
43:25alors j'ai dit tout à l'heure
43:26le soc augmenté
43:27ou soc autopiloté.
43:29Alors,
43:30il faut former,
43:31on l'a dit,
43:31pour avoir des analystes
43:32augmentés.
43:33Il faut suivre
43:34le bon rythme d'innovation.
43:35Les enjeux,
43:36pour ceux qui nous écoutent,
43:37qui nous regardent,
43:38quels sont-ils ?
43:39Alors,
43:40nous,
43:41d'un point de vue
43:41accompagnement
43:42de notre écosystème
43:43et de nos partenaires,
43:44il y a déjà
43:44cette visibilité
43:45qu'on peut donner
43:46à travers nos outils.
43:47On a parlé
43:47d'accès aux outils
43:49d'IA,
43:50soit des outils
43:50de productivité.
43:52Donc là,
43:52nos solutions
43:53le permettent
43:54et on accompagne
43:55nos partenaires
43:57pour accompagner
43:58leurs clients
43:58dans l'adoption.
43:59Ensuite,
44:00si on est sur
44:00la partie développement,
44:02effectivement,
44:03on doit aller plus loin.
44:04On doit aller aussi
44:05identifier
44:06quels sont
44:07les outils
44:08de GNI
44:09qui sont utilisés,
44:09quels sont les modèles
44:10qui sont utilisés.
44:12Donc,
44:12on est toujours
44:12sur cette partie
44:13discovery et visibilité.
44:15Et une fois
44:15qu'on a cet état,
44:17maintenant,
44:17c'est qu'elle est
44:18cette partie assessment.
44:19Et là,
44:20il y a plusieurs niveaux
44:20qu'on va pouvoir apporter
44:22d'un point de vue solution.
44:23C'est-à-dire
44:24qu'on va aller
44:25faire du red teaming,
44:27de l'assessment.
44:29Red teaming,
44:30pour expliquer à ceux qui...
44:31Le red teaming,
44:32aujourd'hui,
44:33c'est avec la capacité
44:34à travers des outils d'IA
44:35de donner des angles
44:36d'attaque potentiels.
44:38Parce que nos clients
44:39sont concentrés
44:40dans le développement
44:41de leurs services.
44:43Lucas disait tout à l'heure,
44:44on définit
44:44des business case,
44:45on définit
44:46des objectifs.
44:47Donc,
44:47ils vont se concentrer
44:48dans le développement
44:48avec des agents IA
44:50pour atteindre
44:51ces objectifs-là.
44:52Ils ne vont pas toujours
44:53avoir le regard critique
44:54de dire
44:54quels seraient
44:55les différents angles
44:56qui pourraient être
44:57pris par un attaquant.
44:59Et donc,
44:59dans ce cadre-là,
45:00nous,
45:00on a des outils
45:00qui vont fournir
45:01ces angles-là,
45:02qui vont faire
45:02des recommandations.
45:04Et après,
45:04c'est les équipes
45:05de Cyril,
45:06d'Éric et de Laurent
45:07qui vont, eux,
45:08les accompagner
45:09dans l'adoption sécurisée.
45:11Parce qu'à la fin,
45:12ce qui est clé,
45:12c'est la sécurité.
45:13Oui, ça reste quand même
45:14la sécurité.
45:14C'est vrai qu'aujourd'hui,
45:15on a parlé tout à l'heure
45:16de cette faille anthropique.
45:19Alors,
45:19pour ceux qui aiment
45:21la techno,
45:21allez voir,
45:22c'est très bien documenté.
45:23Je trouve que,
45:24voilà,
45:24on voit un petit peu
45:25comment tout cela
45:26peut se mesurer.
45:28Et puis,
45:28voilà,
45:29l'IA,
45:30des grosses attaques
45:30sur l'IA,
45:31on n'en a pas encore
45:32vues vraiment.
45:33Mais,
45:34voilà,
45:34on sait qu'aujourd'hui,
45:35on en a tous
45:36un usage assez,
45:38qui s'accélère,
45:39assez important.
45:39Donc,
45:39on peut imaginer,
45:40les pirates,
45:42c'est réutilisé
45:42tout à l'heure,
45:43ont toujours une longueur
45:44d'avance.
45:44Donc,
45:45voilà,
45:45être toujours vigilant.
45:46Merci,
45:47messieurs,
45:47Laurent Bessé,
45:48déjà adjoint de e-tracing,
45:50Ludovic Kornacker,
45:51directeur Chanel France
45:52chez Palo Alto,
45:53Cyril Demonceau,
45:54directeur SOC Orange
45:55Cyberdéfense,
45:56et Eric Boek,
45:57directeur technique groupe
45:58chez Nomios.
45:59Merci de nous avoir accompagnés.
46:00On va marquer
46:01une très courte pause
46:02et on va recevoir
46:02notre dernier invité.
46:04On va parler d'IA,
46:06d'humain.
46:07Vous allez voir,
46:07avec beaucoup de choses,
46:08beaucoup de questions aussi
46:10qui se posent dans ce domaine.
46:10C'est tout de suite.
46:12Voilà,
46:18et on accueille
46:19notre dernier invité
46:20de cette émission,
46:21Marion Carré.
46:21Bonjour.
46:22Bonjour.
46:22Merci d'être avec nous.
46:24Alors,
46:24vous êtes à la ville,
46:25vous êtes fondatrice
46:26d'ASCmona.
46:27Donc,
46:27c'est une application
46:28qui combine
46:29IA et générative
46:30et œuvre d'art.
46:31On peut dialoguer
46:32avec les œuvres d'art.
46:33On aura peut-être
46:33l'occasion d'en parler.
46:34Et puis,
46:34moi,
46:35je vous avais repéré aussi
46:35parce que vous avez écrit
46:37un livre qui s'appelle
46:38Le paradoxe du tapis roulant,
46:39vaincre notre paresse intellectuelle
46:42face à l'IA.
46:42Je pense que voilà,
46:43vous avez tout compris
46:44avec le titre
46:45aux éditions Jean-Claude Lateste.
46:47Voilà,
46:47pour ceux qui veulent se procurer
46:48cet ouvrage.
46:50Alors,
46:50selon vous,
46:51l'IA risque,
46:52pourrait risquer
46:52de nous rendre paresseux,
46:53c'est ça ?
46:54On le devient un peu,
46:55parfois on lui délègue
46:56pas mal de choses.
46:56À mon sens,
46:57on est aujourd'hui
46:58à la croisée des chemins
46:59dans nos usages
46:59de l'intelligence artificielle
47:01entre ce que j'appelle
47:02d'une part
47:03l'usage tapis roulant.
47:05C'est-à-dire
47:05qu'on prend l'habitude
47:06d'utiliser ces outils
47:07pour être plus rapide,
47:09avoir plus d'idées.
47:11On se laisse porter.
47:11Et petit à petit,
47:12c'est ça,
47:12on se laisse porter.
47:13En fait,
47:13on se rend compte
47:14au bout d'un moment
47:14que l'IA peut nous emmener
47:16tous dans la même direction
47:17où on finit par raconter
47:19tous à peu près
47:20la même chose,
47:20avoir les mêmes idées,
47:22les mêmes contenus.
47:23Mais je pense
47:23que ce n'est pas une fatalité
47:24et c'est la raison
47:25pour laquelle je suis là
47:26ce soir.
47:27Je pense qu'on peut servir
47:28aussi de l'intelligence artificielle
47:29plutôt comme d'un tapis de course
47:31où cette fois-ci,
47:32on vient chercher la friction
47:33pour venir renforcer
47:35notre effort cognitif
47:36et nous permettre
47:37d'aller plus loin.
47:38Parce que ce dont on se rend compte,
47:40alors maintenant,
47:40ceux qui connaissent
47:41un peu mieux CLLM
47:42savent que ce n'est pas intelligent,
47:44c'est un moteur statistique.
47:45Ils repèrent
47:46quels sont les meilleurs mots
47:47qui viennent après d'autres mots.
47:48Avec des algorithmes
47:49très complexes,
47:50c'est là où réside
47:51cette intelligence.
47:52Mais justement,
47:53on devient dépendant
47:54parce que sans s'en rendre compte,
47:55on utilise,
47:55je regardais,
47:56les mêmes données,
47:56les mêmes informations,
47:58une boucle infinie
47:59de données brassées par l'IA.
48:00Elle se nourrit
48:01de ce qu'on lui fournit,
48:03des questions qu'on lui pose.
48:04Elle bâtit ses réponses.
48:05Elle se nourrit elle-même
48:06de ses réponses.
48:08Alors, quelque part,
48:09il y a un risque
48:10de standardisation
48:13de la pensée.
48:14C'est ce que vous exprimez
48:18dans le livre
48:18Le paradoxe du type de roulant,
48:19c'est qu'il y a un risque
48:20de cette standardisation
48:22du modèle de pensée.
48:23En fait,
48:24il y a vraiment
48:24cette nature de l'IA.
48:26On l'a dit depuis le début,
48:27c'est un outil,
48:27un agent,
48:28un assistant.
48:29Et derrière,
48:29tous ces termes,
48:30on a l'impression
48:30que c'est quelque chose
48:31de relativement neutre.
48:32alors que dans la nature même
48:34de l'intelligence artificielle,
48:36elle est entraînée
48:37avec des données
48:38qui, du coup,
48:39vont être le reflet,
48:40déjà,
48:41de vision du monde,
48:42avec notamment
48:43des jeux de données
48:43qui sont majoritairement
48:44en anglais.
48:46Il y a beaucoup,
48:46beaucoup de langues
48:47qui sont complètement
48:48absentes de ces jeux de données.
48:49Le français,
48:49c'est juste un tout petit pourcentage.
48:51Je me souviens
48:52d'un sommet IA
48:55où Emmanuel Macron avait dit
48:57qu'il faut insister,
48:58qu'il faut qu'on ait vraiment
48:59des IA françaises
49:00et IA les forts.
49:01Bon, voilà.
49:02Alors, c'est en cours,
49:03effectivement,
49:04mais c'est vrai que l'état de l'art,
49:05ce n'est pas complètement ça.
49:06Et après,
49:07il y a aussi des enjeux
49:07de valeurs culturelles,
49:09notamment,
49:09qui sont reflétés
49:10dans ces modèles
49:11à travers les informations
49:12qu'elles ont brassées.
49:14Et donc,
49:15c'est des outils
49:15qui sont là
49:16pour proposer du probable.
49:18Mais si on se repose
49:20uniquement sur eux
49:21pour venir puiser des idées,
49:24souvent,
49:25par exemple,
49:25moi,
49:25j'ai des créatifs
49:26qui me disent
49:26je vais demander
49:2710 idées à l'IA
49:28et je sais que c'est
49:29les 10 idées
49:29que je ne dois pas faire
49:30parce que c'est celles
49:31que tout le monde peut avoir.
49:33Donc,
49:33l'enjeu,
49:34c'est ça.
49:34C'est plutôt de se dire
49:35comment est-ce que
49:36je vais m'en servir
49:37plutôt comme un outil
49:39qui va me permettre,
49:40par exemple,
49:40de penser contre moi-même.
49:42Et c'est quelque chose
49:42qui est assez intéressant
49:43en disant
49:43voilà,
49:44j'ai produit ce travail-là,
49:45quels sont les angles morts,
49:46quels sont les contre-arguments,
49:48comment aller plus loin.
49:49En fait,
49:49c'est comme un assistant
49:50à qui on dirait
49:50tiens,
49:51voilà le discours
49:53ou la présentation
49:54que je vais présenter demain.
49:56Tiens,
49:56regarde ça,
49:56toi qui connais notre métier,
49:57dis-moi un petit peu
49:58si j'ai oublié des choses.
49:59C'est ça,
50:00plutôt que de dire
50:00écris-moi le discours
50:01et après on se retrouve
50:02avec des discours
50:03un peu standardisés
50:04qui racontent tous
50:05la même chose,
50:06plutôt tiens,
50:06j'ai ce discours-là,
50:07qu'est-ce qui pourrait
50:08être plus renforcé,
50:10qu'est-ce qui pourrait
50:10être plus parlant,
50:11quels sont les angles morts
50:12que je n'ai pas traités.
50:13Et donc,
50:13c'est là où on transforme
50:14le tapis roulant
50:15en tapis de course.
50:16Et c'est là
50:16où on reprend aussi la main
50:17sur le contrôle,
50:18on reprend le contrôle
50:20sur les imaginaires de l'IA,
50:21c'est ça ?
50:21Tout à fait.
50:22En fait,
50:22pour passer justement
50:23du tapis roulant
50:24au tapis de course,
50:25il y a plusieurs aspects.
50:26Il y a un aspect déjà,
50:27on va dire,
50:28individuel
50:28qui est vraiment
50:29de l'ordre de nos usages
50:30de l'intelligence artificielle,
50:32comment on s'en saisit.
50:33Il y a beaucoup de choses,
50:34mais par exemple,
50:35un des points qui me semble clé,
50:36c'est comment est-ce qu'on va garder
50:37ce que j'appelle
50:38le premier et le dernier kilomètre
50:40de la pensée,
50:42c'est-à-dire
50:43comment est-ce qu'on va réfléchir
50:44en amont
50:45pour éviter notamment
50:47un biais
50:47qui est le biais d'ancrage.
50:49C'est-à-dire,
50:49ça a été montré,
50:50si j'ajoute un petit délai
50:52de latence
50:52entre la réponse de l'IA,
50:55du coup,
50:55en fait,
50:55moi,
50:56je vais avoir réfléchi
50:56à la question
50:57et donc,
50:58je vais confronter
50:58mon point de vue
50:59à ce que propose l'IA.
51:00Alors que si j'ai une réponse
51:01immédiatement,
51:02je vais suivre.
51:03Ça veut dire que la réflexion,
51:04elle n'est pas uniquement
51:04dans le prompt que l'on va faire
51:05parce que là aussi,
51:06on invite tous ceux
51:07qui travaillent
51:08sur ces technos.
51:09Justement,
51:10on peut avoir des prompts
51:11qui font trois pages.
51:12Il faut bien dire,
51:13il y a une bonne réflexion.
51:14Mais vous dites aussi,
51:15attention,
51:15le dernier kilomètre
51:16aussi est important.
51:16Le dernier kilomètre
51:17est tout à fait important
51:18et dans ce gain de temps,
51:19en fait,
51:19comme on cherche
51:20à aller toujours plus vite,
51:21souvent,
51:21on va compresser le temps
51:23qu'on accorde à une tâche
51:24alors qu'en fait,
51:25pour moi,
51:25ce dernier kilomètre,
51:26il est clé pour challenger,
51:27aller plus loin
51:28et retravailler,
51:30en fait,
51:30pour pas juste copier-coller.
51:31Ça a été montré
51:32à des études
51:32qui montrent que
51:33la plupart des gens
51:34qui utilisent l'IA
51:35vont se contenter
51:36de copier-coller
51:36alors qu'en fait,
51:38c'est en faisant
51:38le copier-coller
51:39qu'on tombe
51:40dans le travers
51:41du tapis roulant
51:43avec notamment
51:43ces contenus
51:44qu'on qualifie
51:45de slope.
51:46Le AI slope,
51:47c'est par exemple
51:47le chat qui joue du violon
51:49ou la petite musique
51:51qu'on entend partout
51:53qui a été générée
51:54sur un outil d'IA,
51:55la vidéo,
51:56etc.
51:56Et même,
51:57peut-être parfois,
51:58des mails de votre collègue
51:59ou des rapports
52:00où vous dites
52:00tiens,
52:00sur la forme,
52:01ça ressemble à un rapport
52:02mais quand je regarde
52:03dans le fond,
52:03c'est complètement vide
52:04et creux
52:05et donc c'est ça
52:06qu'il faut éviter.
52:07Et c'est ce que vous dites
52:08dans votre livre
52:08le paradoxe du tapis roulant
52:10vaincre notre paresse
52:12intérieure face à l'IA,
52:13c'est de passer
52:15d'un utilisateur consommateur
52:16à un utilisateur acteur,
52:18c'est ça ?
52:18C'est ça.
52:18Vous donnez
52:19un tout un tas de choses,
52:20se forger une expertise
52:21de ce que l'on confie à l'IA,
52:22réfléchir,
52:23après pour plein de métiers,
52:24réfléchir au nouveau pod
52:25pour savoir
52:26ce qu'est sa propre tâche
52:28par rapport à une tâche
52:28AI first,
52:29il y a une série
52:30de conseils,
52:31de bonnes pratiques,
52:32de réflexions.
52:33Qui vont aussi bien
52:34de l'individu,
52:35comment est-ce que chacun
52:36on s'en saisit,
52:37comment on est formé
52:38de l'école
52:38au monde professionnel,
52:40ça c'est un vrai enjeu,
52:42à des enjeux plus sociétaux.
52:43Comment est-ce qu'on va
52:44organiser notre travail
52:45autour de cet outil ?
52:46Comment on va se laisser
52:47des marges de réflexion
52:48pour aussi les enjeux
52:49qui prennent plus de temps ?
52:51Mais il y a aussi des points
52:52sur comment est-ce qu'on va
52:52construire ces IA
52:53en elles-mêmes
52:54pour faire en sorte
52:55d'avoir plus de diversité
52:57linguistique, culturelle
52:58et des outils
52:59qui vraiment vont venir
53:00tous nous servir
53:01et non pas nous inciter
53:03à être plus paresseux.
53:04Vous voyez,
53:04on a commencé par
53:05les agents autonomes,
53:07on va finir par
53:07l'autonomie des utilisateurs
53:09aussi que nous sommes.
53:10Merci Marion Carré,
53:11fondatrice d'Ascmona.
53:12C'est cette application
53:13qui combine
53:14à Générative Ouvres d'Art,
53:15c'est comment on parlait
53:16aux Ouvres d'Art,
53:16mais surtout,
53:17et aussi votre ouvrage
53:18Le Paradoxe du Tapis Roulant
53:20aux éditions Jean-Claude de La Thèse.
53:22Je vous conseille,
53:22ça apporte pas mal de réflexions.
53:24Voilà, notre émission se termine.
53:25Merci d'avoir été avec nous.
53:26Merci à tous nos invités
53:27qui nous ont fait le plaisir
53:28et l'amitié
53:28d'être avec nous sur ce plateau.
53:29On se retrouve très bientôt
53:31sur BFM Business.
53:32On continuera évidemment
53:33l'IA,
53:33on en est qu'au tout début.
53:35Donc on aura encore
53:36beaucoup d'émissions
53:36comme celle-ci.
53:37À très bientôt
53:37sur BFM Business.
53:38L'ère des IA agentiques
53:45sur BFM Business.
Commentaires