- il y a 9 heures
BFM BUSINESS PARTENAIRE - Ce lundi 6 juillet, Stéphane Roder, président d'AI Builders, Axel Cypel, responsable de la stratégie Data & IA chez LCL, Sammy Sahnoune, directeur du DSI de l'INSERM, Damien Raynal, responsable d'AI Security chez Palo Alto Networks, Ahmed Chaari, Engineering Manager, Identity & Access Management Platform chez Decathlon, Fouad Maach, directeur de l'Architecture et de l'Engineering chez Veolia, et Christophe Escande, directeur Industries Europe chez Palo Alto Networks, étaient les invités dans l'émission La confiance à l’heure des agents IA présentée par Frédéric Simottel. La confiance à l’heure des agents IA est à voir sur BFM Business. Cette émission a été réalisée en partenariat avec PALO ALTO.
Catégorie
📺
TVTranscription
00:04Émission spéciale, la confiance à l'heure des agents IA, Frédéric Simotel.
00:13Bienvenue dans ce programme BFM Business avec la confiance à l'heure des agents IA.
00:17Aujourd'hui l'intelligence artificielle accélère tous les innovations, les usages, mais c'est aussi une vulnérabilité qui s'agrandit.
00:25On va en parler avec nos invités, on va parler de cette révolution technologique, on va parler aussi des grands
00:29enjeux de l'IA agentique et puis la protection d'identité.
00:33Vous allez voir tous ces sujets, nous allons les aborder sous différentes formes avec nos experts, dans un instant le
00:37président de l'IA Builders.
00:38Et puis on aura des débats, des témoins qui seront là de chez LCL, Insern, Decathlon, Veolia et puis bien
00:44entendu nos experts de Palo Alto Networks.
00:46Allez, la confiance à l'heure des agents IA, c'est parti.
00:55Et tout de suite, notre premier invité, Stéphane Rodeur, bonsoir.
00:58Bonsoir Frédéric.
00:59Bonsoir Stéphane, président de l'IA Builders.
01:02Stéphane, on parle beaucoup évidemment des agents IA, on est vraiment en cette nouvelle vague, on avait l'IA génératif,
01:06l'IA classique, on a eu l'IA génératif depuis fin 2022, l'IA gentil qui nous envoie aujourd'hui.
01:12Alors ces agents, est-ce qu'on peut vraiment les laisser en totale autonomie ?
01:15Est-ce qu'il y a un peu, quelle est la réalité ou quels sont les mythes autour de tout
01:20ça ?
01:20Alors il y a vraiment un mythe en ce moment, une sorte de fantasme sur une forme de toute puissance
01:26de l'agent qui serait capable de tout faire, tout seul, une forme de boîte noire.
01:30Mais en fait, il n'y en a rien.
01:32Ces agents sont encore basés sur des modèles statistiques et donc il y a un taux d'erreur.
01:39Et il faut être capable en fait de mettre au point ces agents pour qu'ils soient acceptables par le
01:47métier qui va les utiliser.
01:49Et donc, comme on est sur les modèles statistiques, globalement, ils sont très bons moyennement, on couvre le centre de
01:56la Gaussienne.
01:57Mais tous les cas à la limite, en fait, il faut revenir y travailler, il faut s'assurer, encore une
02:03fois, que le taux d'erreur du modèle statistique,
02:08qui est finalement le modèle d'orchestration, correspond bien à ce qu'on va attendre et être acceptable par le
02:14métier qui va l'utiliser.
02:15Et justement, on parlait des modèles d'orchestration, ce sont ces modèles d'orchestration qui ont bien évolué aujourd'hui.
02:21Il y a un meilleur découpage de chacune des séquences.
02:23Ce qu'on avait vu arriver il y a deux ans, ça y est, aujourd'hui, quand même ça, ça
02:26ne marche pas trop mal.
02:26Tout à fait, on l'a vu arriver très tôt, puisqu'on a vu, rappelez-vous, auto-GPT, dès mai
02:332023, nous démontrer en fait que React, reasoning and acting, fonctionnaient bien.
02:39Mais à l'époque, on n'avait aucune idée finalement de ses capacités de décomposition.
02:46C'est Princeton et Google qui l'avaient trouvé dans ce fameux papier React.
02:50Et après, les providers de modèles ont travaillé cette dimension cognitive du raisonnement et de la décomposition.
02:59Et maintenant, on arrive à des choses vraiment extraordinaires.
03:03Et alors, justement, aujourd'hui, on parle de mieux maîtriser ses agents.
03:07Il y a cette idée de contrôle et puis derrière, évidemment, de créer de la valeur.
03:10– Oui, tout à fait. On doit être en maîtrise, en fait, de ses agents.
03:14Pourquoi ? Parce que, vous avez vu, ils sont capables de créer des sous-agents d'eux-mêmes.
03:18Mais il y a une partie quand même coût.
03:21Il faut rester dans ce qu'on appelle le retour sur l'investissement.
03:24Et donc, il faut maîtriser non seulement ça, mais il y a aussi une partie où l'agent doit être
03:29capable de redonner la main à l'humain.
03:31Ce qu'on appelle le « human in the loop ».
03:33Et donc, il y a ce qu'on appelle la supervision.
03:36Et globalement, il faut mettre en place une forme de gouvernance de ses agents.
03:41C'est tout à fait naissant.
03:42– C'est ce qu'on appelle le « harness », le « harness », le « harness », c
03:45'est ça ?
03:45– Exactement, « harness », en anglais, mais c'est le « harness ».
03:48On veut les maîtriser parce qu'aujourd'hui, si vous regardez un peu comment se comporte un agent,
03:56finalement, on le laisse faire, mais pas du tout.
03:58Il faut qu'on soit en total maîtrise.
04:00– Et si on a un exemple, donner un petit exemple dans l'art de l'art de l'action
04:02client ou dans R&D ?
04:04– Alors, un exemple, par exemple, Groupama, dans sa mutuelle expédie,
04:08Gévi, a fait un agent pour ses gestionnaires
04:12qui leur permet, en fait, de donner leur accord pour une indemnité
04:16en allant regarder le contrat, en regardant les pièces justificatives,
04:21en croisant avec la politique de remboursement.
04:24Et ça donne une recommandation aux gestionnaires. On divise pratiquement par trois le temps de traitement. On n'a plus
04:34de backlog. On augmente la satisfaction client. On augmente aussi la qualité du travail de ces gestionnaires parce qu'on
04:43ne les remet non plus sur la lecture de documents, mais sur leur expertise.
04:49Et on a refondu aussi complètement ce process en introduisant la fraude dans le pré-traitement alors qu'il était
04:59fait après. C'est-à-dire qu'on accordait l'indemnité et après on regardait si la fraude...
05:04Donc c'était totalement siloté. Là, on arrive à dé-siloter et à remettre tout dans l'axe.
05:08Et avec un passage à l'échelle qui a été réalisé dès mai-juin 2025.
05:17Et alors ce soir, Stéphane, on va beaucoup parler de cybersécurité autour de ces agents.
05:21Donc on va leur donner une identité, un peu comme nous, collaborateurs, parce qu'on va les considérer comme des
05:26collaborateurs.
05:26Et là, il y a beaucoup de choses sur lesquelles il faut travailler, sur le prompt injection, la protection de
05:31ces agents, justement.
05:32Oui, parce que ce qui est extraordinaire, c'est que ces agents, en fait, ont accès à ce qu'on
05:38appelle des outils.
05:38Mais ces outils sont de nos systèmes d'information. Et donc, à l'intérieur de ces agents se trouvent ce
05:45qu'on appelle des tokens, des certificats.
05:48En fait, ils connaissent notre vie. Et comme ces agents fonctionnent aussi avec ce qu'on appelle des compétences, ou
05:54plutôt des skills,
05:55que l'on va aller downloader sur Internet, parce qu'il y a des choses merveilleuses, parfois, il y en
06:02a qui comportent, en fait, de l'injection de comptes.
06:05Et on a vu, dernièrement, des gens se faire dévaliser de leurs tokens. Et finalement, donc, des personnes, des tiers,
06:13qui sont en possession d'accès et qui vont les utiliser pour les choses...
06:20Donc c'est vrai, il faut faire attention. On a ces skills dans son modèle interne, mais si on commence
06:24à aller chercher des skills à l'extérieur...
06:26À l'extérieur, il y a un danger. Il y a un danger de se faire voler, finalement, ces accès.
06:31Et un mot sur l'identité des agents ?
06:33Alors, c'est une vraie nécessité, puisqu'à partir du moment où un agent vient avec une clé qui n
06:40'est pas à lui, il faut qu'on soit capable, en fait, de comprendre qui est cet agent
06:44et si la clé lui appartient bien. Finalement, c'est toute la gestion des droits qui doit se mettre en
06:49place.
06:50Eh bien, c'est de tout cela dont on va parler dans un instant avec nos témoins, avec nos experts
06:53de Palo Alto Networks.
06:55Merci, Stéphane Rohdeur, président des Builders, pour cette mise en contexte.
06:58Allez, on marque une très courte pause et on va se retrouver dans un instant avec nos premiers témoins.
07:02Et on va avoir parlé avec LCL, l'Inserm, pour avoir des vrais usages dans les entreprises.
07:07C'est tout de suite sur BFM Business.
07:13Allez, c'est reparti.
07:14Notre programme, la confiance à l'heure des agents IA.
07:18L'IA n'est plus une promesse lointaine et nous allons vous le démontrer aujourd'hui avec nos invités.
07:22Axel Sipel, bonsoir.
07:23Bonsoir.
07:24Merci d'être avec nous.
07:24Vous êtes responsable de la stratégie Data et IA au sein de LCL.
07:28Samy Sanoun, bonsoir.
07:29Bonsoir.
07:29Vous êtes directeur du département SI à l'Inserm.
07:31C'est l'Institut National de la Santé et de la Recherche Médicale.
07:34Au global, vous avez 15 000 personnes qui se connectent sur votre système d'information.
07:37Avec plein de laboratoires, des chercheurs partout.
07:40On va en reparler dans un instant.
07:41Et avec nous également, Damien Rénal.
07:42Bonsoir, Damien.
07:43Bonsoir, Frédéric.
07:43Merci d'être avec nous.
07:44Vous êtes responsable technique AI Security chez Palo Alto Networks.
07:48Axel, je démarre avec vous.
07:49Parce que pendant longtemps, l'IA a été portée par des équipes d'innovation, des experts.
07:53Aujourd'hui, comment une entreprise comme LCL, justement, déploie l'IA à la grande échelle ?
07:59En fait, l'IA est toujours portée par des équipes expertes.
08:02Je parle de la mobilisation d'algorithmes, de la production de modèles ad hoc pour automatiser des processus.
08:07Il est vrai que depuis la sortie de l'IA générative, ce qu'on entend dorénavant par IA, c'est
08:13les systèmes assistants type ChatGPT.
08:17Et en fait, ça dessine au niveau des entreprises deux registres différents concernant l'organisation et le déploiement de l
08:23'IA.
08:24Alors d'un côté, LCL a choisi de distribuer largement les assistants IA en développant son chat sécurisé interne.
08:32J'ai nommé LCL Chat.
08:34On est quand même dans une banque, donc il faut que ça reste dans un périmètre contenu.
08:38Il faut rester sécurisé, exactement.
08:39Et donc, LCL, une banque de détails au réseau national, compte plus de 16 000 collaborateurs.
08:48Au bout de quelques semaines, la moitié étaient des utilisateurs réguliers de ce chat interne.
08:55Et cette proportion ne fait que croître.
08:59On accompagne évidemment ce déploiement avec des formations, plusieurs niveaux.
09:03Sur le niveau fondamental, plus de 95% des employés sont formés.
09:09Du côté des projets, ça ouvre deux chemins différents.
09:14Et donc, il y a les outils assistants.
09:16Et du côté des projets intégrant les techniques d'IA, c'est là que les experts entrent en scène.
09:21Chez LCL, nous avons monté un centre d'excellence Data IA, réunissant l'ensemble des parties prenantes à la conception
09:29des projets d'IA.
09:30Donc, ça veut dire des référents métiers, notre DSI, notre AI Factory, les RSSI, les Data Protection Officers.
09:40Et c'est là où votre rôle devient important ?
09:42Parce que justement, dans votre fonction, c'est responsable de la stratégie Data IA.
09:46Et donc, il y a cette qualité de données, on en parle tout le temps, on dit pas de bons
09:50résultats avec l'IA si on n'a pas une bonne qualité de données.
09:53Où en êtes-vous justement de cette gouvernance de la data chez LCL ?
09:57Oui, la Data Governance, c'est toujours quelque chose à parfaire.
10:01Prenons un exemple concret.
10:03IA2, le chatbot qui aide les conseillers à naviguer dans notre base documentaire
10:08et qui permet, grâce à des agents IA, d'apporter les réponses directement à partir des documents de la base.
10:15De quoi dépend la pertinence des résultats de ce chatbot ?
10:18Eh bien, de la qualité des données, c'est-à-dire de leur fraîcheur, de leur complétude, de leur validité.
10:24Alors, pour maintenir la qualité de la donnée, essentielle à nos opérations,
10:28notre Data Management Office s'est attelé à renforcer les piliers de la data gouvernance.
10:33Alors, on va à nouveau simplifier.
10:35Premièrement, par la définition d'une stratégie de long terme,
10:39avec un modèle opérationnel qui formalise les rôles et responsabilités,
10:43les processus, les indicateurs de qualité.
10:45Chacun sont impliqués, sachant que, voilà, quand il y a des données saisies,
10:48qu'elles soient toutes de bonne qualité.
10:50C'est ça. Et vous avez des exigences opérationnelles, bien sûr,
10:53réglementaires, évidemment, dans une banque.
10:56Et deuxièmement, un outillage pour référencer les acteurs en charge de la donnée,
11:00pour identifier son emplacement et, surtout, être capable de reconstruire
11:04le trajet de la donnée, de sa production jusqu'à son utilisation.
11:08Voilà. Donc, c'est ça qu'on appelle vraiment cette gouvernance de la data.
11:11À l'Inserm, Samy, alors, vous, vous travaillez selon deux axes.
11:14Il y a l'appui à la recherche, donc simplification, modernisation, etc.
11:18Il y a la recherche, alors, translationnelle, préclinique.
11:21On est dans la génomique, on est dans le jumeau numérique,
11:22on est dans la cancérologie.
11:24C'est quoi les enjeux spécifiques à votre secteur ?
11:27Bien entendu, on parlait de gouvernance de la data.
11:29Là, chez vous, c'est la même chose.
11:30On ne peut pas faire avec des données qui ne sont pas de bonne qualité.
11:35Alors, en effet, vous venez de citer les deux fronts sur lesquels nous travaillons,
11:39qui sont l'appui à la recherche, donc simplifier, moderniser,
11:42faire gagner du temps aux chercheurs.
11:44Ce qui est très important pour des tâches administratives,
11:47on voit que c'est très chronophage pour nos chercheurs actuellement.
11:51Exemple, l'évaluation scientifique, les appels à projets,
11:54c'est très chronophage pour eux.
11:56La gestion des contrats de recherche.
11:57Et sur la recherche fondamentale, c'est l'acquisition de nouvelles connaissances biologiques via l'IA.
12:03Et sur la recherche translationnelle, l'IA devient un véritable outil,
12:08un véritable instrument scientifique à part entière.
12:10Que ce soit, comme vous l'avez cité, en génomique, en cancérologie, en jumeaux numériques.
12:16Mais ce qui rend particulièrement singulier, je dirais, la recherche, l'IA appliquée à l'Inserm,
12:24c'est que nous manipulons énormément de données sensibles.
12:27Et notamment la donnée de santé.
12:29C'est souvent la donnée génomique qui, par nature, est identifiante et qui engage, au-delà du patient, sa famille,
12:37sa descendance.
12:39Donc, la souveraineté, c'est une condition d'exercice pour l'Inserm.
12:44L'enjeu est d'intégrer l'IA dans la chaîne de la valeur, un peu comme l'LCL, dans la
12:49chaîne de la valeur,
12:50de la recherche biomédicale avec un haut niveau de confiance.
12:54Et là, ça se joue à trois niveaux.
12:56Le premier niveau, c'est, je dirais, répondre à un cadre réglementaire.
13:01Un cadre réglementaire qui est important pour l'Inserm, parce qu'il est exigeant, mais il est surtout protecteur.
13:06Donc, hébergement de données certifié, hébergement de données de santé, conformité RGPD, référentiel CNIL pour les entrepôts de données de
13:15santé,
13:16le futur cadre, enfin, même s'il a été arrêté, mais c'est un cadre européen avec le cadre EHDS.
13:23Concrètement, pour l'Inserm, cela signifie que nos données ne peuvent pas partir vers des API hébergées sur des clouds
13:29publics.
13:31Surtout, comme je le disais tout à l'heure, quand je parlais des 15 000 personnes qui se connectent à
13:35votre SI,
13:36il n'y a pas que du pur, entre guillemets, Inserm.
13:38Il y a des chercheurs, des labos, des chercheurs dans des hôpitaux.
13:42Oui, il y a des CHU, en réalité, en fait, une structure Inserm, c'est multitutel.
13:48On est partenaire avec d'autres organismes de recherche, comme le CNRS, l'INRAE, avec des universités.
13:53Et tout cela, toutes ces équipes, composent une structure à l'Inserm.
13:57Le deuxième niveau que je voulais évoquer également, c'est l'infrastructure.
14:01Il y a, en recherche notamment transactionnelle, c'est beaucoup de calculs,
14:05beaucoup de calculs intensifs.
14:07Donc, des GPU, des clusters de calculs, CPU, du stockage rapide et massif.
14:11Et là, la dépendance, elle est réelle sur le matériel comme sur les couches logicielles qui vont avec.
14:17Et notre réponse à nous, à l'Inserm, c'est de maîtriser ce que nous pouvons maîtriser.
14:22Et on a construit notre propre cloud souverain.
14:24Ça, c'était très important.
14:26Et d'opérer avec nos propres capacités de calcul.
14:29Il faut laisser une certaine autonomie aux chercheurs aussi, quand même ?
14:31Tout à fait. Il faut laisser, bien sûr, une autonomie aux chercheurs.
14:35Mais il faut éviter une certaine chose.
14:37C'est-à-dire que donner les moyens aux chercheurs et lui donner les moyens de ne pas aller ailleurs,
14:43de ne pas trouver ailleurs, surtout sur des données aussi sensibles.
14:46C'est ça qui est très important.
14:48Et j'allais oublier un troisième niveau qui est important pour nous en termes de souveraineté.
14:53C'est le modèle en lui-même.
14:56Et aujourd'hui, on a privilégié au sein de l'Inserm les modèles ouverts, les modèles open source.
15:02Parce que ce sont des modèles où on peut héberger, enfin, où on héberge des poids.
15:06Et puis on le voit aujourd'hui, ça devient quand même la tendance assez forte.
15:08Exactement. On peut les évaluer, les figer, les versionner.
15:12Ce qui n'est pas le cas quand on utilise des API sur des clouds publics
15:16dont le comportement peut changer sans quasiment de préavis.
15:20Donc, pour de la science reproductible, ce qui est fondamental pour nous, c'est essentiel.
15:26On voit, Damien, à traverser Damien Reynald de Palo Alto Networks,
15:31un déploiement qui commence à être massif de l'IA dans la santé, dans la finance.
15:38Évidemment, on augmente une surface d'attaque, on augmente les risques au cyber.
15:41Alors, comment faire justement pour que l'IA ne devienne pas un vecteur d'attaque ?
15:45Eh bien, on voit que ça se passe tous les jours en ce moment.
15:48Tout à fait. Merci, Frédéric, pour cette question.
15:51Alors, j'aimerais bien revenir sur un dernier point, enfin, un premier point, pardon.
15:54C'est le côté non déterministe.
15:55Ce qui change, le changement de paradigme dont on est en train de parler aujourd'hui,
15:59c'est le changement de paradigme.
16:01On était sur des infrastructures auparavant qui étaient très déterministes.
16:04Je savais exactement la sortie d'une application tiers, quelconque.
16:10Et puis, aujourd'hui, j'arrive avec des agents qui ont un côté non déterministe.
16:14Maintenant, si je vais un peu plus loin, qu'est-ce qu'un agent ?
16:16On l'a vu depuis le début de l'émission, que ce soit avec Axel, Samy ou encore Stéphane.
16:20Juste avant, on a parlé de modèles, on a parlé de skills,
16:22on a parlé justement de la donnée et des agents.
16:26Toute cette infrastructure pour créer un chatbot ou vraiment un agent,
16:31eh bien, il y a une surface d'attaque dessus qui est propre sur chacun de ces éléments.
16:34Et donc, pour pouvoir se protéger contre cette surface d'attaque,
16:38il faut savoir comprendre le contexte global de l'ensemble de ces composants
16:42qui vont vous permettre d'accélérer votre business de demain
16:45ou de rendre un peu plus facile le travail de chercheur, je leur souhaite du moins.
16:50Et donc, évidemment, cette surface d'attaque, elle est aussi exploitée par différents attaquants
16:55qui utilisent à leur tour l'IA.
16:58Et on voit l'exemple concret.
17:00Oui, et puis qui ont souvent un petit coup d'avance, et notamment dans l'IA agentique.
17:02Il y a quelques jours, on parlait d'un ransomware créé par des agents
17:06qui allaient même jusqu'à dialoguer avec le département SI directement de façon autonome
17:12avant qu'ils se rendent compte qu'ils ont pu détecter qu'il y avait quelques petits soucis
17:17et de voir qu'ils étaient en train de discuter avec un agent.
17:19Justement, en parlant d'IA agentique,
17:22en quoi ce déploiement chez vous, Axel, chez LCL,
17:24va impacter à la fois les collaborateurs de LCL,
17:29et même vos processus ?
17:33Effectivement, il faudrait prendre un peu de temps pour démystifier cette notion d'agentique.
17:37Disons qu'on insère dans les processus informatisés de la banque
17:39des capacités permises par l'IA pour une plus grande automatisation,
17:45ça ne veut pas dire autonomie, coordonnée dans l'ESI.
17:48Et tout ça, pourquoi ?
17:49Eh bien, chez LCL, nous avons donné pour but à l'IA
17:53d'éliminer les tâches administratives,
17:56de sorte à remettre l'humain où il aurait toujours dû se trouver,
17:59à savoir au centre de la relation client.
18:02L'IA doit servir à automatiser les processus
18:04ne créant pas de valeur ajoutée,
18:07pour que nos conseillers, par exemple,
18:10puissent consacrer la plus grande partie de leur temps.
18:12Le traitement documentaire, l'analyse de certaines données, tout ça.
18:14Exactement, consacrer la plus grande partie de leur temps aux clients,
18:17pas à leurs documents,
18:18pour que nos fonctions support, risques, back-office consacrent leur expertise au dossier
18:24et pas de la ressaisie de dossiers.
18:25Et vous arrivez à mesurer justement cette création de valeur ?
18:28Parce qu'on sait, on gagne tous du temps,
18:31enfin, nous tous en utilisant ces outils,
18:33on gagne cette productivité,
18:35mais vous arrivez à la mesurer après au niveau d'une équipe,
18:37au niveau d'un équipe ?
18:38Alors effectivement, ça ne se fait pas tout seul.
18:40C'est-à-dire qu'on a développé une méthodologie,
18:43c'est-à-dire que nos cas d'usage font l'objet d'une évaluation
18:47sur plusieurs axes.
18:48Donc si on regardait la valeur tangible,
18:51donc la création de PNB,
18:52chiffre d'affaires si vous voulez,
18:54et également la valeur intangible.
18:56C'est-à-dire, je vais prendre un exemple,
18:58vous prenez un projet réglementaire.
18:59Normalement, il ne vous rapporte pas d'argent.
19:01Par contre, il peut vous éviter d'en perdre beaucoup.
19:03Ou encore, si vous voulez créer des produits digitaux
19:07qui vivent avec leur temps,
19:09eh bien ça, c'est de l'image.
19:11C'est une grande valeur intangible.
19:13Et donc, l'objectif de tout ça,
19:16c'est, avec une visée, satisfaction client.
19:20Samy, au sein de l'Inserm,
19:22l'alliage antique,
19:22comment ça simplifie l'organisation ?
19:24Puis surtout, comment ça s'intègre un peu
19:26dans tous les workflows existants ?
19:28On rappelle, vous dirigez le département SI.
19:30Merci pour cette question.
19:32Moi, j'aurais une réponse.
19:35Je répondrais entre les deux.
19:36C'est-à-dire qu'en effet, l'alliage antique,
19:38indénablement...
19:39Vous avez dit une réponse de chercheur.
19:40J'allais faire la blague
19:44des chercheurs qui trouvent mon chercheur.
19:46Non, non.
19:47L'alliage antique,
19:49en effet, ça simplifie le travail.
19:50Ça, c'est une certitude.
19:52En revanche,
19:53l'alliage antique,
19:54à notre niveau,
19:55au niveau du département
19:55du système d'information,
19:57enfin des systèmes d'information,
19:58ça complexifie la gouvernance.
20:01Je m'explique.
20:02Alors, côté apport pour nos chercheurs,
20:05ce sont très concrets,
20:06les tâches chronophages et répétitives,
20:07la veille scientifique,
20:09tout d'abord.
20:10Dans notre domaine,
20:11des dizaines de publications par semaine.
20:13Même chose sur les revues,
20:14le screening d'articles,
20:15l'extraction d'affaires.
20:16Ils ont vite compris l'intérêt.
20:17Voilà, ils ont vite compris l'intérêt frais,
20:19la curation et l'annotation aussi
20:20des jeux de données,
20:21l'assistance aussi au code
20:23pour les biofarmaticiens,
20:25c'est très important.
20:26Donc, un agent qui soit capable
20:28de filtrer,
20:29de hiérarchiser,
20:31de synthétiser la littérature
20:32avec des sources citées
20:34et vérifiables,
20:35ça rend un service énorme
20:37et surtout,
20:38ça donne du temps
20:39au cerveau des chercheurs.
20:41Ça, c'était quand même important
20:43de le dire.
20:45Et surtout,
20:46les agents,
20:46ça n'invente pas la science.
20:49L'agent humain,
20:50ça n'invente pas la science.
20:51Il déblaie pour que le chercheur
20:52se concentre sur l'interprétation
20:54et l'hypothèse.
20:55Vous évoquez la fiabilité
20:57des données précédemment.
20:59Un agent qui synthétise vite
21:01des sources qui sont médiocres,
21:04c'est un accélérateur d'erreur.
21:05C'est indéniable.
21:06Comme deux collaborateurs
21:07qui parlent
21:08et qui donnent les mauvaises données.
21:09On va avoir le même souci.
21:11Alors, côté défis,
21:12il y en a trois
21:13qui structurent,
21:14je dirais,
21:15notre approche
21:18sur l'argentique.
21:20Et notamment,
21:21les premiers,
21:22c'est l'intégration
21:23dans l'existence,
21:24dans nos workflows,
21:25dans nos workflows
21:26de recherche
21:26qui s'appuient
21:27sur des systèmes établis.
21:29cahiers d'observation électronique,
21:32recueils et entrepôts
21:33de données,
21:34pipelines de calcul.
21:35Alors,
21:36un agent qui va vivre
21:37à côté de ces systèmes,
21:38ça ne sert à pas grand-chose.
21:40Donc,
21:41l'idée,
21:41c'est d'avoir un agent
21:42qui se connecte immédiatement
21:44à ses dispositifs.
21:45Mais la question
21:46qui va se poser réellement
21:47par rapport à la sécurité,
21:48c'est ses droits d'accès.
21:50C'est la problématique.
21:51Et un agent,
21:54il faut lui appliquer quasiment
21:56les mêmes principes
21:57qu'un utilisateur.
21:58Moins de privilèges,
21:59de la traçabilité.
22:00il faut lui créer son identité
22:01et puis hop,
22:01lui donner des accès.
22:02Exactement.
22:02Moins de privilèges,
22:03non mais il faut partir
22:04de principes,
22:04c'est-à-dire lui dire
22:05cet agent,
22:06moins de privilèges,
22:07de la traçabilité
22:08et surtout de la révocation.
22:10C'est très important.
22:12Après,
22:12le deuxième,
22:13c'est le risque d'erreur
22:14en cascade pour un agent.
22:15Ça,
22:15c'est assez important.
22:17Un agent autonome
22:18qui va enchaîner
22:1910 actions
22:19sur la base
22:20d'une première inférence erronée,
22:22c'est une erreur
22:23qui se propage
22:24vite
22:25et silencieusement.
22:27Donc ça,
22:27c'est un problème.
22:28Alors,
22:28notre garde-fou
22:30à nous,
22:30à l'Inserm,
22:31c'est le maintien de l'humain.
22:33Tout simplement.
22:34Dans la boucle,
22:35sur toutes les actions conséquentes.
22:36L'agent propose,
22:39prépare,
22:40pré-remplit
22:40et l'humain,
22:41il valide.
22:42Damien,
22:43on a compris,
22:44il y a un gentil
22:44qui a introduit
22:45cette nouvelle couche de risque.
22:47Comment on sécurise
22:48ces environnements
22:48très concrètement ?
22:49Alors,
22:49il y a une partie
22:50qui a été effectivement proposée.
22:53La compréhension du contexte,
22:54la compréhension des droits,
22:55la compréhension de l'action
22:56et justement le harnais,
22:58l'objectif que vous avez donné
22:59au cas d'usage de l'application,
23:01au cas d'usage de l'agent.
23:03Il faut savoir comprendre,
23:04l'interpréter
23:05et comprendre
23:05où est-ce que l'utilisateur
23:06veut aller.
23:07Comme un utilisateur
23:08ou comme une bonne personne
23:10de la sécurité
23:11pour entrer au sein
23:12de votre building,
23:12il a compris qui j'étais,
23:13de quoi j'allais parler exactement
23:15et quels étaient mes droits.
23:16Même chose pour les agents,
23:17sauf que du coup,
23:18on utilise l'IA
23:19pour sécuriser l'IA.
23:21Donc on a bien cette identité.
23:23Juste un dernier mot,
23:24un dernier tour de question
23:25avec chacun d'entre vous.
23:26Tout ça,
23:27ça a un coût aussi.
23:29Axel,
23:29on parle aujourd'hui
23:30d'une nouvelle notion,
23:31le coût des tokens.
23:32Certains évoquent
23:33le FinOps de l'IA.
23:35En quoi est-ce devenu
23:36chez vous
23:36un enjeu stratégique
23:37comme dans toutes les entreprises ?
23:39Parce que ces tokens,
23:40oui,
23:40c'est bien de faire
23:40plein de requêtes,
23:41de l'inférence,
23:42etc.
23:42Mais derrière,
23:44oui,
23:44il y a quand même une facture.
23:45Comme je le disais,
23:46nos cas d'usage
23:46sont priorisés par la valeur,
23:48ce qui signifie
23:48qu'on veut déterminer
23:49leur ROI à l'initiation,
23:51c'est-à-dire la structure
23:52de gains anticipés
23:53et la structure de coûts.
23:55Alors avec la gentification,
23:56vous venez de le mentionner,
23:57l'appel au LLM
23:58se mesure en token,
24:00en millions de tokens,
24:02et les coûts
24:03ayant pris la forme
24:03d'un paiement
24:04à la consommation
24:05deviennent une sorte
24:06de cours boursier
24:07qui fluctue
24:08au gré des décisions privées
24:10ou politiques éventuellement.
24:12C'est comme un coût
24:13de licence variable
24:14mais tendanciellement croissant,
24:15d'accord,
24:16que les fournisseurs
24:17ont mis en place
24:17pour rentabiliser
24:19leur R&D
24:19et tirer quelques profits
24:21de leur position
24:23prééminente,
24:23on va dire.
24:24Alors donc,
24:24oui,
24:25il faut faire du FinOps,
24:26il faut revenir
24:26aux fondamentaux,
24:27c'est-à-dire le suivi
24:28des dépenses
24:29et des recettes.
24:30Ça a l'air simple
24:31comme ça,
24:32mais dans le cas d'espèces,
24:33il existe plusieurs voies
24:36technologiques.
24:37La première,
24:38par exemple,
24:38c'est le monitoring
24:39en mettant en place
24:40des gateways,
24:41d'accord,
24:42pour orchestrer
24:44les appels au LLM
24:45et tracer
24:46la consommation
24:46en token.
24:48Deuxième possibilité,
24:49c'est de la technique,
24:51par exemple,
24:52faire appel
24:52à du caching,
24:53de la mise en mémoire
24:54qui vous permet
24:54de diminuer
24:55la consommation.
24:56Et tout ça
24:56en informant
24:56le collaborateur
24:57de ce qu'il est
24:58en train de consommer
24:58un peu ?
24:59Alors ça,
25:00effectivement,
25:01c'est toujours
25:01quelque chose
25:01qui est possible.
25:02Je pense que
25:03le design,
25:05by design,
25:06on va dire,
25:07est plus intéressant
25:08que d'afficher
25:09des indicateurs
25:10qui finalement...
25:10Alors,
25:11on peut aussi faire...
25:12Il y a quatre manières
25:14de faire.
25:14On peut faire
25:15de l'organisationnel,
25:16c'est-à-dire,
25:16vous pouvez piloter
25:18la valeur ajoutée
25:19par l'IA
25:20dans vos OKR stratégiques.
25:22Et puis,
25:22parlant de stratégie,
25:24il y a une manière
25:25intéressante aussi
25:26de conserver,
25:28de consommer la chose,
25:30c'est de réduire
25:31tout simplement
25:31les dépendances
25:32aux fournisseurs extérieurs.
25:33Donc là,
25:33c'est la question
25:34de la souveraineté
25:35de l'IA.
25:35Donc,
25:36si vous réduisez
25:36vos dépendances,
25:37vous êtes immunisés
25:39par rapport
25:39à leur politique
25:40tarifaire.
25:41Et donc,
25:43ça s'appelle
25:44un investissement.
25:45D'accord ?
25:46Et alors,
25:46c'est une autre
25:47forme de dépense,
25:48c'est pas forcément
25:49moins coûteuse
25:49au démarrage,
25:50mais investissement
25:51dans des infrastructures
25:53souveraines,
25:53dans des modèles
25:54plus petits
25:55et de ce fait
25:56mieux maîtrisés
25:57qui vous permettront
25:58en fait d'optimiser
25:59vos dépenses
26:00et de ne pas
26:00dépendre,
26:02de ne pas être
26:02dans le pieds et poings
26:03liés.
26:04avec plusieurs fournisseurs.
26:06À l'Inserm,
26:07comment ça se passe ?
26:07Samy,
26:08la sécurisation de l'IA
26:09est indissociable
26:10de la qualité
26:11de la source des données.
26:12Il faut des ressources
26:13suffisantes
26:13pour le calcul
26:14de l'algorithme.
26:15Il faut garantir
26:16l'intégrité,
26:16la fiabilité
26:17et la confidentialité
26:18des données.
26:19Comment vous faites
26:20tout cela
26:20dans un contexte
26:22de médecine
26:23de précision ?
26:24On est vraiment
26:24dans ce domaine.
26:25Oui,
26:26dans la recherche
26:28transnationnelle,
26:28c'est vrai que
26:29dans notre secteur,
26:30la sécurité de l'IA,
26:31elle commence
26:32avec la qualité
26:32et l'intégrité
26:33de la donnée.
26:35Si les données
26:36sont altérées,
26:37mal qualifiées,
26:38mal documentées
26:39ou sorties
26:40de leur contexte,
26:41le meilleur modèle
26:42pour produire
26:43les plus mauvaises réponses.
26:45Sur l'intégrité
26:46de la donnée,
26:47notre approche,
26:48c'est la traçabilité
26:49de bout en bout,
26:51complète.
26:52D'où des principes simples.
26:53Connaître la provenance
26:54de chaque jeu de données,
26:56le versionner,
26:58contrôler son intégrité
26:59par empreinte et signature
27:01et détecter
27:01toute altération.
27:04Une séparation stricte
27:06est opérée,
27:06puisque nous opérons
27:07sur un cloud souverain,
27:09entre les environnements
27:10d'expérimentation
27:11et les environnements
27:12où circule
27:13la donnée réelle.
27:14D'accord.
27:14Ça, c'est important
27:15de faire se distinguer.
27:16Il y a un vrai
27:16cloisonnement entre les deux.
27:17Tout à fait.
27:18Et l'empoisonnement,
27:20je dirais,
27:20de la donnée
27:20d'entraînement
27:22est un risque en santé.
27:23On imagine bien
27:24un risque en santé
27:26sur l'empoisonnement
27:27de données,
27:27ça peut avoir
27:28des conséquences cliniques.
27:30Vous travaillez d'ailleurs
27:30avec des données synthétiques
27:32que l'IA produit
27:34elle-même
27:34pour s'entraîner ?
27:35Alors ça,
27:36ça a été vu
27:36dans certains cadres
27:37de projets
27:37menés par de la recherche
27:40en cancérologie.
27:41Et notamment,
27:42on y travaille
27:43avec le plan
27:44France Médecine Génomique
27:45et le CAD,
27:47qui est le collecteur
27:48analyseur de données
27:49dans ce contexte-là
27:50sur des données,
27:53je dirais,
27:53omiques.
27:54En tout cas,
27:54c'est dans la partie R&D.
27:57C'est vraiment
27:58quelque chose
27:58qui est prégnant
27:59et les équipes de recherche
28:00travaillent de façon
28:01très précise
28:02sur ce cas de figure.
28:04Damien,
28:04pour conclure,
28:05on voit qu'il faut concilier
28:06cette innovation en IA
28:07avec des impératifs
28:09de cybersécurité.
28:10On va y revenir
28:10dans la deuxième partie
28:11de l'émission
28:12avec nos autres témoins
28:13d'Ecathlon et Veolia
28:15et un autre expert
28:16de Palo Alto Nettoir
28:17justement sur la protection.
28:18On va descendre
28:18un peu plus en détail.
28:19Mais on voit quand même
28:20qu'on est obligé
28:22d'y aller.
28:22Là,
28:23on a des secteurs sensibles,
28:24santé,
28:25finance,
28:25mais on imagine
28:26dans beaucoup d'entreprises.
28:27Il faut s'en inquiéter.
28:29Il faut continuer
28:30à innover
28:30et la sécurité
28:31aujourd'hui,
28:32c'est l'inverse,
28:33c'est-à-dire que c'est
28:34là pour aider l'innovation.
28:35Je vais me permettre
28:36un petit retour d'expérience
28:37depuis quelques années.
28:38On traite le sujet
28:39aujourd'hui
28:39chez Palo Alto.
28:40On a eu beaucoup
28:41de clients
28:41qui ont adressé
28:42le sujet de l'IA
28:43avec des données
28:44dites anonymisées
28:45ou fausses données
28:47et ils n'étaient pas
28:48très satisfaits
28:49des résultats de l'IA.
28:50Et puis,
28:51en travaillant un petit peu
28:52avec eux,
28:52on a justement
28:53créé cette confiance
28:54en leur montrant
28:54les vulnérabilités
28:55qui étaient existantes
28:57et comment on a su
28:57justement nous créer
28:58ce harnais
28:59dont vous avez parlé
29:00au début de l'émission.
29:01Et de ce fait,
29:02ils ont commencé
29:03à mettre des données
29:03qui étaient dites
29:04sensibles,
29:05comme vous messieurs.
29:06Et ils se sont rendus compte
29:08que Palo,
29:08on était capable
29:09aujourd'hui
29:09d'aider concrètement
29:11à sécuriser
29:12et à continuer
29:13d'innover
29:13sur des cas d'usage
29:14qui pouvaient être
29:15dits sensibles
29:16au sein des entreprises.
29:17Eh bien voilà,
29:18on a compris
29:18que pour déployer
29:19à grande échelle
29:20et avec succès,
29:22ça dépend de la qualité
29:23des données
29:23de l'organisation
29:24mise en place.
29:25L'IA agentique
29:26transforme les processus,
29:27vous l'avez compris,
29:28mais introduit
29:28ces nouveaux risques.
29:29On va y revenir dessus
29:30justement sur cette identité
29:31des agents,
29:31sur cette protection
29:32des agents.
29:33C'est tout de suite
29:33dans notre deuxième
29:34partie d'émission.
29:35Merci messieurs.
29:36Axel Sipel,
29:37responsable de la stratégie
29:38d'ATA et IA de LCL,
29:39Samy Sanoun,
29:40directeur du département
29:41SCI de l'Inserm
29:42et Damien Renal,
29:44responsable technique
29:44et iSecurity.
29:46Messieurs,
29:46de Pcheb Palo Alto,
29:48vous cédez vos places
29:49et on se retrouve
29:49dans un instant
29:50avec nos invités suivants.
29:53à l'heure des agents IA
29:54sur BFM Business.
29:57Voilà,
29:57retour sur notre plateau.
29:58On va parler de comment,
30:00toujours de cet IA agentique,
30:01comment sécuriser
30:02des agents autonomes
30:03et protéger
30:03leurs identités numériques
30:04avec nos...
30:05comment cartographier
30:07aussi ces agents,
30:08les identifier
30:08avec nos experts.
30:10Présent ici,
30:10Ahmed Chahri,
30:11bonsoir.
30:12Bonsoir Frédéric.
30:12Vous êtes responsable
30:13des équipes Identity
30:14et Access Management
30:14chez Decathlon,
30:16marque de sport bien connue.
30:17Fouad Maj,
30:18bonsoir.
30:19Fouad,
30:19responsable,
30:20directeur de l'architecture
30:21et de l'engineering
30:21chez Veolia
30:22et Christophe Escande.
30:23Bonsoir Christophe.
30:24Bonsoir Frédéric.
30:25Vous êtes directeur
30:25des Verticaux Métiers.
30:27Alors,
30:27la marque,
30:28c'est Idira,
30:29mais voilà,
30:29qui est une marque
30:29de Palo Alto Networks.
30:31On en reprendra
30:32au cours de cette émission.
30:33Ahmed Decathlon,
30:35historiquement reconnu
30:36pour son innovation produit
30:37dans tout un tas de sports.
30:39Je pense que tous ceux
30:39qui fréquentent vos magasins
30:40les voient.
30:41Et comment on a réussi
30:42à irriguer
30:45et étendre
30:46cette culture
30:47de l'innovation
30:48jusqu'au numérique ?
30:49Oui.
30:50Vous connaissez Decathlon,
30:51vous connaissez nos concepteurs produits,
30:53vous connaissez nos gilets bleus.
30:54Moi,
30:55je suis très heureux
30:55de représenter aujourd'hui
30:56Decathlon Digital.
30:57On est 4000 femmes et hommes
30:58qui travaillent
30:59avec le même ADN
30:59de l'entreprise
31:00pour aller plus loin.
31:02En fait,
31:03les 50 ans de la boîte
31:04cette année,
31:05c'est un événement
31:05important pour nous.
31:06et déjà 50 ans.
31:07Exactement.
31:08Et tu l'as si bien dit,
31:10Frédéric,
31:11l'innovation fait partie
31:12de notre ADN.
31:12On est vraiment animés
31:14par cette innovation-là
31:15et c'est naturellement
31:17qu'on considère aujourd'hui
31:18l'IA comme un atout stratégique.
31:20Pourquoi un atout stratégique ?
31:22Parce que sur le terrain,
31:24ça change les choses.
31:25Et depuis un an,
31:26on a déployé l'IA génératif
31:28pour tous nos collaborateurs
31:29à travers le monde,
31:30les 100 000 collaborateurs
31:31à travers le monde,
31:32dans tous les pays,
31:32que ce soit un concepteur
31:34de vélo chez Van Riesel
31:35ou un directeur
31:36de magasins en Colombie,
31:37tout le monde a accès
31:38à l'IA génératif aujourd'hui.
31:39C'est un vrai atout pour nous.
31:42Pour répondre
31:43à des questions clients,
31:44des choses comme ça,
31:44parce que parfois,
31:45il y a des clients
31:45qui sont bien pointus
31:46sur certains produits.
31:47Il faut être capable
31:48de les orienter.
31:49Et c'est ça.
31:50Il y a deux aspects.
31:52Il y a des aspects internes
31:53pour nos facilités à la vie.
31:55Par exemple,
31:55concrètement,
31:56aujourd'hui,
31:56on opère dans plus
31:57de 82 pays,
31:59plus de 1 900 magasins
32:00et quand les lois changent,
32:01on est...
32:02On doit s'adapter
32:03très rapidement.
32:04Et donc,
32:04notre service juridique,
32:05il est heureux
32:06d'utiliser la GNI
32:07pour directement
32:09connaître l'impact
32:10des lois.
32:10Et pour nos directeurs
32:12de magasins,
32:13la GNI est directement
32:14incorporée
32:15dans leurs outils bureautiques.
32:16Et donc,
32:16directement,
32:17ils peuvent croiser
32:18les données,
32:20planifier les ventes,
32:21etc.
32:22Et on revient
32:22dans un instant,
32:23justement,
32:23sur cette stratégie cyber
32:24autour de l'IA générative,
32:25autour des agents IA.
32:27Fouadma,
32:27HCV au IA,
32:28donc,
32:28il y a une plateforme IA
32:29indépendante.
32:30Quand je dis indépendante,
32:31c'est-à-dire construite,
32:32enfin,
32:32bâti en tout cas
32:33en dehors des géants
32:34du cloud,
32:35concrètement,
32:36qu'est-ce que cela change ?
32:37On imagine,
32:37on a une meilleure maîtrise,
32:39plus de sécurité ?
32:40Oui,
32:41il faut voir Viola
32:41comme un pionnier.
32:42Donc,
32:42en tant que pionnier,
32:43nous sommes toujours
32:44à l'écoute
32:44des innovations,
32:45des nouvelles technologies.
32:45et c'est ce qu'on a fait
32:47en embrassant ces nouvelles technologies
32:48qui nous permettent
32:49de pouvoir délivrer
32:50de nouveaux services essentiels
32:51dans les métiers de l'eau,
32:52les déchets,
32:53l'énergie.
32:54Il faut savoir
32:54qu'on considère l'EI
32:55comme une partie
32:57de la solution
32:57au service
32:58de la sécurité écologique
32:59qui fait partie
33:00de notre ambition
33:02chez Veolia.
33:03Et pour y arriver,
33:04on a structuré
33:05une démarche
33:06en expérimentant très tôt,
33:08en début 2023,
33:09ces nouveaux outils
33:10pour pouvoir développer
33:11des solutions
33:13environnementales
33:13qui permettent
33:14de pouvoir appuyer
33:15notre ambition
33:15de décarbonation,
33:17dépollution et régénération.
33:18C'est ainsi
33:18qu'on a démarré
33:20le lancement en 2023
33:22d'une plateforme
33:22EI globale
33:23qui a été ouverte
33:24à l'ensemble
33:24des collaborateurs
33:25de Veolia,
33:26donc plus de 200 000 personnes
33:27en septembre 2023,
33:29faisant pour le moment
33:29de Veolia
33:30la première société
33:31à déployer
33:32à si grande échelle
33:33ce type de solution.
33:33Ça veut dire
33:34qu'il fallait récupérer
33:35des datas aussi
33:35d'un peu partout ?
33:36On parlait tout à l'heure
33:37d'une première partie
33:37de l'émission
33:38de la qualité des données,
33:39la gouvernance des données,
33:40il fallait tout de suite
33:40mettre ça en place.
33:41Exactement.
33:42Ces choses sont allées
33:42très très vite
33:43avec une forte capacité
33:44d'innovation.
33:44On était capables
33:45de développer
33:46une plateforme
33:47qui s'appuie
33:47sur les meilleures
33:48technologies open source
33:49qui permet aux collaborateurs
33:50de Veolia
33:51de pouvoir configurer
33:51des agents
33:52qui vont pouvoir communiquer
33:54avec le système d'information,
33:55avec nos opérations
33:55et surtout pouvoir s'appuyer
33:57sur différents modèles
33:58de langage du marché.
33:59Les gros modèles,
33:59les LLM,
34:00les SLM,
34:01les modèles ouverts
34:01de telle sorte
34:02que nous ne sommes pas dépendants
34:03d'un fournisseur de modèles
34:04par rapport à un autre.
34:05Donc ça a trois avantages majeurs.
34:07Tout d'abord,
34:07la résilience.
34:08On est capables
34:09de faire fonctionner
34:09la plateforme
34:10quel que soit le modèle
34:11qui est utilisé derrière.
34:12Mais également,
34:13l'agilité.
34:13Puisqu'on maîtrise
34:14cette technologie,
34:15on est capables
34:15de la faire évoluer,
34:16de l'adapter
34:16aux besoins de Veolia
34:17dans les métiers
34:18de l'eau,
34:19les déchets et l'énergie.
34:20Et puis,
34:21le troisième avantage,
34:22c'est l'efficacité.
34:23Quand vous êtes capables
34:24de choisir le bon modèle
34:25pour le bon cas d'usage,
34:26vous pouvez optimiser
34:27votre ratio coût-performance
34:28et donc réduire
34:29l'empreinte environnementale
34:31de chaque cas d'usage.
34:32Et c'est quelque chose
34:33de très important.
34:33C'est pour ça que Veolia
34:34a fait ce choix très fort
34:36de développer,
34:37de faire grandir
34:37cette plateforme agentique.
34:39Ce n'est pas simplement
34:40un luxe,
34:40mais c'est une véritable stratégie
34:42chez Veolia
34:43qui nous permet
34:44de pouvoir délivrer
34:45des services essentiels
34:46dans la continuité.
34:47Voilà,
34:48à la fois pour simplifier,
34:49pour automatiser,
34:49puis à la fois pour créer
34:50de nouveaux services
34:51et de nouvelles valeurs.
34:52Christophe Escande
34:53de Palo Alto,
34:54ça veut dire que le périmètre,
34:55donc on doit bien regarder,
34:57on le voit traverser
34:58des exemples,
34:58le périmètre d'action
34:59de l'IA,
35:00des agents IA
35:01et puis derrière tout ça,
35:02il faut les intégrer
35:04très tôt
35:04à la politique de sécurité.
35:06Ça paraît une évidence,
35:07mais on ne pense pas forcément.
35:09Le périmètre,
35:10il est large,
35:10par définition.
35:11On est passé,
35:12comme vous le disiez
35:12tout à l'heure,
35:13d'une IA machine learning
35:15il y a quelques dizaines
35:17d'années presque maintenant
35:18à une IA générative
35:19qui est en train
35:19de se mettre en place,
35:20une IA agentique
35:21qui par définition va...
35:22Bientôt on aura
35:22l'IA physique
35:23avec la robotique
35:24qui va...
35:24Exactement,
35:25qui agit sur les systèmes,
35:27qui a la liberté
35:28de faire des choix
35:30en fait,
35:30de faire des choix
35:31de cheminement
35:32par rapport au système
35:34qu'ils utilisent.
35:35Ça veut peut-être dire
35:36pour des cartons
35:37dans le futur
35:37des agents
35:38qui peuvent passer
35:39des commandes fournisseurs.
35:40On en parlait hors plateau
35:42tout à l'heure.
35:42Ça peut vouloir dire
35:44peut-être changer
35:45des paramètres critiques
35:46sur le réseau d'Eolia
35:48si on laisse évidemment...
35:50Si on encadre ça
35:51avec la vraie bonne gouvernance.
35:53On peut être prêt à tout ça.
35:54Donc en fait,
35:55l'agent IA
35:56devient un collaborateur numérique.
35:57C'est un fait acquis.
36:00Et en termes
36:01de sécurisation,
36:03en fait,
36:04il y a une vraie urgence
36:05d'architecture
36:06en fait
36:06à mettre en place
36:09pour éviter justement
36:10qu'un certain nombre
36:11d'agents
36:12ne se propagent,
36:13je dirais,
36:14sous le manteau
36:14en fait
36:15et qu'on perde
36:15un petit peu
36:15la lisibilité,
36:16la cartographie
36:17de ces agents.
36:18Et surtout,
36:19on l'évoquait aussi
36:20je crois tout à l'heure,
36:21le fait que
36:22de sécuriser
36:23en fait ces agents
36:24ne doit surtout pas être vu
36:25comme un frein à l'innovation
36:27en fait.
36:28La sécurité,
36:29on considère
36:29que chez Palo Alto Network,
36:30c'est vraiment
36:31le fondement,
36:32le socle
36:32qui va permettre
36:33de garantir
36:34un petit peu
36:35de créer
36:35l'environnement
36:35de confiance,
36:37qui va permettre
36:37de passer
36:38du modèle expérimental
36:40en fait
36:40à l'échelle industrielle.
36:41Donc c'est vraiment
36:42sur ce socle
36:43de sécurité
36:44des agents IA
36:45qu'on peut s'appuyer
36:46et quelque part
36:47développer du business.
36:48Et justement,
36:49Ahmed,
36:49chez Decathlon,
36:50c'est quoi exactement
36:51votre stratégie,
36:52enfin en quelques mots,
36:53votre stratégie
36:53autour de l'IA générative
36:55parce qu'on sait,
36:55on n'arrête pas de le dire,
36:56les LLM ont créé
36:57des nouveaux risques,
36:58les agents aussi
36:59qui discutent entre eux.
37:00On a vu arriver
37:00ce phénomène open-clos aussi
37:01avec un monde d'agents
37:03qui sont carrément
37:04vivent dans leur univers
37:07à eux.
37:08Comment vous travaillez ?
37:09Où en est Decathlon
37:10aujourd'hui sur ce sujet ?
37:12C'est vrai que l'IA
37:13générative
37:14ou agentique
37:14apporte son lot
37:15de risques cyber.
37:17Je lisais un article
37:18dernièrement
37:18qui s'appelle
37:18l'IBM Data Breach 2025
37:21et il y a un chiffre
37:21qui m'a frappé,
37:22c'est 20%.
37:23Aujourd'hui,
37:24dans plus de 20%
37:25des attaques cyber,
37:26l'IA est impliqué.
37:28Soit l'IA est utilisée
37:29dans l'attaque,
37:29soit l'IA
37:30c'est une porte d'entrée.
37:32Dans notre déploiement
37:33de la GenEI
37:35chez Decathlon,
37:36on a accompagné
37:36ce programme
37:37par le déploiement
37:38d'un programme
37:38contre le Shadow IT
37:39parce que c'est
37:40une vraie porte d'entrée.
37:42Shadow IT
37:43et Shadow IA.
37:44Exactement.
37:46Notre aventure
37:47avec l'IA
37:47ne s'arrête pas
37:48uniquement
37:48à l'IA générative,
37:50elle se poursuit
37:50naturellement
37:51avec l'IA agentique
37:51et c'est dans ce sens
37:54aussi que l'IA agentique
37:56apporte aussi
37:57son lot de challenges
37:58au niveau cyber.
37:59Et on aura un jour
38:01des agents
38:02qui seront capables
38:03de passer les commandes
38:04une fois qu'ils auront vu
38:05les manques de stock
38:06et là, évidemment,
38:07il faut sécuriser tout ça.
38:08Exactement.
38:09On ne se trouve pas
38:09avec des stocks volumineux.
38:11Exactement.
38:11Le commerce agentique
38:12qui peut être demain
38:13un futur assez proche
38:15et on veut surtout
38:16fournir à nos coéquipiers
38:18une IA sécurisée,
38:19une IA agentique sécurisée
38:20parce qu'on craint
38:21le Shadow Agent,
38:22par exemple,
38:23un agent compromis
38:24qui, de l'interne,
38:25peut finalement
38:26créer d'autres agents
38:29ou bien envoyer
38:31les données vers l'extérieur.
38:31Ça veut dire quoi ?
38:32Ça veut les brider
38:33dans un parimètre ?
38:34Elle est gouvernée,
38:36elle est sécurisée,
38:37elle va travailler
38:37selon des protocoles
38:38et des standards technologiques
38:40qui sont connus de tous
38:40mais qui nous permettent
38:41finalement de créer
38:42un univers de confiance.
38:44Notre vision
38:45de l'IA agentique demain,
38:46c'est concrètement donner
38:48un environnement de confiance
38:49à nos coéquipiers
38:50pour que finalement
38:52on puisse leur donner
38:53la main d'innover.
38:55Et innover pourquoi ?
38:56Pour donner à un responsable
38:58de magasin
38:58un agent avec qui
38:59il peut discuter demain
39:00pour l'aider à planifier
39:02sa semaine,
39:02planifier son week-end
39:03parce que l'agent aura
39:05énormément d'informations externes
39:06puisqu'on lui a donné
39:08ces informations
39:08pour finalement
39:11rendre le directeur
39:13de magasin
39:13ou le responsable
39:14de rayon
39:15augmenté
39:15avec cet IA
39:16pour prendre
39:17les bonnes décisions.
39:18C'est aussi
39:19nos concepteurs,
39:19on en parlait tout à l'heure,
39:20les concepteurs produits,
39:22aujourd'hui ils travaillent
39:23avec énormément
39:23d'outils SaaS
39:24et ces outils SaaS
39:25aussi ils intègrent
39:26des agents IA
39:26et notre challenge aussi
39:27c'est de sécuriser
39:28cette communication
39:29agent à agent
39:30pour éviter
39:31les fluides de données
39:32et éviter finalement
39:34que ces outils SaaS
39:36ne soient aussi
39:37une porte d'entrée.
39:37les flux de données
39:38et la consommation
39:38de tokens
39:39qui peut aussi
39:39vite venir
39:40quand les agents
39:41dialoguent entre eux.
39:42On le disait tout à l'heure
39:43Fouad chez Veolia
39:44donc à construire
39:44une plateforme
39:45avec une sécurité
39:48et une gouvernance
39:49forte
39:50des agents IA.
39:51Très concrètement
39:52comment vous empêchez
39:53justement ces agents
39:54de ne pas faire de bêtises,
39:55de récupérer
39:56les bonnes données,
39:56de prendre
39:57les bonnes décisions
39:58et puis avoir toujours
39:59un humain derrière
39:59qui contrôle tout ça ?
40:00Alors
40:01c'est un véritable défi
40:03on ne va pas se le cacher
40:04aujourd'hui
40:04la plateforme électrique
40:05de Veolia
40:05c'est 100 000 utilisateurs actifs
40:07et plus de 2000 agents
40:08déployés en production.
40:09Donc pour éviter
40:10que ces agents
40:11fassent des bêtises
40:12il faut mettre en place
40:12des dispositifs
40:13de sécurité très forts.
40:15Il faut savoir
40:15qu'un agent IA
40:16c'est un judiciaire
40:16très particulier.
40:17Il a d'un côté
40:18une énorme force
40:19la capacité
40:20à s'adapter à l'entouriel
40:21et de l'autre côté
40:22une énorme faiblesse
40:23qui est le fait
40:25que l'output
40:26donc la réponse
40:27fournie par un modèle
40:28de langage
40:29n'est non
40:29et non déterministique.
40:31Ce qui veut dire
40:31qu'un modèle de langage
40:32est capable de vous fournir
40:33une fausse réponse
40:34avec un niveau de confiance
40:36déconcertaine.
40:36C'est pour ça que lorsqu'on
40:37construit un moteur agentique
40:37On voit même
40:38un titre personnel
40:38avec un aplomb incroyable.
40:41Avec un aplomb incroyable.
40:42Et lorsqu'on construit
40:43un moteur agentique
40:45il faut être capable
40:45de pouvoir identifier
40:47et limiter les failles
40:49et les limites
40:49de ces modèles de langage.
40:51Donc pour ce faire
40:52on a une approche
40:53avec cinq couches de sécurité
40:54tout d'abord
40:54l'authentification.
40:56S'assurer que
40:56lorsqu'un agent
40:57va être appelé
40:57il a sa propre identité numérique
40:59il va être appelé
41:00par un collaborateur
41:00qui doit être également
41:01authentifié
41:02dans le sène d'information
41:03de Veolia
41:03avec un contexte d'usage
41:05qui va être sécurisé.
41:06Ce qu'on appelle
41:06le contexte aware access.
41:07S'assurer que le collaborateur
41:09utilise un device sécurisé
41:11dans un environnement sécurisé.
41:12La deuxième couche
41:13au niveau de la gestion
41:14des permissions.
41:15On s'appuie sur le protocole
41:16OAuth 2
41:16qui est le standard
41:17d'industrie digitale
41:18et qui va permettre
41:19de s'assurer
41:20que les permissions
41:21de l'utilisateur
41:21vont être utilisées
41:23temporairement par l'agent
41:24de la sorte que l'agent
41:25ne va pas pouvoir
41:26effectuer des actions
41:26qui vont au-delà
41:27des permissions de l'utilisateur.
41:29C'est très important.
41:30Le troisième niveau
41:31va être le niveau
41:32de garde-foude dynamique.
41:33C'est là la vraie innovation.
41:35C'est la capacité
41:35à pouvoir filtrer
41:36en amont ou en aval
41:37de votre agent
41:38les données.
41:39Par exemple,
41:40un agent qui va aller
41:40récupérer des données
41:41dans une base cliente.
41:42On va filtrer les données
41:45personnelles
41:45pour s'assurer
41:46qu'elles n'arrivent pas
41:46auprès de l'agent
41:47ou auprès du collaborateur.
41:48Ou un autre exemple,
41:49un agent qui va aller
41:50requêter des données
41:51de time series sur un site
41:52et qui va générer
41:54des préconisations.
41:55Il faut s'assurer
41:55que ces préconisations
41:56ne vont pas enfreindre
41:57des règles réglementaires
41:59ou des règles techniques
42:00ou des règles contractuelles.
42:01Grâce à ces garde-foude dynamique
42:03de type
42:03Automated Rezoning,
42:04on est capable
42:05de pouvoir filtrer
42:05ces mauvaises réponses.
42:07Le plus important,
42:07il faut donner une bonne réponse
42:08mais de pouvoir également
42:09filtrer les mauvaises réponses.
42:11La quatrième couche
42:12de sécurisation,
42:13c'est l'humain,
42:13la supervision humaine.
42:14On s'assure
42:15qu'un agent
42:16ne peut effectuer
42:16aucune action
42:17dans le sein de l'information
42:18ou dans nos opérations
42:20sans une validation humaine.
42:22C'est non négociable,
42:23c'est indispensable,
42:23c'est comme ça
42:24qu'on conserve l'humain
42:25au centre de notre projet.
42:26Et puis la cinquième couche
42:27qui est non négligeable,
42:28c'est la traçabilité.
42:29S'assurer qu'à chaque fois
42:30qu'un agent est invoqué,
42:32on va pouvoir tracer
42:32exactement qui invoque l'agent,
42:34à quel moment,
42:35et quel est le résultat.
42:38De cette façon-là,
42:39on va pouvoir identifier
42:40très très rapidement
42:41s'il y a une anomalie
42:42sur le système agentique.
42:43Et donc ces cinq couches-là,
42:44qui combinées,
42:45vont pouvoir permettre
42:46de construire un système
42:47de défense en profondeur.
42:48Si jamais l'une de ces couches
42:49venait à défaillir,
42:51les autres couches
42:51prennent le relais.
42:52Et c'est indispensable
42:53puisqu'il faut savoir
42:54que Veolia fournit
42:54des services essentiels
42:56à ses clients,
42:56à des millions de clients
42:57dans le monde.
42:58Pardon,
42:58à des millions de clients
42:59dans le monde.
42:59Donc il est indispensable
43:01de pouvoir garantir
43:02la sécurité
43:03et le bon fonctionnement
43:04de ces agents.
43:06Christophe Escan de Palolto,
43:07ça veut dire qu'on comprend
43:08le niveau de complexité,
43:10il est assez important
43:11pour sécuriser ces agents IA.
43:13Il faut les cartographier,
43:14les contrôler.
43:15Enfin voilà,
43:15comment ça se passe ?
43:17En fait,
43:17il y a deux aspects
43:18avant même de parler
43:19de la cartographie
43:20de la gouvernance
43:21ou du contrôle IA.
43:24La notion, en fait,
43:25on l'évoquait aussi précédemment,
43:26mais le fait que ces agents,
43:28pour la première fois,
43:29en fait,
43:29je pense dans l'histoire
43:29de l'informatique,
43:30on se retrouve à devoir
43:31sécuriser en fait
43:32quelque chose
43:33dont on ne connaît pas
43:33à l'avance le comportement.
43:35Et logiciel, en fait,
43:36on leur demande,
43:37A, ils font B.
43:38C'est classique ça.
43:39Un agent,
43:40il va raisonner,
43:41il va avoir une certaine
43:41forme de liberté
43:42dans la manière
43:43d'interpréter,
43:44d'invoquer un certain
43:45nombre de ressources informatiques.
43:47Donc cette dynamique
43:49est assez compliquée
43:50à gérer d'un point
43:51de vue sécurité.
43:52Le deuxième point,
43:53c'est le volume,
43:54le volume de ces agents.
43:55Donc on évoquait
43:56quelques milliers d'agents
43:56aujourd'hui sur la plateforme
43:58Veolia.
43:59Finalement,
43:59on serait peut-être capable
44:00tous d'avoir
44:00de trop agents.
44:02Nos études,
44:03quand on parle
44:03avec nos clients aujourd'hui,
44:05on considère
44:06qu'on a déjà plus
44:07d'une centaine
44:07d'identités machines
44:08ou d'identités non humaines
44:10versus le nombre
44:11d'identités humaines
44:12qui sont aujourd'hui
44:13dans les entreprises.
44:13J'entendais,
44:14ça tienne Adela,
44:16le directeur général
44:18de Microsoft,
44:18qui évoquait
44:20sa problématique
44:21de construire
44:21une architecture
44:22pour gérer potentiellement
44:2320 millions d'agents
44:24au sein de Microsoft.
44:2520 millions.
44:26Tous les employés...
44:27Cette volumétrie
44:28nécessite évidemment
44:29des outils particuliers.
44:30Mais encore une fois,
44:31la cartographie reste,
44:32la traçabilité reste
44:33le principe fondamental.
44:34On ne peut sécuriser
44:35que ce qu'on connaît.
44:37Donc chez nous,
44:38on utilise
44:39des gestions de flux
44:40pour comprendre
44:41évidemment
44:42quel type d'agents
44:43utilisent,
44:44quel type de ressources.
44:45on est fervent défenseur
44:47d'un concept
44:48de référentiel
44:49d'identité unique
44:50par agent
44:51qui va nous permettre
44:52derrière de comprendre
44:52exactement la cartographie
44:54de ce genre d'événements.
44:57Et puis,
44:58je dirais,
44:58au niveau du contrôle,
44:59en fait,
45:00on va se retrouver
45:01dans des problématiques
45:02assez classiques
45:03d'authentification,
45:04à dire de gouvernance,
45:06de monitoring.
45:06La science se trouve
45:07dans les concepts
45:08plus classiques
45:08de cybersécurité.
45:10Ahmed Chahir,
45:11chez Decathlon,
45:12justement,
45:12si on se met
45:13les milliers
45:14de collaborateurs
45:14de Decathlon
45:15qu'on pense même
45:16à développer
45:1610 agents chacun,
45:17ça risque de faire
45:18l'infrastructure
45:20pour tenir tout ça.
45:21Mais ça veut dire aussi
45:22que vous,
45:23vous essayez d'attribuer
45:24une identité numérique,
45:24c'est ça,
45:25aux agents ?
45:25Exactement,
45:26on essaie de traiter
45:27les agents aujourd'hui
45:28avec une identité numérique.
45:30C'est des identités
45:32qui, aujourd'hui,
45:33ont accès
45:33à notre système d'information
45:34et on doit les identifier.
45:36Vous les identifiez ?
45:37Exactement.
45:37On ne peut pas leur donner
45:38un badge et un gilet bleu,
45:39mais ils vont être là
45:40dans notre système d'information
45:41pour, finalement,
45:42effectuer les tâches
45:43qu'on leur demande de faire.
45:45Mais il y a deux objectifs
45:47derrière ces identifications-là.
45:48La première,
45:48c'est la gouvernance.
45:49On veut gérer
45:51le cycle de vie
45:51d'un agent
45:52dès qu'il est créé,
45:55dès qu'on lui donne
45:55des accès,
45:56des rôles,
45:58finalement,
45:59un ensemble d'accès
46:00pour interagir
46:02dans notre système d'information.
46:03Et deuxièmement,
46:04c'est la traçabilité.
46:04On veut savoir,
46:05cet agent,
46:06qu'est-ce qu'il fait,
46:07à quel moment,
46:08quelles tâches
46:08il a effectuées.
46:09Et tout cet enchaînement-là
46:11nous permet de monitorer,
46:12finalement,
46:13l'agent
46:14et nous permet,
46:15finalement,
46:15d'aller chercher
46:17les bons outils
46:18pour aller gouverner
46:19totalement
46:19ces identités agentiques.
46:21Et en parlant aussi
46:23de ces agents,
46:26les agents ne vivent pas
46:27tout seuls
46:27dans leur monde.
46:28Ils ont besoin
46:28d'interagir
46:29avec notre système d'information,
46:30soit à travers
46:32les autres agents
46:33qui sont dans le système
46:33d'information
46:34ou pour avoir accès
46:35à des sources d'information.
46:36On parlait tout à l'heure
46:38du protocole O2
46:38pour s'authentifier.
46:40On parle du protocole MCP
46:42qui a été créé
46:43par Anthropik
46:43pour permettre à un agent
46:45de dialoguer
46:46avec un autre agent
46:47ou d'aller chercher
46:48une source d'information
46:49dans un stockage,
46:51par exemple,
46:51pour être efficace
46:52dans la tâche
46:53qu'on lui demande de faire.
46:54Et donc, du coup,
46:54un agent,
46:56il a besoin de s'authentifier.
46:57Et pour s'authentifier,
46:58on revient à la source
46:59qui est fausse identifiée.
47:01Et c'est pour ça
47:02qu'on doit identifier
47:03chaque agent
47:04pour qu'il puisse s'authentifier,
47:05pour qu'il puisse
47:06finalement travailler.
47:07et qu'il y ait son identité.
47:08Même chose chez vous,
47:09j'imagine,
47:10Fouad,
47:11chez Veolia,
47:12parce qu'il y a quand même
47:12plus de 215 000,
47:14220 000 collaborateurs.
47:15Si tout le monde
47:16s'amuse à développer
47:17son agent,
47:1810 agents par personne,
47:19on se retrouve
47:20à gérer une infra
47:20de 2 millions
47:21de collaborateurs.
47:23Comment on gère
47:24justement ces identités
47:25chez Veolia ?
47:27Ces agents, en tout cas ?
47:29La gestion de ces agents
47:31planifiés va permettre
47:32de pouvoir faire gagner
47:33beaucoup de temps.
47:33Il faut se rappeler
47:34qu'on met à disposition
47:35des agents
47:36qu'on peut planifier
47:37au sein de Veolia
47:37pour pouvoir réduire
47:39le temps passé
47:39sur des tâches répétitives
47:41à faible valeur ajoutée.
47:42L'objectif,
47:42c'est de libérer
47:43le potentiel
47:44de nos collaborateurs
47:45pour permettre
47:46de passer plus de temps
47:47sur des tâches
47:47à forte valeur ajoutée.
47:48On a des fortes ambitions
47:49sur la décarbonation,
47:50la dépollution,
47:51la régénération.
47:52Et pour y arriver,
47:53on a besoin de libérer
47:54ce temps utile
47:54de nos collaborateurs.
47:55Je vais vous donner
47:56quelques exemples.
47:57Nos chimistes en R&D
47:58qui doivent faire
47:59des recherches documentaires
48:00ou des classifications
48:01de molécules
48:01pour, grâce à ces agents,
48:03pouvoir, le matin,
48:04se retrouver avec
48:05le résultat de ces recherches
48:06et pouvoir les exploiter
48:06directement et gagner du temps.
48:08Et même pour certains
48:10de nos opérateurs
48:11en usine,
48:12ils vont pouvoir
48:14perdre moins de temps
48:14à aller retrouver
48:15des anomalies
48:16directement en début de tournée
48:17puisqu'un agent
48:18va aller faire ce travail,
48:19lire les données,
48:20les times séries,
48:21les indicateurs,
48:21croiser avec les bases
48:23documentaires,
48:24les procédures
48:25pour pouvoir identifier
48:26des anomalies
48:26et également fournir
48:27des prescriptions,
48:28des solutions potentielles
48:29pour réduire
48:30et corriger ces anomalies.
48:32à la fois de productivité
48:33et même d'aide à la décision.
48:36Exactement.
48:37Ces agents planifiés
48:38vont être là
48:38en tant qu'aide à la décision.
48:39On ne veut pas effectuer
48:40d'action.
48:40Ce sont les agents
48:41conversationnels
48:42qui interagissent
48:43directement au mâcan humain
48:43qui peuvent aller jusqu'à
48:44l'action
48:45avec toujours une validation
48:46au moment de l'action
48:47qui revient aux collaborateurs.
48:49Et un peu comme le disait Ahmed,
48:50ils ont bien une identité aussi
48:52avec leur droit d'accès, etc.
48:53Tout à fait.
48:54Chaque agent,
48:55quand il est configuré,
48:55naît avec un identifiant unique
48:57et un set de permission unique.
48:59Ce qui veut dire
48:59qu'un agent qui, par exemple,
49:01est conçu pour aller interagir
49:02avec un système de ERP
49:03ne pourra jamais aller
49:05interagir avec une autre
49:06application chez VEOLUA.
49:07D'accord.
49:07Parce que dès sa définition,
49:09on définit les permissions
49:10et le scope
49:11et le périmètre de cet agent
49:12pour pouvoir garantir
49:13qu'il ne va pas aller
49:14au-delà de ce périmètre
49:15qui est toujours croisé
49:16avec les permissions
49:17de l'utilisateur.
49:18Donc si, par exemple,
49:18vous avez uniquement le droit
49:19de lire des données
49:20dans cet ERP,
49:20l'agent ne pourra pas aller
49:22au-delà.
49:22Si vous êtes administrateur
49:23et que vous pouvez même
49:24modifier les données de l'ERP,
49:25l'agent va hériter
49:26de ces permissions
49:26et il pourra aller
49:27au-delà de ce scope.
49:28Je parlais tout à l'heure
49:29de FinOps de l'IA.
49:31Ça permet aussi
49:31de contrôler les coûts,
49:32d'avoir cette identité d'agent.
49:34Absolument.
49:36VEOLIA a la maîtrise
49:37de son moteur agentique
49:38et grâce à cela,
49:38on a pu éviter la dérive
49:41de la facture de nos tokens.
49:42Il faut savoir
49:43que pour pouvoir optimiser
49:44le coût de vos tokens,
49:45il faut d'une façon
49:46ou d'une autre
49:46avoir la main sur vos agents.
49:47Pourquoi ?
49:48Le premier axe,
49:49c'est choisir le bon modèle
49:50au bon moment
49:50avec le meilleur ratio
49:51coût-performance.
49:52Le deuxième axe,
49:53ça va être le caching
49:54de vos appels élèves
49:55pour pouvoir réduire
49:56les coûts d'appel inutiles.
49:58Le troisième acte
50:00va être de pouvoir
50:02modifier dynamiquement
50:03le compactage
50:04de vos agents.
50:05Ils vont avoir
50:06plein de tokens,
50:06plein de résultats intermédiaires.
50:07Il faut réduire
50:09tout ce brouillard
50:10pour qu'ils n'utilisent
50:11que ce qui est utile.
50:12Christophe, justement,
50:13on l'a compris
50:14en conclusion de cette émission,
50:16les agents IA
50:16doivent être traités
50:17comme des acteurs
50:18à part entière
50:18du système d'information
50:20avec identité numérique,
50:22droit d'accès,
50:23alors limité,
50:24évidemment,
50:25contrôlé, gouverné.
50:26Puis une surveillance continue,
50:27c'est ça l'idée ?
50:28Oui, je pense que
50:29je prêche en terrain inconquis
50:30en disant que nous,
50:31notre conviction forte,
50:32c'est effectivement
50:32que ces agents
50:33doivent avoir
50:33une identité numérique
50:34à part entière,
50:35sans une nouvelle forme
50:36d'identité.
50:37Donc sécuriser ces agents
50:39nécessite une certaine expertise
50:41que l'on revendique évidemment
50:42au sein de Palo Alto Networks.
50:45L'idée de fond,
50:47en fait,
50:47est que la majorité des attaques
50:51qu'on voit aujourd'hui cyber
50:52se font par usurpation
50:53d'identité.
50:54Donc avec une nouvelle forme
50:55d'identité,
50:56on arrive en fait
50:57à devoir sécuriser encore
50:58une nouvelle forme
50:59de surface d'attaque.
51:00On l'a déjà évoqué.
51:01Donc on a évoqué
51:02les problématiques
51:03liées au zéro privilège,
51:06en fait.
51:07C'est vraiment,
51:07sans rentrer trop
51:08dans la technique,
51:09mais nous,
51:10ce qu'on essaie de faire,
51:12c'est vraiment
51:12de donner le minimum,
51:14en fait,
51:16de droit à un agent,
51:17en fait,
51:17pour qu'il puisse agir
51:18pour la tâche
51:20sur laquelle il est censé agir,
51:21pendant le temps
51:22sur lequel il est censé agir.
51:24Dès que cette mission
51:25est terminée,
51:26on révoque absolument
51:27tous les droits
51:28et donc du coup,
51:28il se retrouve quelque part
51:29avec une identité
51:31vierge qui ne peut pas
51:32être usurpée,
51:32en fait.
51:33Et juste en dernier mot,
51:34comment on prépare
51:34le futur, justement,
51:35parce qu'il y a
51:36la réglementation,
51:36les normes ?
51:37La réglementation
51:38prend déjà,
51:38quelque part,
51:39en compte ce genre
51:39de problématiques
51:40d'identité des agents.
51:41La loi de l'Union européenne
51:43sur l'IA a déjà
51:44fait référence
51:45à ces problématiques.
51:47Et c'est des problématiques
51:48qui vont être assez fondamentales
51:49dans une logique d'audit aussi,
51:50puisque les sociétés
51:52vont devoir reporter
51:53en fait la traçabilité
51:54de leurs agents.
51:55Donc on espère,
51:57en train déjà,
51:58d'anticiper le futur
51:58avec les solutions
51:59qu'on propose.
52:00Eh bien, merci
52:01à tous les trois.
52:02Christophe Escande,
52:02directeur des Verticaux Métiers
52:03chez Idira,
52:05qui est une marque
52:05de Palo Alto Networks.
52:08Fouad Mahach,
52:08directeur de l'architecture
52:10de l'engineering Violla,
52:11merci d'être venu
52:12nous expliquer tout ça.
52:13Ahmed Chaharie,
52:13responsable des équipes
52:14Identity et Access Management
52:15chez Decathlon.
52:16Puis merci à nos autres
52:17invités,
52:18Axel Sipel de LCL,
52:20Samy Sanoun de l'Inserm
52:21et Stéphane Rodeur
52:23de EAI Media,
52:24je n'ai oublié,
52:25Damien Reynal de Palo Alto.
52:26Merci de nous avoir suivis.
52:27On espère qu'on vous a un peu
52:28dépeint tout ce qui se passe
52:29aujourd'hui dans l'IA agentique
52:30avec cet aspect cybersécurité.
52:32C'est ce qu'on voulait
52:33vous exprimer à travers
52:34cette émission,
52:35la confiance à l'heure
52:36des agents IA.
52:37À très bientôt
52:38pour un nouveau programme
52:39sur l'intelligence artificielle
52:40sur BFM Business.
52:41Bonne soirée.
52:44La confiance à l'heure
52:45des agents IA
52:46sur BFM Business.
Commentaires