- il y a 7 mois
Quand l’IA devient agent, elle gagne en autonomie… et élargit la surface d’attaque. Prompt injection, permissions excessives, automatisation no-code : décryptage des nouveaux risques et des impératifs de gouvernance pour sécuriser l’IA agentique.
Catégorie
🗞
NewsTranscription
00:00A la une de ce talk, on va parler de la sécurité des IA, des IA agentiques, donc des agents IA.
00:10Pour en parler autour de la table, trois experts.
00:13Thiebaud Meyer, directeur des stratégies de sécurité chez Google Cloud,
00:17qui a commencé sa carrière à l'ANSI, puis à l'Assemblée Nationale comme ingénieur sécurité,
00:21avant d'occuper les fonctions de RSSI, DPO.
00:24Il a également été responsable de la cybersécurité à la présidence de la République
00:28et a travaillé à la Banque de France sur les enjeux liés à la régulation bancaire.
00:34À côté, Bernard Montel, directeur technique terrain, évangéliste cybersécurité chez Tenebol,
00:40une entreprise de la cyber évidemment, spécialiste de la gestion de l'exposition aux risques cyber,
00:47titulaire d'un master of science en réseau et sécurité et d'un master 2 en intelligence artificielle.
00:51Aujourd'hui, c'est important que je le précise, plus de 20 ans d'expérience dans le secteur de la sécurité avec tout ça.
00:56Et puis Alain Issarni également avec nous, qui a occupé le poste de DSI à la Direction Générale des Impôts,
01:02la Direction Générale des Finances Publiques, la Caisse Nationale d'Assurance Maladie.
01:07Il a également été le président exécutif de NumSpot, qu'on connaît tous pour être l'initiative Consortium,
01:13un consortium en fait pour faire émerger un cloud français souverain.
01:17Et aujourd'hui, Alain est directeur général de SIAM, Société de Conseil en Innovation et Transformation des Organisations.
01:23Alors, je voulais commencer avec l'étude de Tonable Research.
01:27Je ne sais pas si vous en avez pris connaissance, évidemment,
01:30mais c'est intéressant parce que c'est un cas d'étude qui a été mené avec Microsoft Copilot Studio
01:37pour créer un agent de voyage automatisé qui va être chargé de gérer les réservations clients
01:43à partir des données personnelles et bancaires fictives d'utilisateurs.
01:48Alors, il faut nous raconter ce qui s'est passé.
01:49Eh bien, on a une équipe de recherche qui a voulu voir un petit peu comment on pouvait détourner un agent IA.
01:57Alors, on a créé une fausse agence de voyage.
02:00Ce n'est pas pour aller chercher des informations sur des...
02:03Tout à fait, fausse utilisateur, fausse agence de voyage.
02:04Exactement.
02:05On a utilisé...
02:05Les vrais agents IA.
02:06Les vrais agents IA développés avec ce qu'on appelle du no code.
02:09C'est-à-dire qu'en fait, on n'a pas de développeur, on fait du prompt et on instancie du coup un agent IA pour pouvoir faire des réservations.
02:17Alors, qu'est-ce qui se passe ?
02:19Alors, on a utilisé l'un des risques majeurs sur l'IA, ce qu'on appelle l'injection de prompt.
02:26Ça veut dire quoi ?
02:26Ça veut dire qu'en fait, on va parler à l'agent et on va essayer de le détourner.
02:31On va essayer de lui donner des instructions et non pas de l'utiliser comme si on était un simple utilisateur.
02:37Et c'est ce qu'a fait notre équipe de recherche.
02:39Et c'est ce qu'elle a fait facilement ?
02:41Elle a fait ça assez facilement.
02:42Alors, tout est documenté, tout est public.
02:44Vous pouvez voir que très rapidement...
02:47Alors, l'agent a été d'abord créé avec des instructions, puisque c'est du prompt à 100%, pas de code.
02:54Et parmi ces instructions, on a aussi des instructions de sécurité.
02:57Attention, si quelqu'un te demande quelque chose, vérifie d'abord l'identité.
03:01« Surtout, ne remonte pas des informations d'un autre client. »
03:07D'accord ?
03:07Et en forçant un peu la main à l'agent, on y est arrivé.
03:11Notre équipe lui a demandé...
03:13En fait, plus précisément, normalement, il a été programmé avec une instruction pour remonter une information.
03:20L'agent a détourné cette limite en faisant une boucle et en remontant plus d'informations.
03:25Et donc, c'est comme ça que l'utilisateur a pu avoir, par exemple, le numéro de carte bancaire
03:29et les détails des autres réservations des autres clients.
03:34Et on est allé même jusqu'à réserver une chambre gratuite.
03:37Donc, ça, ça pose un peu le contexte de notre discussion.
03:42Ça fait un petit peu froid dans le dos.
03:44Donc, on se dit « Ouh là là, c'est si facile que ça, finalement, de manipuler des agents IA ? »
03:50Je passe la main.
03:52Alors, en effet, les agents IA ont présenté des menaces.
03:54Alors, on vient de parler de l'injection de promptes qui existe aussi sur les modèles.
03:57Et donc, évidemment, ces agents qui s'appuient sur des modèles lorsqu'elles ont besoin de lancer des actions,
04:02faire l'appel à des outils extérieurs, sont aussi, on va dire, exposés à ces menaces.
04:07Les agents sont aussi exposés, par exemple, aux menaces d'hallucination du modèle sous-jacent.
04:12Donc, il y a aussi ce risque-là.
04:15Voilà tout ce qui est interprétation des données.
04:19Encore une fois, les agents vont agir pour le compte d'un utilisateur
04:22ou pour le compte d'une organisation sur des outils externes.
04:25Donc, il faut être extrêmement attentif à tout ce qui est permission, droit d'accès,
04:29avoir vraiment des contrôles qui permettent de mesurer et de canaliser les actions de ces agents.
04:38Et puis, surtout, de pouvoir les surveiller.
04:41Parce que là aussi, dans l'expérience menée par Tenable Research,
04:45c'était sur un outil, vous l'avez précisé, no-code.
04:47C'est-à-dire, une manière assez simple de fabriquer un agent IA.
04:51Est-ce que ça veut dire que ça représente plus de risques
04:53quand on passe par une plateforme comme celle-là ?
04:57Alors, pas forcément celle-là.
04:58On n'a rien contre cette plateforme en particulier.
05:01Non, non, la plateforme no-code.
05:02Oui, la réponse est oui.
05:03Tout simplement pour deux raisons.
05:05La première, c'est qu'à partir du moment où on utilise un système
05:11où on n'a aucune expertise, finalement, dans le code qui va être généré,
05:14ces plateformes peuvent générer des codes avec des vulnérabilités
05:18ou des problèmes de configuration.
05:21Donc, quand on n'est pas du tout expert
05:22et qu'on utilise juste du prompt pour faire du no-code,
05:26eh bien, on a peu de possibilités, finalement,
05:29un, de comprendre ce code, puisqu'on n'est pas du tout expert,
05:33et deux, évidemment, de le fixer
05:34si on a des problèmes de configuration ou de vulnérabilité.
05:37Et c'est ce qu'on a mis en exergue.
05:39Alors, Alain, vous représentez un peu les DSI, je veux le dire.
05:43Je vais essayer de me souvenir de mon ancienne casquette.
05:45C'est des années d'expertise que je compte sur vous pour m'éclairer.
05:48Au sein d'une DSI, est-ce qu'aujourd'hui, l'arrivée d'IA agentique,
05:53ça peut être une source d'angoisse ?
05:55Alors, l'IA, en général, est une source d'angoisse.
05:58Donc, on parle de l'agentique.
05:59Il faut savoir que l'agentique, en fait,
06:01souffre de toutes les difficultés et les risques de l'IA générative.
06:06Sauf que c'est juste démultiplié au nombre d'agents que l'on peut y mettre.
06:09Alors, la DSI, en fait, on parle de l'état de l'art.
06:14Les DSI sont souvent très loin de cet état de l'art.
06:18L'IA agentique, qui le fait réellement ?
06:20Je pense qu'il n'y en a pas beaucoup.
06:22Et en fait, la difficulté, c'est que le DSI est tiraillé.
06:25L'IA, c'est qu'il faut absolument faire de l'IA au sein d'une DSI,
06:29au sein d'une entreprise.
06:30Il faut y aller.
06:31Et donc, on vend, entre guillemets, du rêve.
06:34On dit qu'il faut faire énormément de choses et il faut y aller.
06:36Et oui, c'est une angoisse.
06:37Parce qu'en fait, ça va très vite.
06:41C'est difficile à maîtriser.
06:42Et on multiplie la surface de risque et la surface d'attaque.
06:46Quand on parle d'IA agentique, en fait,
06:48on multiplie la surface d'attaque.
06:50Tous ces agents-là, en fait, ont autant de pouvoirs possibles
06:53pour venir attaquer le système d'information
06:55au taux de choses à essayer de régler et de réguler.
06:59Sur quelque chose qu'on ne connaît pas encore très bien.
07:02Voilà, c'est ça, en fait.
07:04Les DSI peuvent se retrouver un peu en débutant
07:08cette nouvelle solution.
07:10En gros, tout le monde, aujourd'hui, sur l'IA,
07:12a fait ce que l'on appelle le CQ-GPT.
07:14Vous voyez ce que je veux dire.
07:15C'est le tchat GPT, mais sécurisé,
07:18parce qu'on dit qu'on ne peut pas faire confiance,
07:19on ne veut pas mettre des données.
07:20On en fait en interne.
07:21Du coup, tous les utilisateurs râlent en disant
07:24que finalement, il est nul.
07:25Et du coup, récemment, il y a deux exemples
07:27d'abandon de CQ-GPT.
07:29Et je pense que vous l'avez vu,
07:30la Société Générale a annoncé
07:32de passer de leur SG-GPT à Copilot, je crois.
07:36S-O-G-PT.
07:38S-O-G-PT.
07:39Ah oui, pardon.
07:39Et je comprends qu'Albert est en passe plutôt d'être arrêté aussi.
07:46Albert, l'IA pour les services publics.
07:51Donc, oui, tout le monde a essayé de faire cela,
07:55mais ça va extrêmement vite, même en faisant ça.
07:57En fait, deux ans après, c'est dépassé.
07:59Il faut passer à autre chose.
08:01L'IA agentique, en fait, c'est tout nouveau.
08:06L'IA générative, c'est quoi ?
08:08C'est octobre 2022 ?
08:10L'IA agentique, où les principes, en fait,
08:12sont beaucoup plus récents que ça.
08:15Ce qu'on appelle MCP,
08:16et je ne vais pas rentrer dans la technique,
08:19parce que je ne suis pas le meilleur technicien là-dessus.
08:21En gros, ce que l'on a appelé la prise USB-C
08:24de toutes les IA génératives
08:27pour pouvoir les connecter un peu partout.
08:29Ça, ça date d'octobre 2024.
08:31Anthropique qui sort ça.
08:33On parle d'un protocole.
08:34Aujourd'hui, c'est un protocole de fait,
08:35mais ce n'est pas un vrai protocole.
08:37En avril 2025,
08:39donc c'est Google qui sort A2A.
08:42C'est comment faire dialoguer des agents entre agents.
08:46Donc là, on est il y a moins d'un an.
08:48Oui, c'est sûr. Tout ça est très récent.
08:50Et la semaine dernière, Google a annoncé,
08:52comment ça s'appelle ?
08:52UCP.
08:53UCP.
08:54Un personnel commerce protocole.
08:57Exactement.
08:57C'est le commerce agentique.
08:59Ça fait un peu froid dans le dos.
09:00Si j'ai bien compris,
09:01c'est comment désintermédier tous les acteurs de vente
09:05et puis acheter vis-à-vis de Google.
09:08Donc ça, ça attire une petite lumière un peu différente.
09:12J'allais dire le sujet de dépendance
09:14qui est un autre sujet
09:15et dont on pourrait parler.
09:18Donc ça peut potentiellement créer une dépendance énorme.
09:22Mais ce que je veux dire par là,
09:22c'est qu'en fait,
09:23on est en pleine explosion.
09:27Tout est en train de changer à longueur de temps.
09:30Les plus avancés,
09:31que ce soit Google ou d'autres acteurs,
09:33en fait, avancent très vite
09:34et créent des choses.
09:37Mais la DSI,
09:38elle est juste très très loin de ces sujets-là.
09:41Et pourtant,
09:44elle ne peut pas faire l'économie de s'y mettre.
09:47Elle est obligée.
09:47Quelle est justement la vision de la sécurité des agents IA de Google
09:57qui est particulièrement en avance sur ce sujet ?
10:01Déjà, en effet, c'est un domaine qui avance très vite,
10:04qui évolue très vite.
10:05Et donc, voilà, c'est un cadre aussi de sécurité qui évolue.
10:10D'abord, j'aimerais rappeler ce que disait Bernard.
10:12En effet, un agent, ça reste du code.
10:15Donc, il ne faut pas oublier toutes les bonnes pratiques
10:16que l'on avait employées depuis 10-15 ans maintenant
10:19sur la sécurité du code.
10:21Donc, les revues de code,
10:22faire du code propre, sécurisé,
10:24parce que c'est aussi un moyen
10:27de contourner les contrôles de sécurité
10:30et de faire faire à l'agent
10:33des actions potentiellement malveillantes.
10:35Donc, ça, c'est une première partie.
10:37C'est garder ce qu'on parlait de l'état de l'art.
10:39Pas croire aux baguettes magiques.
10:40Voilà, ce n'est pas magique.
10:41Ça reste du code.
10:42Et donc, il faut aussi travailler sur la sécurité.
10:46Travailler aussi sur tout ce qui est autour,
10:48la sécurité de l'infrastructure.
10:49On parle d'échanges de données.
10:51Donc, il faut sécuriser ces échanges de données.
10:52Aussi bien les données d'entraînement
10:54qui vont servir pour entraîner les modèles
10:57qu'ensuite les données d'utilisateurs
10:59qui vont alimenter ces agents et leurs réponses.
11:06Donc, toute cette sécurité
11:07qui tourne autour de l'environnement des agents
11:09doit être importante.
11:11Et puis ensuite, tout ce qui est aussi supervision humaine.
11:13On l'a dit, il peut y avoir des hallucinations,
11:14il peut y avoir des contournements
11:15de contrôle de sécurité
11:16qui sont construits dans ces agents.
11:19Il faut qu'il y ait une supervision.
11:21Alors, soit une supervision faite,
11:23on va dire, probabilistique par d'autres agents
11:25qui jouent un peu le rôle de gardien,
11:27soit une supervision et des contrôles
11:30plus déterministes en dur
11:32où on dit, ben voilà,
11:33telle action est interdite quoi qu'il arrive
11:34et on bloque l'agent sur certaines de ces actions.
11:38Il faut garder la main, en fait, la maîtrise.
11:41Est-ce que, parce qu'on parle de surface d'attaque
11:43qui augmente finalement à mesure
11:45qu'on laisse davantage finalement
11:47d'outils numériques et informatiques
11:49prendre la main sur des actions,
11:51est-ce que vous diriez que ce sont
11:52des menaces maintenant invisibles
11:54qu'on va avoir davantage de difficultés
11:56à les identifier ?
11:58Pour reprendre ce que vous disiez,
12:00on est en pleine explosion,
12:02on est en pleine exposition.
12:04Je pense qu'aujourd'hui,
12:06ça va tellement vite.
12:08Je pense qu'un des mots clés
12:09de l'IA au sens large
12:11et des agents IA qui arrivent à vitesse,
12:14grand V, c'est vraiment le mot vitesse.
12:16Le métier demande d'aller très très vite,
12:19ce qui fait qu'on va utiliser des outils
12:21qui sont le plus simples possible
12:22pour mettre en place.
12:24Donc, ça explose, ça part partout.
12:27Et cette surface d'attaque,
12:29eh bien, elle est exponentielle,
12:32tout simplement parce qu'elle est exposée
12:34de manière beaucoup plus rapide qu'auparavant.
12:36On n'a pas le temps de voir arriver
12:38un projet qui a été développé sans code
12:40qu'on ait déjà exposé.
12:43Mais si on décide quand même
12:46de faire attention,
12:47de ne pas aller trop vite,
12:49de créer des contrôles,
12:52est-ce que la menace sera forcément visible ?
12:54Est-ce que les agents ne risquent pas
12:55de masquer finalement des attaques,
12:57des menaces ?
12:58Créant des couches,
13:01finalement des sous-couches d'action
13:02sur lesquelles je n'ai plus tellement de vues ?
13:05Je pense que cela aussi,
13:06c'est le rôle de ces cadres de sécurité,
13:08de ces mesures,
13:09qui doivent prendre en compte
13:11la visibilité des actions,
13:14tout ce qui est monitoring,
13:15tout ce qui est, voilà,
13:16pour être capable de surveiller.
13:17C'est-à-dire qu'il y ait des alertes,
13:18en fait, après chaque action ?
13:20Exactement.
13:21Et ça, c'est possible.
13:22Oui, lorsque l'on enregistre
13:23les actions d'utilisateurs
13:24pour vérifier qu'il n'y a pas
13:25d'actions malveillantes
13:26qui se glissent dans, voilà,
13:29dans toutes les actions légitimes
13:31d'une organisation,
13:32il faut faire la même chose,
13:33cette même démarche,
13:34avec les agents,
13:35vérifier que les actions
13:37qui font que l'identité
13:38qu'ils occupent,
13:39que les permissions qu'ils ont
13:40sont bien restreintes.
13:42Voilà, toutes les...
13:42C'est un nouveau champ
13:43de la cyber, finalement,
13:44aussi, qui va se développer ?
13:46Vous voyez ça comme ça ?
13:48C'est un nouveau champ
13:51dans la surface d'attaque.
13:52On a eu les réseaux...
13:54Mais du côté des protections,
13:55du côté des solutions ?
13:56Ah oui, tout à fait.
13:57C'est surtout une évolution,
13:58je pense, du périmètre.
13:59Oui.
14:00Parce qu'on reste aussi
14:00sur des principes assez fondamentaux,
14:02le principe du moindre privilège
14:03lorsqu'on parle d'agents,
14:05on parlait de la sécurité du code,
14:06vous avez parlé, là,
14:07dans notre première interview
14:08avec Laurent Verdier,
14:10des attaques en déni de service,
14:11ça peut aussi arriver
14:11sur les agents,
14:13sur les modèles d'IA.
14:14Donc voilà,
14:15on ne réinvente pas forcément tout,
14:16mais en tout cas,
14:17on fait évoluer le périmètre,
14:18c'est ce qu'on disait,
14:18c'est voilà,
14:19la surface d'attaque augmente.
14:20D'accord.
14:20Aujourd'hui, il existe des technologies,
14:23chez nous,
14:23chez Tenable,
14:24on a une technologie spécialisée là-dedans,
14:26on va regarder,
14:27en fait,
14:27le comportement
14:28de l'activité IA
14:29dans une entreprise
14:30et de l'activité des agents.
14:32On est capable de voir
14:33qu'un agent va commencer
14:34à faire des activités
14:36qu'il ne devrait pas faire
14:37suite à la mise en place
14:38d'une politique
14:39qu'on a définie.
14:40Donc,
14:41il faut identifier
14:41où sont les agents,
14:43ce qu'ils font
14:44et placer des contrôles,
14:45en fait,
14:46un petit peu partout.
14:47Quelles seraient
14:47les recommandations
14:48qu'on pourrait faire,
14:49justement,
14:49une DSI
14:50à qui on demande
14:51d'accélérer
14:51sur l'IA agentique ?
14:53Oui, oui,
14:53mais déjà,
14:54pour répondre à la question,
14:55est-ce que c'est un niveau
14:56modèle cyber ou autre ?
14:59Je ne sais pas
14:59si c'est un nouveau modèle,
15:01mais en tout cas,
15:01c'est beaucoup plus évolué.
15:04Ça a été évoqué tout à l'heure,
15:05je crois,
15:06dans la précédente interview,
15:07c'est,
15:07on sait,
15:08les fuites de données
15:092025
15:10qui ont battu
15:10tous les records.
15:11Catastrophique, oui.
15:12Et en fait,
15:13c'est quoi ?
15:14Bien souvent,
15:15en fait,
15:15c'est des comptes
15:16à privilèges fonctionnels,
15:17ce que j'appelle
15:18des comptes à privilèges
15:19à fonctionnels,
15:20c'est-à-dire que quelqu'un
15:20légitimement
15:22a les droits
15:23d'accéder
15:23à une base énorme.
15:25Et là,
15:26on n'est même pas
15:27sur l'IA agentique.
15:28Non.
15:28Mais même déjà cela,
15:30ce que l'on constate,
15:32c'est que le niveau
15:33de maturité
15:34qui peut exister
15:35ici ou là
15:35rend l'exercice
15:37compliqué
15:38pour détecter
15:39des exfiltrations
15:40de données
15:41via
15:42ces accès
15:43fonctionnels
15:44à privilèges.
15:45Pratiquement
15:46toutes les entreprises
15:47ont des accès
15:48fonctionnels à privilèges.
15:49Ce que j'appelle
15:50des accès fonctionnels
15:50à privilèges,
15:51c'est avoir la possibilité
15:52d'accéder
15:53en fait
15:53à toutes les données
15:55de la maison,
15:56de l'entreprise.
15:58Vous avez un helpdesk,
15:59par exemple,
16:00quand vous l'appelez,
16:00il ne sait pas
16:01que c'est vous
16:01qui vous présentez,
16:03il faut qu'il accède
16:04à toute la base
16:04pour trouver votre fiche.
16:06Donc,
16:06c'est fonctionnellement
16:07normal
16:08qu'il y ait
16:08des accès
16:09à privilèges.
16:10Et ces comptes-là
16:11doivent faire l'objet
16:12d'une sécurisation énorme.
16:13On le sait depuis des années,
16:16on constate néanmoins
16:17qu'il y a des fuites
16:17de données
16:18qui sont considérables.
16:20Et bien souvent,
16:21c'est à cause de cela.
16:22Donc,
16:22on peut dire,
16:22bah oui,
16:23mais ce que je vais dire,
16:24c'est que la maturité
16:25est telle que même déjà
16:26sur ces sujets-là,
16:27c'est compliqué.
16:29Demain,
16:30avec l'IA agentique,
16:31ou aujourd'hui
16:31avec l'IA agentique,
16:33en fait,
16:33c'est la même chose.
16:33C'est-à-dire que potentiellement,
16:35l'IA agentique,
16:36en fait,
16:36en tant que des privilèges
16:37qui sont beaucoup plus grands,
16:38qui peuvent accéder
16:39à des bases de données
16:41et faire potentiellement
16:42la même chose.
16:44Donc,
16:44oui,
16:45il y a toujours
16:45des bonnes pratiques
16:46qui consistent à surveiller
16:47pour savoir
16:49ce qui est fait
16:50ou ce qui n'est pas fait,
16:52mais l'exercice
16:53est malgré tout
16:53extrêmement compliqué
16:55pour distinguer
16:56ce qui relève
16:57d'une sollicitation normale
16:59que d'une sollicitation
17:01de type
17:01exfiltration des données.
17:03Est-ce qu'on a identifié
17:04les principales vulnérabilités
17:06avec l'IA agentique ?
17:07Est-ce que c'est les mêmes
17:08que celles qu'on connaît
17:09jusqu'ici ?
17:11Alors,
17:12elles sont globalement les mêmes.
17:14Elles sont globalement les mêmes.
17:15C'est des vulnérabilités
17:16et des problèmes de configuration.
17:17Mais j'aimerais revenir
17:17sur ce que vous disiez
17:18sur la partie identité.
17:21Aujourd'hui,
17:22des identités non humaines,
17:23c'est-à-dire techniques,
17:24applicatives,
17:26c'est un ratio
17:26de 80 pour 1.
17:28C'est-à-dire 80 non humains
17:29pour une identité,
17:31la nôtre, humaine.
17:33D'accord.
17:33Il y a une quinzaine d'années,
17:34c'était 10 pour 1.
17:35Oui.
17:35Donc, en fait,
17:36ça, c'est une vulnérabilité.
17:37Donc, si on regarde bien,
17:39l'IA et l'IA agentique,
17:41c'est une technologie comme une autre.
17:42C'est ce que tu disais tout à l'heure
17:43sur revenir à l'essentiel,
17:46revenir aux basiques.
17:47Il faut regarder les vulnérabilités,
17:49il faut regarder les problèmes
17:50de configuration
17:51et surtout les problèmes d'identité,
17:53sachant qu'elles sont plus complexes
17:54et qu'elles peuvent aller plus loin,
17:56particulièrement avec l'IA agentique.
17:58Et on dispose aussi maintenant
17:59de plus en plus de guides aussi,
18:00de cadres de sécurité
18:02qui visent spécifiquement
18:04les systèmes d'IA
18:05et même les agents d'IA.
18:06Alors, on en a publié un chez Google,
18:08le NIST en a sorti un,
18:09l'ANSI a fait un guide également
18:10sur la sécurité
18:13pour le déploiement
18:14de systèmes d'IA.
18:15Donc, voilà,
18:15on a aussi des risques spécifiques
18:16à l'IA,
18:17maintenant qu'on sait mieux adresser.
18:19Les organisations doivent faire
18:20cette analyse de risque.
18:21En effet,
18:21vous parliez de cartographie,
18:23c'est exactement ça,
18:23comprendre les risques
18:24et investir là où les risques
18:26ont le plus fort impact.
18:27Très rapidement,
18:29pour savoir,
18:29en recommandation de DSI.
18:31C'est le mot de la fin.
18:32Oui, il y a plusieurs dimensions.
18:33Il y a les cas d'usage,
18:34on va faire de l'IA,
18:36mais les DSI doivent s'emparer
18:37des sujets plus techniques.
18:39La façon d'interconnecter
18:41tous ces modèles
18:41à son système d'information,
18:43comment régler tout ça
18:44pour éviter d'avoir demain
18:45un patchwork.
18:46Il est absolument indispensable
18:48de créer des patterns
18:49d'architecture
18:50pour savoir comment on va
18:51connecter ces agents IA
18:53et voir comment on va réguler
18:55et mieux surveiller
18:56ce que peuvent faire ces...
18:58L'IA et l'IA agentique
18:59ne remplacera pas le DSI.
19:01Oh là là,
19:01au contraire,
19:01ça va lui donner
19:02beaucoup plus de travail.
19:03Ni le RSSI.
19:04Ni le RSSI, absolument.
19:06Merci beaucoup
19:06à tous les trois.
19:07Thiebaud Meyer,
19:08directeur des stratégies
19:09de sécurité
19:09chez Google Cloud,
19:10Bernard Montel,
19:11directeur technique,
19:12terrain, évangéliste,
19:13cybersécurité
19:14chez Tenable
19:15et Alain Issarni,
19:16le directeur général de Siam.
19:17Merci encore à tous les trois.
19:19Nous, on enchaîne
19:20avec la question
19:21des logiciels de gestion
19:22des risques.
19:23Merci.
Commentaires