00:00 Bonjour Nicolas Meyerhofer, bienvenue dans Smartech. Vous êtes le vice-président d'IBM
00:08 France et vous êtes en charge des grands comptes. Précédemment vous avez dirigé l'activité IBM
00:14 Security pour la France, vous avez même été le directeur des ventes IBM Security au niveau
00:20 mondial. On rappelle donc IBM, institution j'ai envie de dire, dans l'informatique et leader du
00:27 cloud géant historique de l'intelligence artificielle. Vous allez pouvoir nous aider à
00:32 répondre à ces questions autour des risques de cyberattaques liés au déploiement des IA
00:36 génératives. Déjà quelle est la réalité de ce risque ? Bonjour Delphine, c'est une excellente
00:42 question. D'abord il faut bien repositionner le débat. Une IA générative, qu'est ce que c'est ?
00:47 C'est un outil. Alors oui c'est un outil extrêmement puissant et comme tout outil, il faut le maîtriser
00:52 si on veut pouvoir en tirer bénéfice. La vraie question qui se pose c'est quel est le niveau de
00:56 maîtrise des IA génératives ? Et malheureusement je suis un petit peu interpellé par les derniers
01:02 chiffres de nos études qui sont un petit peu choquants, donc je vous les partage. Les dirigeants
01:07 qu'on a interrogés récemment nous disent à 94% donc la quasi totalité des dirigeants nous dit
01:13 oui la cyber quand on fait de l'IA générative c'est important. Et puis après on regarde les
01:17 projets et les projets qui partent aujourd'hui et dans les six mois qui viennent, trois quarts n'ont
01:22 aucune composante cyber sécurité intégrée au projet. Donc en clair on marche au bord de la falaise
01:26 en fermant les yeux et en espérant que ça va bien se passer. Est-ce que vous il y a une urgence ?
01:30 Il y a une vraie urgence puisque ça veut dire que les projets qui partent maintenant, à un moment ou
01:35 à un autre, soit seront à risque soit il faudra derrière reconstruire la cyber sécurité par
01:39 dessus ce qui coûte cinq, dix fois plus cher évidemment. D'autant que les risques sont à peu
01:43 près de nature. On peut regarder les risques qui sont liés au fait que les cyber attaquants ont
01:48 maintenant ces outils à disposition et donc du coup ça va plus vite, ça coûte moins cher. Demain si
01:53 je veux poser un code malicieux sur votre sur votre pc ou sur votre téléphone et bien je peux
01:57 peut-être le générer tout simplement, je n'ai même plus besoin de savoir développer. Et puis après il
02:01 y a les risques liés à l'absence de maîtrise de cette IA que je mets dans mon entreprise qui peut
02:04 être de... il y a plein d'exemples tout simplement si demain j'ai une application d'octroi de prêts
02:10 et que le modèle d'IA qui est derrière cette application a été corrompu par un cyber attaquant
02:15 peut-être que je vais octroyer des prêts à absolument tout le monde. Donc là il y a un
02:18 léger impact financier. Si mon chatbot qui va interagir avec mes clients se met à les insulter
02:23 bah j'ai aussi un problème. Voilà donc il y a tous ces risques majeurs auxquels il faut faire face
02:28 maintenant mais comment ? Qu'est ce qu'on a comme outils aujourd'hui pour maîtriser ces risques ?
02:31 Alors heureusement c'est pas encore la fin du monde puisqu'on a des outils. C'est pas la première
02:35 fois qu'on fait de l'IA. L'IA générative n'est qu'une nouvelle instantiation des technologies
02:39 d'IA et donc tout d'abord il faut poser... enfin les dirigeants puisque c'est vraiment un sujet de
02:43 direction à ce niveau doivent se poser au moins trois types de questions. Un, quel est le cadre
02:47 que je mets en place pour l'utilisation de l'IA dans mon entreprise ? Donc là c'est les questions
02:51 de l'éthique de l'entreprise, de ses valeurs, de son cadre réglementaire qui s'applique. Il faut pas
02:55 laisser d'ambiguïté à ce sujet, il faut être extrêmement explicite. Ensuite on se pose la
02:58 question de quelle est la gouvernance de l'IA ? Comment est-ce que je la maîtrise ? Quelle est
03:02 l'organisation et le processus ? Qui fait quoi ? Qui va superviser, créer l'IA dans l'entreprise
03:06 qui est autorisée à le faire ? Et puis après évidemment il y a la question des outils et
03:09 c'est là aussi où on va avoir la question de la cyber. Comment je m'assure que j'ai une plateforme
03:14 d'IA d'entreprise de confiance dans laquelle j'ai toutes mes IA et je peux les suivre, les piloter,
03:19 les mettre en sécurité et les maîtriser. Et alors est-ce qu'il y a des IA génératives plus
03:23 dangereuses que d'autres ? Ben écoutez quand on regarde les modèles en fait les entreprises sont
03:28 amenées à utiliser trois sources de modèles d'IA générative, des modèles qu'ils ont construits
03:32 eux-mêmes très bien, des modèles qu'ils vont acheter auprès d'entreprises comme IBM et puis
03:36 des modèles open source. Et évidemment en fonction de la source, comment ont été créés ces modèles
03:42 et du niveau de documentation, de transparence que l'entreprise a sur l'origine du modèle,
03:46 ces modèles vont être plus ou moins risqués ou plus ou moins sécurisés si vous voulez. Donc
03:50 quel que soit le modèle, il doit passer dans les fourches codines du processus et des outils de
03:54 sécurité de l'entreprise avant d'être utilisé. Chez IBM, il n'y a pas très longtemps d'ailleurs,
04:00 on est assez fier de ça, sorti un modèle qui s'appelle IBM Granite qui est le modèle le plus
04:04 transparent parce qu'il était extrêmement documenté, on a publié où sont les données
04:07 sur lesquelles il a été entraîné, comment ça a été fait, comment on les a sélectionnées. Tout ça
04:11 sont des conditions qui sont nécessaires pour que l'entreprise puisse s'assurer que le modèle est
04:15 maîtrisé et qu'il rentre dans le cadre qui a été défini précédemment. C'est ce que permet aussi
04:19 l'open source. Merci beaucoup Nicolas Meyeroffer, vice-président d'IBM France en charge des grands
04:24 comptes pour vos éclairages sur ces risques cyber liés au déploiement des IA. On continue sur ce
04:29 thème de l'IA générative, on va faire un tour des actus importantes dans le secteur.
Commentaires