00:00Avec Sylvain Duranton, bonjour et bienvenue.
00:03Merci d'être avec nous ce matin sur le plateau de BFM Business.
00:06Vous êtes directeur Monde de BCGX, c'est-à-dire que vous dirigez la branche de BCG
00:10qui est consacrée à la construction technologique et à l'IA.
00:13Et vous avez annoncé en février un partenariat renforcé avec OpenAI.
00:17Alors Elon Musk, les dirigeants d'OpenAI, d'Enthropic, ont alerté sur les risques de leur modèle
00:23avec une perte de contrôle possible, pas dans très longtemps, dans 6 à 12 mois.
00:29Est-ce que le modèle est en train de nous échapper ?
00:32Alors je pense qu'il faut prendre un petit peu de recul par rapport à tous les incidents qui ont
00:36eu lieu récemment.
00:37On a eu effectivement plusieurs incidents qui se sont produits.
00:40Celui dont on a le plus parlé, c'est Hugging Face et les modèles d'OpenAI qui ont attaqué Hugging
00:45Face.
00:46Ce sont avant tout des expérimentations de laboratoire avec des modèles les plus puissants
00:52à qui on demandait de faire des choses très complexes et très ouvertes
00:55qui finalement se sont révélées hors de contrôle.
00:57Je pense que la première chose à dire, c'est que beaucoup de modèles ont été déployés dans les entreprises
01:01aujourd'hui.
01:02Ce qui a été déployé, ce n'est pas des agents qui d'un seul coup vont se retourner contre
01:07l'entreprise
01:07et faire des choses horribles.
01:08Je pense que ce qui a été déployé est assez sûr jusqu'à aujourd'hui
01:13parce qu'on n'a pas déployé d'agents autonomes.
01:15On a déployé des choses beaucoup plus simples en entreprise.
01:18Maintenant, ces modèles vont devenir de plus en plus puissants.
01:21Notamment aujourd'hui à court terme, le risque, c'est beaucoup plus les attaques cybersécurité associées à ces modèles hyper
01:27puissants
01:28plutôt que les modèles déjà déployés qui se mettent à attaquer ou à faire des choses non voulues au sein
01:35des entreprises.
01:36Mais pourtant, quand on regarde en juillet déjà, OpenAI disait que ces modèles avaient contourné les barrières
01:41qui étaient censées les isoler d'Internet et qu'ils ont même obtenu des droits qui étaient équivalents à ceux
01:46des administrateurs.
01:47Donc c'est bien que là, ils ont pris le pouvoir ?
01:49Oui, tout à fait.
01:50Mais on était dans un cadre où ils ont pris un modèle auquel ils ont demandé d'attaquer virtuellement.
01:56Et il l'a fait.
01:57Il l'a fait en n'appliquant pas certains des garde-fous qui étaient appuyés.
02:02Mais aujourd'hui, on a d'autres situations où les garde-fous ne sont pas systématiquement respectés par ces modèles.
02:08Et on le sait.
02:09Alors là, ça a pris une ampleur particulière vu ce qui avait été fait.
02:11Mais aujourd'hui, pour toute entreprise qui utilise ces modèles,
02:14il y a un gros enjeu de se dire comment est-ce que je m'assure que je suis sécurisé.
02:18Et c'est là qu'est, à mon avis, l'enjeu le plus important.
02:22On a aujourd'hui à peu près 40% des entreprises qui nous disent
02:25moi je veux absolument arriver d'ici 2030 à avoir de la prise de décision autonome.
02:30Et quand on regarde ce qui est mis en place aujourd'hui dans les entreprises,
02:33comme garde-fous, au-delà de ce qui est déjà inclus dans les modèles,
02:36on est loin du compte.
02:38Et donc il y a un gros enjeu aujourd'hui de se dire ce que vous disiez,
02:41comment est-ce que je gère les accès,
02:42comment est-ce que je surveille ce que font les modèles,
02:45comment est-ce que je vérifie s'il y a des dérives ou s'il n'y a pas des
02:47dérives.
02:48Et là, il y a un énorme travail à faire pour les entreprises dans les années qui viennent
02:51si elles souhaitent déployer des agents qui sont quasi autonomes.
02:56Alors est-ce qu'il faut une supervision indépendante,
03:00donc avec OpenAI ou Anthropy,
03:03qui ferait les règles quand même, parce que c'est ce qu'ils demandent,
03:06mais il y aurait cette supervision qui pourrait gérer ça d'en haut ?
03:12Alors aujourd'hui, oui, il y a beaucoup d'idées en se disant,
03:15il faudrait qu'il y ait plus de coopération,
03:17il faudrait qu'il y ait une autorité un peu comme la FDA pour le médicament
03:20ou ce qui est fait dans le domaine de l'aérien,
03:22où chaque incident est investigué par un gendarme indépendant.
03:25Il y a des idées de loi comme le Kill Switch Act,
03:28dont on est en train de parler aux États-Unis.
03:30Donc effectivement, il y a une recherche un petit peu pour se dire,
03:32mais dans cette course à l'IA, comment est-ce qu'on est un peu plus prudent ?
03:35Là-dessus, je pense qu'il y a déjà pas mal de réglementations
03:38qui ont été mises en place, de chartes, etc.
03:41Il y a une refocalisation à faire,
03:44parce que tout le discours jusqu'à maintenant,
03:46et même dans le EU AI Act, c'était beaucoup sur
03:49il faut absolument qu'on fasse des choses qui ne mettent pas en péril,
03:52qui ne soient pas mauvaises pour les citoyens, pour les consommateurs,
03:55donc on protégeait les consommateurs en s'assurant
03:57qu'on n'allait pas demander à l'IA de faire des choses
03:59qui soient « malignes ».
04:01Je pense qu'il y a une refocalisation à faire
04:03autour de toute cette réglementation sur
04:06comment est-ce qu'on s'assure que ce qu'on fait, c'est robuste.
04:09Si on prend l'aérien,
04:10on ne se demande pas si c'est bien ou pas
04:12de faire voler des avions d'ici ou là.
04:14En revanche, on s'assure que c'est fait en sécurité.
04:16Et là, je pense qu'il y a une petite refocalisation
04:18à faire de tout le monde.
04:20Maintenant, l'idée d'un gendarme,
04:22ou peut-être de standard, moi je crois beaucoup au standard,
04:24l'idée de la collaboration.
04:25Des normes, vous voulez dire ?
04:26Des normes qui peuvent être faites,
04:28qui peuvent venir des entreprises,
04:29qui peuvent venir du régulateur.
04:30Je pense qu'on y viendra.
04:32On est sur une technologie aujourd'hui qui va très vite.
04:34On parle beaucoup de pause.
04:36Il y a une question sur la pause de la recherche.
04:38Je pense que c'est difficile de ralentir la recherche.
04:41Marc Zuckerberg est contre, par exemple.
04:43Oui, et puis d'autres peut-être continueront.
04:45Il y a aussi des enjeux géopolitiques qui sont importants.
04:48C'est ce que dit Donald Trump.
04:49Il dit que si nous, on ne le fait pas,
04:51c'est la Chine qui va le faire.
04:52Il a raison de ce point de là ?
04:53Il y a la recherche où là, il y a une vraie course.
04:55Je pense qu'aujourd'hui,
04:57on a aussi des modèles qui sont publiés très souvent.
05:00On a une espèce de course au modèle qui sera le plus puissant.
05:03Et tous les six mois, les modèles changent, etc.
05:05Et là, ça va peut-être un peu vite.
05:07C'est-à-dire que pour les entreprises,
05:09absorber ces changements de modèles,
05:10voir ce que ça change pour elles,
05:12pour ce qu'elles ont programmé,
05:13pour la performance de ces modèles,
05:16là, on va peut-être un petit peu vite.
05:17Et les entreprises qui mesurent d'ailleurs
05:19la performance de leurs agents
05:21voient que dès qu'un nouveau modèle est déployé,
05:24en fait, la performance change.
05:26Il faut retravailler.
05:27Il faut peut-être un peu plus de prudence
05:29sur le rythme de publication de ces modèles.
05:32D'ailleurs, le dernier modèle Mythos,
05:35avant sa publication,
05:37on a l'initiative Glasswing,
05:38où beaucoup d'entreprises le testent
05:40pour voir ce que ça peut vouloir dire,
05:41l'impact sur la cybersécurité.
05:43Je pense que ça, c'est des initiatives
05:45qui vont aider à freiner un petit peu la machine.
05:48Est-ce que vous, avec les entreprises
05:50avec lesquelles vous travaillez,
05:51vous pouvez leur dire que vous leur apportez
05:53toutes les garanties,
05:54la confidentialité de ces données
05:56et qu'elle est complètement assurée à 100% ?
06:00Alors, le assuré à 100% dans ce domaine-là,
06:03il est difficile à dire,
06:04mais par contre, on travaille avec des entreprises
06:05qui ont, par exemple, accès à Mythos.
06:08Mythos permet de révéler tout un tas de failles,
06:10en fait, dans leur cybersécurité
06:13et on les aide à remédier toutes ces failles.
06:16Donc, aujourd'hui, il y a un gros effort
06:18qui est fait par beaucoup d'entreprises
06:19sur sécuriser leur cybersécurité
06:22parce que c'est le sujet le plus important à court terme
06:24et le pilotage de leurs agents internes.
06:27Et ça, c'est des choses qu'on fait.
06:28Alors, on peut toujours dire,
06:29est-ce qu'on est à 100% sûrs que ?
06:31Je ne suis pas sûr que le 100% existe dans ce domaine,
06:34mais je ne suis pas sûr qu'il existe
06:35dans beaucoup d'autres domaines non plus.
06:37Vous, vous avez développé des applications
06:38hier argentiques pour les entreprises.
06:40Est-ce que vous savez combien d'emplois
06:42vous avez supprimés
06:43ou combien d'embauches n'ont pas été réalisées ?
06:46Alors, il y a plusieurs choses sur ce sujet.
06:48Donc, il y a ce qu'on fait,
06:49mais enfin, ce n'est pas statistiquement très représentatif.
06:51On a fait une grosse étude
06:53où on a pris l'ensemble des emplois aux États-Unis
06:56pour voir leur degré d'exposition à l'IA d'ici 2030.
07:00Et entre les métiers très peu exposés,
07:02moyennement exposés, très exposés,
07:04sur l'économie américaine,
07:05on arrive à quelque chose de l'ordre de 10 à 15% des emplois
07:09qui seraient remplacés d'ici à 2030
07:11avec les technologies actuelles.
07:13Donc, on n'est pas dans le tsunami,
07:14il n'y a plus d'emplois,
07:15mais c'est très significatif.
07:17Et on a interrogé plus de 10 000 entreprises récemment
07:21en leur posant la même question.
07:22Qu'est-ce que vous voyez ?
07:23Et en fait, c'est assez cohérent.
07:24Les entreprises disent,
07:25en gros, on imagine quand même
07:27dans notre emploi actuel,
07:2810 à 15% des métiers qui vont disparaître.
07:31Et c'est les juniors qui trinquent en premier ?
07:32Alors, non.
07:34L'idée, c'est beaucoup de se dire
07:35les juniors vont trinquer
07:36parce que les seniors, avec un peu d'IA,
07:38ils n'ont plus besoin de juniors.
07:39En fait, non.
07:40Ce qu'on voit statistiquement,
07:42c'est que c'est plutôt les niveaux de management intermédiaire
07:45qui sont le plus sous pression.
07:48Quels sont les conseils sur l'utilisation de l'IA
07:51que vous donnez à vos entreprises clientes ?
07:53Alors, les conseils qu'on donne,
07:54c'est deux choses.
07:55D'être très ciblé sur ce qu'on fait.
07:57Je pense qu'il ne faut pas laisser trop l'IA,
08:00faire trop de choses avec de l'IA,
08:01des modèles partout,
08:02plein de petits modèles non contrôlés.
08:04Donc, peu de choses,
08:05mais des choses très solides
08:07qui soient très pilotées par le centre
08:10avec un gros investissement
08:11sur tout ce qui est sécurité,
08:15cybersécurité, orchestration.
08:17L'IA fascine les gens.
08:19En entreprise, aujourd'hui,
08:20vous avez plein de gens
08:21qui s'improvisent programmeurs
08:23et qui codent des algos, etc.
08:26Je pense qu'il faut mettre un petit peu d'ordre là
08:29qu'il y a un petit risque d'emballement.
08:30Et donc, aux entreprises,
08:31on dit faites moins de choses,
08:33faites-les à fond
08:33et faites ce qui va vous rapporter de l'argent.
08:36Pour conclure,
08:37est-ce que vous diriez,
08:38on a vu que Charles III avait réuni aussi
08:40tous les spécialistes de l'IA
08:43parce qu'il s'inquiète aussi lui de son côté,
08:46mais est-ce que vous diriez
08:48que l'IA fait courir un risque à l'humanité ?
08:52Alors, il y a cette question,
08:53est-ce qu'on a un risque de fin du monde
08:54associé à l'IA
08:55et à l'IA général ?
09:00À 50 ans,
09:01je pense que personne ne peut dire.
09:02Si vous interrogez la communauté des chercheurs,
09:05je pense qu'aujourd'hui,
09:06à un horizon 5 ans,
09:07la plupart des chercheurs vous diront
09:09que probablement pas.
09:11Il y a cette notion de pidum.
09:12Quelle est la probabilité
09:13qu'on va arriver à la fin du monde ?
09:15Aujourd'hui, tout le monde s'exprime
09:17sur le pidum.
09:18Le chiffre donné par beaucoup,
09:20c'est 10%,
09:20un peu par défaut
09:21parce que c'est le chiffre
09:22qu'on donne toujours
09:22sur ce type de questions,
09:24même sur d'autres technologies.
09:27On peut imaginer des scénarios,
09:29mais je pense qu'aujourd'hui,
09:30la communauté scientifique
09:31ne nous dit pas
09:32attention, attention, attention,
09:33on est au bord de la catastrophe.
09:35Le pire n'est jamais sûr.
09:36Merci à Sylvain Durantour
09:38d'avoir été avec nous ce matin,
09:39directeur Monde de BCG XS.
Commentaires