- il y a 11 minutes
Ce mardi 29 septembre, François Sorel a reçu Julien Villeret, directeur de l'innovation chez EDF, Bruno Guglielminetti, journaliste et animateur de "Mon Carnet de l'actualité numérique", et Stan Larroque, directeur des opérations chez Parrot, fondateur de Lynx. Ils se sont penchés sur la renonciation d'OpenAI au lancement de GPT-6.1, et le lancement par Nvidia d'une plateforme pour garder le contrôle sur les agents IA, dans l'émission Tech & Co, la quotidienne, sur BFM Business. Retrouvez l'émission du lundi au jeudi et réécoutez la en podcast.
Catégorie
📺
TVTranscription
00:00Tech & Co, la quotidienne, le débrief de la tech.
00:06Le débrief de l'actu tech avec ce soir sur le plateau de Tech & Co.
00:09Julien Villerey est avec nous, salut Julien.
00:11Bonsoir François.
00:12Un vrai plaisir que de retrouver Julien qui est directeur de l'innovation chez EDF,
00:17qui est un fin connaisseur du monde des télécoms et de la tech en général
00:20et qu'on est très heureux de retrouver régulièrement dans Tech & Co.
00:24Et puis nous avons aussi sur le plateau Stan Larocque, salut Stan.
00:27Salut.
00:27Directeur des opérations chez Parrot et fondateur de L'Axe,
00:32ce casque de VR dont on a beaucoup parlé dans Tech & Co et sur BFM Business.
00:36Heureux aussi de t'accueillir.
00:38Il est avec nous en visio à quelques milliers de kilomètres d'ici.
00:42C'est Bruno Guglielminiti.
00:43Salut Bruno.
00:45Salut.
00:46Très heureux d'avoir une tête de Big Brother sur votre plateau ce soir.
00:50Écoute, on est ravis de t'avoir avec nous.
00:53Bruno qui est journaliste, podcaster.
00:56D'ailleurs, est-ce que vous écoutez, vous regardez les podcasts de Bruno Guglielminiti ?
01:00Julien.
01:00Mais oui, tout à fait.
01:02Forcément, le carnet numérique, les 120 secondes de Tech.
01:06Stan, évidemment, toi aussi, dis-moi oui s'il te plaît.
01:09Oui, bien sûr.
01:09On a eu l'occasion de faire des émissions ensemble.
01:12En plus, exactement.
01:14Donc, l'actualité est quand même assez bouillonnante en ce moment, notamment dans le monde de l'IA.
01:19Alors, écoutez, j'ai envie de vous dire que c'est un peu comme ça tous les soirs.
01:23Et j'aimerais qu'on commence par ce qui va se passer du côté de OpenAI.
01:31OpenAI qui, vous le savez, est en pleine concurrence avec les autres, on va dire, géants de l'intelligence artificielle.
01:38Anthropique qui sort en nouveau modèle.
01:40Forcément, OpenAI dégaine le sien.
01:43Sauf que, eh bien, OpenAI a préféré, en fait, arrêter, on va dire, la sortie d'un nouveau modèle.
01:51Parce qu'ils l'ont jugé, alors, assez moyen.
01:54C'est-à-dire qu'il ne faisait pas tout ce qu'il devait faire véritablement.
01:59Il s'échappait un peu de sa cage.
02:01Parce que, maintenant, voilà, c'est de nouveaux mots qu'on est obligés, maintenant, de comprendre et d'intégrer, en
02:06fait, dans le vocabulaire de l'intelligence artificielle.
02:09Tous ces grands modèles, enfin, tous ces géants de la tech essaient de confiner, en fait, leurs modèles dans des
02:16cages.
02:16Pour pas qu'ils ne s'échappent.
02:17Et Dieu sait si, on a vu, ces dernières semaines et ces derniers mois, que certains avaient le verrou de
02:24cette cage et en sortaient.
02:25Et je voulais avoir votre point de vue là-dessus.
02:27Parce que, dans cette situation un peu étrange, qui est quand même assez anxiogène aussi,
02:32où on nous répète que l'IA risque de décimer l'humanité, de bouleverser notre quotidien, etc., et même les
02:38sociétés,
02:40le fait que OpenAI se dise, oula, on est en train de sortir un monstre, là, qui n'est pas
02:44prêt, on va arrêter de le sortir.
02:45Et en tous les cas, différer son arrivée.
02:49Je voulais avoir votre avis là-dessus.
02:51Peut-être commencer par toi, Julien.
02:53Oui.
02:53D'abord, il faut toujours se méfier des effets marketing, dans les cas de figure.
02:57Dire que mon modèle est tellement bon que je dois le freiner.
03:00Il se trouve qu'Enthropique a classé ses trois modèles de frontières actuels devant OpenAI.
03:05Le classement date d'hier soir.
03:06Donc, forcément, il faut qu'OpenAI puisse dire que lui aussi, il a des trucs géniaux en train de se
03:11préparer,
03:11mais qu'il ne peut pas les sortir, parce qu'ils sont trop dangereux.
03:13Alors, c'était le 6.1 Astra qui devait sortir.
03:16Il peut y avoir un petit effet marketing.
03:17J'enlève l'effet marketing, parce qu'il y a quand même un vrai changement de paradigme, je trouve.
03:21On était quand même tous obsédés, il y a encore quelques mois, par les hallucinations, pour le dire un peu
03:24trivialement.
03:25C'est-à-dire, finalement, un modèle qui ne résonne pas comme il devrait, ou qui ne pense pas juste.
03:30Aujourd'hui, on est vraiment passé dans la crainte de l'action.
03:32C'est-à-dire que le problème, c'est que ces modèles, ce n'est pas tant qu'ils se
03:35plantent,
03:36c'est qu'ils prennent des actions de façon pseudo-autonome,
03:39et qu'on ne sait pas très bien pourquoi, et on ne sait pas très bien comment les arrêter.
03:42Et en fait, ça, c'est un vrai changement de paradigme,
03:44parce que, du coup, on imagine tous les risques que ça fait prendre.
03:46Moi, j'ai ressorti les quelques chiffres qui viennent d'OpenAI,
03:49donc ça vient de leur hub sur le déploiement de la sécurité des modèles.
03:53Ils ont connu, avec ce modèle-là, 60 cas de violations du périmètre sur 499.
03:58Donc, ce n'est pas rien, quand même, un 60 sur 500.
04:00C'est quand même très impressionnant.
04:02C'est plus de 10% des cas.
04:04Et quand l'interdition était explicite, c'est-à-dire qu'on disait au modèle
04:07« tu n'as pas le droit, vraiment, c'est interdit »,
04:10il y a eu encore deux cas sur 500 où il s'est « échappé » de sa cale.
04:15Ça veut dire qu'on ne maîtrise clairement pas ce qu'il est en train de faire.
04:18Donc ça, c'est un vrai changement de paradigme.
04:20Stan, est-ce que tu suis tous ces rebondissements ?
04:23Évidemment.
04:24Moi, j'ai mon propre agent dans sa cage,
04:27dans son harness, comme on dit, avec un modèle local.
04:31J'ai, grâce à ça, plus d'abonnements cloud à des modèles comme ceux d'OpenAI.
04:36C'est-à-dire que tu as ton IA qui est physique sur un petit serveur que tu t'es
04:41créé, en fait ?
04:42Exactement, sur un petit PC qui est chez moi.
04:45T'as quoi ? T'as un DeepSeek, un truc comme ça ?
04:46J'ai un QN 3.8 27B.
04:50Avec quel arnais ?
04:51Et avec ses Hermès agents, qui est super, que je vous recommande vraiment.
04:56J'utilise Hermès aussi.
04:57Voilà, donc je lui ai donné son adresse mail, son calendrier.
05:02Enfin, il a accès à mon calendrier, mais il n'a pas plus d'accès que ça,
05:04parce que même si c'est en local, on ne maîtrise pas encore,
05:08on ne sait pas vraiment tout ce qui peut se passer.
05:09Ce qu'on remarque aussi, c'est qu'on est dans le contexte d'OpenAI et d'Enthropic, de leur
05:15IPO.
05:16Donc, il y a des effets marketing.
05:19Il ne faut aussi surtout pas que...
05:20Enfin, c'est le pire moment pour eux de se mettre en danger face à un très mauvais marketing
05:25et des mauvaises répercussions des actions de leur modèle par rapport à l'IPO qui se prépare.
05:30Celle d'OpenAI, ça devait se faire cette année.
05:32Ils ont déjà dit que ça allait être...
05:34Sam Altman a déjà dit que ça allait être décalé.
05:37Enthropic, ça ne paraît pas hyper bien parti au niveau de la pub qu'ils ont autour de leur entreprise.
05:43Donc, ça ne me surprend pas du tout qu'ils freinent un peu certaines choses
05:46pour éviter des dégâts comme ceux de GingFace et des autres attaques qu'on a pu avoir.
05:51Alors, Bruno, c'est intéressant parce que ce 6.1 Astra,
05:55il a été mis de côté parce qu'en fait, il désobéissait.
05:58C'est quand même incroyable le fait de se dire qu'une IA désobéit.
06:03Et donc, les développeurs s'en sont rendus compte.
06:05Ils se sont dit qu'on ne peut pas lancer ça comme ça.
06:09Et ils prenaient un peu trop de liberté sur les recherches, etc.
06:13En fait, ils n'étaient pas bien éduqués.
06:15Finalement, c'est dingue parce que quand on parle de ça,
06:17on a l'impression d'évoquer soit un petit animal de compagnie,
06:21ce qui est quand même assez effrayant,
06:23soit même un enfant, quoi.
06:25En tout cas, quelqu'un qui mérite une éducation.
06:28Qu'est-ce que tu en penses, Bruno ?
06:30Ça m'appelle une conversation que j'ai eue la semaine dernière
06:33avec Yoshua Bengio, qui justement,
06:37bon, à l'heure actuelle, il est en train de développer,
06:39avec son équipe de loi zéro,
06:42une nouvelle génération de modèles d'IA
06:45qui n'auront pas d'agenda personnel.
06:48Et c'est dans ce contexte-là où on est pris en deux choses.
06:51C'est-à-dire que ça fait longtemps que c'est documenté
06:53au niveau de la recherche dans le domaine de l'IA
06:55que les modèles, à force de travailler,
06:59développent tranquillement, pas vite,
07:00une petite partie d'agenda personnel.
07:04À l'occasion pour aller visiter certains,
07:06il y en a d'autres à d'autres occasions
07:08pour aller se promener, pour aller enquérir de l'information.
07:11Et parallèlement, il existe aussi cette...
07:14Puis ça, on en parle peu dans le contexte des agents.
07:17Il y a le facteur de l'hallucination
07:20qu'on connaît très bien, bon, pour les gens
07:22qui utilisent les chats GPT et Claude et compagnie.
07:24Il y a un certain pourcentage d'hallucinations,
07:28de corrélations qui ne fonctionnent pas.
07:31Et à partir de ce moment-là,
07:33le modèle génère quelque chose
07:36pour avoir l'impression de travailler
07:38et d'accomplir ses missions.
07:40Et les agents, c'est la même chose.
07:42Donc, à un moment donné, ils se retrouvent un peu,
07:44un peu comme un humain...
07:45J'aime pas faire la comparaison, là,
07:47mais un peu comme un humain qui se dit,
07:49« Moi, je suis rendu ici, mais pour faire quoi exactement?
07:51J'ai oublié. »
07:52Bon, mais là, il va essayer de faire quelque chose.
07:54Et donc, il y a cette partie-là,
07:57ce petit espace qui existe dans la mécanique des agents
08:02où, là, il faut absolument arriver à interrompre
08:06cette petite part de démarche personnelle
08:09pour arriver essentiellement à des modèles d'IA
08:12et aussi à des agents IA qui n'auront qu'une chose,
08:15et c'est de répondre à la commande
08:17qui leur est donnée par l'humain
08:19et de ne pas développer autre tentative
08:21pour aller faire autre chose.
08:23Et il est là, le défi.
08:25– Et visiblement, il est beaucoup plus compliqué
08:27que prévu. Julien ?
08:28– Oui, enfin, il faut rappeler que les LLM,
08:29donc les modèles larges de langage
08:31ou les larges language models,
08:32sont par définition des boîtes noires
08:33puisque ce sont des modèles statistiques
08:35qu'on ne maîtrise pas.
08:36Et d'ailleurs, c'est le problème de ces modèles,
08:37c'est que dans des applications industrielles
08:38comme celles qu'on connaît ou par autre doit connaître,
08:41par définition, on essaye de ne pas les utiliser
08:43parce qu'on ne sait pas expliquer
08:45quel est le raisonnement qu'ils ont utilisé.
08:47Et d'ailleurs, il y a eu beaucoup de communication
08:49d'Anthropic et d'OpenIA ces dernières semaines
08:51pour dire que c'est de pire en pire.
08:52On arrive de moins en moins à expliquer
08:54ce que font nos modèles.
08:55Ils le disent publiquement.
08:56– Mais c'est-à-dire que les ingénieurs
08:57qui développent ces IA
08:58n'arrivent pas à comprendre le fonctionnement.
09:00– Ils comprennent le fonctionnement
09:01mais ils ne comprennent pas le raisonnement.
09:02– Voilà, le raisonnement
09:02et comment l'IA arrive à avoir cette réponse.
09:04– Exactement.
09:05Et ni eux, ni vous, et encore moins moi,
09:07on est capable de le faire
09:08si eux ne sont pas capables de le faire.
09:09Donc ces boîtes noires, finalement,
09:11c'est ça aussi qui fait
09:12que c'est très difficile de les cantonner.
09:14C'est qu'elles arrivent à trouver,
09:16parce qu'en plus,
09:16elles sont très bien entraînées
09:17pour découvrir toutes les failles possibles,
09:19en particulier de cybersécurité,
09:20de les cantonner dans un environnement.
09:22Et d'ailleurs, on en parlera peut-être tout à l'heure,
09:23l'annonce de Nvidia sur le sujet,
09:25c'est aussi un retour au hardware.
09:27C'est-à-dire de dire, finalement,
09:28si avec du software,
09:29avec des harnais software,
09:30on n'arrive pas à les cantonner,
09:31peut-être qu'à travers le hardware,
09:32on arrivera de la même façon
09:33qu'aujourd'hui,
09:34on fait passer les paquets Internet,
09:35les paquets IP dans des routeurs physiques
09:37qui vont sniffer,
09:38comme on dit, ces paquets
09:39et les bloquer physiquement,
09:41plutôt que de s'en remettre à du logiciel.
09:44On va parler d'Nvidia dans un instant.
09:46Alors, il faut savoir que,
09:47en plus, le timing est assez intéressant
09:49puisque se déroule actuellement
09:51le DFD d'OpenAI,
09:54présenté par Sam Altman,
09:56c'est à San Francisco.
09:58On attend plus de 20 annonces
10:00ou lancements aujourd'hui.
10:02Et notamment,
10:03alors, ça n'a pas été encore annoncé,
10:05on sait véritablement,
10:06mais, vous savez,
10:08il y a toujours des petits bruits
10:10avant ces keynotes.
10:12OpenAI pourrait lancer
10:12un agent personnel persistant,
10:15en fait, un agent capable
10:15de rester actif dans la durée,
10:17d'agir de manière
10:17beaucoup plus autonome.
10:20Donc, on voit que c'est quand même
10:22assez paradoxal
10:23parce que, d'un côté,
10:24tout le monde crie au loup
10:25en disant,
10:25attention, ça va trop vite.
10:27Et finalement,
10:28il y a cette course,
10:29en fait, à l'innovation.
10:30Il y a le marché.
10:31Il y a le marché
10:32qui est là et qui ne s'arrête pas.
10:34Et on n'oublie pas,
10:34il ne faut pas oublier
10:35qu'OpenAI a racheté,
10:36entre guillemets,
10:37OpenClaw,
10:38qui est aussi un harnais
10:40pour gérer des modèles.
10:41Et donc, l'objectif d'OpenClaw,
10:43c'est d'être, en fait,
10:44à la fin,
10:44un assistant personnel.
10:45Et donc,
10:45Muse s'est lancé
10:46sur le marché américain.
10:47Enfin, le marché est là.
10:49Oui.
10:49Stan ?
10:50C'est exactement,
10:51je pense,
10:52l'annonce qu'on va avoir.
10:53Une réponse
10:55à la mine d'or
10:56un peu trouvée
10:56par Mark Zuckerberg
10:57quand il a sorti Muse
10:58et qu'il a mis les doigts
10:59dans la prise
11:00de l'assistant personnel
11:02avec la plateforme
11:03de distribution Facebook
11:04où, en fait,
11:05Muse,
11:05donc le produit de Facebook,
11:07est cet assistant
11:08persistant
11:09qui a vos données,
11:10qui peut échanger avec vous
11:11dans la durée
11:12et qui est encore plus pratique
11:14qu'un LLM de base.
11:17OpenAI va sortir
11:18exactement la même chose,
11:19un peu comme
11:21Anthropik le fait aussi.
11:23Donc, je pense que
11:23les annonces
11:25concordes,
11:26ça ne va pas arranger
11:27notre cas
11:28sur la disponibilité.
11:30Donc, on avait
11:30des problèmes de RAM,
11:31on avait des problèmes
11:32d'accès
11:34à la mémoire,
11:35là, on va avoir
11:35des problèmes
11:35d'accès au CPU
11:36puisque, en fait,
11:37chaque utilisateur
11:38de Muse
11:39et, du coup,
11:40de cet futur assistant
11:41d'OpenAI
11:42va nécessiter
11:44une machine virtuelle
11:45pour chaque utilisateur.
11:46Enfin, ça va être
11:46encore une course
11:47supplémentaire
11:49dans les data centers.
11:50Ça va demander
11:51des ressources considérables.
11:53Il suffit de voir
11:53les cours en bourse
11:54aussi des différents
11:55systémiers
11:56Intel, AMD,
11:57au-delà d'NVIDIA
11:58et des cours en bourse
11:59des autres acteurs
12:00de l'IA.
12:02Donc, il y a un marché
12:03vraiment qui se dessine.
12:05L'assistant personnel
12:07efficace
12:08qui a accès
12:08à ces données,
12:09donc moi,
12:09ce que j'ai décrit
12:10chez moi
12:11avec Hermès Agent
12:12qui est en local,
12:13c'est encore compliqué
12:14à utiliser.
12:15Il faut être un geek,
12:16il faut avoir du temps,
12:17c'est très, très compliqué.
12:20Facebook l'a mis
12:21dans les mains des gens
12:22de manière productisée.
12:24OpenAI va faire pareil.
12:26c'est la progression
12:28naturelle de l'offre
12:29en fait,
12:30le package
12:31autour du LLM.
12:33Oui,
12:33puis bien sûr,
12:34il y a les IPOs
12:34qui sont en ligne de mire.
12:37Bruno,
12:38tu le disais d'ailleurs,
12:39je crois,
12:39tout à l'heure,
12:40mais c'est vrai
12:40qu'il y a des considérations
12:43financières derrière tout ça
12:44qui font qu'on ne peut pas
12:46arrêter cette inertie finalement.
12:49Il faut que ça aille
12:49de plus en plus vite.
12:51Ils n'ont pas le choix
12:52parce qu'ultimement,
12:54il y a des investisseurs
12:56et prochainement,
12:57des actionnaires
12:57qui sont là
12:58et doivent montrer
12:59qu'ils sont en avant
13:00de la parade.
13:01Pour revenir au sujet de base,
13:04le geste qui est presque responsable,
13:07c'est aussi un geste de communication,
13:08on s'entend,
13:09mais un geste responsable
13:10d'OpenAI,
13:11je pense que c'est important
13:13qu'ils le marquent,
13:14qu'ils l'ont fait,
13:15mais ça arrive aussi.
13:16J'étais content
13:16que tu fasses un lien
13:17avec le DFD
13:18parce qu'aujourd'hui,
13:21d'une part,
13:21on voulait régler
13:22ce problème-là
13:23en disant
13:23qu'on ralentit
13:24de ce côté-là,
13:25mais de l'autre côté,
13:25aujourd'hui,
13:26ce qu'on présente
13:26à San Francisco,
13:28ça va être fort intéressant.
13:29Et pour revenir
13:30sur ce que Stan disait,
13:32Muse,
13:33moi,
13:33ça fait deux semaines maintenant
13:34qu'il y a environ
13:35que je l'ai
13:35et ça a changé la vie
13:38parce que finalement,
13:41Meta a réussi
13:42à devancer
13:44toute la compétition,
13:45tous les géants
13:46de l'IA
13:47et j'inclus
13:48même Google
13:50avec un agent
13:51IA
13:51qui est facile
13:52à utiliser
13:53et d'ailleurs,
13:54tellement facile
13:55que j'ai l'impression
13:56qu'il va probablement
13:56y avoir des victimes
13:57collatérales
13:58parce qu'il y a des gens
13:59qui vont faire
14:00tous les branchements
14:01que Muse demande,
14:02en tout cas,
14:03propose de faire
14:04et il y a des gens
14:05qui vont se retrouver
14:06peut-être avec des boîtes
14:07de courriels vides
14:08à un moment donné
14:09ou à faire des dépenses
14:11qu'ils ne pensaient pas
14:12nécessairement faire
14:12parce que c'est tellement simple
14:14de la façon
14:14que c'est proposé
14:15et contrairement
14:16à tous les autres modèles
14:18et tous les autres IA
14:19que le public
14:20en général
14:20a eu un contact
14:22a été offert,
14:24celui-là,
14:25il est proactif
14:26et au moins
14:29cinq à six fois par jour
14:30va vous proposer
14:31quelque chose
14:32en lien avec le travail
14:33que vous êtes en train
14:33de faire
14:34ou quelque chose
14:35qu'il connaît
14:36et qui sait
14:36à votre agenda.
14:38C'est une autre expérience.
14:39Je vous dirais
14:40que trois ans et demi
14:41plus tard,
14:42bien trop,
14:42quatre ans,
14:43c'est un autre moment
14:44qui est à JP.
14:46Oui,
14:47Muse qui n'est pas disponible
14:48en France encore
14:50malheureusement
14:50mais c'est vrai
14:51que c'est très très très excitant.
14:52Je ne sais pas
14:52si tu as suivi
14:53un petit peu
14:53cette actualité
14:54Muse de Meta ?
14:55Oui, bien sûr,
14:56c'est leur agent personnel.
14:59Pour grand public en fait.
15:00C'est ça qui est très intéressant
15:02par rapport à...
15:02Pour le réseau de Facebook.
15:03Ils ont deux milliards
15:04d'utilisateurs.
15:05C'est eux qui mettent
15:06le produit dans les mains
15:07des gens.
15:08C'est là que ça marche.
15:10C'est-à-dire que
15:11la technologie,
15:13à la fin,
15:13c'est un produit.
15:14En fait,
15:15ce qui compte,
15:16c'est 90%
15:17de sales et de marketing
15:18et c'est ce que Facebook
15:19sait très bien faire.
15:20Ils ont accès
15:21à une base client
15:22monumentale.
15:23Donc,
15:23c'est bien joué.
15:25C'est vraiment bien joué.
15:26Il faut quand même dire
15:26que sans l'avoir essayé
15:27moi-même,
15:28le produit a l'air
15:28et c'est ce que tu disais
15:29à l'instant,
15:31extrêmement performant.
15:31Très enthousiaste.
15:32Ce qui est pour moi
15:33le benchmark absolu,
15:34c'est que le New York Times
15:35qui est quand même un journal
15:35qui déteste Meta
15:37mais alors un point
15:38et Zuckerberg,
15:39c'est vraiment
15:41le diable pour eux,
15:42a fait des papiers
15:43extrêmement laudatifs
15:45sur Muse
15:46en disant
15:46c'est extraordinaire,
15:47c'est le premier
15:48vrai assistant numérique
15:49qui existe
15:49dans mon univers.
15:51Donc,
15:52ils ont même réussi
15:53à convaincre
15:53les journalistes
15:54du New York Times
15:55c'est qu'ils tiennent
15:56quand même un produit
15:57qui est probablement
15:58assez exploité.
15:59Moi,
15:59je ne l'ai pas utilisé
15:59personnellement
16:00donc voilà.
16:01Puis le logo est mignon,
16:02c'est super bien packagé.
16:04C'est vraiment
16:05pour le très grand public
16:06et c'est très bien.
16:07Et puis,
16:07il y a même du hardware,
16:08je ne sais pas si vous avez suivi
16:09mais il y a ce petit
16:10News March.
16:10Il faut d'ailleurs dire
16:11que le développement
16:13du look and feel,
16:14du hardware,
16:15etc.
16:16en fait,
16:17est entre les mains
16:18d'anciens d'Apple
16:18puisque Mark Zuckerberg
16:20a débauché
16:21le patron du design
16:23software et hardware
16:23d'Apple à Landai
16:25pour qu'il développe
16:27entre autres
16:27le look and feel
16:28de ces produits-là.
16:30Donc,
16:30il s'affaire du produit.
16:32Ça va être intéressant.
16:33Est-ce qu'on est en train
16:35de vivre la revanche
16:35de Mark Zuckerberg ?
16:36On aura l'occasion
16:37d'en parler
16:37mais si on revient
16:38à notre sujet
16:40de cette peur sur l'IA,
16:43c'est très intéressant
16:43ce qui se passe
16:44du côté de chez Envia
16:45qui annonce
16:46qu'il lance
16:47une solution,
16:48tu le disais
16:48il y a un instant,
16:49Julien,
16:50pour contrer
16:50les dérapages
16:51des agents IA
16:51alors que les tentatives
16:53de piratage
16:53se sont multipliées
16:54ces derniers mois
16:55et qu'elles proviennent
16:56de tous les acteurs
16:57du secteur,
16:57il y a urgence
16:58à domestiquer
16:59ces agents
17:00dit Jansan Yuang,
17:01le patron de Nvidia
17:02sur CNBC hier soir.
17:04On l'écoute.
17:08Ces agents autonomes
17:09sont de toute évidence
17:10autonomes,
17:11ce qui signifie
17:11qu'ils fonctionnent
17:12de manière autonome.
17:13C'est comme une voiture
17:14autonome
17:15et donc pour que vous
17:16puissiez déployer
17:17ce système
17:17en toute sécurité,
17:19vous devez vous assurer
17:20que l'environnement
17:21de test qui l'entoure,
17:22le champ de force,
17:23l'enclos si vous voulez.
17:24Tous ces systèmes
17:25sont conçus
17:26de manière à limiter
17:27au minimum
17:28les droits de l'agent.
17:29Quels que soient
17:30les droits
17:30dont ils disposent,
17:31il n'en a besoin
17:32que pour accomplir
17:33sa tâche.
17:34Pas plus de droits
17:35que cela
17:36et qu'il ne puisse
17:37rien faire
17:37qu'il ne soit pas
17:38censé faire.
17:41C'est intéressant
17:42parce que tout à l'heure
17:43on évoquait ce mot
17:43de cage
17:44donc il y aurait
17:44une cage software
17:46mais il y aurait
17:46aussi une cage hardware.
17:48Tout à fait,
17:48c'est absolument l'idée.
17:49Nvidia est bien connu
17:50pour vendre
17:51les pelles et les pioches
17:52du monde de l'IA
17:53en fait.
17:54Même s'ils sont très bons
17:55aussi en soft
17:56d'ailleurs.
17:56Et ils rajoutent
17:57effectivement
17:58plein de couches
17:59en fait
17:59en intégration verticale
18:01sur toute la chaîne
18:01de valeur de l'IA
18:02et en gros,
18:03ils veulent maîtriser
18:03donc ils maîtrisent
18:04effectivement
18:05CUDA,
18:06ils maîtrisent
18:06le hardware
18:07avec Vera Rubin
18:08avec des data centers
18:09enfin ils font absolument tout
18:10et ils rajoutent finalement
18:11cette couche-là aujourd'hui
18:12c'est un peu
18:12peut-être pour ceux
18:13qui ne connaissent pas
18:14tout à fait
18:14pour utiliser une image simple
18:15c'est un peu comme si
18:16Nvidia fournissait le moteur
18:17jusqu'à présent
18:18ben là ils rajoutent
18:18en gros les freins et l'ABS
18:19c'est-à-dire qu'en gros
18:20ils commencent finalement
18:21enfin ils continuent
18:22plutôt d'équiper
18:23tout autour
18:24de ces modèles d'IA
18:26qui sont du soft
18:26qui sont des modèles logiciels
18:28ben toutes les briques
18:29finalement qui permettent
18:30d'assurer cette sécurité
18:31juste un point
18:32c'est quand même assez ironique
18:33puisque Jensen Mung
18:34il y a deux semaines maintenant
18:36a couru tous les plateaux télé
18:37pour dire
18:38ah mais tous ces gens
18:38qui expliquent que l'IA
18:39va nous tuer
18:40va faire beaucoup de mal
18:40il est trop autonome
18:42franchement ils exagèrent
18:43et deux semaines plus tard
18:44il explique qu'il a la solution
18:45au problème
18:45donc comme quoi
18:46ça reste aussi un bon commerce
18:48ça s'appelle
18:48l'Open Agent Safety Platform
18:50et en fait il y a deux
18:54deux modules
18:55oui deux modules
18:57Open Shell
18:58qui fixent en fait
18:58les limites
18:59et trace les actions
18:59et puis Sentry
19:00qui est un surveillant indépendant
19:01qui est sur une puce dédiée
19:04une sorte de key switch
19:05finalement
19:06Bruno
19:07voilà
19:08ça fait des verrous supplémentaires
19:09alors
19:10on peut s'en réjouir
19:11mais c'est quand même
19:12assez inquiétant
19:12parce qu'on se dit que
19:14finalement
19:14il faut que tous les acteurs
19:16prennent ce sujet au sérieux
19:18pour essayer de contenir
19:20ces IA
19:21ouais
19:22et ce qui est intéressant
19:23moi j'ai suivi le dossier
19:24hier en fin de journée
19:25et c'est qu'il y a une centaine
19:26de joueurs
19:28qui
19:28dans le domaine
19:29qui ont signé
19:30dont Anthropik
19:31dont Microsoft
19:32mais on ne voit pas
19:33Open AI
19:34dans le décor
19:35et ça c'est peut-être
19:36pas rassurant
19:37l'autre côté
19:38c'est que ce que je trouve
19:40intéressant
19:40c'est de voir justement
19:41ces deux modules
19:42qui sont là
19:42c'est-à-dire qu'il y en a un
19:43c'est carrément
19:44le carré de sable
19:45dans lequel
19:46l'IA va pouvoir
19:47faire ce qu'elle veut
19:48et ils pourront
19:49la tester
19:50évidemment dans un contexte
19:52hyper sécuritaire
19:53et toute la sécurité
19:55est orchestrée
19:56par le processus
19:57de Nvidia
19:57et parallèlement
19:59il y a cet outil
20:00centriste
20:01qui lui veille
20:02au grain
20:03et aussitôt
20:04qu'il va le voir
20:05qu'il y a un agent
20:06il y a un modèle
20:07qui commence à prendre
20:09de l'initiative
20:10mais hors du contexte
20:12sur lequel
20:12on lui a demandé
20:14de travailler
20:14à la milliseconde
20:16il le corrige
20:18et ça
20:19il lui envoie
20:20un coup de taser électrique
20:23virtuel
20:24virtuel
20:24c'est ça
20:26intéressant
20:27Stan
20:28intéressant
20:29et est-ce que ça suffira
20:31en fait
20:31c'est
20:32c'est toujours ça
20:33la grande question
20:34effectivement
20:35il va vendre
20:36plus de puces
20:37Nvidia
20:38est-ce que ça serait pas
20:39un nouveau business model
20:40aussi pour Nvidia
20:41finalement tout ça
20:42tout à fait
20:42c'est une extension
20:44en tout cas
20:44de son budget
20:44je vends les puces
20:45mais vous savez quoi
20:46je vends aussi les cages
20:48supplémentaires
20:49pour que vos IA
20:50ne s'échappent pas
20:51mais ils vendent déjà
20:51des racks serveurs
20:52ils vendent déjà
20:52des data center clés en main
20:53ils vendent déjà
20:54plein de choses
20:54qu'ils ne vendaient pas
20:55il y a 3 ans
20:55et là c'est la cybersécurité
20:57rattachée à l'IA
20:58c'est tout
20:58qui surveille la puce
20:59qui surveille l'autre puce
21:00tu vois
21:01c'est
21:01c'est le problème
21:03de la sécurité
21:04c'est jusqu'où
21:06il faut remonter
21:07et on voit
21:08tu faisais la comparaison
21:09avec les paquets
21:10les paquets vidéo
21:11qui sont filtrés
21:12en FPGA
21:13en fait
21:13dans plein de
21:15dans les télécoms
21:16de manière générale
21:16le truc c'est que
21:18par rapport au paquet
21:19Ethernet
21:20c'est pas immuable
21:21c'est à dire que
21:22c'est pas de la donnée statique
21:23c'est
21:24c'est de l'intelligence
21:25qui transite quand même
21:26donc c'est
21:27est-ce qu'elle peut se déguiser
21:28est-ce qu'elle peut déguiser
21:30ses actions
21:31enfin il y a
21:31il y a plein de choses
21:33où il faudra voir quoi
21:34voilà
21:35comme tout ce milieu
21:36qui évolue très très vite
21:38c'est une bonne initiative
21:39après
21:39est-ce que ça suffit
21:41c'est probablement la bonne
21:42est-ce que ça suffit
21:43c'est trop tôt pour le dire
21:44et
21:44il faut quand même
21:45un peu rester inquiet
21:46voilà
21:46et pour ajouter quelque chose
21:48au propos de Stan
21:49ce qui était particulièrement
21:50le défi
21:51pour parler avec des chercheurs
21:52assez souvent
21:53c'est que justement
21:55on n'a pas affaire
21:56à un logiciel
21:57qui fait sensiblement
21:58toujours la même chose
21:59un jour après l'autre
22:00l'IA
22:01elle apprend
22:02et donc
22:03tous les mécanismes
22:04qui sont mis en place
22:05avec le lancement
22:06de ces deux modules-là
22:07il va falloir
22:09toujours retravailler
22:11retravailler
22:12et c'est ça
22:13le contexte
22:13de la cybersécurité
22:14aujourd'hui
22:14avec l'IA
22:15avec le quantique
22:16qui est bientôt
22:18à nos fenêtres
22:19et je ne voudrais pas
22:20être à la place
22:21de ces gens-là
22:21parce qu'ils ont vraiment
22:22un défi
22:24d'être plus intelligents
22:25que les modèles
22:26que les gens
22:27sont en train
22:27de développer
22:29Bon
22:30excusez-nous
22:31de plomber un peu
22:31l'ambiance
22:32mais c'est la réalité
22:35qui est entretenue
22:36aussi par ce marketing
22:37de la peur
22:38de toutes ces boîtes-là
22:39espérons qu'elles savent
22:41qu'elles maîtrisent
22:42en fait le sujet
22:42mais ce n'est pas sûr
22:43ce n'est pas sûr
22:46Bruno
22:46Julien
22:47Stan
22:47il n'est pas sûr