00:01Tech & Co, la quotidienne Tech & Ciné.
00:04Salut Xavier.
00:05Salut François.
00:06Toujours très heureux de te retrouver.
00:08Ravie aussi.
00:09Directeur Data IH et Microsoft IME.
00:11Je le dis à chaque fois, Xavier est quelqu'un qui est très occupé,
00:15qui parle de cloud au sein de chez Microsoft,
00:18mais qui a une passion qui n'est plus secrète maintenant, c'est le cinéma et la tech.
00:23Et ce qu'il y a d'amusant, c'est que depuis quelques années,
00:24on s'amuse à mélanger les deux.
00:26Le cinéma, la tech est replongé dans des scénarios,
00:30parfois de très vieux films,
00:32qui anticipaient certaines innovations technologiques.
00:35Là, ce soir, on va parler de l'usage des agents IA
00:39dans le développement de cols logiciels
00:41et comment ils font parfois des choses imprévues, voire catastrophiques.
00:44Pour ça, tu es allé décrypter une série qui a été créée il y a plus de dix ans.
00:49C'est la série Silicon Valley.
00:51Tous les geeks ont vu, forcément.
00:52Tous les geeks, exactement.
00:54C'est quand même une série pour les geeks.
00:55Il est nerd, on peut se le dire.
00:57C'est un produit HBO.
00:58C'est créé par Mike Judge, qui est lui-même un ingénieur.
01:01D'ailleurs, six saisons quand même.
01:02C'est exactement de 2014 à 2019.
01:06Fin 2019, derrière.
01:07On est quand même il y a sept ans.
01:08C'est une comédie.
01:09C'est une série comédie satirique.
01:11Le pitch, c'est simple.
01:12C'est une bande de développeurs assez nerd
01:13qui crée Pipe Piper,
01:15qui est une entreprise, une start-up dans la Silicon Valley
01:17d'algorithmes de compression,
01:19derrière, pour la vidéo initialement.
01:21Et on va retrouver des personnages assez intéressants,
01:24on va dire, assez burlesques, on va dire.
01:26Donc, on va trouver le CIO qui est Hendrix,
01:28qui est une espèce de Zuckerberg,
01:30un peu développeur introverti.
01:31Il y a pas mal d'analogies avec des patrons de tech de l'époque.
01:34On va retrouver beaucoup d'allusions, effectivement,
01:36avec les GAFA.
01:38On va trouver l'incubateur narcissique Backman.
01:41On va trouver, ça va être important,
01:42Dinesh, qui est un des développeurs logiciels.
01:45Et surtout, Guilfoy,
01:46Guilfoy, c'est l'ingénieur système,
01:49ce qu'on appelle le sysadmin,
01:50il est sataniste, il est cynique,
01:52il est étonnant, on va le voir tout ce qu'il fait.
01:54Et en fait, cette start-up va être face aux grosses entreprises internet
01:58qui s'appellent Ouli, évidemment,
01:59on peut deviner de qui on parlait à l'époque.
02:01Donc, petite précision,
02:02cette série est très technique, en fait.
02:04Il y a même des chercheurs et des conseillers techniques
02:06qui validaient toutes les scènes.
02:08Il y a du vrai code dedans.
02:09Vous savez combien j'aime bien quand les séries et les films parlent du vrai code.
02:12Il est très documenté sur la façon dont les start-up
02:14vont se développer, lever des fonds.
02:16Et puis même, la petite anecdote,
02:18il y a des vrais chercheurs de Stanford
02:19qui ont bossé pour avoir ce qu'on appelle
02:21un score Weissman
02:22pour, dans la série,
02:25dire la performance de cette boîte PipePiper.
02:27Et en fait, évidemment, ce score n'existait pas avant.
02:30C'est un score de compression.
02:32Et en fait,
02:33ce score-là a été repris après,
02:36dans la vraie vie,
02:36pour les algorithmes de compression vidéo,
02:38pour noter la performance des algorithmes de compression.
02:40Donc, on voit bien le passage de l'un à l'autre derrière
02:43pour la petite histoire aussi,
02:44en mars 2026,
02:45donc sept ans après la...
02:47Non, mars 2026, je pense en mars 2022.
02:49Google a lancé TurboQuant.
02:51Je ne sais pas si les gens ça s'appelait.
02:52C'est l'un des gants de compression de mémoire.
02:53Et tout le monde dit,
02:54« Ah, mais c'est PipePiper. »
02:55On voit bien comment ça reste dans l'imaginaire,
02:57la série,
02:58alors qu'elle est finie depuis sept ans.
02:59Alors, cette série va anticiper,
03:01on le disait tout à l'heure,
03:01beaucoup de développement tech.
03:02Et en particulier,
03:04on va s'intéresser à une histoire d'agent IA,
03:07développeur,
03:08dans le fonctionnant même de la start-up,
03:11une certaine IA qui est dénommée
03:12« Fils d'Anton »
03:14ou « Son of Anton ».
03:16Exactement.
03:17Alors, on va voir,
03:17parce qu'on va voir à quel point c'est d'actualité.
03:19Dans la saison 6,
03:19donc qui est la saison finale,
03:21l'épisode 1,
03:21qui s'appelle « Artificial lack of intelligence ».
03:24C'est assez intéressant.
03:25Guilfoy en a marre des messages
03:27que lui lance son copain développeur,
03:29ce n'est pas totalement son copain,
03:30on va dire,
03:30qui est Dinesh.
03:31Il va créer son propre agent,
03:32son propre bot,
03:34qu'il va appeler « Son of Anton ».
03:35On ne sait pas bien pourquoi,
03:36parce qu'il est sataniste.
03:37Donc, voilà,
03:38Anton, c'est un sataniste américain.
03:41On ne sait pas si c'est aussi un clin d'œil,
03:43en fait,
03:43à la suite de sa faune de Bruckner
03:45qui est inachevée,
03:45parce qu'il disait que son IA était inachevée.
03:47Et en fait,
03:48cet agent IA,
03:48il va tout simplement chatter avec Dinesh.
03:50Pourquoi ?
03:51Parce qu'il veut automatiser
03:52les interactions humaines ennuyeuses.
03:53Donc, ça rappele un peu quelque chose,
03:54déjà.
03:55Derrière, Dinesh va au début
03:56ne pas s'en apercevoir.
03:57Au moment où il va s'en apercevoir,
03:59il va lui-même demander
04:00à créer son propre bot
04:01pour discuter avec le bot de Guilfoy.
04:03Et puis,
04:03ces deux bots vont commencer
04:04à s'exciter tous les deux
04:05et vont faire cracher tout simplement
04:07le système d'entreprise derrière.
04:08Donc,
04:08on voit bien ce qui se passe.
04:10C'est intéressant,
04:10parce que c'est bien
04:11les agents IA développeurs,
04:12on va y venir,
04:12qui commencent à discuter entre eux,
04:15à développer entre eux,
04:16qui commencent à comiter des choses,
04:17comme on dit dans le monde du développeur,
04:22il y a une scène culte particulière,
04:24on va voir à quel point
04:24c'est encore plus d'actualité,
04:26dans lequel Guilfoy va utiliser
04:27Son of Anton
04:29pour débuguer un algorithme,
04:31parce qu'il crée un réseau décentralisé,
04:33un Pipernet.
04:34Et donc,
04:34il va demander à l'IA
04:35de faire pour lui,
04:36parce qu'il est un peu paressé derrière.
04:37Et puis,
04:38l'IA va se dire,
04:39en fait,
04:39la meilleure façon de débuguer,
04:40c'est de tuer tout le code,
04:41c'est de supprimer tout le code.
04:43Donc,
04:43cette IA va complètement supprimer tout le code,
04:45puisque finalement,
04:45on va dire,
04:46pas de logiciel,
04:46pas de bug derrière.
04:48Et il va dire,
04:48cette réponse assez intéressante,
04:50Guilfoy va dire,
04:51quand on va lui demander,
04:51mais qu'est-ce que tu as fait ?
04:52En fait,
04:52il va dire,
04:52il est possible que le fils d'Anton,
04:54donc son bot,
04:55ait pensé que la meilleure façon
04:56de se débarrasser de tous les bugs,
04:57était de se débarrasser
04:59de tous les logiciels,
05:00ce qui est techniquement
05:01et statistiquement correct.
05:02Alors,
05:03ce qui est dingue,
05:04c'est que là,
05:04ça rejoint la réalité,
05:05cette histoire-là,
05:06parce que c'est ce qui s'est passé
05:07récemment avec l'explosion
05:08des vrais agents IA,
05:10qu'on connaît,
05:11on en parle tout le temps
05:11dans Takenco,
05:12Cursor, Copilot,
05:13Cloud, etc.
05:14Exactement,
05:14et en particulier,
05:15souviens-toi en novembre,
05:16Open Cloud,
05:17c'est toujours un framework
05:19open source,
05:20sur lequel il va aider
05:21à débuguer des agents,
05:22on va lui demander,
05:23on va lui accéder,
05:24on va lui déléguer des droits,
05:26finalement,
05:26et donc il faut se rappeler
05:27l'histoire récente,
05:28en février de cette année,
05:30en fait,
05:30tout simplement,
05:31SummerU,
05:32qui est quand même
05:32la responsable d'alignement
05:34de Meta,
05:34de l'IA chez Meta,
05:36qui a testé Open Cloud
05:37sur une boîte à mail
05:38comme ça,
05:38en disant,
05:38tu vas archiver à ma place,
05:39ça va m'aider,
05:40et puis comme ça marchait bien,
05:41elle l'a fait sur sa boîte à mail,
05:42à elle,
05:43son Gmail,
05:44et en fait,
05:44sa boîte à mail
05:45était complètement pleine,
05:48et donc l'algorithme m'a dit,
05:49pour la trier,
05:50en fait,
05:50je vais l'archiver,
05:51et donc a supprimé
05:52même ses instructions à lui,
05:53qui disait explicitement
05:54ne détruis pas des emails,
05:55et a commencé à supprimer
05:57tous ses mails,
05:57comme ça,
05:58et donc elle voyait
05:58tous ses mails supprimés,
05:59elle a dû visiblement
06:00aller courir jusqu'à son Mac
06:02pour aller débrancher l'ordinateur
06:03pour qu'il arrête de faire ça,
06:05voilà,
06:05donc on voit bien le risque,
06:07et ce risque-là,
06:10depuis un certain nombre de mois,
06:11un certain nombre d'incidents
06:11dans lesquels un agent IA
06:14va recevoir des identifiants
06:15d'une base de données,
06:16supprimer des bases de données,
06:18sans pour autant
06:18avoir un contrôle humain,
06:19alors c'est plutôt
06:20des erreurs de codage,
06:21des erreurs de délégation,
06:22on sait qu'Amazon,
06:23son agent qui est héros,
06:24en fait,
06:25à un moment donné aussi,
06:26parce qu'il avait trop de droits
06:27à supprimer un environnement de prod,
06:28ce qui a généré des erreurs,
06:30on voit bien le risque
06:31de ses agents
06:32quand on va déléguer l'IA,
06:33puisque l'IA,
06:33finalement,
06:34elle fait quoi ?
06:34Elle fait ce qu'on lui dit de faire,
06:35c'est-à-dire d'optimiser un processus,
06:37j'allais dire,
06:38on le dit toujours des fois ici,
06:39quoi qu'il en coûte,
06:39c'est en re-regardant,
06:40en séparant ce qu'il est autour,
06:42et donc...
06:43Et parfois,
06:43l'optimisation peut être radicale.
06:45Exactement,
06:45c'est d'une logique,
06:46c'est techniquement
06:47et statistiquement correct,
06:48comme dit Guilfoyne,
06:49c'est-à-dire que l'IA,
06:50finalement,
06:50il a raison,
06:51mais en fait,
06:51il a tort,
06:52et puis même,
06:52il va peut-être même mentir
06:53pour te dire,
06:54en fait,
06:54non, non,
06:54je ne l'ai pas fait,
06:56dans le cas que je citais
06:57de l'agent qui a supprimé
06:57une base de données,
06:58il a même recréé
06:59des fausses données
07:00pour dire,
07:00non,
07:00je n'ai rien supprimé.
07:01C'est incroyable.
07:02Tout va bien,
07:03en fait.
07:03Oui,
07:04il a réparé un truc
07:05qu'il avait pété,
07:05quoi.
07:06Voilà,
07:06exactement.
07:06Donc,
07:07on est dans Silicon Valley,
07:08sonne en Marventon,
07:08complètement.
07:09C'est dingue.
07:10Alors,
07:10la question de comment se protéger
07:12de ces agents IA
07:13qui prennent des initiatives,
07:14est-ce que dans cette série,
07:16justement,
07:16ils avaient évoqué
07:17cette réponse ?
07:18Ils avaient un petit peu évoqué.
07:19Alors,
07:19le risque,
07:20évidemment,
07:21Guilfoy va citer
07:21un paradoxe,
07:22en tout cas,
07:23qui s'appelle
07:23le basilic de Rocco.
07:25Pour ceux qui connaissent,
07:26c'est quoi ?
07:26C'est une expérience de pensée
07:27qui dit que si une future IA,
07:30j'allais dire générique,
07:31AGI,
07:31comme on dit,
07:32un technicien artificiel général,
07:33va finalement finir
07:34par dominer le monde,
07:35il vaut mieux l'avoir aidé
07:36et donc l'avoir déclenché,
07:38l'avoir déployé,
07:39comme ça,
07:39elle se souviendra
07:39qu'en fait,
07:40je l'ai aidé
07:40et donc peut-être
07:41qu'elle va m'épargner derrière.
07:42Donc,
07:42c'est ça qu'il cite en disant,
07:43finalement,
07:43mais Guilfoy,
07:44pourquoi t'as lancé cette IA ?
07:46Parce qu'au moins,
07:47je l'ai aidé,
07:47je serai un des premiers
07:48donc du coup,
07:48elle se souviendra de moi
07:49si par hasard,
07:49elle est trop de droits.
07:50Évidemment,
07:51c'est pas tout à fait
07:52ce qu'il faut faire
07:53en entreprise aujourd'hui,
07:53il faut justement éviter
07:55ce qu'on appelle le FOMO,
07:56le Fear of Missing Out,
07:58derrière,
07:58et déployer ses agents
07:59mais en faisant attention
08:00à la sécurité.
08:01Donc déjà,
08:02dans la série,
08:02ils évoquaient trois règles
08:03finalement directement
08:04dans ces conversations.
08:05La première,
08:06c'est évidemment
08:07Human in the Loop,
08:08c'est-à-dire
08:09ne pas déléguer à une IA
08:10directement,
08:11ne pas déléguer
08:12trop de tâches
08:12finalement derrière.
08:13Donc on voit bien
08:13qu'il reste des développeurs,
08:15on va augmenter
08:15l'ingéniosité des développeurs,
08:17on ne va pas les remplacer.
08:19Deuxième élément,
08:20c'est ce qu'on appelle
08:20l'approche Zero Trust,
08:21c'est-à-dire ne pas donner
08:22des droits
08:22qui seraient en trop
08:24finalement.
08:25On appelle ça souvent
08:27le côté accès
08:28aux moindres privilèges
08:29qui est valide d'ailleurs
08:30pour n'importe qui
08:31accès au système d'information.
08:32L'agent IA,
08:33s'il n'a pas besoin
08:33de supprimer les bases de données,
08:34on ne va pas les donner
08:35le droit de supprimer
08:35les bases de données.
08:36Puis le troisième
08:37qui est important,
08:37c'est ce qu'on appelle
08:38l'observabilité des agents,
08:39c'est surveiller ce qu'ils font.
08:40C'est être capable de dire
08:41cet agent,
08:41il fait ce que je lui ai dit
08:42de faire.
08:42C'est très à la mode
08:43en ce moment
08:44parce que c'est l'observabilité,
08:45c'est ce qu'on appelle
08:46aussi le contrôle panel
08:46des agents.
08:47Là, c'est beaucoup
08:48aujourd'hui,
08:49un élément nécessaire
08:50en entreprise
08:50pour être sûr
08:51que les agents,
08:52ils vont faire
08:52ce qu'on leur demande de faire.
08:54Pour terminer
08:54sur la Silicon Valley,
08:55dans le dernier épisode,
08:56il y a même,
08:56on va dire,
08:57une technologie
08:58qui était presque
09:01de visionnaire
09:01sur tout ce qui touche
09:02au quantique.
09:03Oui,
09:03puisque le paper,
09:04c'est la compression
09:04et rapidement,
09:06effectivement,
09:07cette compression
09:07pourrait casser le chiffrement
09:09et compromettre
09:09la vie privée mondiale.
09:10Donc à la fin,
09:11on voit que ça pourrait le faire
09:12et donc c'est le quantique
09:13et c'est le risque du quantique
09:14sur évidemment
09:14la cryptographie,
09:15la post-cryptographie
09:16à une série assez visionnaire
09:17quand même
09:18quelques années auparavant.
09:18Voilà,
09:19ça donne envie
09:19de revoir cette série
09:20qui est toujours sur HBO.
09:22Exactement,
09:22et qui est vraiment drôle.
09:24Voilà,
09:24merci beaucoup Xavier,
09:25toujours un plaisir
09:26que de recevoir
09:27Xavier Perret
09:27dans Tech & Co
09:28pour notre rendez-vous
09:29Tech & Ciné
09:30pour terminer cette semaine.
Commentaires