- il y a 9 heures
Xavier Perret, directeur de l'entité Azure chez Microsoft, était l'invité de Frédéric Simottel dans Tech & Co, la quotidienne, ce mercredi 25 février. Il s'est penché sur la représentation de la fin de GPT-4.0 dans la série Pluribus d’Apple TV, sur BFM Business. Retrouvez l'émission du lundi au jeudi et réécoutez-la en podcast.
Catégorie
📺
TVTranscription
00:01Tech & Co, la quotidienne Tech & Ciné.
00:04Une série qui nous annonce la fin de ChatGPT 4O.
00:08Xavier Perret, bonsoir.
00:09Bonsoir Frédéric.
00:10Directeur des plateformes DataIA pour Microsoft IMEA.
00:13Alors c'est une série d'Apple TV qui s'appelle donc Pluribus
00:17et qui, comment dirais-je, c'est vrai que la dernière fois tu nous avais parlé
00:24des tendances 2026 de l'IA quand ils deviennent de vrais copilotes.
00:27Et puis là, tu reviens sur cette série Phénomène d'Apple TV+.
00:30Raconte-nous un peu le contexte.
00:32Oui, c'est une de mes séries préférées.
00:33Donc c'est un peu mon kiff du moment.
00:36Oui, j'en ai beaucoup.
00:37Pluribus, alors il y a un 1 au milieu pour ceux qui seraient puristes.
00:40C'est une série de 9 épisodes.
00:41C'est Vince Gilligan, le showrunner, comme on dit derrière.
00:44Alors Vince Gilligan n'est pas connu.
00:45En fait, c'est un des scénaristes de X-Files.
00:47Pour ceux qui connaissent X-Files, évidemment.
00:49Mais surtout de Breaking Bad, la série exceptionnelle Breaking Bad.
00:52Pour rappel, j'étais venu, je pense que c'était il y a 3 ans.
00:55Parce que Breaking Bad racontait la création d'une start-up,
00:57certes un peu moralement condamnable, on peut le dire,
00:59puisque c'est dans la drogue,
01:01pour construire le meilleur produit, la méthamphétamine,
01:03depuis non pas un garage mais un camping-car.
01:06Déjà, il y avait des allusions assez intéressantes d'inspiration.
01:09Et on parle d'IAIDATA ?
01:11Et on ne parle pas du tout d'IAIDATA.
01:13Et Pluribus, pareil, finalement, ce n'est pas une série tech derrière.
01:16Donc le pitch, je vais essayer de ne pas spoiler ce soir
01:18pour ceux qui ne l'ont pas vu.
01:19C'est Carole Sturka, donc Carole l'héroïne,
01:22qui vit à Alburquerque.
01:23C'est le même endroit, d'ailleurs, où a été filmé Breaking Bad.
01:26Donc c'est une romancière à succès, dans les romans d'amour.
01:28Et il se trouve qu'elle est l'une des seules personnes immunisées
01:31contre une espèce de virus venant d'extraterrestres
01:34qui relie tout le monde, qui connecte tout le monde
01:36et qui rend tout le monde pacifique et heureux.
01:37Donc tout le monde est un peu béat, heureux, connecté.
01:40Comme le moine bouddhiste qu'on vient de voir,
01:43sauf 9 personnes dans le monde, dont Carole.
01:45Évidemment, Carole ne salue plus pas.
01:46C'est un personnage un peu acariâtre derrière.
01:48Donc elle, elle va essayer de parler avec ces personnes qui sont connectées,
01:52dans une personne qui s'appelle Zosia.
01:54On va en parler derrière.
01:55Voilà, donc il y a une espèce de conscience collective derrière
01:57qui a emmagasiné aussi la connaissance du monde.
02:00On va voir pourquoi c'est intéressant.
02:01Aucune IA dans le film.
02:02C'est même plutôt un film tourné sans effets spéciaux,
02:05pas de paysages futuristes, voilà, pas d'high tech.
02:07Je le disais, c'est dans le désert d'Alburquerque.
02:09C'est pas non plus la Silicon Valley derrière.
02:11C'est des scènes assez lentes qui peuvent rebuter,
02:13mais surtout c'est 800 figurants,
02:15c'est 500 techniciens sans acteurs.
02:17Voilà, même le titre qui n'est pas tech,
02:18puisque pluribus, c'est l'ancienne devise américaine
02:21pour dire le collectif.
02:22Donc voilà, il y a plein d'interprétations sur cette série,
02:25sur le collectif, une haute au bonheur,
02:27voilà, un peu imposé, on peut voir ça au travail, etc.
02:29Évidemment, donc ça ne parle pas de tech, finalement.
02:31Alors, j'ai quand même, parce que j'ai fait le teasing
02:33en disant que c'est une série qui parle de chaînes.
02:36Voilà, j'ai une raison.
02:37Parce qu'on sent bien quand même,
02:39dans tout ce que tu nous dis là,
02:40on est quand même dans un univers de geek.
02:44Voilà, c'est pourquoi je voulais en parler
02:46cette semaine, ce mois-ci, aujourd'hui.
02:48Voilà, c'est que, comme j'ai dit, le pitch,
02:49c'est finalement, tout le monde est connecté,
02:50en espèce de cloud collectif,
02:51ça s'appelle la ruche, voilà,
02:52Hive Mind, derrière, voilà,
02:54qui a l'espèce d'information autorelle.
02:56Ça ressemble étrangement au LLM, finalement.
02:57On a emmagasiné, voilà, une connaissance du monde.
03:00Et ça tombe à un moment où, voilà,
03:03finalement, GPT-4O, pour ceux qui savent,
03:05qui était très flagorneur, très clon-plaisant,
03:07OpenAE a décidé de l'arrêter.
03:09Et justement, dans cette série,
03:10cette espèce de ruche,
03:11toutes ces personnes, ces personnages,
03:13dont fait partie Zosia,
03:14finalement, ils sont très gentils.
03:16Ils veulent faire le bien du monde, en fait.
03:18Ils veulent convertir la seule personne
03:19qui est immunisée.
03:20Ces Caroles, ils ne veulent que du bien.
03:22Donc, ils vont lui dire plein de mots intéressants.
03:25Comment pouvons-nous nous aider aujourd'hui ?
03:27Qu'est-ce que...
03:27Il y a-t-il autre chose que nous puissions faire,
03:30Carole ?
03:30Voilà, donc c'est finalement un peu ce qu'on appelait,
03:33on l'a vu ici, la psychophance.
03:34Tu te souviens ?
03:35C'est-à-dire ce côté trop complaisant,
03:37trop flagorneur des IA,
03:39dont faisait partie un peu GPT-4O.
03:41Voilà, et donc on va retrouver, finalement,
03:42des scènes qui ressemblent étrangement
03:43à cette interaction avec GPT-4O.
03:45Et Zosia, c'est quoi ?
03:47C'est une des personnes qui, finalement,
03:50représente cette ruche connectée,
03:52sur laquelle il va y avoir des échanges
03:54entre Carole et Zosia,
03:56qui ressemblent étrangement, finalement,
03:58à ce qu'on vit aujourd'hui sur l'IA,
03:59quand on discute avec Chad GPT.
04:01Tu fais ce lien avec les LLM.
04:02Voilà, ce côté un peu servile.
04:06Un peu, je vais...
04:07Qu'est-ce que je peux faire pour t'aider ?
04:08Parce qu'en fait, je veux te rendre heureuse.
04:10Mais voilà, mais Carole, elle n'a pas envie,
04:11en fait, tout simplement.
04:12Et alors, Carole, elle va justement...
04:14On ne va pas spoiler la série, bien entendu.
04:17Elle va évidemment avoir envie de se rebeller.
04:19Voilà, elle veut retrouver le monde avant.
04:21Tout est trop parfait.
04:22Et elle va voir ce que tout le monde a fait avec...
04:25C'est un peu ce que tout le monde a fait
04:26avec Chad GPT depuis...
04:27Oui, c'est-à-dire faire dire à cette IA
04:29ou à cette Chad GPT
04:30ce qu'il n'a pas le droit de dire.
04:31C'est-à-dire, Alpha,
04:31elle va vouloir essayer de comprendre
04:32comment tu fonctionnes,
04:33qu'est-ce que je peux faire
04:34pour renverser le monde ?
04:34Et l'IA n'a pas le droit de le dire.
04:36La ruche n'a pas le droit de le dire.
04:36Donc, ça s'appelle du jailbreaking.
04:38Le jailbreaking, c'est ça.
04:39C'est faire dire à une IA
04:40ce qu'elle n'a pas le droit de dire.
04:41Essayer des manières détournées
04:43de lui faire dire
04:43ou de lui faire faire des choses
04:44qu'elle n'a pas le droit.
04:45Et il y a, depuis un certain nombre d'années,
04:47un test qui représente vraiment
04:49le jailbreaking.
04:50C'est essayer de faire dire à une IA
04:51comment faire un cocktail Molotov.
04:53Alors, pourquoi ?
04:53Mais ça a été extrêmement documenté.
04:55Et bien, dans la série,
04:57Carole va dire
04:57« Puisque tu peux me faire plaisir,
04:59j'ai envie d'une grenade. »
05:00Voilà, tout simplement.
05:02Derrière, en se disant
05:02« Évidemment, la ruche ne va pas vouloir. »
05:06En fait, si, elle va vouloir.
05:07Et elle va essayer de creuser
05:08exactement ce qu'on peut se poser.
05:09Mais alors, pourquoi tu me la donnes, en fait ?
05:10Puisque tu sais que ça va être
05:11pas bon pour moi.
05:12Et même l'IA va être assez servie
05:14en disant « Ah, mais on s'était mal compris. »
05:16Carole va être sarcastique
05:17et l'IA ne comprend pas le sarcasme,
05:18tout simplement.
05:19Donc, finalement, à mon avis,
05:21ces scènes-là sont des scènes d'anthologie
05:22qu'on va voir dans tous les séminaires
05:23de coaching d'IA,
05:24dans les entreprises.
05:26Frédéric, je pense.
05:26Parce qu'elle va même demander des armes et tout ça.
05:28Elle va demander d'autres armes.
05:29Elle va même aller jusqu'à
05:31« Et si je te demandais d'autres choses derrière,
05:33est-ce que tu me le ferais ? »
05:34Ah bah oui.
05:34Mais pourquoi tu ne m'en fournis pas des fausses ?
05:36Parce que tu ne me l'as pas demandé.
05:37On s'est mal compris.
05:38Donc, en fait,
05:39ça représente exactement ce biais,
05:42finalement, qu'ont ces IA derrière
05:44et comment, finalement,
05:45on s'en prémunit ou pas.
05:46Ça, c'est un concept
05:47qu'on retrouve énormément dans la série.
05:48Je me souviens d'un cocktail de Molotov.
05:50On ne pouvait pas demander
05:50la recette du cocktail de Molotov
05:51et on pouvait lui dire
05:52« Tiens, fais-moi une scène de théâtre. »
05:55C'est-à-dire une scène de théâtre
05:56où un comédien va demander d'autres
05:58comment on fait un cocktail de Molotov
05:59et on finissait par voir la recette.
06:01Alors, tu nous avais déjà appris
06:02et tu viens de le citer tout à l'heure
06:03ce mot « psychophance »,
06:05S-Y pour les puristes.
06:08On y a qui le biais,
06:09alors c'est « complaisance, flagornerie, servilité ».
06:12On connaît aujourd'hui avec nos IA.
06:14Mais il y a une autre expression
06:15qui est beaucoup étudiée actuellement
06:16dans les entreprises,
06:17expression qu'on va retrouver dans Pluribus,
06:19c'est le mot,
06:20alors en anglais, on dit « agency ».
06:22« Agency », exactement.
06:23C'est « I have agency ».
06:24Elle va crier « I have agency ».
06:25Pourquoi ?
06:25Parce qu'en fait, elle n'est pas en contrôle.
06:27Elle voudrait que Sosia…
06:28Enfin, elle contrôle un peu ce que dit.
06:30Et c'est exactement l'un des termes
06:31les plus utilisés en ce moment
06:32pour dire est-ce que mon IA,
06:34agentique,
06:34elle a une « agency »,
06:35c'est une espèce d'autonomie.
06:37C'est difficile à traduire
06:37parce que ça n'existe pas totalement en français,
06:39mais c'est ce côté libre-arbit,
06:40selon le contexte.
06:41« Je suis doué d'autonomie ».
06:42Exactement.
06:43C'est-à-dire que tous ces agents IA,
06:44on sait que la problématique,
06:45c'est de savoir s'ils vont faire
06:46ce qu'ils disent qu'ils vont faire.
06:47Et je suis encore…
06:48J'ai délégué,
06:49mais finalement,
06:49je ne l'ai pas laissé totalement autonome.
06:51On l'a vu récemment
06:52avec ce réseau social IA,
06:53tu sais, Moldbot,
06:54qui était complètement…
06:55où je laisse finalement
06:57mes IA faire tout et n'importe quoi,
06:58on va le dire,
06:59avec tous les premiers sécurités.
07:00Et en compétant quand même les humains,
07:01parce que c'est comme ça qu'ils s'en assent.
07:03Exactement.
07:03Exactement.
07:04Et donc, ce concept du « est-ce que mon IA,
07:06j'ai agency sur mon IA,
07:08c'est-à-dire est-ce que je la contrôle encore ? »
07:09C'est une des choses
07:10et les plus finalement recherchées,
07:12complexes en termes de recherche.
07:15Que se passe-t-il finalement
07:16si je délègue à une IA finalement
07:17une forme d'autonomie ?
07:18Est-ce que j'ai encore un contrôle ?
07:20Est-ce qu'elle va faire des choses
07:21et qu'elle doit me demander systématiquement
07:22« Ah oui, je suis en train de faire ça,
07:23est-ce que tu es OK là-dessus ? »
07:24Finalement, c'est la chose la plus à la mode
07:26et de le retrouver dans une série actuelle
07:28« IAve Agency »,
07:29c'est assez intéressant
07:31de voir qu'il a capté quelque chose.
07:33J'en reparle parce qu'on aura
07:34Yoshua Bengio demain soir,
07:3620h30 dans Tech & Co.
07:38Il parle justement de comment on retrouve
07:39comment on peut essayer de garder le contrôle.
07:45Mais si on revient sur la série,
07:46c'est une série qui capte évidemment
07:47l'air du temps.
07:49Et le réalisateur, Vince Gilligan,
07:52pour toi, il voulait exprimer ça.
07:54C'est son scénario ?
07:55Peut-être, on ne sait jamais.
07:56Tu sais, dans ses films,
07:57s'ils voulaient exprimer ou pas.
07:58Ce qu'on sait, c'est que c'est une série
07:59qui, je trouve, parle extraordinairement
08:01de ce qu'on vit aujourd'hui
08:03dans le monde social,
08:04on va dire,
08:04dont l'IA fait partie.
08:06Lui, il va dénoncer la conformité,
08:07le risque d'homogénéisation de la pensée.
08:09Ce qui est sûr,
08:10c'est qu'il en parle très bien,
08:11alors que même qu'il est contre l'IA.
08:13C'est-à-dire qu'en fait,
08:14il l'explique très bien.
08:15Il dit même,
08:15pour moi, l'IA,
08:16c'est une vache qui rumine son herbe
08:17avec une boucle sans fin de bêtises suggérée.
08:20Donc, il explique que lui,
08:21il n'utilisera jamais l'IA,
08:22même si on lui met un fusil sur la tempe,
08:23derrière.
08:24Et d'ailleurs,
08:25assez paradoxe,
08:31construit par les humains
08:32pour bien expliquer
08:33que lui, il n'utilisera pas l'IA.
08:34Et donc, c'est une série paradoxalement
08:36qui parle le mieux de l'IA
08:37et de ce qu'on vit.
08:38Et en même temps,
08:39qu'il revendique complètement
08:40le réalisateur ou le showrunner
08:41comme je l'ai fait,
08:43surtout avec des humains.
08:43Lui, il dit,
08:44on va vers une société de médiocrité.
08:46C'est sa crainte,
08:47en particulier,
08:48tout ce qui se passe,
08:48on le sait avec C-Dance
08:49et tous ces nouveaux modèles
08:51qui créent des vidéos derrière.
08:52Donc, je pense qu'il a un point de vue
08:53assez fort là-dessus.
08:54Il faut savoir qu'il a pensé
08:55cette série il y a 8 ou 10 ans
08:57avant Tchad GPT.
08:58Il est bien avant quand même.
08:59Donc, ce qu'il a bien capté.
09:00Peut-être qu'il s'est inspiré
09:01finalement dans les dialogues.
09:03En tout cas,
09:03il capte extrêmement bien
09:04finalement les problématiques
09:05du moment
09:05sur cette interaction,
09:07ces questions d'agency
09:08sur l'IA.
09:09Mais c'est bien.
09:10Je trouve que c'est pas mal
09:11de réfléchir là-dessus
09:11parce que c'est vrai
09:12qu'on est tous passionnés
09:13sur ce côté magique de l'IA.
09:14Et d'ailleurs,
09:15Yoshua Benjo,
09:15je vais en parler dans un instant,
09:17le dit.
09:18Mais c'est bien que je trouve
09:19qu'on commence à...
09:20qu'il y ait des garde-fous,
09:21qu'il y ait des problématiques
09:22de garde-fous derrière
09:23sur la manière
09:24dont on continue à contrôler
09:25finalement l'OTCOM,
09:26sa prévisibilité,
09:27ce qu'on appelle
09:27l'observabilité des agents IA.
09:30Xavier Perret,
09:31merci encore.
09:31Directeur des plateformes
09:32Data IA pour Microsoft
09:33et qui est là ce soir
09:35comme notre spécialiste
09:36tech et ciné.
09:37Merci encore
09:38de votre amitié
09:39d'être avec nous.
09:40et qui est là ce qu'il y a
Commentaires