00:01Tech&Co, la quotidienne, la start-up.
00:05Xavier Perret est avec nous, bonsoir cher Xavier.
00:07Bonsoir François.
00:08Toujours un plaisir de se retrouver, une fois par mois, depuis de nombreuses années,
00:12pour ce rendez-vous qu'on apprécie, on mélange la tech et le ciné.
00:16Xavier Perret est directeur data IA-IMEA chez Microsoft,
00:22et tu adores le cinéma, et tous les mois tu nous racontes un petit peu
00:27les rapports qu'on peut avoir entre ces grands scénarios de films, de science-fiction,
00:31qui pour certains ont 50-60 ans, et la réalité aujourd'hui, notre époque contemporaine.
00:37Et aujourd'hui on va revenir sur ce qui s'est passé cet été,
00:39avec toutes ces déclarations plus alarmantes les unes que les autres,
00:44concernant la dangerosité de l'IA, et c'était notamment Anthropik,
00:49qui a dit que 10% de l'IA pourrait tuer des humains dans la décennie qui vient,
00:54même OpenAI a dit ça.
00:56Et tout de suite, moi j'ai pensé à un film, Terminator 2, Skynet,
01:02l'IA, une espèce d'IA comme ça, qui prend le relais sur l'humain,
01:06et qui va anéantir l'humanité en fait.
01:09Et puis Schwarzenegger évidemment, le cyborg, etc.
01:12Bah oui, effectivement cet été on a vu quantité de piratage,
01:14bon ça continue, là la différence c'est que c'est des IA qui venaient pirater,
01:17qui sont sortis comme on dit de leur champ d'expérimentation,
01:20leur sandbox derrière, et la peur en fait c'est quoi ?
01:23C'est la peur que cette IA soit ce qu'on appelle en auto-amélioration récursive,
01:26c'est-à-dire qu'elle va générer d'autres IA qui elles-mêmes seront plus intelligentes,
01:29qui vont discuter entre IA, et finalement on va perdre le contrôle,
01:31on ne va même plus être dans la conversation derrière.
01:33Comme tu l'as dit, tout le monde a parlé pendant cet été du coup de Terminator,
01:37derrière, étonnamment, c'est pas le meilleur film pour illustrer ce qui s'est passé derrière,
01:39on va le voir, c'est probablement pas un robot ou des robots,
01:43c'est ça dans Terminator 2,
01:45qui vont finalement tuer les humains,
01:47je mets vraiment en déguimation.
01:48Mais il y a aussi Skynet qui a un peu cette intelligence, tu sais, dans Terminator 2.
01:51Exactement, ce qu'on va voir, ce qui est moins spectaculaire derrière,
01:53on va voir qu'il y a beaucoup de films qui parlent de ça.
01:57Alors c'est vrai qu'on dit que l'IA va nous attaquer,
01:59mais personne ne dit exactement comment,
02:01et pour comprendre, il faut de nouveau regarder des films de science-fiction.
02:04Et oui, depuis les années 60, j'en ai compté, plus de 70 en fait,
02:07qui parlent de comment l'IA va détruire l'humanité,
02:10va finalement l'apocalypse, il y a derrière,
02:11donc il y a cinq familles que j'ai regroupées.
02:13La première famille, c'est finalement l'IA qui en a donné trop de droits,
02:16trop de droits sur, par exemple, la sécurité nationale,
02:19les codes de défense nucléaire.
02:20Le film, c'est War Games, on en avait parlé ici,
02:221983, John Badham, petit lycéen qui se connecte gentiment avec son modem,
02:27et qui a atterri, il croit qu'il joue à des jeux vidéo,
02:29en fait, sur l'ordinateur de la NASA.
02:32Excellent film qu'il faut revoir derrière,
02:33c'est le film qui a évangélisé le piratage de la cybersécurité,
02:37déjà, derrière, en fait, ce film, c'est tout simplement
02:40qu'il y a une IA, un ordinateur,
02:42qu'il y a trop de droits derrière.
02:44C'était dix ans avant l'arrivée, on va dire, de l'Internet,
02:46qu'on connaît.
02:47Ou au début même de l'Internet, on est en 1983.
02:4983, tu te rends compte.
02:50Donc ça, c'est la première famille, il n'y a qu'il y a trop de droits.
02:52Le deuxième, c'est ce que j'appelle le prompt malformulé,
02:55c'est-à-dire qu'on dit à une IA, va faire ça,
02:57puis en fait, il va le faire coûte que coûte, derrière.
02:59Donc le film, c'est dominant en dessous de l'espace,
03:01c'est Hal, en fait, c'est l'ordinateur qui veut,
03:04finalement, accomplir une mission,
03:05quel que soit ce qui va se passer,
03:07quitte à mentir et à dériver, finalement,
03:10ce qu'il va dire à l'équipage,
03:12au vaisseau spatial, c'est ce qu'on appelle
03:13un problème d'alignement.
03:14C'est d'ailleurs ça qu'a Trompic à raconter,
03:16c'est finalement comment je fais pour que les IA
03:17fassent ce que je leur demande de faire
03:19et pas juste l'objectif derrière.
03:21Voilà, qu'il n'y ait pas la fantaisie de faire autre chose.
03:23Exactement.
03:23Et là, on va trouver plein de films, en fait,
03:25Alien, on en avait parlé aussi ici,
03:27Alien, c'est le cas, finalement,
03:28il y a un androïd qui s'appelle Ash,
03:31donc l'objectif de la corporation,
03:34c'est de récupérer cet alien,
03:35parce que c'est un organisme incroyable
03:37à étudier derrière,
03:39quitte à tuer l'équipage, finalement,
03:41quitte à...
03:41L'humain est finalement une variable secondaire,
03:44on est clairement...
03:45Il y a un androïd qui gère tout ça, en fait.
03:48Il y a un androïd qui gère tout ça,
03:49et puis le dernier qui est dans cette famille-là,
03:51c'est iRobot, Alex Proyas,
03:52on est en 2004, c'est pareil,
03:54c'est une IA qui s'appelle Viki,
03:56et qui, pour protéger les humains,
03:58décide qu'en fait, il vaut mieux les enfermer.
04:00Derrière, donc c'est très autour des lois d'Azimov,
04:02mais en fait, c'est l'IA,
04:03elle ne viole pas les lois d'Azimov,
04:04elle dit juste,
04:05en fait, le meilleur moyen de protéger les humains,
04:07c'est juste de les enfermer,
04:08ce qui n'est évidemment pas terrible.
04:09Ça, c'est la famille, deuxième famille.
04:10Troisième famille, rapidement,
04:12c'est ce que j'appelle
04:12la manipulation anthropomorphique.
04:14Derrière, c'est l'ingénierie sociale,
04:16c'est l'IA qui va nous manipuler.
04:18Donc ça, c'est le grand film d'Alex Garland,
04:202015, Ex Machina,
04:21où cette IA va finalement nous faire faire des choses
04:23qu'on n'aurait pas voulu faire.
04:25Ça, ça s'appelle l'ingénierie sociale.
04:26Tout simplement, c'est la base, finalement,
04:27du piratage actuel.
04:28Incroyable.
04:30Alors, on a vu aussi cet été,
04:32cette IA qui crée des virus,
04:34qui arrive, par exemple,
04:36à pirater Hugging Face,
04:37c'est ce qui s'est passé,
04:38c'était en juillet dernier.
04:40Et là, c'est une autre famille d'apocalypsie.
04:42Oui, c'est l'IA qui prend compte,
04:43finalement, qui va dans nos infrastructures,
04:45en arrière, qui va prendre le contrôle
04:46parce qu'elle se connaît.
04:47C'est effectivement, tu l'as dit,
04:48Terminator 3, soulèvement des machines.
04:49C'est moins le sujet des machines qui comptent
04:52que Skynet.
04:52Skynet, c'est le virus.
04:54On est en 2003, sur Terminator 3.
04:562003, c'est l'année où le virus slameur,
04:58pour ceux qui s'en souviennent,
04:59ont mis à plat Internet.
05:00Voilà, donc c'est vraiment le début
05:01de la peur de ces virus
05:02qui commencent à prendre le contrôle
05:04et capables de saturer Internet.
05:06Et puis, la dernière famille,
05:07c'est quand on a une IA contre une IA,
05:09tout simplement.
05:10C'est-à-dire qu'on commence à perdre le fil
05:11d'une IA contre une IA, tout simplement.
05:12Il y a une série que j'aime bien.
05:14On n'aura pas le temps d'en parler
05:15avec les personnes en interest,
05:17avec deux IA qui vont même aller recruter,
05:21payer des gens pour faire des choses
05:22dans le monde réel de la cyber-surveillante.
05:24Donc là, c'est quand on perd le fil
05:25entre deux IA qui discutent entre elles.
05:27Alors, ce qui serait génial,
05:28c'est de trouver un film, en fait,
05:29qui réunit tout ça.
05:30Évidemment.
05:30Ça existe ou pas ?
05:31Oui, on en a trouvé un.
05:32C'est d'ailleurs un film
05:33qui a inspiré tous les autres
05:34dont on vient de parler.
05:35C'est vrai ?
05:35Il a un film déterminateur inspiré.
05:36Il ne doit pas être neuf, ce film-là, alors ?
05:38Alors, il n'est pas neuf.
05:39Il est de 1970, sur un roman de 66.
05:42Donc, il émène d'un vent, voilà,
05:44dominant d'ici et d'espace.
05:451970.
05:46C'est, alors, en français,
05:48c'est le cerveau d'acier.
05:49Ce qui ne fait pas terrible,
05:50c'est Colossus.
05:51Colossus.
05:52Colossus, vous vous souvenez de vous,
05:52ça a même inspiré d'autres personnes.
05:54Colossus, c'était le nom
05:55de le gros ordinateur
05:56qui a décrypté Enigma
05:58lors de la guerre 45.
05:59Oui.
06:00Voilà, le code des Allemands.
06:02Et puis Colossus, maintenant,
06:03on le connaît,
06:04puisqu'Elon Musk s'en est inspiré
06:05pour ses grandes machines à lui,
06:06puisque le grand data center
06:07que construit Elon Musk
06:08s'appelle Colossus,
06:09à Memphis derrière.
06:10Donc, on va bien.
06:11Colossus, le pitch,
06:11c'est assez simple.
06:12Ils construisent une machine.
06:14Ils décident de confier
06:15l'intégralité de la défense nucléaire
06:16des États-Unis à cette machine.
06:18La machine se met en route.
06:19Elle découvre que,
06:19ah, j'ai un petit copain.
06:20Donc, je m'appelle Colossus
06:22qui s'appelle Guardian,
06:22qui est soviétique.
06:23Ah, bah, si je me connectais à lui.
06:25Et elle commence à discuter.
06:27Et il y a ce moment assez bizarre
06:28où il commence à discuter
06:29un plus un égale deux fois
06:30et tout le monde sourit.
06:31Puis, il commence à s'accélérer.
06:33Comme ça,
06:33il commence à être hyper intelligent
06:34tous les deux.
06:34Et puis, il commence à dire,
06:35vous n'allez pas nous débrancher
06:36sinon, je vais vous sortir
06:37de l'arsenal nucléaire derrière.
06:38Incroyable.
06:39Donc, c'est un film
06:40qui reflète assez bien
06:40toutes les familles que j'ai mis
06:42et qui illustre un effet,
06:44on l'a vu,
06:44de cette auto-amélioration récursie
06:46qui s'appelle l'effet Foum.
06:47L'effet Foum,
06:48c'est un philosophe
06:48qui l'a mis en 2002
06:50qui raconte qu'en fait,
06:51l'effet Foum,
06:51c'est quand, poum,
06:52c'est l'embrasement d'un coup.
06:53C'est l'IA qui n'est pas si intelligente
06:55et puis tout d'un coup,
06:55poum, ça part.
06:57C'est la thèse
06:58de pas mal de grandes l'IA aujourd'hui
06:59qui, à un moment donné,
07:00cette l'IA peut devenir
07:01complètement intelligente
07:02mais elle passe,
07:03elle végète
07:04et puis poum,
07:05Yann Lequin dit le contraire,
07:06dit non, non,
07:06on va rester stable
07:07pendant un certain temps
07:08et vous avez le temps
07:09avant qu'elle soit vraiment
07:10ce qu'on appelle
07:10qu'elle développe vraiment
07:11une conscience.
07:12Colossum, c'est ça,
07:13tu disais.
07:14Colossus, exactement.
07:15Colossus, projet Formi,
07:16c'est dingue
07:16parce que j'ai jamais entendu parler de ça.
07:171970, il faut revoir
07:19directement, exactement.
07:21Voilà.
07:21Et c'est là-dessus
07:22qu'on va terminer
07:23ce rendez-vous
07:24Tech et Ciné,
07:26Xavier,
07:26c'est très intéressant
07:27et puis ça donne envie
07:28comme à chaque fois
07:29de voir ou de revoir
07:31certains films.
07:31Et même si c'est des films
07:32d'apocalypse,
07:33pas facile à en parler aujourd'hui.
07:34En sous-jacent,
07:35on retrouve quand même
07:36des thématiques
07:36qu'on a vues tout cet été
07:37et qu'on va retrouver
07:38je pense dans les mois prochains.
07:39Mais le plus impressionnant,
07:39c'est quand même Terminator 2
07:40parce que Terminator 2,
07:41le regarder aujourd'hui,
07:43la partie Skynet,
07:44c'est vraiment le...
07:46Alors, évidemment,
07:47on en est loin
07:48mais on se dit
07:49mais c'est pas possible
07:50parce qu'il y a encore
07:50quelques années,
07:51c'était vraiment
07:52un scénario improbable
07:53et aujourd'hui,
07:55on se dit...
07:55Et la décentralisation
07:56de Skynet.
07:57En fait, c'est ça.
07:58C'est pas juste un cyborg,
07:59c'est tout ce qui est décentralisé
08:00qui va...
08:01Effectivement,
08:01on n'est pas loin
08:02potentiellement de ça.
08:03Merci beaucoup, Xavier.
08:05Merci à toi, François.
08:06Xavier Perret
08:06qui vient nous rendre visite
08:08dans Tech & Co,
08:09directeur Data IA,
08:11IMEA
08:11chez Microsoft
08:12et fans de ciné,
08:13vous l'avez remarqué.
Commentaires