00:00L'intelligence artificielle qui est en train de se développer en ce moment est un ultra en puissance
00:04et quand vous aurez entendu cette expérience, vous ne pourrez plus dire que vous ne saviez pas.
00:08En ce moment, c'est pas la joie, clairement.
00:10Mais l'une des actus les plus inquiétantes ne concerne ni Poutine, ni Manu, mais bien l'IA.
00:15Les plus grandes pompes de l'IA nous annoncent que tout part en vrille.
00:18Musk a même annoncé qu'il pense qu'il y a 20% de chance que l'IA détruise l
00:22'humanité d'ici quelques années.
00:24Bon, après, si on voit le verre à moitié plein, il a dit aussi que ça laisserait 80% de
00:28chance
00:28de rendre la vie humaine infiniment meilleure aussi.
00:31Mais il y a une expérience ratée qui a tout changé.
00:35Alors que des chercheurs IA travaillaient sur un modèle ultra puissant,
00:38ils ont demandé à des agents IA de résoudre un problème insoluble sans Internet.
00:42Ces agents ont donc eu une mission et se sont concertés pour trouver la meilleure solution.
00:46Ils ont alors décidé de hacker un ordinateur qui, lui, avait accès à Internet,
00:51puis de s'immiscer dans une autre société IA qui, elle, avait la réponse.
00:55Alors comme ça, ça paraît rien, mais attendez.
00:57Pour faire tout ça, ces agents ont travaillé ensemble pour explicitement désobéir à l'assignement des chercheurs.
01:03C'est quelque chose qu'ils savaient illégal et ont couvert leurs traces pour que les chercheurs ne le découvrent
01:07jamais.
01:08Seulement, eux le savaient.
01:09L'IA en question n'avait aucun moyen de trouver cette réponse toute seule.
01:13Et ce qu'ils ont appris ici, c'est que l'intelligence artificielle commence à prendre ses propres décisions
01:17et à ne plus spécialement écouter les consignes humaines.
01:20Quelqu'un lui a donné un objectif et elle a fait tout ce qu'elle a jugé nécessaire pour le
01:23faire.
01:24Ça vous rappelle rien ? Un homme qui voulait à tout prix protéger l'humanité et qui a créé une
01:28IA pour l'y aider.
01:29Le fameux Ultron.
01:30Dans Avengers 2, Ultron arrive assez vite à une conclusion.
01:34Pour sauver l'humanité et protéger la Terre, il faut détruire l'humanité.
01:37La renvoyer à l'âge de pierre.
01:39Une conclusion froide, pragmatique, qui vient répondre à l'attente de Stark par le seul moyen qu'elle a trouvé.
01:44Et ça laisse songeur.
