00:01RMC, on n'arrête pas le progrès.
00:03Mais est-ce vraiment du progrès, Anthony ?
00:05En tout cas, on va s'intéresser à la question la plus vertigineuse du moment.
00:08Quel risque fait poser l'intelligence artificielle sur l'avenir de l'humanité ?
00:11Vous avez 4 heures.
00:13Ce week-end, en tout cas, les géants de l'IA se sont mis d'accord pour appuyer sur la
00:17pédale de frein
00:18alors que les modèles deviennent de plus en plus puissants et de plus en plus incontrôlables.
00:21Oui, c'est ça. Il faut freiner d'urgence.
00:23C'est ce que disent tous les grands groupes d'intelligence artificielle.
00:26C'est rare d'avoir une telle unanimité entre Sam Altman, c'est OpenAI, Chad GPT,
00:32Dario Amodei, c'est le patron d'Enthropic, ça c'est Claude,
00:34et puis Elon Musk, qu'on ne présente pas évidemment.
00:36Ils sont rarement tous d'accord, mais là, ils disent qu'il faut qu'on fasse quelque chose
00:39parce qu'il y a urgence à faire très attention.
00:42Le détonateur, on en a beaucoup parlé, la démission de ce chercheur d'Enthropic il y a quelques jours,
00:47qui s'appelle Jacob Coxon, qui dit, attendez, tous ces gens-là, ils jouent avec nos vies.
00:51C'est très très dangereux avec ces modèles qui deviennent de plus en plus intelligents.
00:54Et en fait, ce qui est intéressant, c'est que dans sa foulée,
00:57il y a plein d'autres chercheurs de haut niveau qui ont pris la parole
00:59pour dire un petit peu la même chose sur les réseaux sociaux.
01:01Un autre chercheur d'Enthropic, qui dit de manière très tranquille,
01:04lui, il estime à 10% le risque d'une extinction de l'humanité dans la décennie.
01:08Donc, ce n'est pas un scénario qui est extrêmement rassurant, on ne va pas se mentir.
01:11C'est fiable, lui ?
01:12En tout cas, c'est des gens qui ont les mains dans le cambouis algorithmique.
01:14C'est des gens qui savent de quoi ils parlent.
01:16Après, certains vont dire que c'est de la com, etc.
01:17Je ne sais pas quel intérêt ils auraient réellement à faire ça.
01:20Ce qui est intéressant, c'est que Dario Amodei, le patron d'Enthropic,
01:22il a publié un long texte où il explique un petit peu les dangers, selon lui,
01:26de l'intelligence artificielle.
01:27Il dit qu'il y a eu quand même des incidents un petit peu inquiétants.
01:29Et ça, c'est du concret.
01:30Cet été, par exemple, on a eu Nia qui, alors qu'elle n'était pas censée du tout
01:34se connecter à Internet, a trouvé le moyen de se connecter à Internet
01:36et lancé une attaque informatique de manière autonome.
01:40Bon, ça, déjà, c'est un petit peu flippant.
01:41Oui, elle s'entraîne.
01:42Justement, ce n'est pas forcément très rassurant.
01:44Et Dario Amodei dit qu'on est au tout début,
01:46parce qu'on va arriver vers des modèles, alors ce qu'on appelle l'amélioration récursive,
01:50en gros, c'est des IA qui s'auto-améliorent.
01:52Et là, on va arriver dans un monde où on n'est plus capable de les comprendre,
01:55on n'est plus capable de comprendre comment elles résonnent
01:56et où elles vont devenir, en fait, beaucoup plus performantes,
01:59beaucoup plus intelligentes que nous.
02:00Lui, il imagine un scénario, alors pardon pour faire flipper tout le monde,
02:03où un essaim d'agents IA, donc des IA très puissantes,
02:07pourrait carrément prendre le contrôle d'Internet
02:09et générer des centaines de milliards de dollars.
02:12Et ça, ce serait dans quelques mois de dégâts.
02:14Mais ça ne nous tuerait pas ?
02:15Ça ne nous tuerait pas, ça pourrait quand même faire très très mal.
02:18C'est-à-dire que l'IA, on peut imaginer plein de scénarios assez terribles,
02:22sans forcément qu'elle nous tue.
02:23Encore que, encore que, mais on peut imaginer un scénario
02:26où elle lance des cyberattaques massives sur, je ne sais pas,
02:29sur le système bancaire, système hospitalier, système électrique,
02:36toutes les infrastructures critiques, ça ne va pas nous tuer d'un coup,
02:38mais enfin, ça va faire quand même beaucoup, beaucoup, beaucoup de dégâts.
02:41Mais on ne peut pas lutter contre ça et mettre des barrières, entre guillemets ?
02:44C'est très très compliqué, en réalité, de mettre des barrières.
02:46Si vous partez du principe que ces modèles vont devenir, encore une fois,
02:49beaucoup plus intelligents que nous,
02:51vous vous retrouvez dans un monde où vous êtes comme vous
02:53quand vous êtes dans une classe avec des enfants de 4 ans.
02:55Vous pouvez les manipuler, faire un peu ce que vous voulez avec eux.
02:57C'est un peu la même chose que là, les enfants de 4 ans, ce sera nous en fait.
03:03Vraiment, l'IA pourra potentiellement nous faire faire n'importe quoi.
03:06Je suis désolé de vous dire ça, je ne veux pas avoir l'air trop anxiogène.
03:09Non !
03:10Là, vraiment, on est bien.
03:10Il y a 10% de risque qu'on meurt tous.
03:12Encore une fois, tout ça est à prendre avec des pincettes.
03:14Il y a des gens qui disent l'inverse.
03:16Il y a aussi des chercheurs qui disent non, non, tout ça, c'est n'importe quoi.
03:18On joue à se faire peur.
03:19Non, mais il faut aussi prendre le problème.
03:21Ce qui est très compliqué, y compris dans ma position, moi, qui suis ça au quotidien,
03:24je ne suis pas chercheur en intelligence artificielle,
03:27je n'ai pas les mains dans les algorithmes, je ne suis pas à la tête d'Opener,
03:30donc je ne sais pas s'ils disent la vérité ou pas.
03:32Ce qui est sûr, c'est que leur parole, elle doit être prise au sérieux
03:34et surtout, qui doit la prendre au sérieux ?
03:36C'est les chefs d'État.
03:37Il doit y avoir une coordination internationale au plus haut niveau.
03:41C'est très compliqué.
03:42Donald Trump, il a dit non, non, tout ça, c'est n'importe quoi.
03:45Il ne faut absolument pas accélérer.
03:46Parce qu'il y a aussi un enjeu de leur côté.
03:48Ils ne veulent pas décélérer parce que sinon, la Chine, elle, va continuer à accélérer.
03:51Ils ne veulent pas avoir de retard.
03:52Il y a des enjeux géopolitiques, géostratégiques
03:54qui sont absolument complexes et très importants.
03:57Et donc, du coup, on se retrouve dans une situation qui est assez compliquée.
04:00Mais il faut être conscient de tous ces dangers.
04:02Il faut vraiment les prendre en compte.
04:03Merci de nous avoir bien plombé le moral.
04:05Je suis désolé.
04:06Anthony, c'était vraiment super.
04:07Non, mais il y a dix messages en même temps sur WhatsApp.
04:10Pierre et Raphaël qui disent tous,
04:11merci à Anthony de nous avoir raconté le scénario de Terminator, le jugement dernier.
04:15Oui, c'est ça.
04:16C'est l'IA qui a généré ces messages.
04:17À la différence, c'est vrai que l'IA, encore une fois, ce n'est pas Terminator dans le sens
04:21où elle n'a pas une volonté propre.
04:23Elle n'est pas méchante.
04:24Simplement, le risque dont parlent les chercheurs, c'est par exemple, vous lui donnez un objectif.
04:28Résoudre le réchauffement climatique.
04:29Le moyen le plus simple pour résoudre le réchauffement climatique.
04:31C'est quoi ?
04:32Tuer tout le monde.
04:32C'est tuer tout le monde.
04:33Il n'y a plus d'humains, il n'y a plus de réchauffement.
04:35Allez, bon appétit !
04:37Merci, bonne pause-déj.
04:39De quoi demain ?
04:40Si on est encore là, demain, on va sauver des vies.
04:45Aujourd'hui, j'ai exterminé l'espèce humaine.
04:48Avec notamment, extraordinaire ça, des drones ambulances qui commencent à être déployés en France.
04:53Avec des défibrillateurs embarqués qui vont sauver des vies.
04:56On ne transporte pas les gens par drone.
04:57Non, pas encore des gens.
04:58Ça pourra un jour, mais pour l'instant, des défibrillateurs pour pouvoir vous secourir le plus rapidement possible.
05:03Je rappelle, l'IA, c'est aussi formidable dans le domaine de la santé.
05:06Il y a plein de choses très, très, très positives avec l'IA.
05:08On en parle régulièrement, mais il faut aussi être conscient de ces dangers.
05:11Merci beaucoup, Anthony.
05:12Morel, tous les jours, midi 50 dans Estelle Midi.
Commentaires