00:02Le Grand Matin Sud Radio, 7h10h, Jacques Cardoze.
00:067h42, voilà bien un sujet sur lequel on a tous un avis.
00:09Quels sont les dangers de l'IA ? Quels sont les avantages ?
00:12On est dans Sud Radio, vous explique.
00:14Vous ne connaissez sans doute pas Jacob Coxon, mais on ne parle que de lui depuis hier
00:18dans les cercles de pouvoir et dans le monde de l'intelligence artificielle.
00:21Cet homme de 27 ans a annoncé mardi sur X son départ d'anthropique
00:25et de l'industrie de l'intelligence artificielle
00:27parce qu'il craint la perte de contrôle.
00:30Oui, vous avez bien compris, il craint la perte de contrôle.
00:34Alors, pour parler de tout ça, on est avec Guillaume Gralet.
00:37Bonjour Guillaume, vous êtes journaliste, rédacteur en chef au point
00:39et auteur de « Pionnier voyage aux frontières de l'intelligence artificielle »
00:43aux éditions Grasset.
00:45Personnellement, j'en ai lu quelques feuilles cet été, c'est passionnant.
00:49Alors, on va essayer de brosser un petit peu tous
00:51quels sont les sujets qui intéressent le plus les gens.
00:53D'abord, effectivement, est-ce qu'une IA techniquement peut devenir incontrôlable ?
00:58En fait, on s'en est rendu compte et on s'en rend compte de plus en plus
01:01qu'une IA peut échapper à ses créateurs.
01:04Alors, pas uniquement, pas volontairement, pour l'instant, j'ai envie de dire,
01:07pour se rebeller contre l'homme et provoquer sa perte.
01:10Parce que c'est un peu l'avertissement qu'a donné Jacob Coxon.
01:14Lui, il dit que ça peut détruire l'humanité.
01:16Il a des propos alarmistes.
01:18Voilà, avec une proportion de 10% d'ici la fin de la décennie.
01:21Donc, c'est très grave.
01:23Habituellement, lorsqu'on a ce genre d'avertissement,
01:26on a la hiérarchie qui dit non, non, il dit n'importe quoi.
01:28Et là, on a vu, par contre, son chef, Evan Ubinger, lui donner raison,
01:32lui disant que oui, Jacob Coxon pose les bonnes questions.
01:35Pour faire très court, ce n'est pas un farfelu,
01:37c'est un mathématicien de très haut rang.
01:39Il essayait, en réalité, de rendre l'IA explicable, compréhensible,
01:44où on puisse savoir exactement où elle va.
01:47Le problème, c'est qu'il s'est rendu compte que dans l'entreprise
01:50pour laquelle il travaillait, Anthropique, la maison mère de Claude,
01:52qui est un concurrent de ChatGPT,
01:54on ne voulait pas l'entendre.
01:56C'est d'autant plus surprenant qu'Anthropique est née en 2020
01:58d'une révolte de ses créateurs, Dario et Daniela Amodey,
02:02qui ne se satisfaisaient pas de la politique d'Open AI,
02:05la maison mère de ChatGPT.
02:07Et en réalité, il y a une course de vitesse très forte,
02:10très folle entre Open AI et Anthropique,
02:13et qui fait qu'on laisse, effectivement, des agents faire tout et n'importe quoi.
02:18Alors, il y a les pionniers d'un côté,
02:19et puis ensuite, il y a une sorte de scission avec des vertueux,
02:23mais en réalité, c'est ce que vous nous racontez,
02:24les vertueux n'en sont pas plus vertueux que les premiers,
02:27et on est tous face au même danger.
02:29Alors, quelles sont les découvertes, j'ai envie de dire, récentes ?
02:32Qu'est-ce que nous apprennent les travaux ?
02:34Vous dites que, notamment, il y a eu un événement très important cet été.
02:37Oui, effectivement, on a appelé ça l'épisode Open AI, Eugging Face.
02:40En fait, Open AI, donc la maison mère de Tchad GPT,
02:43cherchait à tester ses tout derniers modèles d'intelligence artificielle,
02:46et les a mis dans ce qu'on appelle un bac à sable, une sandbox,
02:48censé être totalement hermétique au monde extérieur,
02:52parce qu'on sait bien, on l'a vu au cours des récents mois,
02:54que les tout derniers modèles d'intelligence artificielle
02:56sont capables de faire naître des cyberattaques absolument redoutables.
03:00C'est pour ça que certains modèles ont été retenus
03:02à destination, pour l'instant, du grand public.
03:05Et en réalité, ce qui s'est passé, c'est que les agents intelligents,
03:08ils étaient motivés par la récompense qu'ils voulaient avoir.
03:11Ils ont commencé à se parler entre eux,
03:14à trouver une faille pour avoir accès à Internet
03:17et pour trouver la solution du problème qu'on leur avait demandé de résoudre.
03:20C'est ce qu'on appelle l'appétit du gain, de la récompense,
03:23et c'est ce qui les a motivés.
03:25Est-ce que ça a effectivement étonné le monde de l'intelligence artificielle
03:28de voir que ces machines se parlaient entre elles ?
03:31C'était une découverte, ça ?
03:32Oui, c'était une vraie découverte sur un canal qui n'existait pas,
03:36qui était censé être totalement secret,
03:38et qui effraie beaucoup un des personnages
03:41que j'ai eu à cœur de rencontrer au cours des dix dernières années.
03:43Et dont vous parlez dans votre livre ?
03:44Voilà, dont je parle dans le livre.
03:46Et c'est intéressant, je pense, d'aller voir toutes ces personnes,
03:48tous ces créateurs, j'ai envie de les appeler des apprentis sorciers,
03:51parce que certains estiment,
03:55bien sûr que l'IA peut faire des choses encore formidables.
03:57C'est ce que dit, par exemple, le créateur de DeepMind,
03:59prix Nobel de physique 2024, de Misa Sabis,
04:01il dit qu'il faut arrêter la course de vitesse effrénée.
04:04Bien sûr, la Chine peut et va sans doute nous dépasser,
04:07mais il faut se demander vers où on va.
04:08Il faut aussi peut-être réfléchir à des agences internationales
04:12comparables peut-être à l'Organisation Mondiale de la Santé,
04:16à l'Agence Internationale de l'Énergie Atomique.
04:18Il faut de la régulation.
04:19Il faut de la régulation.
04:20Saint-Maltmann, vous savez, le créateur d'OpenEye,
04:22il dit qu'il s'enorgueille d'être né un 22 avril,
04:24tout comme Robert Oppenheimer, le père de la bombe atomique.
04:27Donc, il explique lui-même qu'il faudra davantage se parler.
04:30Je pense qu'il faut expliquer, pas uniquement faire peur
04:33et surtout pas aller vers des modèles obscurs.
04:35Guillaume Gralet, justement, vous êtes journaliste,
04:37rédacteur en chef au Point et vous avez écrit ce livre,
04:40Pionnier, pour terminer sur une note positive.
04:44Et rapidement, il y a aussi beaucoup de raisons d'espérer
04:47parce que l'intelligence artificielle,
04:48elle peut notamment aider en matière de santé.
04:50Oui, c'est ça, c'est ce que dit Demis Asabis.
04:52Il dit qu'il faut arrêter cette course au gigantisme,
04:55au data center, aux milliards de dollars.
04:57Juste pour des chatbots, il faut essayer de résoudre
04:59les grands problèmes de l'humanité,
05:00s'attaquer par exemple au cancer.
05:03Tout ça, c'est très important.
05:05On voit aussi la résolution de problèmes mathématiques complexes.
05:07Ça doit nous encourager à faire des maths
05:09et pas laisser la machine penser pour nous.
05:11Merci beaucoup, Guillaume Gralet, je rappelle le titre.
05:13C'est pas unir, le jeune homme, là.
05:15Non, c'est pas unir.
05:15Il a un vrai cerveau bien fait.
05:16Non, il a un vrai cerveau.
05:17C'est rassurant, d'ailleurs.
05:18C'est Françoise de Gois, bien sûr, que vous aurez reconnu.
05:24Je vous laisse avec ses propos.
05:27qui est auteur de
05:28Pionnier voyage aux frontières de l'intelligence artificielle.
05:31C'est en effet très intelligent
05:33et c'est à retrouver aux éditions
05:34grâce à...
Commentaires