00:00L'intelligence artificielle pourrait bien anéantir l'humanité, c'est ce que dit un ancien d'Entropique, Jacob Coxon, c
00:08'est son nom, il a seulement 27 ans, c'est inquiétant Bérenice de Ville-Fleurio.
00:11Alors déjà Jacob Coxon, il faut savoir qu'il a travaillé pendant trois ans, d'abord chez OpenAI puis chez
00:17Anthropique, il a entraîné, pré-entraîné les modèles IA et donc il a annoncé hier sur X non seulement qu
00:23'il démissionnait mais aussi qu'il quittait le secteur
00:25et son accusation est très forte pour lui, les grands laboratoires sont engagés dans une course folle à la super
00:32-intelligence.
00:33Alors qu'est-ce que c'est ? C'est une IA qui dépasserait l'intelligence humaine et sur tous
00:37les domaines.
00:38Il affirme aussi que certains chercheurs pensent que ces systèmes pourraient, je dis bien, pourraient être une menace pour l
00:46'humanité dans la prochaine décennie
00:49et ils accusent les patrons de double langage, ces patrons en off dans le privé auraient peur alors que dans
00:57les médias ils tenteraient d'arrondir les angles.
00:59Certains autres salariés lui ont donné raison, alors pourquoi ? La question c'est pourquoi continuer ?
01:04Et bien parce que chaque laboratoire se dit de toute façon l'autre va le faire alors autant y aller.
01:10Concrètement, Bérenice, comment l'IA pourrait-elle aller jusqu'à menacer l'humanité ? On a besoin d'un peu
01:15de concret, d'un exemple précis.
01:17Alors, ça ne va pas être le scénario de Terminator avec des robots qui nous attaquent, quoique.
01:23Plus sérieusement, il y a trois grands risques qui sont suffisamment sérieux pour être aujourd'hui surveillés par les laboratoires
01:29eux-mêmes
01:30et par le rapport international sur la sécurité de l'IA 2026.
01:34Premier danger, le cyber.
01:35Alors, le cyber, qu'est-ce que c'est ? Ce serait une attaque de masse contre nos hôpitaux, contre
01:41nos banques, contre nos systèmes électriques
01:45ou par exemple, imaginez que l'IA introduise les drones de l'armée.
01:50Ce serait compliqué.
01:51Alors là, vous allez me dire comment c'est possible ?
01:53Et bien, en juillet, OpenAI a fait un test.
01:561200 agents IA.
01:57Vous savez ce que c'est qu'un agent IA ?
01:59C'est une IA, ce n'est pas un chat avec lequel on discute instantanément.
02:03Un agent IA, c'est une IA qui est capable d'être autonome, c'est-à-dire on lui donne
02:08un objectif et l'IA travaille pendant des jours, des semaines, des mois.
02:11Donc là, 1200, je reviens au test, 1200 agents IA qui étaient séparés les uns des autres dans un environnement
02:17sans Internet avec un objectif précis.
02:20Eh bien, sur les 1200, 700 ont réussi à se connecter entre eux, à se raccorder à Internet et sont
02:27allés attaquer une plateforme totalement indépendante
02:30qui n'avait rien à voir avec le test, qui s'appelle UgingFace, une plateforme d'intelligence artificielle.
02:36Et donc, ils l'ont attaqué et certains ont même tenté de supprimer leurs traces.
02:40Donc ça, c'est le premier risque, le cyber.
02:42Deuxième risque, on peut remettre la petite DNS, c'est pas mal.
02:45Deuxième risque, la biologie.
02:47La biologie, qu'est-ce que c'est ?
02:48Eh bien, une IA avancée pourrait donner, pourrait concevoir un agent biologique dangereux.
02:54Alors aujourd'hui, elle ne pourrait pas l'introduire directement dans le monde réel.
02:57Il faudrait une personne, une personne mal intentionnée pour le faire ou un laboratoire automatisé.
03:03Là, en tout cas, c'est encore un risque qui est officiellement surveillé.
03:07Et puis, il y a le scénario ultime, perdre complètement le contrôle.
03:11Imaginez, je vous l'ai dit, ces agents IA, ils sont capables de réfléchir seuls.
03:14Ils sont autonomes.
03:16Donc, imaginez qu'ils élaborent seuls leurs propres stratégies.
03:20Certains pourraient cacher leurs actions aux personnes qui les surveillent.
03:25Et surtout, ils pourraient comprendre qu'on veut les débrancher.
03:29Et donc là, ils pourraient réussir à contourner les règles.
03:31Ils pourraient réussir à trouver d'autres accès, comme le test qui a été fait au mois de juillet,
03:36et à se raccorder autrement.
03:38Et le rapport international sur la sécurité de l'IA 2026 parle précisément de ces systèmes
03:44capables d'échapper à la supervision, d'exécuter des plombs de long terme
03:48et de résister aux tentatives d'arrêt.
03:50Alors, attention, pour l'instant, on n'en est pas là.
03:53Mais Jacob Cawson, c'est son inquiétude.
03:56Il nous parle de ça.
03:57On n'en est pas là, mais ce que vous nous racontez est quand même terriblement réaliste.
04:00Oui, il faut le dire.
04:01On n'en est pas là, mais on n'en est pas bien loin non plus.
04:03Et puis, il y a ce qu'on sait, et puis il y a ce qui se passe en labo.
04:05J'imagine qu'ils ont un temps d'avance aussi sur ce qu'on sait.
04:08Qui peut contrôler des machines qui deviendraient plus puissantes que leurs propres créateurs ?
04:13Alors ça, c'est un débat qui a évidemment déjà commencé.
04:15On voit se dessiner une gouvernance de l'intelligence artificielle.
04:18D'abord, il faut savoir que les entreprises elles-mêmes, les laboratoires, en 2023,
04:23OpenAI proposaient justement, donc elles savaient,
04:25une agence internationale de l'énergie atomique, de l'IA,
04:28qui superviseraient, qui contrôleraient, qui lanceraient des audits,
04:32qui contrôleraient dès qu'une IA devient trop puissante,
04:35qui mettraient aussi des limites pour leur déploiement.
04:37Ensuite, on en a parlé sur cette antenne, Bill Gates.
04:39Bill Gates, il y a quelques semaines, a appelé.
04:42Il vient de réclamer justement un nouvel organisme au-dessus des États.
04:46Il nous dit que, Bill Gates, ça ne peut plus être au niveau de chaque État
04:50puisque c'est des risques qui dépassent les frontières.
04:53Donc, il faut justement un organisme au-dessus.
04:55Et puis, désormais, l'ONU est entrée dans le jeu.
04:58Elle a créé cette année un panel scientifique international de 40 experts
05:03et près de 170 pays se sont retrouvés en juillet à Genève
05:07pour le premier dialogue mondial sur la gouvernance de l'IA.
05:11Donc, on n'est pas encore un gouvernement mondial de l'IA,
05:16mais en tout cas, on commence à voir émerger quelque chose de très concret,
05:20l'idée que les IA les plus puissantes ne pourront peut-être plus être contrôlées
05:25uniquement par les entreprises ou par un seul État.
05:28Et je rappelle aussi que le pape en a parlé aussi
05:33et nous a alertés sur le sujet.
05:35Avec son encyclique. Merci beaucoup, Bérénice.
05:38C'est inquiétant ce que vous nous racontez, mais éclairant.
05:41C'est inquiétant, éclairant, oui, mais il faut en avoir conscience.
05:44Il faut en avoir conscience.
