00:00Ce week-end, on en parlait il y a quelques instants, le gouvernement américain a contraint Anthropik de couper les
00:05accès pour des raisons de sécurité nationale.
00:08Oui c'est ça, alors pour bien comprendre ce qui s'est passé, parce que ça va très très vite,
00:10il faut revenir quelques semaines en arrière quand Anthropik lance le fameux modèle Mythos,
00:14dont on a beaucoup parlé, qui est un modèle jugé tellement puissant qu'il ne le commercialise pas, parce qu
00:19'il est capable de détecter de manière autonome des failles de sécurité informatique critiques.
00:23Donc là on dit voilà, c'est trop dangereux, et quelques semaines plus tard, c'était la semaine dernière en
00:28réalité, il lance une version édulcorée qui s'appelle Fable 5.
00:31Cette fois-ci normalement, il n'y a plus de risque, parce que quand on lui pose des questions dangereuses
00:35sur effectivement la cybersécurité, sur comment fabriquer des armes bactériologiques, ce genre de choses,
00:40et bien c'est un modèle un peu moins puissant qui va nous répondre, et du coup il n'y
00:43a pas de problème.
00:44Sauf que en fait, s'il y a un problème, visiblement il y a un certain nombre d'utilisateurs, on
00:48ne sait pas exactement qui, la presse américaine nous dit que ce sont des gens chez Amazon,
00:52qui finalement ont réussi à contourner les garde-fous mises en place par Anthropik, qui ont prévenu les autorités américaines,
00:59et les autorités américaines ont pris ça au sérieux, et ont dit, à partir de maintenant, il faut couper l
01:04'accès à ces deux modèles, qui sont extrêmement puissants,
01:07à tous les non-américains, ils font le choix de la préférence nationale sur ces outils d'intelligence artificielle,
01:13y compris, y compris les salariés étrangers d'Anthropik qui sont sur le sol américain, donc ça va quand même
01:18très très loin.
01:18Anthropik dit non, on ne peut pas faire le tri, c'est trop compliqué, on coupe l'accès,
01:21ou on suspend l'accès, en tout cas temporairement, à tout le monde, et ça c'est une première dans
01:26l'histoire.
01:27Alors en toile de fond, il y a quand même ce désaccord, ce bras de fer entre la Maison Blanche
01:31et Anthropik,
01:32qui dure depuis des mois, depuis qu'Anthropik, en gros, a refusé que son IA soit utilisée pour faire de
01:36la surveillance de masse,
01:37pour développer des outils d'armes autonomes, et d'ailleurs ils ont des versions très différentes de ce qui s
01:42'est passé,
01:42c'est-à-dire que la Maison Blanche dit, si, si, on a tout fait pour essayer de trouver une
01:46solution avec Anthropik,
01:47et pour faire en sorte qu'on ne débranche pas les modèles, Anthropik dit non, non, pas du tout,
01:50ils nous ont laissé une deadline d'1h30 pour couper, pour tout couper,
01:53et donc là finalement, il y a une équipe d'Anthropik qui visiblement a pris un vol pour Washington,
01:58pour essayer d'arrondir un peu les angles, on va voir ce que ça donne dans les heures et dans
02:01les jours qui viennent.
02:02Ce qui est intéressant, c'est ce qui s'est passé dans la classe politique française,
02:05on en parlera avec Raphaël Lejean, mais il y a une sorte de wake-up call,
02:08tout le monde a à peu près dit la même chose.
02:10Oui, c'est ça, c'est très étonnant, parce que tout le monde a tweeté,
02:12ce qui est déjà assez rare sur les sujets d'intelligence artificielle,
02:14c'est-à-dire de Jordan Bardella à Jean-Luc Mélenchon, en passant par Édouard Philippe et Gabriel Attal,
02:19et tous pour dire la même chose, dans des mots différents,
02:21mais en gros, c'était, il faut se prémunir contre le risque de vassalisation de la France,
02:25et il faut finalement que ça serve de signal d'alarme pour monter en puissance sur l'intelligence artificielle,
02:31parce que ce que ça dit en creux, en fait, ce qui s'est passé ici,
02:34c'est clairement notre dépendance technologique terrible face aux Américains,
02:37c'est-à-dire que clairement, on ne peut absolument rien faire à partir du moment où ils décident de
02:41nous couper l'accès.
02:42Si on imagine demain qu'un grand groupe pharmaceutique,
02:45que, je ne sais pas même, un système de défense dépende d'une intelligence artificielle américaine,
02:50et que Washington, disant deux secondes, hop, on vous coupe le robinet,
02:53en fait, ça pose des problèmes très graves,
02:55et en creux, ça fait aussi une publicité indirecte pour nos champions nationaux,
02:58à commencer par Mistral, qui n'est pas forcément toujours le plus performant
03:02ou le mieux-disant d'un point de vue technologique, en tout cas pas sur tous les benchmarks,
03:05mais qui, de ce point de vue-là, est quand même beaucoup, beaucoup plus sécurisant pour des entreprises françaises.
03:09La réaction peut-être la plus intéressante, c'est celle de Yann Lequin.
03:12Oui, qui est assez ironique, il a publié sur LinkedIn, je le cite,
03:15« La culture de la peur ridicule de Dario Amodei,
03:18donc le patron d'Anthropique concernant l'intelligence artificielle,
03:21porte finalement ses fruits, on récolte ce que l'on sème. »
03:24En gros, ce qu'il dit, c'est qu'à force de crier au loup sur l'intelligence artificielle,
03:28parce que c'est vrai que Dario Amodei a cette particularité-là de dire toujours
03:31« Attention, l'IA, ça peut être très dangereux. »
03:34La semaine dernière, encore, il appelait à appuyer sur le bouton pause,
03:38sur le développement de l'IA.
03:39Il disait aussi qu'il y avait un risque de perte de contrôle d'IA
03:43qui pourrait s'entraîner, entraîner elles-mêmes, leurs propres successeurs,
03:47avec un risque de perte de contrôle humain.
03:49À force de dire ça, à force de dire que ce sont des industries
03:51qui sont potentiellement aussi dangereuses qu'une arme nucléaire,
03:54les gouvernants commencent à les écouter, à les prendre au mot
03:57et à les considérer comme effectivement dangereuses,
03:59quitte à en couper l'accès en l'espace de quelques secondes.
04:02Merci Anthony Morel.
Commentaires