00:01RMC Estelle Midi, on n'arrête pas le progrès.
00:04Bonjour Anthony, bonjour Charles.
00:06Une décision qui va faire date dans l'histoire de l'IA, l'intelligence artificielle.
00:10Ce week-end, le gouvernement américain a contraint Anthropik, l'un des géants de l'IA,
00:14à couper l'accès à ses modèles les plus puissants pour des raisons de sécurité nationale.
00:19De quoi on parle exactement ? Est-ce que les IA sont considérés comme trop dangereuses désormais ?
00:23Alors je vais recontextualiser un peu parce que quand on parle d'IA, ça va très très vite.
00:26Je sais qu'on suit tous à des vitesses différentes.
00:28Déjà Anthropik, est-ce que ça parle à tout le monde autour de la table ?
00:31Oui, c'est Claude.
00:31Voilà, exactement, c'est Claude.
00:33Donc pour remettre un petit peu en place, c'est le grand concurrent ou l'un des grands concurrents de
00:37ChatGPT aujourd'hui.
00:38C'est une grande entreprise, très grande entreprise.
00:40Ils sont même plus gros qu'OpenIA et Anthropik aujourd'hui.
00:43Et donc il y a quelques semaines, ils ont lancé une nouvelle version.
00:45Ou plutôt, ils l'ont annoncée, ils ne l'ont pas lancée.
00:48Ça s'appelle Mythos.
00:49Pourquoi est-ce qu'ils ne l'ont pas lancée ?
00:50Parce que cette IA, elle est jugée trop puissante et donc trop dangereuse pour le grand public.
00:54Pourquoi dangereuse ?
00:55Parce que dans les phases d'essai, cette intelligence artificielle, elle a été notamment capable,
00:59de manière totalement autonome, sans intervention humaine,
01:02de détecter et d'identifier des failles de sécurité informatique critiques
01:06dans des logiciels qu'on utilise dans la vie de tous les jours.
01:08Donc imaginez, si on met ça dans les mains de cybercriminels, par exemple...
01:12Comment pirater la CIA ?
01:13Exactement, ça pourrait être absolument catastrophique.
01:15Un autre exemple qui est donné par le créateur de cette entreprise,
01:18il dit qu'on peut travailler sur des nouveaux types de modèles biologiques.
01:20Donc mis entre deux mauvaises mains, on pourrait, par exemple, inventer des nouvelles armes biologiques
01:25avec ce genre de modèles.
01:26Donc forcément, on n'a pas envie que ça se retrouve n'importe où, si vous voulez.
01:29Donc du coup, ils n'ont pas sorti.
01:31Ils ont sorti un modèle édulcoré qui s'appelle Fable 5.
01:34Ça, c'était la semaine dernière.
01:35Et ce modèle-là, normalement, il y a des garde-fous qui font,
01:38quand on lui pose des questions qui sont un peu dangereuses,
01:40on va avoir une réponse qui est un peu moins puissante que ce qui serait normalement possible.
01:44Donc en gros, c'est ça.
01:46Sauf que, visiblement, ces garde-fous, eh bien, ils ne sont pas suffisants.
01:48C'est-à-dire qu'il y a des utilisateurs qui ont réussi à les contourner.
01:51Ils ont prévenu les autorités américaines.
01:53Les autorités américaines ont dit, oh là là, qu'est-ce que c'est que ça ?
01:56Couper tout.
01:56Ils ont demandé à Anthropik de couper ces deux modèles,
02:00en tout cas de les couper pour les non-américains.
02:02C'est ça qui est très intéressant.
02:03C'est qu'ils ont dit, non, c'est trop dangereux pour que des puissances étrangères
02:06puissent y avoir accès.
02:07Les Américains, pas de problème.
02:08Mais par contre, les autres, non, non.
02:10Anthropik a dit, on ne va pas faire la différence.
02:12Ils ont tout coupé pour tout le monde.
02:14Mais ça montre, en tout cas, et c'est ça qui est intéressant dans cette histoire,
02:17notre dépendance technologique terrible vis-à-vis des États-Unis aujourd'hui.
02:20C'est-à-dire qu'ils peuvent décider de couper le robinet.
02:22Qui a accès à l'IA ou pas.
02:23Exactement.
02:24Et donc, si on imagine un monde où on a tout le monde qui utilise des grandes banques,
02:26des grands laboratoires pharmaceutiques, des hôpitaux qui utilisent l'IA au quotidien,
02:29en fait, si on vous coupe le robinet du jour au lendemain,
02:32c'est absolument dramatique en réalité.
02:34Ça, c'est un sujet qui devrait alerter la classe politique.
02:36Oui, moi, je pense que ça devrait être vraiment au cœur même de la prochaine campagne électorale.
02:40Je ne suis pas sûr que ce soit le cas, mais ça va être l'un des gros sujets.
02:42En fait, c'est un des enjeux essentiels aujourd'hui.
02:45Alors quand même, sur ce sujet-là en particulier, sur cette actu,
02:47il y a eu une réaction de tous les hommes politiques.
02:50Alors de manière très, très étonnante, ils sont même unanimes.
02:53Donc que ce soit Jean-Luc Mélenchon, Jordan Bardella, Edouard Philippe, Gabriel Attal,
02:57ils ont tous tweeté et ils ont tous dit plus ou moins la même chose.
03:00C'est-à-dire, en gros, il faut se prémunir contre le risque de vassalisation de la France.
03:04Il ne faut pas qu'on devienne une colonie numérique des États-Unis.
03:07Et il faut qu'on mette en avant notre puissance en matière d'IA, nos outils.
03:11On a Mistral, notamment, qui est un peu notre champion national.
03:14Exactement, le chat.
03:15Et puis, ils sont très forts sur certaines choses.
03:17Ils ne sont pas forcément aussi performants que Tchad GPT ou Anthropik sur les modèles grand public.
03:22Mais bon, en tout cas, c'est plus rassurant pour des entreprises françaises d'avoir accès à ce genre de
03:26modèle.
03:26Il nous faut une souveraineté française ou en tout cas européenne sur l'IA.
03:31Mais est-ce que là, le fait que ce soit si dangereux que ça, cette IA, est-ce que c
03:35'est vrai ?
03:35Ou est-ce qu'il y a un peu de marketing ? Est-ce qu'on joue à se faire
03:37peur en ce moment ?
03:38Oui, alors c'est un peu des deux.
03:39C'est-à-dire que ces modèles, ils sont objectivement puissants.
03:41C'est-à-dire qu'ils sont testés.
03:42Il y a aujourd'hui des systèmes qui permettent de tester objectivement les IA.
03:45Et on voit bien qu'il y a une augmentation exponentielle de leur puissance.
03:49Et ça va continuer dans les mois et dans les années qui viennent, très clairement.
03:51En revanche, ce qui est vrai aussi, c'est que c'est un argument marketing redoutable.
03:55C'est-à-dire qu'on est une grande entreprise d'IA, on cherche à gagner de l'argent évidemment.
03:59Regardez, mon modèle, il est tellement puissant qu'il est très dangereux, je ne vais pas le mettre sur le
04:02marché.
04:03Ça, c'est quand même l'argument ultime.
04:05Ça donne envie de tester.
04:06Ça donne quand même envie de tester, on est d'accord.
04:08Et ce même patron de cette grande entreprise, il y a encore une semaine, il disait
04:11« Ah bah non, mais il faut appuyer sur le bouton pause du développement de l'intelligence artificielle. »
04:15Donc en fait, il souffle un peu le chaud et le froid.
04:18D'un côté, je vous fais peur.
04:19De l'autre côté, j'essaye quand même de sortir mes modèles.
04:22Mais en tout cas, je pense que ça fait partie des très grands enjeux du moment.
04:25Il faut vraiment s'y intéresser à ces grands modèles d'intelligence artificielle
04:29qui deviennent de plus en plus performants.
04:30Merci beaucoup, Anthony Morel.
04:32On n'arrête pas le progrès à réécouter quand vous voulez en podcast sur l'appli RMC,
04:36toutes les plateformes de téléchargement.
04:37De quoi parle-t-on demain ?
04:38Demain, on va parler foot.
04:39C'est le grand début des bleus, il paraît.
04:42C'est demain, là ?
04:43Je crois, je crois que c'est ça.
04:44Alors, j'ai demandé à l'IA justement si on allait gagner
04:48et si on avait des chances de gagner et des probabilités.
04:51Donc, moi, je ne vais pas vous le dire maintenant.
04:52Allez, on garde le suspect.
04:53Je ne vais pas vous le dire maintenant.
Commentaires