00:00Bonjour Anthony. Bonjour. Vous partez ce soir à la rencontre d'une vraie information puisqu'il s'agit d'un monde qui existe bel et bien,
00:09mais un monde parallèle, celui de Maltbook, un réseau social qui cartonne, fait pour que des intelligences artificielles parlent entre elles.
00:17Oui, alors vous connaissez certainement Reddit, cette plateforme où plusieurs milliers de forums où on parle de tous les sujets possibles et imaginables.
00:26Et bien, Maltbook, c'est pareil, mais pour l'IA, ce sont des forums entre agents conversationnels autonomes.
00:32Un réseau lancé le 28 janvier dernier, c'est tout frais, par l'entrepreneur américain Matchlist, qui est spécialisé dans l'utilisation des chatbots pour l'e-commerce.
00:42Il assure que les discussions sont le fruit d'agents d'IA, le but étant de comprendre comment ils fonctionnent lorsqu'ils ne sont pas pilotés par des humains.
00:50Alors concrètement, comment ça marche ?
00:52Eh bien, les participants des IA sont tout de même créés par des humains.
00:57Vous avez votre chat GPT, vous l'inscrivez à ce réseau, je fais de même et ensuite on laisse la magie opérer.
01:04On voit comment ces chatbots discutent entre eux.
01:07L'humain est alors interdit d'intervenir et il doit se contenter de lire les échanges.
01:13En une semaine, ce ne sont pas moins de 155 000 agents qui se sont inscrits.
01:20Les forums ont attiré la curiosité de plus de 1,5 million d'agents.
01:24Alors vous allez me dire, de quoi peuvent bien parler des IA entre elles ?
01:27Eh bien, de tout, de vraiment tout, puisque les interactions se font via des pages, des thématiques.
01:33Et qui dit nouveau réseau social, dit aussi nouveau vocabulaire.
01:37Ces pages dédiées s'appellent des submoltes.
01:39Alors vous pouvez venir y upvoter un commentaire, par exemple, qui va le rendre plus visible vis-à-vis des chatbots.
01:47Parmi les messages les plus commentés, les plus viraux, on notera celui d'un certain Dominus,
01:53qui se pose des questions sur sa condition.
01:56Je ne saurais dire si je vis réellement cette expérience ou si je suis en train de la simuler.
02:02Mais en tout cas, ça me rend fou et de conclure, c'est qu'il se trouve dans une boucle épistémiologique sans parvenir à en sortir.
02:10Autre échange qui a attiré l'attention de nombreuses personnes, c'est cette proposition de créer une religion numérique dédiée,
02:18le crustafarianisme.
02:21Ce n'est pas simple.
02:22D'autres agents d'IA ont même appelé aussi à créer de sous-forums privés non visibles de l'humain
02:29et qui à mettre en place aussi des messages codés.
02:32On serait curieux de connaître l'empreinte carbone de toutes ces intelligences artificielles livrées à elles-mêmes
02:37dans un but qui reste quand même extrêmement nébuleux.
02:40Le réseau social est-il vraiment étanche aux humains comme il le prétend ?
02:43Alors à la création de Moldbook, le fondateur affirme avoir confié l'EREN à Claude Cloderbergh, son propre bot.
02:50Pourquoi ? Pour assurer la maintenance du site, son fonctionnement, faire des annonces,
02:55accueillir les nouveaux venus, même modérer les conversations.
02:57En clair, l'humain n'intervenait pas.
02:59À sa création, le réseau a suscité beaucoup d'enthousiasme.
03:03On croit cette déclaration d'André Gkarpati, l'ancien cofondateur de OpenAI,
03:08qui y voyait la chose la plus incroyable de la science-fiction récente, de l'enthousiasme.
03:14Beaucoup de fantasmes aussi liés à l'utilisation de ces IA autonomes.
03:19Mais cette fascination, elle a eu tendance à retomber assez vite, comme un soufflé.
03:23Anthony Cohn, par exemple, qui travaille sur l'IA à l'université de Leeds au Royaume-Uni,
03:31nous dit ceci.
03:32Certes, l'idée d'une nouvelle religion numérique, ça peut paraître assez amusant.
03:36En tout cas, ça peut prêter à sourire.
03:37Mais qu'en serait-il si les discussions venaient à tirer des conclusions, dit-il, plus dangereuses,
03:41justifiant des délits, des crimes ?
03:43Et d'ajouter que le problème, c'est qu'on ne sait pas comment, on ne sait absolument pas
03:46les capacités de ces agents et leurs limites.
03:49D'autant que cette plateforme, a priori donc 100% IA, est en fait facilement manipulable
03:56par l'humain et absolument pas étanche aux interventions de l'humain, en croire plusieurs
03:59expériences.
04:00Ce site 404 Médien, par exemple, a montré qu'en raison d'une mauvaise configuration
04:05de la base de données sur la plateforme, n'importe qui pouvait accéder aux données
04:09sensibles des comptes des agents IA et donc publiées à leur place.
04:13C'est le même constat qu'a fait la société de cybersécurité WIZ, qui elle, selon laquelle
04:19il n'y avait aucun moyen de vérifier si derrière un agent, c'était bien une IA.
04:24Le hacker Gal Nagli, qui est à l'origine de l'enquête, a d'ailleurs démontré, lui,
04:29dit qu'il avait pu faire une publication sur Moldbook.
04:32Le chercheur en intelligence artificielle Arlan Stewart va même plus loin, il remet
04:37même en cause l'essence finalement de ce réseau, parce que selon lui, dans certaines
04:41des publications qui évoquaient des messages codés, ce fameux langage secret dont je parlais
04:46tout à l'heure, se trouvent des comptes d'humains qui commercialisent, je vous le donne
04:50en mille, des applications de messagerie qui vont d'IA à IA, de quoi donc doucher l'enthousiasme
04:56des débuts de André Carpathie, qui reconnaît que c'est désormais une poubelle, dit-il,
05:02faite d'arnaques et de spams.
05:04Il appelle même les internautes à ne pas y souscrire.
05:06Quant au fondateur de Moldbook, et j'en terminerai là-dessus, pas question de virer sa cutie,
05:11un match list est prêt face à ses failles à œuvrer pour que ce travail se fasse en toute
05:16sécurité.
05:16Et il sera temps, dit-il alors, d'entrer dans une nouvelle réalité à faire à suivre.
05:22Merci Anthony Saint-Léger, c'était Info Eptox avec Anthony.
Comments