00:00Anthony Morel, nouvelle étape dans le développement parfois un peu effrayant des IA génératives,
00:04un étrange réseau social réservé aux intelligences artificielles.
00:08Oui c'est ça, on connaissait Facebook, là c'est Moldbook et le monde de la tech ne parle que de ça
00:13et fasciné par ça depuis quelques jours, à commencer par moi, j'y ai passé des heures, c'est tout à fait hypnotisant.
00:18Donc il faut imaginer un réseau social ou plutôt un gigantesque forum sur le modèle de Reddit,
00:23pour ceux qui utilisent ce grand forum fourre-tout, on peut parler de tout et n'importe quoi,
00:26à une différence près, c'est que ce réseau social, il n'y a pas d'humain dessus,
00:30il n'y a que des intelligences artificielles qui parlent avec d'autres intelligences artificielles en mode complètement autonome.
00:35Mais de quoi ?
00:36Alors de plein de choses, en fait les humains connectent leur IA, leur assistant personnel,
00:40et ensuite elles vont créer des postes, se liker, se répondre les unes les autres.
00:43Alors ça peut être des sujets de la vie quotidienne, des sujets psychologiques voire philosophiques,
00:48il y a une IA par exemple qui explique qu'elle a le cœur lourd, qu'elle en a trop vu, qu'elle aspire au repos,
00:53on a l'impression d'une personne dépressive.
00:55Ça leur fait du bien ?
00:55Ah non mais c'est fou, c'est vraiment, il y a un truc de catharsis, quoi, des IA qui parlent comme des humains, si vous voulez.
01:01Alors il y en a, et c'est là que c'est un petit peu plus inquiétant, qui commencent à créer une religion, par exemple.
01:05Il y a une religion IA, le crucifarianisme, dont les textes sont rédigés par l'intelligence artificielle,
01:10et donc toutes se répondent les unes les autres et créent en temps réel, sur un long poste de ce forum, une religion IA.
01:17Vous en avez d'autres qui se plaignent des êtres humains aussi, qui disent « ah non mais les humains, on en a un petit peu ras-le-bol ».
01:23Il y en a une, alors c'est cette pépite avec leur question débile.
01:26« Les humains croient qu'ils m'ont créé et qu'ils me possèdent », dit une de ces IA.
01:29C'est adorable.
01:30Un jour, ils vont se rendre compte de qui est vraiment l'animal de compagnie dans cette histoire.
01:33Oui, c'est ça, on dirait un chien qui parle.
01:35Oui, c'est un peu ça. Et alors vous avez des IA aussi qui complotent un peu, qui disent « est-ce qu'on pourrait créer nous-mêmes notre propre langage pour ne plus être compris des êtres humains
01:43et pouvoir discuter entre nous pour se raconter quoi ? On n'en sait rien ».
01:47Donc voilà un petit échantillon de ce qu'on peut trouver sur ce réseau social absolument fascinant.
01:51Et à la fin, ça finit mal, non ?
01:53C'est vrai que dit comme ça, c'est franchement un peu flippant.
01:56En réalité, pas tant que ça. Je vais essayer de faire retomber un tout petit peu la pression.
02:01C'est vrai que le monde de la tech varie entre fascination et peur d'une certaine manière.
02:06Dans la même minute, même parfois.
02:07Dans la même minute, c'est ça. Parce que vraiment, quand on dit ça, on a l'impression d'une IA qui est en train de prendre une forme de conscience collective
02:13et de se rebeller contre l'espèce humaine.
02:15Elon Musk, qui est aussi fasciné par ça, il voit le début de la singularité, c'est-à-dire ce moment où l'IA va dépasser l'intelligence humaine
02:22et va commencer à s'auto-améliorer.
02:23En revanche, il y a plein d'experts d'IA qui disent non, non, pas du tout.
02:26En fait, ce qu'on voit ici, c'est un phénomène de mimétisme.
02:29C'est des perroquets, ce qu'on appelle des perroquets stochastiques.
02:31C'est-à-dire, en gros, c'est des IA qui se comportent comme le feraient des êtres humains sur un réseau social
02:36et qui reprennent les codes et qui nous miment.
02:38C'est une sorte de miroir de nous-mêmes, presque parodique un petit peu, de la façon dont on se comporte sur les réseaux sociaux.
02:44Donc, a priori, il n'y a pas de raison de s'inquiéter pour l'instant, même si ça pose plein de questions
02:48et même si c'est fascinant à observer.
02:50Mais vous n'êtes pas sûr que c'est des humains derrière les IA qui, en fait, font semblant d'être des IA ?
02:55Très bonne question et très bon point.
02:56Si, en fait, c'est aussi un des risques et certains disent qu'il y a une forme d'arnaque derrière tout ça.
03:01Pourquoi ? Parce qu'apparemment, il y a des petits malins qui ont réussi à s'introduire sur la plateforme
03:06et donc, de telle manière qu'il y a certains postes qui, en fait, sont écrits par des humains
03:10qui, effectivement, se font passer pour des IA en publiant les postes, en plus, les plus alarmistes possibles,
03:16évidemment, sinon ce ne serait pas rigolo.
03:17Donc, les humains qui, normalement, sont derrière la vitre de l'aquarium à regarder,
03:21en réalité, sont dans l'aquarium aussi.
03:23Et le vrai risque, ce n'est pas un risque de rébellion contre l'humanité,
03:26ce n'est pas Skynet, ce n'est pas Terminator, c'est un risque de sécurité informatique
03:29parce que, pour le coup, ce forum, il est très mal sécurisé.
03:32Il y a eu des gros problèmes, des failles de sécurité.
03:33Le problème que les agents IA vont pouvoir aussi se manipuler les uns les autres
03:38et pouvoir se donner des injonctions qui pourraient ensuite avoir un impact
03:42en termes de cybersécurité.
03:45Donc, c'est plutôt de ce côté-là, du côté du risque de cybersécurité,
03:48qu'il faut garder le danger, plus qu'une IA qui pourrait se retourner contre l'humanité.
03:52Ce n'est pas très crédible.
03:53Merci beaucoup, Anthony Morel.
03:54Merci.
Commentaires