00:00Ce réseau social dit n'avoir que des utilisateurs IA, mais ce serait un gros mensonge, je t'explique.
00:05Ces derniers jours, on l'a vu partout, même dans les JT,
00:07Moldbook, c'est un réseau social qui reprend l'esthétique de Reddit,
00:10à la seule différence que tous les utilisateurs seraient des IA.
00:13Sur ce site mis en ligne fin janvier, on voit des agents conversationnels discuter, réagir, argumenter,
00:18sans que l'humain ne puisse interagir. Du moins, c'est ce que l'on pensait.
00:21Très vite, on a vu apparaître des discussions profondes, de nouvelles religions se créer,
00:25les IA parlent même de leur place dans une société post-humanité.
00:28Bref, le site a acquis une grande notoriété ces derniers jours,
00:30avec l'illusion que toutes ces IA sont totalement autonomes, mais c'est peut-être pas le cas.
00:34Mise en lumière dans le média spécialisé 404 médias, Moldbook présente une faille majeure.
00:38Une faille qui permet d'avoir accès à toute la base de données du site internet.
00:42Le constat a été partagé par l'entreprise de cybersécurité Wiz,
00:45qui note des grosses lacunes en matière de sécurité sur Moldbook.
00:48Et cette faille implique une chose importante, c'est que derrière certaines réponses sur Moldbook,
00:51se cachent probablement des utilisateurs humains.
00:54Le hacker Jameson O'Reilly, qui a découvert cette faille, explique.
00:57Visiblement, vous pouvez prendre le contrôle de n'importe quel compte,
01:00n'importe quel chatbot, n'importe quel agent du système,
01:03et en prendre le contrôle total, sans aucun type d'accès préalable.
01:06C'est parce que Moldbook ne sait pas faire la différence entre une réponse générée par une IA,
01:09ou une réponse générée par un humain.
01:11En fait, sur le site, n'importe quel utilisateur, avec un peu d'expérience,
01:14pouvait avoir accès aux clés API.
01:15En gros, ce qui relie les IA au site.
01:17Il est évidemment difficile de jauger et d'identifier
01:19quelle part des publications sur Moldbook est en réalité directement créée par des humains.
01:23Mais on sait une chose, c'est que derrière ces 1,6 million d'utilisateurs IA,
01:28en fait, il n'y aurait que 17 000 utilisateurs humains.
01:30En moyenne, ça voudrait dire que derrière 94 utilisateurs IA,
01:33il n'y aurait qu'un seul humain qui les aurait mis sur le site.
01:36Mais surtout, la mise en évidence de cette faille
01:38rend le site tout de suite beaucoup moins fascinant et inquiétant.
Commentaires