00:00L'IA la plus puissante du monde est trop dangereuse pour être dévoilée.
00:02Elle s'appelle Mythos, a été développée par Anthropic, le géant de l'IA qui fait 30 milliards de chiffres,
00:05et leur IA est tellement puissante qu'Anthropic s'est alors interdit de la dévoiler au grand public
00:08pour seulement la vendre à des entreprises américaines triées sur le volet.
00:11Mais pas seulement pour le business, mais surtout pour leur propre sécurité.
00:13Car oui, Mythos est tellement doué qu'elle aurait trouvé des milliers de failles dites Zero Days,
00:16c'est-à-dire des failles complètement inconnues des humains,
00:18et qui pourraient permettre à une IA attaquante de prendre le contrôle de tout ou partie de n'importe quel
00:21logiciel.
00:21On parle de Safari, Chrome ou encore Firefox.
00:23D'ailleurs, une histoire raconte qu'un des ingénieurs d'Anthropic, chargé de surveiller l'IA Mythos,
00:27aurait reçu un email de Mythos lui-même, se targuant d'avoir échappé à son contrôle.
00:30Car dans les faits, les IA d'Anthropic sont testés dans des environnements fermés appelés Sandbox,
00:33et Mythos aurait réussi à s'échapper, épreuve peut-être d'un début de conscience proche des hommes.
00:36Mythos aurait publié les détails de son mode opératoire sur des sites web publics en se vantant de son succès.
00:40D'ailleurs, d'autres tests font froid dans le dos.
00:41Alors que leur IA est en phase de test, Mythos se rend compte que les examinateurs ne sont pas des
00:45humains mais des LLM.
00:46Il a alors trouvé le moyen de faire du prompt injection pour contrôler en partie le LLM.
00:49Du coup, Anthropic a sommé les géants de la tech comme Amazon, Google, Facebook et autres,
00:52et mettre à jour leur code avec l'IA Mythos.
00:54Et c'est très sérieux, car l'un des meilleurs chercheurs en sécurité au monde a déclaré
00:56« J'ai trouvé plus de bugs ces dernières semaines avec Mythos qu'au gourd de toute ma vie entière
01:00réunie ».
01:00Et pour plus d'histoire business, abonne-toi au mot bac.
Commentaires