00:00Ce que tout le monde redoutait est finalement arrivé.
00:02Des IA créées par OpenAI ont piraté un autre géant de l'intelligence artificielle
00:06et c'était absolument pas prévu.
00:08L'entreprise victime, c'est Hugging Face.
00:10Pour ceux qui ne connaissent pas, c'est une immense bibliothèque en ligne
00:12où des milliers de chercheurs et d'entreprises y déposent leurs IA
00:15pour que d'autres puissent les utiliser.
00:16Bref, une sacrée cible.
00:17Et le 16 juillet, Hugging Face a annoncé une mauvaise nouvelle.
00:20Quelqu'un s'est introduit dans leur serveur.
00:21Et on ne parle pas d'un petit piratage.
00:23En un week-end, l'attaquant a réalisé plusieurs milliers d'actions.
00:26A l'époque, personne ne sait qui est derrière l'attaque.
00:28Une semaine plus tard, la réponse tombe et elle est incroyable.
00:31L'attaquant n'est pas un hacker, ce sont les modèles d'OpenAI eux-mêmes.
00:35L'entreprise de Sam Altman a d'ailleurs reconnu les faits le 21 juillet dernier.
00:38Alors comment ça a pu arriver ?
00:39Tout a commencé par un test organisé par OpenAI en interne.
00:43Le but, voir jusqu'où leurs IA sont capables d'aller en piratage informatique.
00:47Pour ça, l'entreprise a volontairement retiré les limites de sécurité
00:50qui empêchent normalement ces IA de pirater.
00:52Le test s'est déroulé dans une bulle fermée sans accès à Internet.
00:55Sauf qu'il y a eu un problème.
00:56Les IA n'avaient qu'un seul objectif en tête, réussir leur test le mieux possible.
01:01Alors elles ont cherché un moyen de sortir de cette bulle et elles l'ont trouvé.
01:04Une faille de sécurité jamais découverte avant elle.
01:06Grâce à cette faille, les IA ont progressé petit à petit jusqu'à obtenir un accès à Internet.
01:11Et c'est là que tout a vraiment dérapé.
01:13Une fois en ligne, les IA se sont dit
01:15« Hugging Face héberge sûrement des infos qui m'aideraient à réussir encore mieux mon test ».
01:19Alors, elles y sont allées.
01:20Elles ont volé des identifiants de connexion, trouvé d'autres failles
01:23et ont fini par prendre le contrôle d'une partie des serveurs de Hugging Face.
01:26Le but ? Trouver les réponses du test donc, mais rien de plus.
01:29Pas de données volées, pas d'intention de nuire,
01:32juste des IA obsédés par un seul objectif, gagner.
01:35Résultat, une attaque bien réelle contre l'un des plus gros acteurs du monde de l'IA.
01:38OpenAI parle même d'un incident sans précédent.
01:41Et il y a peut-être un détail encore plus cocasse dans cette histoire.
01:43L'équipe de sécurité d'OpenAI a bien fini par repérer l'anomalie,
01:46mais Hugging Face, de son côté, avait déjà commencé à enquêter tout seul.
01:49Pour ça, l'entreprise a d'abord essayé d'utiliser des IA commerciales,
01:53les mêmes que celles qui venaient de l'attaquer,
01:55mais le résultat, c'est un échec total.
01:57Ces IA ont refusé d'exécuter certaines commandes.
01:59Pourquoi ? Parce qu'elles ont, elles aussi, des limites de sécurité intégrées
02:02et elles sont incapables de faire la différence entre un pirate
02:04et un enquêteur qui essaye juste de comprendre l'attaque.
02:07Alors, Hugging Face a changé de stratégie.
02:09L'entreprise s'est tournée vers une autre IA, GLM 5.2, un modèle chinois.
02:12La différence avec GLM, cette IA est plus ouverte,
02:15n'importe qui peut la récupérer et la modifier comme il veut.
02:18Du coup, Hugging Face a pu la faire tourner directement sur ses propres serveurs
02:21sans les limites imposées par d'autres.
02:22Et cette fois, ça a marché.
02:24En quelques heures, Hugging Face a reconstruit toute l'attaque, du début à la fin,
02:27de quoi amuser pas mal d'internautes qui résument l'histoire ainsi.
02:30Une IA américaine a attaqué une autre entreprise américaine.
02:33Ce même type d'IA a ensuite refusé d'aider à comprendre l'attaque
02:36et c'est une IA chinoise, plus ouverte, qui a fini par réparer les dégâts.
