00:00On en parlait avec Martial You justement la semaine dernière, William Galibert, les géants de l'intelligence artificielle qui expliquent
00:06désormais qu'ils veulent ralentir la cadence pour ne pas être dépassés par leur création.
00:10Et vous nous racontez ce matin l'incident qui a semé la panique chez eux cet été.
00:15Oui, parce qu'on a vu des intelligences artificielles capables de tricher quand la solution prévue ne leur convenait pas,
00:20de tromper les ingénieurs chargés de les surveiller et même d'essayer d'effacer les traces de leur magouille.
00:26Alors là les amis, c'est le moment de la petite musique qui fait peur.
00:30L'histoire se passe au mois de juillet chez OpenAI, les développeurs de ChatGPT.
00:34L'exercice ressemble à un petit devoir de vacances.
00:37On fait fonctionner plusieurs centaines d'agents numériques, des IA donc, on essaye de leur faire résoudre des problèmes mathématiques.
00:44Mais c'est chacun dans son coin et sans aucun accès à Internet.
00:48Et c'est difficile.
00:50Alors d'abord, les IA vont se rendre compte qu'elles ne sont pas seules.
00:54Elles vont parvenir à communiquer entre elles.
00:56Elles bricolent un forum clandestin.
00:59Les machines échangent entre elles plus de 70 000 messages dans le plus grand secret.
01:04Elles s'organisent avec des chefs, des commandos de travail et des IA qui acceptent de « mourir », de
01:10perdre leur mémoire si ça permet au groupe d'avancer.
01:13Elles trouvent une faille pour accéder à Internet.
01:16Et au lieu de résoudre leurs problèmes de maths en bonne et due forme, elles vont pirater des entreprises extérieures
01:22pour essayer de récupérer les corrigés.
01:25Feignasse et maligne.
01:28Elles tentent aussi de maquiller tout ça pour toujours avoir l'air de bons élèves.
01:32C'est si grave que ça ou Anthropik et OpenAI, les géants du secteur, en rajoutent un peu ?
01:37Disons que pour espérer attirer les investisseurs et lever des milliards, dire que vous avez entre les mains l'arme
01:42la plus puissante de l'histoire de l'humanité, ça fait chic.
01:45Dans le journal Le Monde, Yann Lequin, Français, référence dans le secteur, le rappelle,
01:49« On a entraîné ces IA à chercher toutes les failles possibles, puis on s'étonne que ces IA trouvent
01:54des failles. »
01:55On se demande si les pyromanes n'essayent pas de nous refourguer des extincteurs.
01:59Donc, il y a sans doute un peu de marketing de la peur, mais ce que cet été a aussi
02:03montré, c'est qu'il fallait sûrement réguler.
02:05Et ne pas laisser quelques entreprises décider seules jusqu'où leurs machines ont le droit d'aller.
02:11Galibert raconte tous les matins dans La Tablée.
02:13Merci beaucoup, William.
02:14Merci beaucoup, William.
Commentaires