00:00L'IA devra-t-elle ralentir pour éviter de tous nous tuer ?
00:02C'est ce que demandent les géants américains de l'IA,
00:04mais derrière ce ralentissement, il y a peut-être plus à gagner qu'à perdre pour ces entreprises.
00:09Alors l'histoire commence avec plusieurs signaux.
00:10Côté OpenAI, on a l'attaque de Hugging Face par des agents incontrôlés,
00:14et un long article publié pour essayer de comprendre ce qui s'est passé.
00:16Côté Anthropix, c'est l'histoire de Jacob Coxon,
00:18qui a quitté son poste et a posté un long message sur X expliquant les raisons de son départ,
00:22notamment que les entreprises qui développent de l'IA le font de manière irresponsable
00:26et qu'il y a une chance non négligeable que l'IA cause la fin de l'humanité d'ici
00:29la fin de la décennie.
00:30Un message qui a eu un écho pour le moins étrange dans le monde de l'IA américaine,
00:34la plupart des entreprises concernées ont admis qu'il y avait un souci.
00:37C'est pour ça que les patrons américains des géants du secteur,
00:40dont Anthropix, OpenAI et XAI, se sont rapidement exprimés sur le sujet.
00:44Ce week-end, Dario Amodei, le patron d'Anthropix,
00:46a proposé un plan pour ralentir le développement des IA
00:48et remettre la sécurité au centre des préoccupations.
00:51Pour ce plan, Dario Amodei a reçu le soutien d'autres patrons comme Elon Musk ou Sam Altman,
00:55et ce ralentissement pose beaucoup de questions.
00:57Déjà, est-ce qu'il va pouvoir s'opérer ?
00:59A l'échelle mondiale, rien n'est moins sûr.
01:01Pour Donald Trump, ce n'est pas souhaitable.
01:02Le président américain a peur qu'un ralentissement donne l'avantage aux IA chinoises
01:06qui rivalisent de plus en plus avec les américaines.
01:08Des négociations avec la Chine sont d'ailleurs prévues dans le plan de Dario Amodei,
01:11mais en réaction à cette proposition,
01:13les médias chinois disent que l'objectif de ce plan est surtout de freiner leur propre développement.
01:17Ils parlent même de guerre froide de l'IA avec les Etats-Unis,
01:20autant dire que c'est mal parti pour négocier.
01:22Deuxième question, pourquoi les entreprises elles-mêmes n'ont pas mis en pause le développement de l'IA avant
01:26si elles en connaissaient les risques ?
01:28En fait, des propositions de ralentissement ou de mise en pause,
01:31il y en a déjà eu par le passé.
01:32Il y en a même eu une qui a été formulée par Elon Musk en 2023,
01:35mais aucune n'a réellement abouti à une vraie mise en pause.
01:37Il faut dire que la pression économique et la volonté d'être le premier
01:40poussent les géants de l'IA à toujours innover sans se poser trop de questions.
01:43Et maintenant, la question la plus posée est la suivante.
01:45Est-ce que ces entreprises ont à gagner en ralentissant maintenant ?
01:48C'est fort probable, en tout cas c'est une théorie qui circule parmi les commentateurs.
01:52Dario Amodei a demandé aux autorités une exemption des lois d'anti-monopole,
01:55le temps de mettre en place ses limites,
01:57mais il veut aussi réguler l'ensemble des acteurs via des évaluateurs extérieurs comme METR.
02:01Sauf que METR, ce sont des anciens dents tropiques.
02:04En gros, quand un géant demande de réguler,
02:06c'est souvent un moyen des tournées de tuer les concurrents plus petits.
02:09Alors il y a un vrai danger,
02:10ou une panique morale créée de toute pièce pour initier un mouvement
02:12qui rassurera les investisseurs actuels et futurs.
