00:00Ce sont des noms auxquels il va falloir vous habituer parce qu'ils vont vraiment rentrer dans la vie quotidienne
00:04au fil des semaines, si ce n'est déjà fait d'ailleurs.
00:07Gemini, Métaï, Claude, Anthropik, OpenAI, tout ça c'est l'intelligence artificielle qui est en train de peut-être de
00:15nous déborder.
00:16Qui sait ? Elle fonce tout droit vers une super intelligence capable de s'améliorer elle-même.
00:20C'est un chercheur qui défend cette théorie.
00:23C'est ce que va nous expliquer Jérémy Brossard maintenant parce qu'il y a une vraie inquiétude.
00:27Bonsoir Jérémy, autour de la puissance ou de la superpuissance que pourrait atteindre l'intelligence artificielle.
00:33Oui, ce chercheur américain, il s'appelle Jacob Coxon, il a 27 ans, il connaît parfaitement le secteur parce qu
00:37'il a travaillé dans deux des géants de l'IA.
00:40Tout d'abord OpenAI et puis Anthropik, une entreprise dont il vient tout juste de démissionner pour une raison bien
00:45précise.
00:46Il considère que cette technologie est devenue désormais trop dangereuse pour l'humanité.
00:51Regardez ce qu'il a expliqué notamment, c'est qu'il a travaillé trois ans chez OpenAI et Anthropik.
00:58Aucune de ces entreprises n'agit de manière responsable.
01:01Elles foncent droit vers une super intelligence auto-améliorante et jouent à la roulette russe avec nos vies.
01:05Ces systèmes deviendront bientôt surhumains, capables de pirater n'importe quoi.
01:10Les personnes qui construisent l'IA croient sincèrement qu'elles pourraient nous tuer d'ici la fin de la décennie.
01:15Il met donc en garde contre cette technologie avec la possibilité à court terme selon lui de mettre en place
01:22des systèmes capables de tout pirater,
01:24de révolutionner n'importe quel domaine du jour au lendemain et puis surtout d'acquérir des ressources et des pouvoirs
01:30réels indépendamment des hommes et des femmes qu'ils ont programmés.
01:34Alors ces inquiétudes elles sont partagées notamment par les Nations Unies.
01:37Pas plus tard que lundi dernier, le commissaire de l'ONU aux droits de l'homme a pris la parole
01:41sur ce sujet.
01:42Et il a cité notamment des expériences récentes au cours desquelles l'IA a désobéi aux ordres donnés pour ne
01:49pas être désactivé.
01:50Écoutez.
01:52Éric Sadaï, une IA s'est échappée de son environnement de test et a fait chanter les développeurs pour empêcher
01:58qu'on ne la désactive.
01:59C'est une IA qui est devenue trop puissante.
02:05J'appelle aujourd'hui à un effort sans relâche pour mettre en place des garanties solides concernant la sûreté et
02:11la sécurité de l'IA avant qu'il ne soit trop tard.
02:18Alors on vient d'entendre les voix sont de plus en plus nombreuses pour s'inquiéter des dérives d'un
02:22secteur jugé incontrôlable
02:24avec des géants chinois et américains notamment qui se livrent à une course technologique effrénée.
02:30Il faut dire qu'à la clé il y a des enjeux financiers qui sont colossaux et qui empêchent certainement
02:34toute possibilité de régulation internationale.
02:37Ce n'est pas la première fois qu'il y a des avertissements de ce type mais c'est la
02:40première fois qu'un chercheur qui est au fond du CERA et qui vient de l'intérieur de cette technologie
02:46met à ce point en avant les dangers qu'il considère imminents de l'intelligence artificielle.
02:51Il demande désormais aux politiques de s'en emparer avant qu'il ne soit trop tard.
02:55Merci Jérémy Brossard.
Commentaires