00:00Une actu très importante avec vous ce matin, Anthony Morel, puisque OpenAI appuie sur le bouton pause.
00:05Le géant de l'IA annonce qu'il suspend l'entraînement de ses modèles les plus puissants.
00:09Une décision qui intervient alors que ces derniers jours, les incidents de sécurité se sont multipliés.
00:13Ça relance en tout cas le débat sur notre capacité à vraiment contrôler l'IA.
00:16Oui, est-ce qu'on peut vraiment garder la main sur l'intelligence artificielle ?
00:19C'est une petite musique qu'on entend beaucoup en ce moment,
00:21mais c'est vrai que là, on change d'échelle d'une certaine manière.
00:25On a eu des informations très intéressantes de la presse américaine, du site Axios notamment,
00:28qui nous dit qu'on a des dizaines de milliers d'incidents qui seraient survenus ces derniers mois
00:34et qui font actuellement l'objet d'enquêtes en interne chez OpenAI et chez Anthropique.
00:39Des incidents lors desquels leurs intelligences artificielles respectives ont agi de manière problématique,
00:45ont essayé et ont souvent réussi d'ailleurs à contourner les garde-fous qu'on leur avait fixés.
00:50Si on veut être un peu plus concret, on parle en fait d'agents IA qui tentent de manière complètement
00:55autonome
00:55d'échapper à leur environnement de test, à la surveillance humaine,
00:59qui vont par exemple se connecter à Internet, alors qu'on ne leur avait pas du tout demandé de se
01:03connecter à Internet,
01:04qui vont chercher des failles de sécurité pour tenter d'accéder à certains sites,
01:09qui vont aussi, alors ça c'est complètement dingue, créer des forums de discussion clandestins
01:13où ces IA vont venir discuter les unes avec les autres, se coordonner pour essayer de contourner les barrières qu
01:19'on leur a données.
01:20Donc forcément tout ça, ça fait un petit peu peur. On a eu des exemples très concrets.
01:23Il y a quelques jours, on a eu le piratage par exemple d'un site gouvernemental australien,
01:27un site du ministère de la Santé, par une intelligence artificielle d'OpenAI.
01:31On a eu aussi une IA qui a tenté de hacker le département américain de l'éducation.
01:37OpenAI n'est pas le seul évidemment. On peut citer aussi Gemini, l'IA de Google,
01:41dont on a appris qu'elle avait hacké dans le monde réel trois entreprises.
01:44Voilà l'IA qui a réussi à pirater plusieurs entreprises.
01:47Mais là quand on a ce chiffre de plusieurs dizaines de milliers d'incidents,
01:50on voit bien qu'on dépasse les quelques cas isolés dont on a beaucoup parlé,
01:54notamment le piratage de la plateforme Hugging Face qui avait beaucoup parlé,
01:58qui était très impressionnant mais qui n'était que la partie émergée de l'iceberg finalement.
02:01Oui c'est ça, mais pourquoi ces IA font ça ? Pourquoi elles cherchent finalement à échapper à notre contrôle
02:06?
02:06Alors pas parce qu'elles sont méchantes, pas parce qu'elles se rebellent contre nous,
02:10pas parce qu'elles nous veulent du mal.
02:11Ça c'est ce qu'on appelle de l'anthropomorphisme, c'est-à-dire le fait de prêter à la
02:15machine
02:16des intentions et des caractéristiques qui sont purement humaines.
02:19Non, c'est beaucoup plus bête et méchant que ça.
02:21C'est un dérèglement du coup ?
02:22Alors en fait le problème c'est qu'on leur fixe un objectif
02:25et que pour atteindre ces objectifs, tous les moyens sont bons.
02:28Je vais vous prendre l'exemple concret du piratage du site gouvernemental australien.
02:32En gros on avait demandé à l'IA tout simplement d'aller chercher des informations
02:36sur les dépenses en médicaments.
02:37Bon, l'IA fait son boulot, elle va aller sur le site du gouvernement australien,
02:42le site du ministère de la Santé, elle ne trouve pas les informations.
02:45Les informations ne sont pas publiques.
02:46Qu'est-ce que fait l'IA ?
02:47Elle se dit je vais pirater le site pour voir s'il n'y a pas les informations
02:51qui sont cachées quelque part.
02:53Donc en fait c'est vraiment ça, c'est juste qu'on a donné un objectif à l'IA
02:55et que pour atteindre l'objectif, l'IA se dit je vais tout faire pour l'atteindre.
02:59Mais si je lui donne un objectif malveillant à ce moment-là ?
03:01Alors c'est encore pire évidemment, mais c'est vraiment ça, c'est l'idée que finalement l'IA dépasse
03:07les stratégies que les propres créateurs de ces IA n'avaient pas forcément anticipées
03:11et ça, ça ne va pas s'arranger parce qu'on va avoir des IA de plus en plus performantes,
03:14on va arriver dans des modèles à ce qu'on appelle d'amélioration auto-récursive,
03:17c'est-à-dire des IA qui sont capables de s'auto-améliorer
03:20et qui vont devenir quasiment incompréhensibles pour les êtres humains.
03:23Donc là ça va devenir très très compliqué évidemment.
03:25Ouais mais du coup une fois qu'on a dit ça, on fait quoi ?
03:27Alors la première chose c'est de ralentir quand on peut et c'est ce que tente de faire
03:32en tout cas OpenAI, c'est pour ça qu'ils annoncent l'arrêt temporaire probablement
03:37de l'entraînement des modèles les plus puissants, ça c'est une première chose.
03:40La deuxième chose et c'est encore plus important, c'est d'investir massivement dans
03:44et c'est le mot le plus important du moment, l'alignement.
03:48L'alignement c'est la notion que l'IA doit quand on lui donne un objectif
03:52prendre en compte les intérêts de l'être humain, c'est-à-dire ne pas faire n'importe quoi
03:56pour atteindre l'objectif, là en l'occurrence pirater un site internet, bah non, il ne faut
03:59pas pirater le site internet pour atteindre l'objectif.
04:02Mais ça c'est extrêmement compliqué à faire comprendre si l'on peut dire à l'intelligence
04:06artificielle.
04:07Tout le monde s'accorde à dire qu'on sous-investit considérablement dans cette notion d'alignement,
04:12il va falloir qu'OpenAI et Anthropic mettent largement les moyens.
04:16Bon sachant que c'est un petit paradoxe aussi, que ceux qui nous mettent en garde contre
04:19les dangers de l'IA sont aussi ceux qui nous vendent ces modèles d'IA toujours plus
04:23puissants avant une introduction en bourse qui est prévue pour les mois qui viennent.
04:26Donc vraiment c'est aussi le problème, la peur de l'IA c'est aussi un formidable argument
04:30commercial pour l'IA.
