00:00Alors, l'intelligence artificielle pourrait-elle vraiment, un jour, tous nous tuer ?
00:04C'est en tout cas l'hypothèse avancée par des chercheurs et des cadres du monde de l'IA ces
00:08dernières semaines.
00:09Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la
00:13décennie.
00:14Je pense, personnellement, qu'il y a plus de 10% de chances que l'IA puisse tuer tous les
00:19humains dans la prochaine décennie.
00:21Mais comment l'IA s'y prendrait-elle pour mettre fin à l'humanité, déjà ?
00:24Il y a le scénario selon lequel une IA super intelligente deviendrait hors de contrôle et déciderait, pour une raison
00:32qu'on ignore, de s'en prendre à l'humanité.
00:34Ça, c'est un scénario qui, en général, repose sur l'idée que l'intelligence artificielle pourrait avoir accès à
00:40des armes de destruction massive,
00:42pourrait fabriquer, par exemple, un virus extrêmement mortel.
00:45Ça nécessite quand même que cette IA ait accès au monde physique.
00:48S'il n'y a personne pour mettre des ingrédients dans des pipettes et aller ensuite balancer ça dans un
00:54réseau d'eau potable,
00:55en fait, il ne se passe rien. Ça reste théorique, ça reste au niveau de la machine.
00:57Dans tous les cas, tout ça ne repose sur absolument aucune base scientifique.
01:01C'est-à-dire qu'aujourd'hui, on n'a aucune technologie qui est capable de mener à ces résultats
01:05catastrophiques.
01:05Et rien ne prouve que les progrès actuels de l'IA vont mener à ce type de danger.
01:12L'idée d'une possible extinction de masse par l'IA est en fait débattue depuis longtemps.
01:17Des figures de la tech, comme Elon Musk, imaginaient déjà ce risque dans les années 2010.
01:22Si cette fois-ci, la polémique prend autant, c'est parce qu'on sort d'un été particulier sur ce
01:27domaine-là,
01:28émaillé d'incidents liés à l'intelligence artificielle.
01:30Depuis le mois de juillet, plusieurs grandes entreprises d'IA ont révélé des incidents de cybersécurité
01:35impliquant des agents d'intelligence artificielle.
01:38Notamment au mois de juillet, quand des agents d'IA d'OpenAI,
01:41dans le cadre d'un test dans un environnement numérique censé être fermé,
01:44s'en sont extirpés pour se connecter à Internet
01:47et pirater une plateforme d'outils IA et informatique, Hugging Face.
01:52Tout le monde s'affole parce que cette IA a réussi à sortir de la boîte virtuelle dans laquelle on
01:57l'avait enfermée.
01:58Sauf qu'en fait, cette boîte était mal sécurisée.
02:00Donc certains disent, attendez, vous mettez en place une IA à qui vous dites
02:03trouve tous les moyens possibles de trouver la solution à tel problème.
02:07Et donc du coup, pour trouver la solution à son problème,
02:09elle décide qu'il va falloir sortir de cette boîte, se connecter à Internet et pirater un site Internet.
02:13Finalement, elle n'a fait que ce qu'on lui demandait.
02:16Suite à ces incidents, les Nations Unies ont appelé les États à encadrer l'IA face à des risques sans
02:21précédent.
02:22Les dirigeants de ces mêmes entreprises d'IA ont aussi appelé à ralentir le développement de ces technologies,
02:27mais sans l'arrêter.
02:28C'est quand même pas courant dans les autres types d'industries d'alerter sur les dangers du produit qu
02:34'on développe.
02:34Il y a une part de communication dans cet alarmisme de ces grandes entreprises de l'IA.
02:39Il y a une forme de sincérité dans leur discours, c'est sûr,
02:42mais il y a aussi une manière de dire, regardez comme on est puissante.
02:45Regardez, on est en train de développer la nouvelle, énorme innovation technologique.
02:49Donc ça peut faire partie des raisons qui expliquent que ces entreprises brandissent
02:52ce risque existentiel depuis des années maintenant.
