00:00Qu'il y ait des risques sociaux, politiques, stratégiques, militaires, liés à l'IA, c'est une chose évidente.
00:06Mais le risque que l'on pointe là est un autre risque.
00:09C'est le risque, je dirais, qui a été décrit dans la science-fiction depuis toujours.
00:13Alors depuis, pour les amateurs de science-fiction, le projet Colossus, jusqu'à plus récemment Terminator,
00:19c'est-à-dire le risque de la prise de pouvoir.
00:21On ne peut pas dire qu'il n'existe pas, mais ce que l'on peut dire, en tout cas
00:24en en parlant avec des spécialistes,
00:26ce que nous avons fait pour le rapport que nous avons d'ailleurs présenté au Sénat il y a quelques
00:29mois sur l'IA et les droits humains,
00:31ce risque-là ne fait pas du tout l'unanimité parmi les chercheurs.
00:35En revanche, les risques d'ingérence, d'espionnage, de manipulation, d'usage d'armes autonomes,
00:41ce qui avait valu d'ailleurs une passe d'armes entre Dario Amodei et le département de la guerre,
00:45c'est comme ça qu'il s'appelle maintenant, aux États-Unis, ça c'est une réalité tangible.
00:49En fait, il y a trois scénarios bien distincts.
00:51Le premier, c'est celui de James Bond, celui dans lequel un super méchant,
00:55ça peut être une organisation terroriste, ça peut être un État,
00:59se sert effectivement de l'IA pour faire beaucoup de mal.
01:02Et ça, à imaginer que l'IA s'autonomise, etc., on l'oublie, ça.
01:07C'est très important.
01:08– C'est les deux derniers missions impossibles.
01:09– Exactement.
01:10Et les deux autres scénarios, c'est le scénario d'Asimov,
01:13Isaac Asimov, immense auteur dans lequel,
01:16c'est l'application des règles qu'on lui a données aux robots et aux IA,
01:22qu'elle interprète, qui aboutissent à des catastrophes,
01:24et tous les mésalignements dernièrement qui ont été décrits là,
01:28c'est ça, c'est une interprétation d'instructions qui n'étaient pas malveillantes.
01:32– Mais peut-être pas suffisamment précises ou pas bien données.
01:35– Absolument.
01:35– C'est compliqué de paramétrer pour qu'elle puisse hiérarchiser les choses.
01:38Et le dernier scénario, c'est pareil, ça a été évoqué, c'est Terminator,
01:41mais là on n'y est pas du tout, c'est une IA qui soit capable,
01:43carrément, de nous désobéir complètement.
01:45– Sous-titrage Société Radio-Canada
01:45– Sous-titrage Société Radio-Canada
Commentaires