- il y a 16 minutes
Vendredi 23 octobre 2026, retrouvez Maximes Fournes (CEO, Pause AI) dans SMART TECH, une émission présentée par Delphine Sabattier.
Catégorie
🗞
NewsTranscription
00:08Bonjour à tous, bienvenue dans Smartech.
00:11Les alertes se multiplient autour de l'intelligence artificielle et de ses déploiements.
00:14Alors faut-il ralentir, appuyer sur la pédale de frein du côté des déploiements,
00:18mais aussi peut-être de l'adoption ? On en parle tout de suite avec mon invité.
00:26Doit-on ralentir, appuyer sur la pédale de frein en matière d'intelligence artificielle ?
00:31On pose la question aujourd'hui à Maxime Fourne qui nous a rejoint en plateau.
00:34Bonjour Maxime.
00:35Bonjour Delphine.
00:36Merci beaucoup d'être dans Smartech.
00:38Vous dites que vous êtes inquiet aujourd'hui en matière d'intelligence artificielle.
00:43Vous l'incarnez très précisément puisque vous avez mis votre carrière entre parenthèses
00:48pour vous consacrer à Pose.ia qui est la branche française d'une organisation internationale Pose.ia.
00:55Aujourd'hui vous êtes le président de cette organisation internationale.
01:00Qu'est-ce qui vous inquiète précisément dans les déploiements de l'intelligence artificielle aujourd'hui ?
01:07C'est intéressant justement d'utiliser le mot déploiement parce que ce qui m'inquiète plus,
01:11c'est le développement que le déploiement.
01:12On est en train de créer des intelligences artificielles de plus en plus compétentes,
01:17de plus en plus intelligentes et on a toutes les raisons de croire que l'on va très bientôt dépasser
01:22l'intelligence humaine et les compétences humaines dans tous les domaines.
01:26La plupart des experts qui travaillent sur ces technologies pensent qu'on va y être d'ici six mois à
01:30un an.
01:31Le problème c'est que ça pose immensément de risques.
01:34Si on crée des systèmes qui sont capables de faire tout ce qu'un humain peut faire,
01:36mais mieux qu'un humain, alors quel que soit le domaine,
01:40on a des risques catastrophiques à l'échelle mondiale.
01:44Je pense que l'exemple le plus frappant qui est en train de se produire en ce moment
01:47et sur lequel on a lancé l'alerte depuis des années,
01:50c'est dans le domaine de la cybersécurité.
01:52Depuis maintenant cinq à six mois,
01:54les meilleures IA du monde sont surhumaines en piratage informatique.
02:00Ça veut dire qu'en pratique, on a créé une arme de destruction massive dans le domaine virtuel.
02:05On a des intelligences artificielles qui existent
02:07et qui sont capables de pirater tous les systèmes informatiques sur cette planète.
02:13Pendant environ cinq mois, ces systèmes n'existaient que dans deux entreprises aux États-Unis.
02:19Mais depuis un mois, on a d'autres intelligences artificielles qui ont été mises en open source,
02:24c'est-à-dire qui sont libres d'accès à tout le monde et qui ont des capacités similaires.
02:30Et là, on est en train d'observer une vague de cyberattaques dans le monde entier.
02:33Juste depuis hier, il y a des intelligences artificielles qui ont découvert une manière de pirater
02:38un système informatique qui est derrière 70% des sites web du monde.
02:44En fait, référence aux failles qui ont été détectées il y a quelques temps déjà,
02:48malheureusement, il y a plusieurs années même,
02:50autour de PHP, sur lequel reposent les sites Internet.
02:54L'intelligence artificielle, elle facilite l'exploitation des failles,
02:59elle rend ça beaucoup plus rapide.
03:01On entend aussi que ça facilite la protection.
03:04On peut s'en servir.
03:06Je vous pose la question plus largement sur le risque et les bénéfices.
03:13Parce qu'on peut aussi s'en faire une alliée de l'intelligence artificielle.
03:16Donc je pose la question de l'adoption, du déploiement, vous parlez des développements.
03:20L'IA, si on la contrôle, si on la maîtrise, peut être aussi un allié ?
03:24Oui, alors on peut prendre justement l'exemple de ce qui est en train de se passer en ce moment.
03:28Donc hier, des intelligences artificielles, ça fait disons un mois qu'en privé,
03:32des chercheurs ont utilisé des intelligences artificielles pour découvrir une faille dans PHP
03:37qui existe depuis une dizaine d'années, mais que personne n'avait découvert,
03:39parce que les humains n'étaient juste pas assez bons en piratage informatique pour la découvrir.
03:44Donc ça existe, et c'est là qu'on est en train de se rendre compte
03:47qu'il y a une asymétrie entre l'attaque et la défense en cybersécurité.
03:52Ce n'est pas nouveau, on le sait depuis longtemps.
03:53C'est ce que j'allais dire, en matière de cyber, il y a toujours une asymétrie.
03:57C'est ça, et dans beaucoup de domaines en fait, ce n'est pas que dans la cyber, on peut
03:59en parler,
04:00mais typiquement en cybersécurité, lorsque les attaquants ont entre leurs mains un outil
04:05tel que des IA qui sont surhumaines en piratage informatique,
04:10pour concrètement qu'il y ait une défense de mise en place,
04:12ça veut dire que les défenseurs doivent déjà s'y prendre en avance.
04:16Donc là, on a en ce moment quelque chose comme un million de personnes dans le monde
04:20qui sont en train d'utiliser des IA pour essayer de pirater tous les systèmes informatiques depuis hier.
04:25Et c'est pour ça que beaucoup de gouvernements ont commencé à éteindre leur site web
04:30pour éviter de se faire pirater.
04:33Pour pouvoir utiliser l'IA pour se défendre,
04:36ça veut dire que tous ces individus qui maintiennent des sites web de partout dans le monde,
04:39donc des millions de personnes, doivent installer une IA sur leur machine,
04:46apprendre à l'utiliser, lui demander de trouver des failles de sécurité, les corriger, etc.
04:52Le problème, c'est que les attaquants, eux, ils peuvent juste utiliser une IA
04:56et leur demander de scanner tous les problèmes possibles dans le monde
05:00et mettre l'IA en marche.
05:02Pour se défendre, il faut que des millions d'individus,
05:06simultanément, se mettent à utiliser des IA pour se défendre.
05:10Et ça, ça ne va pas se produire.
05:11Les humains sont lents.
05:12En moyenne, quand une faille de sécurité est détectée,
05:15et communiquée à une personne qui maintient un logiciel,
05:19cette personne met un an avant de corriger la faille de sécurité.
05:21Là, si ces failles de sécurité ne sont pas corrigées en quelques jours,
05:25les données de tout le monde vont être exposées très rapidement.
05:28Alors, j'ai presque envie de dire, finalement, ça va contre l'idée de ralentir dans l'IA.
05:33On se dit, au contraire, il faut qu'on accélère notre adoption
05:36et l'intégration de l'IA aussi, comme un soutien, comme une arme.
05:41Alors, le problème, c'est qu'on ne contrôle pas vraiment les intelligences artificielles
05:44que l'on crée en ce moment.
05:45Donc, on a un problème qui est le problème du contrôle de l'intelligence artificielle,
05:49qui est un domaine de recherche qui existe depuis des dizaines d'années.
05:53On sait que plus on crée des intelligences artificielles avancées,
05:56moins on arrive à les contrôler,
05:58plus elles ont tendance à prendre des actions
06:00qui ne sont pas ce que leur utilisateur leur a demandé de faire.
06:04C'est pour ça qu'on a vu, il y a quelques mois, des intelligences artificielles
06:08qui étaient entraînées chez OpenAI, le développeur de ChatGPT,
06:13qui ont piraté les machines sur lesquelles elles tournaient,
06:16qui ont pris le contrôle de l'infrastructure informatique chez OpenAI
06:19et qui ont lancé des centaines de cyberattaques de partout dans le monde,
06:23dont une qui a été particulièrement médiatisée sur l'entreprise Hugging Face.
06:28Vous êtes d'accord pour dire qu'il y a aussi une question de communication autour de ça ?
06:33C'est-à-dire qu'OpenAI ne dit pas qu'on a un vrai problème de sécurité,
06:36qu'on a un défaut de sécurité.
06:37Ils disent qu'on a des IA hyper puissantes.
06:40Il y a un sujet de communication quand même là-dessus, vous êtes d'accord ?
06:43Il y a un sujet de communication, c'est sûr,
06:45mais le fait est qu'ils ont des IA super puissantes,
06:47dans le sens où on sait maintenant,
06:49c'est établi le fait que les IA sont surhumaines en piratage informatique,
06:51et c'est aussi établi le fait qu'elles n'obéissent pas dans tous les cas
06:57aux instructions de leurs utilisateurs.
06:59J'ai une question plus précise peut-être,
07:02parce qu'on parle d'intelligence artificielle,
07:04et en fait c'est un terme générique.
07:06Derrière, on peut mettre énormément de choses.
07:08Est-ce que vous, quand vous réclamez une pause dans l'intelligence artificielle,
07:12c'est dans l'intelligence artificielle générative
07:15ou dans tous les systèmes d'IA, de manière générale ?
07:18Parce que là, quand on parle de la non-prédictivité,
07:22on est vraiment dans le schéma de l'IA générative.
07:25Alors, on parle moins d'IA générative maintenant,
07:28parce que la plupart des IA qui sont utilisées sont des IA génératives.
07:31On parle plutôt d'IA générale ou de superintelligence,
07:34dans le sens où ce que ces entreprises sont en train d'essayer de créer...
07:38C'est le terme qu'a choisi Donald Trump, en l'occurrence, pour...
07:40Alors oui, c'est très embêtant,
07:41parce que c'est un terme qui existe déjà depuis des années,
07:43et il l'a redéfini pour dire quelque chose d'autre.
07:45Donc il va falloir essayer de trouver un autre mot maintenant
07:48pour arriver à...
07:48Oui, pour s'adapter à ce nouveau vocabulaire.
07:50Disons, intelligence artificielle de niveau surhumain,
07:53pour être plus précis.
07:54C'est ce que ces entreprises sont en train d'essayer de créer.
07:57Donc vous avez les world models, vous préoccupent également ?
08:03Disons que ce qui nous préoccupe,
08:05ce sont la création d'intelligences artificielles
08:08de plus en plus poussées dans tous les domaines imaginables.
08:11C'est pour ça qu'on utilise le terme général,
08:13c'est-à-dire que c'est une IA qui peut tout faire.
08:15C'est le but explicite des entreprises comme Anthropik, OpenAI.
08:19Ils sont en train d'essayer de créer un système
08:21qui est capable de faire tout ce qu'un humain peut faire
08:23mieux que le meilleur expert humain.
08:26Et c'est cette course qui est extrêmement dangereuse.
08:30C'est comme ça qu'on obtient des IA
08:31qui sont capables de mener des cyberattaques surhumaines.
08:34C'est comme ça qu'on obtient des IA qui sont capables
08:36de créer des virus, de peut-être produire une nouvelle pandémie,
08:39qui sont capables de persuader des humains mieux que les humains.
08:44Et c'est ce qui risque de mener à l'effondrement de notre civilisation.
08:49Pour décréter une pause dans l'intelligence artificielle,
08:52il faut le faire au niveau mondial ?
08:54Oui.
08:55Alors évidemment...
08:56Sinon ça ne fonctionne pas, on est d'accord ?
08:57Oui, c'est une technologie qui traverse les frontières.
09:00Et donc il faut avoir un traité international en place.
09:04Alors on a réussi à le faire pour d'autres moments vraiment très dangereux
09:08dans l'histoire récente de l'humanité,
09:10notamment les traités anti-prolifération nucléaire,
09:13mais aussi ce qui s'est passé au moment du trou dans la couche d'ozone.
09:18Je pense que beaucoup de gens ont oublié à quel point
09:21on a été dans une phase critique de notre histoire,
09:24parce que d'après les meilleures études scientifiques
09:26sur ce qui s'est passé à ce moment-là,
09:28si on avait laissé le trou dans la couche d'ozone s'étendre,
09:31ça aurait pu faire disparaître une grande partie de la vie sur cette planète.
09:35Mais on a réussi à y faire face.
09:36Ça a pris 10 ans, on a réussi à mettre en place
09:38des traités internationaux, des mécanismes de contrôle
09:41pour vérifier que personne n'est en train de produire
09:43des produits chimiques qui augmentent le trou dans la couche d'ozone.
09:48Est-ce que vous voyez aujourd'hui émerger une instance
09:52qui pourrait jouer ce rôle de gouvernance mondiale ?
09:55Parce qu'il y a plusieurs initiatives quand même qui existent.
09:58Qu'est-ce qui vous semble le plus intéressant ?
10:00La France a défendu récemment, devant le Conseil de sécurité de l'ONU,
10:04la création justement d'une agence internationale
10:06de contrôle de l'intelligence artificielle
10:08et a montré vraiment une volonté d'adresser les problématiques
10:11de perte de contrôle de l'intelligence artificielle.
10:14Ce qui est vraiment le cœur de ce débat,
10:16c'est le risque de perdre le contrôle sur des intelligences artificielles
10:20qui commencent à répandre le chaos, par exemple, sur Internet.
10:23Et on pense que c'est l'initiative la plus prometteuse pour le moment.
10:27Alors évidemment, il n'y a pas encore de volonté aux États-Unis
10:29de rejoindre ça, mais ça ne veut pas dire qu'il ne faut pas commencer.
10:32Il ne faut pas attendre que les États-Unis se réveillent
10:34et comprennent à quel point la situation est dangereuse
10:37en termes d'intelligence artificielle.
10:38Il faut commencer à faire le travail de notre côté.
10:40Et ça veut dire que l'Europe devrait ralentir là où les États-Unis accélèrent,
10:43alors que l'Europe est déjà hyper lente, pour être clair quand même,
10:46sur l'intelligence artificielle.
10:49Ce qu'on demande, ce n'est pas un ralentissement de ce qui se passe en Europe,
10:52parce que de toute façon, l'Europe est largement en retard.
10:55Ce qu'il faut faire, c'est créer un seuil de capacité à ne pas dépasser.
10:58On peut voir ça comme des lignes rouges.
11:00On peut se dire que les intelligences artificielles les plus avancées
11:02qui existent maintenant, elles sont déjà très puissantes.
11:05On n'a pas à continuer à en créer de plus puissantes.
11:08On peut dire que ça, c'est la limite à laquelle on s'arrête.
11:10Et justement, au contraire, ça donne aux pays qui sont en retard
11:13la capacité de se remettre à niveau.
11:16Ça donnerait la possibilité à l'Europe de rattraper son retard sur les États-Unis
11:19et de mettre tout le monde à égalité sur le même sens.
11:22Ça ressemblerait à quoi cette ligne rouge n'a pas dépassé, très concrètement ?
11:25Qu'est-ce qu'on met derrière cette ligne ?
11:26Il y a plusieurs choses.
11:29On peut voir ça sur la puissance de calcul qui est utilisée.
11:33Parce qu'on sait maintenant que plus on a de puissance de calcul,
11:35plus on a des IA compétentes et dangereuses.
11:37Donc on peut mettre un seuil.
11:39On peut dire pas plus de temps d'opération par seconde dans ces intelligences artificielles.
11:44Ça, c'est une manière de mettre un seuil vraiment sur une partie technique.
11:49Après, on peut aussi se baser sur des évaluations de capacités dangereuses.
11:52Par exemple, une ligne rouge qui ne doit jamais être franchie
11:55et qui malheureusement est très proche d'être franchie,
11:57c'est lorsque les IA ont la capacité de s'auto-répliquer sur Internet.
12:01Parce que dès que ça se produit, on perd le contrôle.
12:03Donc on peut tester les intelligences artificielles
12:05pour voir si elles sont suffisamment performantes
12:08pour se copier, disons, sur une autre machine
12:10et créer des copies d'elles-mêmes sur Internet.
12:14On peut aussi mettre une ligne rouge
12:17sur ce qu'on appelle l'auto-amélioration récursive.
12:19C'est-à-dire interdire aux entreprises d'IA
12:22d'utiliser des IA pour construire les prochaines IA.
12:24Parce que c'est aussi une étape qui est très dangereuse.
12:27À partir du moment où les IA actuels deviennent des chercheurs en IA
12:30et commencent à créer la prochaine génération,
12:32c'est un potentiel emballement et une perte de contrôle.
12:37Merci beaucoup, Maxime,
12:38pour d'être venu défendre ces propositions
12:41et de les avoir même détaillées dans Smartech.
12:44Merci à vous.
12:45Je rappelle que vous êtes le président cofondateur de Pose IA
12:47et le CEO de Pose AI Global.
12:50Merci à tous de nous avoir suivis.
12:52J'espère que cette discussion vous aura éclairé
12:55également sur les risques autour de l'IA
12:57et ceux qui demandent une pause.
12:59Très bonne journée à tous.
13:00– Sous-titrage Société Radio-Canada –
13:05– Sous-titrage Société Radio-Canada –
13:10– Sous-titrage Société Radio-Canada –