- il y a 34 minutes
Jean-Louis Constanza, ingénieur en robotique, cofondateur de Wandercraft, l'un des leaders mondiaux en robotique humanoïde, et David Djaïz, essayiste, président d'Ascend Partners, cofondateur de l’indice de résilience numérique, sont les invités du Grand entretien.
Catégorie
🗞
NewsTranscription
00:00Sommes-nous en train de perdre le contrôle ? L'IA, présenté il y a encore quelques mois comme un
00:05immense outil de progrès, serait désormais un danger existentiel pour l'humanité.
00:10En l'espace de quelques semaines, un ingénieur d'entropie qui estime à 10% le risque que l'IA
00:15conduise à l'extinction du genre humain, un prix Nobel qui lui donne raison,
00:19une mutinerie d'agents IA cet été qui se coordonne pour échapper aux consignes de leurs concepteurs et une multiplication
00:24des alertes des acteurs de la tech.
00:28On en parle avec deux invités ce matin, un entrepreneur de l'IA et un spécialiste du sujet.
00:34Bonjour Jean-Louis Constanza, merci d'être avec nous ce matin sur France Inter, vous êtes cofondateur et dirigeant de
00:38Wondercraft,
00:39vous développez des exosquelettes et des robots humanoïdes pilotés par l'IA, vous nous expliquerez dans un instant ce que
00:45ça veut dire.
00:46A vos côtés David Jays, bonjour, merci d'être avec nous essayiste, chef d'entreprise, vous travaillez depuis plusieurs années
00:51sur l'essor de l'intelligence artificielle
00:53et je signale aussi votre excellent roman, ça s'appelle La méthode, c'est aux éditions Stock et c'est
00:58déjà dans la liste de plusieurs prix littéraires.
01:00Et venez avec nous chers auditeurs, vous qui êtes inquiet ou incrédule, vos questions sont les bienvenues au 01 45
01:0524 7000 et sur l'application Radio France.
01:08Alors on est obligé de commencer par le vertige de ces déclarations sur une fin de l'humanité possible d
01:14'ici 10 ans à cause de l'IA.
01:17Et on ne peut pas s'empêcher de se demander, mais est-ce que c'est Terminator ou est-ce
01:20que c'est vraiment un scénario plausible ?
01:23Je pense qu'il y a beaucoup de marketing, de la peur dans tout ça.
01:26Si on essaie de décrypter ces déclarations alarmistes qui sont faites par les grands patrons des laboratoires d'IA, il
01:32y a trois choses je pense.
01:33Premièrement, pour entraîner des modèles, il faut des dizaines de milliards, voire des centaines de milliards de dollars ou d
01:40'euros d'investissement.
01:41Et aujourd'hui, le retour sur l'investissement, il n'est pas évident.
01:44Donc il peut y avoir un intérêt pour ces grands patrons de ralentir un petit peu la course effrénée, la
01:49course aux armements dans laquelle ils sont engagés.
01:51La deuxième chose, c'est qu'il y a une volonté probable de, ce qu'on appelle en économie, de
01:58capture du régulateur.
02:00C'est-à-dire, on est arrivé à la frontière, on sait mieux que les autres où sont les dangers,
02:04les périls et les risques.
02:05Et on veut être les seuls.
02:06Et soyons les seuls.
02:07Et surtout, ne permettons pas à d'autres d'accéder à la frontière.
02:09Et puis, troisièmement, il y a probablement une raison plus philosophique et plus religieuse, qui s'appelle l'altruisme effectif,
02:16qui est un courant de pensée très influent dans les laboratoires d'IA, notamment chez Anthropik.
02:21En gros, ce sont des gens qui sont persuadés de faire le bien de l'humanité, à grande échelle,
02:26et qui se disent, si nous ne sommes pas dans le cockpit de l'avion, eh bien l'avion va
02:31se crasher.
02:32Et donc, le paradoxe, c'est que ces gens qui sont très conscients des dangers de l'intelligence artificielle
02:37contribuent parfois à l'accélération vertigineuse que nous vivons en ce moment.
02:41Alors, il se trouve que vous avez Jean-Louis Constanza à côté de vous.
02:44Vous, on imagine que vous êtes persuadés de faire le bien avec vos exosquelettes et vos robots.
02:49On va en parler dans un instant.
02:50Mais vous êtes dans quelle dynamique, vous, vis-à-vis de cette inquiétude de ce vent d'apocalypse qui souffle
02:56sur le sujet ?
02:57Alors, c'est vrai, chez Wundercart, on fait deux produits qui ont la même plateforme technologique.
03:02Mais qui sont un peu différents.
03:03Les exosquelettes font marcher des gens qui ne marchent pas.
03:06Incidemment, on les lance aux Etats-Unis aujourd'hui même, après 13 ans de travail.
03:11Et pourquoi aux Etats-Unis ? Parce qu'ils sont remboursés là-bas.
03:15Et on fait des robots humanoïdes.
03:17On a commencé à étendre dans notre techno vers les usines, les entrepôts logistiques,
03:24pour assez souvent prendre des emplois qui ne sont pas remplis,
03:29simplement parce qu'ils sont super pénibles.
03:30Et aussi, pour une raison plus profonde, c'est qu'on entre assez lentement à l'échelle humaine,
03:38mais très vite à l'échelle historique, dans le mur de la démographie.
03:41C'est-à-dire que les populations dans tous les pays développés,
03:43et même dans les pays africains, sud-américains, etc., s'effondrent.
03:47On va en parler, Jean-Luc Sansa, mais sur cette idée pour vous qui, au quotidien,
03:52travaillez et avez développé une technologie qui est intimement liée à l'intelligence artificielle,
03:56quand vous entendez des ingénieurs, des acteurs de la tech dire
03:58« il y a un risque non négligeable que l'IA nous mène à la catastrophe et à la fin
04:03de l'humanité »,
04:04ça vous agace ?
04:06C'est intéressant.
04:07C'est vrai que depuis 4 ans, on entend cette phrase tous les 6 mois.
04:10Tous les 6 mois, il y a un ingénieur qui démissionne de Anthropique ou d'OpenIA
04:14et qui dit « oh là là, mon Dieu, on va dans le mur, c'est terrible ».
04:18Et ça ne s'est pas produit, en fait.
04:20Tous les 6 mois, on entend qu'on va vers l'intelligence générale dans 6 mois.
04:23Et ça ne s'est non plus toujours pas produit.
04:27Alors, il ne s'agit pas de se moquer.
04:29L'IA et les robots sont des outils extraordinairement puissants pour l'avenir.
04:34Comme les trains l'étaient, comme les avions l'étaient.
04:36Les avions étaient dangereux au début.
04:38On avait peur des trains.
04:40Aujourd'hui, grâce aux trains et aux avions, on a une vie qui est très différente de celle d'il
04:43y a 200 ans.
04:44Et on a une vie qui est de loin meilleure.
04:47Donc, il faut rester optimiste.
04:48Il faut faire attention.
04:51Il faut que l'industrie, déjà, soit un peu consciente de ce qu'elle fait.
04:56Surtout à la frontière, ce qu'on appelle la frontière,
04:59c'est-à-dire les modèles d'IA les plus puissants,
05:02sur lesquels il faut appliquer simplement déjà les règles de sécurité
05:05que l'industrie nous impose aujourd'hui.
05:07David Jayes, vous parlez d'un possible opportunisme des acteurs de la tech.
05:12Mais quand Joshua Benjou, prix Turing, un des pères de l'intelligence artificielle,
05:16comme Geoffrey Hinton, prix Nobel de physique, nous disent
05:19« Oui, on est en train de perdre le contrôle.
05:22Oui, l'IA est un danger pour l'humanité.
05:25Ce danger est bien réel.
05:26Eux, ils n'ont pas d'intérêt, ni industriel, ni financier à le dire. »
05:30Mon propos n'est pas de minimiser la gravité des risques.
05:33C'est plutôt d'essayer de décrypter les discours de ces dirigeants de la tech.
05:35C'est vrai qu'il y a eu des incidents sérieux ces derniers mois.
05:38Vous avez vu ce qui s'est passé avec les agents d'OpenAI,
05:41qui étaient entraînés dans un espace confiné pour des évaluations de cybersécurité
05:46et qui ont réussi à se coordonner pour sortir de cet état.
05:49Et échapper aux consignes de leurs concepteurs.
05:50Complètement.
05:51À se parler sur des forums, à établir des hiérarchies entre eux.
05:54À aller sur Internet et ensuite à rentrer dans une autre entreprise
05:57dont on a beaucoup parlé cet été, créée par des Français,
05:59excellente entreprise, Hugging Face.
06:01Donc, il y a des risques.
06:02Et surtout, ce qu'il faut comprendre,
06:03et ce qu'il faut que nos auditeurs comprennent,
06:05c'est les lois d'exponentiel.
06:06Prenez un nénuphar qui grandit dans un étang.
06:09Au bout de 30 jours, disons que le nénuphar occupe toute la surface de l'étang.
06:13Quelle est la surface de l'étang occupée par le nénuphar le 29e jour,
06:17la veille du 30e jour ?
06:18La moitié.
06:19C'est ça les lois d'exponentiel.
06:21Et le problème, c'est qu'avec l'IA,
06:22on a des modèles dont la capacité, la puissance,
06:25double tous les 6 mois.
06:27Ce qui fait qu'il y a 4 ans,
06:28l'IA conversationnel, Tchad GPT, n'a que 4 ans.
06:31Au début, ces modèles,
06:33ils étaient capables de résoudre des problèmes de maths,
06:35et encore très mal, de niveau 5e, 4e.
06:37Et puis, un an après, c'était niveau terminal.
06:40Et puis, deux ans après, c'était niveau master.
06:42Et maintenant, on a des IA qui résolvent les équations de Navier-Stokes,
06:45qui sont l'un des 7 problèmes du millénaire.
06:47Donc, effectivement, il y a quelque chose de vertigineux
06:50dans cette loi d'exponentiel.
06:52On est en train de changer de civilisation,
06:55et on le fait à une vitesse folle,
06:57et c'est ça dont il faut avoir conscience.
06:58Un mot encore concrètement, David Jays,
07:00et sans effrayer ni les auditeurs, ni quiconque.
07:02Donc, le pire scénario,
07:04le scénario où les IA échapperaient à leurs concepteurs,
07:07où il y aurait effectivement un risque pour l'humanité tout entière,
07:09ce serait quoi ?
07:09Parce qu'on a du mal à comprendre l'aspect palpable de cette menace.
07:14Alors, il y a des risques évidents sur ce qu'on appelle la cybersécurité,
07:18c'est-à-dire que les IA peuvent se coordonner
07:19pour mener des attaques,
07:22envahir des sites internet
07:24ou des espaces numériques.
07:26Il y a des risques sur la bioinformatique aussi,
07:28c'est-à-dire qu'on peut coder, évidemment,
07:30des agents, des virus,
07:32qui peuvent provoquer des...
07:33Qui tomberaient dans des mains, dans de mauvaises mains.
07:36Voilà. Mais ça, comme le disait très bien Jean-Louis,
07:37je pense que ces choses-là vont faire l'objet d'une certification,
07:40d'une vérification importante.
07:42Moi, je pense que le principal risque,
07:43il est là où on ne le voit pas.
07:45C'est-à-dire qu'aujourd'hui,
07:46quand vous cliquez sur internet,
07:47pour un clic humain,
07:48vous avez un clic de robot.
07:49D'accord ?
07:50Dans cinq ans,
07:51l'espace informationnel sera complètement transformé.
07:53Et pour un clic humain,
07:55vous aurez mille clics de robot.
07:56De la même manière,
07:57les modèles d'hier ont été entraînés
07:58sur des textes, des livres,
08:00avec beaucoup de vols de propriétés intellectuelles,
08:02d'ailleurs,
08:03écrits par des humains.
08:04C'est-à-dire notre pensée,
08:05à nous, à vous.
08:06Dans cinq ans,
08:07les modèles seront essentiellement entraînés
08:09sur des données synthétiques,
08:10c'est-à-dire des données,
08:11des corpus générés par d'autres modèles.
08:14Le risque, c'est quoi ?
08:15C'est que nous soyons littéralement ensevelis
08:17sous un déluge de contenus fabriqués par des robots
08:20et que du coup,
08:21l'intelligence humaine
08:23et même la civilisation humaine
08:24dans ce déluge
08:25ne soit plus qu'une note de bas de page
08:27dans la longue histoire de l'intelligence.
08:29C'est ça le principal risque pour moi.
08:31Ce n'est pas tellement des risques
08:32de cybersécurité ou de bioinformatique
08:35qui vont être encadrés,
08:36j'en suis certain.
08:37C'est plutôt l'idée
08:38quelle est la place de l'humain dans tout ça ?
08:40Alors, il faut qu'on parle
08:41d'un autre sujet d'inquiétude récurrent
08:44qui vous concerne,
08:45Jean-Louis Constanza.
08:46Donc, on l'a dit,
08:46vous fabriquez des exosquelettes
08:48qui permettent aux gens de remarcher,
08:50ce qui est absolument extraordinaire.
08:52C'est une prouesse technologique.
08:53Vous fabriquez aussi des robots.
08:56Vous travaillez avec un certain nombre d'entreprises.
09:00C'est pour faire quoi ?
09:01C'est pour remplacer les salariés ?
09:03Je précise que, par exemple,
09:04vous travaillez avec Renault,
09:05avec La Poste.
09:06Qu'est-ce que vous faites avec eux ?
09:07Alors, on fait des robots
09:08qui commencent et qui,
09:11pendant de longues années,
09:12vont surtout se concentrer
09:14sur les emplois pénibles.
09:15C'est 100% à peu près
09:16de notre demande aujourd'hui.
09:18On travaille avec 12 grandes entreprises
09:21et ça, évidemment,
09:22de plus en plus,
09:23ça change tout le temps.
09:24Des emplois pénibles
09:25et des emplois qui ne sont pas pourvus.
09:27Depuis deux ans,
09:28l'histoire de la démographie
09:30qui était plutôt une histoire théorique,
09:34de journaliste
09:34qu'on n'avait pas senti dans notre vie.
09:37Depuis deux ans,
09:37il y a des usines qui repassent en 1,8,
09:39alors qu'elles sont en 2,8.
09:40Des usines qui ferment en août
09:42parce qu'on ne trouve personne,
09:43des agriculteurs
09:44qui trouvent de moins en moins
09:45d'ouvriers agricoles
09:47et qui ne savent plus
09:48comment faire leur production
09:49dans tous les pays d'Europe
09:50et très largement plus encore
09:52en Corée et en Chine
09:53où le taux d'enfants par femme
09:56est passé largement sous 1.
09:57Donc ce sont des pays
09:58qui sont en voie d'extinction.
10:00On commence à le sentir.
10:02C'est-à-dire que l'emploi des robots
10:04à peu près dans les 10 prochaines années
10:06sera largement saturé
10:10par 1, les emplois pénibles,
10:122, les services qui ne sont plus rendus
10:13et 3, les services pour lesquels
10:16on ne recrute plus.
10:17Et donc ça veut dire,
10:17Jean-Louis Constanza,
10:18si je traduis ce que vous dites,
10:20au fond c'est indolore,
10:22c'est-à-dire qu'en réalité
10:23les robots ne remplaceront que
10:24des emplois qui ont vocation.
10:25Parce que vous savez bien l'inquiétude.
10:26L'inquiétude c'est de dire
10:27qu'il y a des métiers
10:29qui à terme vont être tout simplement
10:30remplacés par des robots
10:31et donc des salariés
10:32qui vont se retrouver sur le carreau.
10:34Le choix pour l'IA d'une part
10:36et les robots d'autre part,
10:38on l'a fait depuis 50 ans.
10:39En fait, il faut en être conscient,
10:42on a fait un choix.
10:43Tous les pays ont fait un choix
10:44en n'ayant plus d'enfants.
10:46Donc en n'ayant plus d'enfants,
10:47soit on va vers une pauvreté massive
10:50et je me rends compte,
10:51moi qui suis un peu plus vieux
10:52par exemple que les ingénieurs
10:53de mon aircraft,
10:53qu'on a oublié ce que c'était
10:55que la pauvreté.
10:56C'est-à-dire que c'est des gens
10:57qui meurent,
10:57c'est des enfants qui n'ont plus
10:58de médicaments,
10:59c'est qu'on n'a plus à manger.
11:01C'est ça la pauvreté.
11:01C'est pour ça que la Chine
11:02en a très peur,
11:03la Corée en a très peur
11:04parce que récemment,
11:05ils ont connu des famines,
11:07ils ont connu des crises graves.
11:08Nous, on n'a plus ça,
11:10Dieu merci, c'est fantastique,
11:11mais la chute démographique
11:13nous y condamne
11:14si on ne remplace pas
11:15les emplois humains
11:16qui ne sont plus là
11:17par de l'électronique,
11:19de l'IA pour les emplois assis,
11:20des robots pour les emplois debout.
11:22Donc on est effectivement pris
11:23en étau entre deux contraintes majeures,
11:26le risque de ces technologies
11:27extraordinairement puissantes
11:28et le fait de ne plus avoir
11:30de production
11:30qui va réduire notre niveau de vie
11:33à des niveaux
11:34qu'on n'a jamais connus.
11:35Vous comprenez que ce soit
11:36une grande source d'inquiétude,
11:38d'autant plus quand on entend
11:39Bill Gates nous dire
11:40qu'il va falloir un jour
11:41réserver 40% des emplois
11:42aux humains.
11:43Ça veut dire que 60%
11:45seront dévolus
11:47à l'intelligence artificielle.
11:50C'est quoi le monde
11:50qui s'annonce ?
11:51C'est un monde sans travail ?
11:52Alors, on a étudié
11:54chez Wondercraft
11:55avec des grands économistes
11:56cette question précise
11:57de savoir
11:59est-ce que Bill Gates
12:00ou Elon Musk
12:01ou Sam Altman
12:01quand ils parlent
12:02des nouveaux emplois,
12:03quand ils parlent
12:04du remplacement des robots
12:05et de l'IA
12:06est-ce qu'ils savent
12:07de quoi ils parlent ?
12:07Et en fait, la réponse,
12:08c'est qu'il n'y a pas de réponse.
12:10Aucune étude économique,
12:12aucun travail sérieux
12:13avec des économistes reconnus
12:14ne donne la réponse
12:16de savoir
12:16si cette fois-ci encore
12:18on va créer encore plus d'emplois
12:19comme à chaque révolution technologique.
12:21Les emplois vont exploser.
12:23Ils ont changé et explosé.
12:24Ou si c'est une nouvelle race,
12:26une nouvelle espèce
12:27et on ne sait pas.
12:28En revanche, ce qu'on sait,
12:29c'est que la Corée, par exemple,
12:32vient d'offrir l'IA souveraine
12:33et coréenne
12:34à tous les Coréens.
12:35Alors, ce n'est pas encore fait
12:36parce qu'il faut la développer
12:37mais ils font le pari de dire
12:39on va augmenter
12:40le potentiel créatif des humains
12:42en leur donnant une IA
12:43puis en leur donnant un robot.
12:44Et ça, c'est probablement
12:46le seul moyen
12:47pour un pays comme la France,
12:48par exemple,
12:49faire ses propres robots,
12:51maîtriser sa propre IA
12:52sinon on sera vassalisé
12:53par la Chine
12:54et par les Etats-Unis,
12:55c'est certain.
12:55David Jay,
12:56sur ce scénario
12:57d'un monde
12:58sans travailleurs,
13:00d'IA robots
13:01qui prendraient la place
13:02de ses salariés,
13:04ce qui pose des questions
13:04vertigineuses
13:05en termes de morale,
13:07de mode de vie,
13:08de financement
13:08de la protection sociale.
13:10Votre regard
13:10sur ce risque-là ?
13:12Moi, j'y crois pas trop.
13:13À chaque fois qu'il y a eu
13:14des vagues
13:15d'innovations massives,
13:17on a prédit
13:17la disparition des emplois
13:19et en fait,
13:19il y a eu une réallocation.
13:20Vous vous dites
13:20que c'est la destruction créatrice.
13:21Au fond, il y aura une phase
13:22et ça recréera des emplois.
13:23Oui, le problème,
13:24c'est la vitesse
13:25et l'ampleur
13:26de cette destruction.
13:26C'est-à-dire que quand ça va
13:27très vite et très fort,
13:28si vous n'avez pas
13:29une organisation de la société
13:31qui est suffisamment puissante
13:32pour accompagner,
13:34vous avez beaucoup
13:35de destruction sociale.
13:37Mais vous voyez,
13:38l'année dernière,
13:39il n'y a jamais eu
13:40autant d'interne
13:41en radiologie aux Etats-Unis.
13:42Alors que la radiologie,
13:43c'est un des métiers
13:44qui est les plus fortement
13:45perturbé par l'intelligence artificielle.
13:47Pourquoi ?
13:48Parce qu'une intelligence
13:49artificielle abondante
13:50fait baisser le coût
13:51d'une radio
13:52et donc on pourra faire
13:53des radios beaucoup plus facilement
13:54et donc la demande de radio
13:55va augmenter
13:55et donc on aura plus de radiologues.
13:57Donc il y a ce qu'on appelle
13:58en économie des effets de Gevans.
14:00La réalité,
14:01c'est qu'on n'en sait rien
14:01et que le principal problème
14:05aujourd'hui,
14:06je suis d'accord avec Jean-Louis,
14:07je pense que c'est d'abord
14:07un problème de sécurité
14:09et de souveraineté.
14:10L'IA,
14:10c'est une infrastructure.
14:12C'est comme l'électricité
14:13ou l'eau.
14:13quand on a équipé la France
14:15en ligne électrique,
14:16quand on a électrifié le pays,
14:18l'IA demain,
14:19ça sera pareil.
14:19C'est-à-dire que vous aurez
14:20de l'intelligence machine
14:21qui circulera
14:22dans les entreprises,
14:23dans les maisons
14:23et donc il faut s'assurer
14:25premièrement
14:25qu'il y a un niveau minimum
14:27de sécurité
14:28et deuxièmement,
14:29il faut s'assurer
14:30que cette intelligence
14:31ne soit pas contrôlée
14:32par des acteurs extérieurs
14:34à l'étranger
14:35qui peuvent l'arrêter
14:36ou la biaiser
14:37à tout moment
14:37parce que je vous donnais
14:39un exemple très concret.
14:40Aujourd'hui,
14:40dans les banques
14:41ou dans les assurances,
14:42vous avez des gens très sérieux
14:42qu'on appelle les actuaires
14:44qui font des scoring de crédit,
14:46qui calculent
14:46les polices d'assurance,
14:47etc.
14:47On pense que demain,
14:49ça sera en grande partie
14:50des intelligences artificielles
14:51qui feront ça.
14:52Si les fournisseurs
14:53de modèles,
14:54si les fournisseurs
14:55de logiciels
14:56qui remplacent
14:57les humains
14:58viennent des Etats-Unis,
14:59imaginez un Trump 2
15:00qui arrive au pouvoir
15:01et qui dit
15:01je tourne le bouton
15:02ou imaginez
15:03un acteur malveillant
15:04qui empoisonne
15:05les modèles.
15:06C'est toute une économie
15:07européenne
15:08qui peut se retrouver
15:08à l'arrêt.
15:09Donc l'enjeu
15:09de résilience
15:10et de souveraineté
15:11il est absolument majeur.
15:13Il y a une autre analogie
15:14et on va en parler
15:15dans un instant
15:16juste après un petit tour
15:17au standard.
15:18C'est le nucléaire
15:19évidemment.
15:20C'est cette technologie
15:23qu'il faut savoir
15:24maîtriser
15:25car sinon
15:26elle peut nous dépasser
15:27avec des risques
15:29laitaux.
15:31Donc j'accueille
15:31Philippe
15:31au standard d'Inter.
15:33Bonjour,
15:33bienvenue Philippe.
15:34Vous avez précisément
15:34une question à poser
15:35sur la régulation.
15:37Oui,
15:38bonjour
15:40Philippe Batreau.
15:43les invités
15:44tout à l'heure
15:45ont parlé
15:45de l'incident
15:47d'Openaï.
15:47Alors cet incident
15:48m'a tellement frappé
15:49que j'en ai fait
15:50un roman
15:51Révolution Artificielle
15:52qui vient de sortir
15:53à partir des deux
15:55rapports d'enquête
15:56aux éditions
15:57à qui je crois.
15:58Et ma question
15:59à vos invités
16:00face à une IA
16:01qui va toujours plus vite
16:02que la loi
16:03faut-il miser
16:04sur une régulation
16:05par les autorités
16:06ou sur une
16:07co-régulation
16:09avec les entreprises
16:09et la société civile ?
16:11Comment réguler ?
16:12Réponse de David Jay.
16:13Deux choses.
16:13D'abord,
16:13impossible de faire
16:14une régulation
16:15que par les gouvernements
16:16parce que
16:16les modèles de frontières
16:17il n'y a que les chercheurs
16:18dans les laboratoires
16:19d'IA de frontières
16:19qui sont capables
16:20de comprendre
16:20vraiment ce qui se joue.
16:21C'est quoi les modèles
16:22de frontières ?
16:23C'est les modèles
16:23qui sont à la pointe.
16:24Aujourd'hui
16:25c'est Astra
16:26chez OpenAI.
16:27Donc il faut
16:28moi je souscris
16:29à ce qu'a proposé
16:29Demi Sassabis
16:33plan de coordination
16:34où il y a à la fois
16:35des représentants
16:35des gouvernements
16:36et des représentants
16:37de ces grands labos d'IA
16:38qui puissent
16:39avant la sortie
16:40la mise sur le marché
16:41d'un modèle de frontières
16:42conduire à un audit approfondi.
16:44Par parenthèse
16:45Jean-Louis parlait tout à l'heure
16:46de l'aérien
16:47de l'aviation
16:47vous parliez Florence
16:49du nucléaire
16:50toutes les industries
16:51un peu dangereuses
16:52et un peu sérieuses
16:52la chimie
16:53le nucléaire
16:53l'aviation
16:54ont une culture
16:55de la sécurité
16:56très approfondie.
16:57Et de la régulation
16:58Et de la régulation
16:59Et de la sécurité
17:00et personne ne dit
17:01que c'est de la réglementation
17:02inutile.
17:02Ceci près David Jays
17:03que l'un des principaux acteurs
17:04si ce n'est le principal acteur
17:05de l'intelligence artificielle
17:06d'aujourd'hui
17:06ou le principal pays
17:07les Etats-Unis
17:08ont un président
17:09Donald Trump
17:10qui dit
17:10on ne veut pas de régulation
17:11parce que sinon
17:12on va prendre du retard
17:13et on va se laisser dépasser
17:14par la Chine.
17:15Comment est-ce qu'on instaure
17:16un climat de régulation
17:17que ce soit à travers
17:18les acteurs économiques
17:19ou les Etats
17:20avec un pays comme les Etats-Unis
17:21qui n'en veut pas ?
17:22Vous savez
17:23quand Biden a quitté le pouvoir
17:24son conseiller
17:25Jake Sullivan
17:26à la sécurité intérieure
17:27on l'a interrogé
17:28on l'a dit
17:29c'est quoi pour vous
17:29dans les dix prochaines années
17:30le plus grand danger ?
17:31Il a dit
17:32le plus grand danger
17:32c'est qu'il y a dix projets Manhattan
17:33qui sont actuellement
17:34menés aux Etats-Unis
17:35C'était projet
17:37pour la bande nucléaire
17:38Mais il a dit
17:39le problème
17:39c'est que ces projets Manhattan
17:40ils sont développés
17:40par des intérêts privés
17:41Moi ce qui en fait
17:42m'inquiète maintenant
17:43quatre ans après
17:44c'est qu'on a un gouvernement américain
17:46et une maison blanche
17:47qui sont encore plus irresponsables
17:48que les patrons privés
17:50de ces laboratoires
17:51donc effectivement
17:51moi je pense qu'aujourd'hui
17:52la plus grande menace
17:53pour l'intelligence artificielle
17:55pour les risques
17:55de l'intelligence artificielle
17:56s'appelle Donald Trump
17:57Alors sauf que dans le même temps
17:59on note qu'hier
18:01le chef du renseignement chinois
18:04a exprimé lui aussi
18:05des inquiétudes
18:06sur les risques de l'IA
18:07malgré la concurrence féroce
18:09entre la Chine et les Etats-Unis
18:10on sait que Trump
18:10va rencontrer Xi Jinping
18:12la semaine prochaine
18:13à Washington
18:14est-ce que malgré tout
18:15un dialogue est possible
18:17entre ces deux mastodontes
18:19de la technologie
18:20que sont la Chine
18:21et les Etats-Unis
18:21est-ce qu'on peut avancer
18:23est-ce qu'ils vont pouvoir avancer ?
18:25C'est encore plus
18:27de la science-fiction
18:27de prédire ça
18:28que de prédire
18:29l'impact de l'IA
18:29sur la société
18:32et c'est très difficile
18:33de comprendre
18:34en tout cas
18:34pour un industriel français
18:36les enjeux
18:38et surtout
18:38la compréhension
18:39qu'en ont les dirigeants
18:40des enjeux
18:40parce qu'il peut y avoir
18:41des enjeux
18:42et ils peuvent très bien
18:43ne pas les comprendre
18:44et je crois que c'est le cas
18:45dans les deux cas
18:46donc il ne faut pas trop
18:47faire confiance
18:48au gouvernement actuel
18:50pour avoir
18:51une bonne vision
18:52de ce qu'on veut dire
18:53Mais juste Jean-Luc Constanza
18:54puisqu'on parle de régulation
18:55vous par exemple
18:56vos exosquelettes
18:57vos robots humanoïdes
18:58la régulation
18:59dont vous faites l'objet
19:00c'est quoi concrètement ?
19:01Alors nous
19:01c'est très visible
19:02et très simple
19:03parce que les robots
19:04qu'on met dans les usines
19:05et Wondercraft
19:06on est
19:07on est les premiers
19:09en Europe
19:10à mettre des robots
19:10dans les usines
19:11et on est même
19:12probablement en avance
19:13sur nos amis chinois
19:15donc on est très confrontés
19:16à la sécurité des robots
19:17et un des points
19:18qu'on a développé
19:19avec notre partenaire Renault
19:20c'est d'ailleurs de faire des robots sûrs
19:21ce qui est encore plus important
19:23que des robots performants
19:24parce que dans une usine
19:25la sécurité est absolue
19:27enfin on lui demande
19:28d'être absolue
19:28il y a une réglementation industrielle
19:30dès aujourd'hui
19:31qui s'appelle
19:32la directive machine en Europe
19:33qui est exactement la même
19:34à peu près aux Etats-Unis
19:36et à peu près partout dans le monde
19:37qui impose un certain nombre
19:39de performances
19:39principalement en termes
19:40de sécurité
19:41et nous la suivons
19:43comme n'importe qui
19:44qui essaye de mettre
19:45un objet
19:46dans une usine
19:47et sur la partie IA
19:49de nos robots
19:50il y a toute une série
19:51de dispositions
19:52et dans la directive machine
19:54pour les robots
19:54et par ailleurs
19:56du marque HCE
19:56et de la FDA
19:57aux Etats-Unis
19:58l'agence fédérale
19:59pour les médicaments
20:00donc aussi pour les dispositifs médicaux
20:02qui sont très avancés
20:03sur la compréhension
20:04de ce qu'une IA doit faire
20:06et ne pas faire
20:06David Jay
20:07le point de Jean-Louis
20:08est très important
20:09c'est-à-dire que je pense
20:09que dans l'industrie
20:10et la robotique en fait partie
20:11la culture de la sécurité
20:12est très importante
20:13dans le monde de l'IA
20:14où on est plutôt
20:15sur des jeunes ingénieurs
20:16en suite à capuche
20:17de 25 ans
20:17moi je ne citerai pas
20:19qui c'est
20:19mais un patron
20:21de l'Abo d'IA
20:21pas français
20:22m'a dit il y a deux mois
20:24on a multiplié par quatre
20:26les effectifs
20:27de nos équipes de sécurité
20:28au bout de deux mois
20:29ce qui montre qu'en fait
20:30il y a une forme
20:31d'inconscience aussi
20:32et on se lance
20:33dans ces aventures-là
20:34sans bien mesurer
20:36en fait l'impact
20:36sur la sécurité
20:37et il faut développer
20:38une culture de la sécurité
20:40de niveau industriel
20:40merci beaucoup
20:42on va conclure là-dessus
20:43donc on comprend que
20:44en l'occurrence
20:45le problème commence à être
20:46assez prégnant
20:48et pris en compte
20:49merci Jean-Louis Constanza
20:51et merci David Jay
20:53je rappelle le titre
20:53de votre excellent roman
20:55La méthode
20:56paru chez Stock
20:57merci d'être venu
20:59nous éclairer
20:59tous les deux ce matin
21:00Merci d'avoir regardé cette vidéo
Commentaires