- il y a 10 minutes
Ce lundi 14 septembre, François Sorel a reçu Bogdan Bodnar, journaliste à La Tribune, Bruno Guglielminetti, journaliste et animateur de « Mon carnet de l'actualité numérique », et Frédéric Simottel, journaliste BFM Business. Ils se sont penchés sur les craintes de la Silicon Valley concernant une perte de contrôle de l'IA, le projet de Google, OpenAI et Anthropic de réguler l'IA avec un organisme, ainsi que sur l'accusation de la Chine contre Anthropic concernant la régulation de l'IA, dans l'émission Tech & Co, la quotidienne, sur BFM Business. Retrouvez l'émission du lundi au jeudi et réécoutez la en podcast.
Catégorie
📺
TVTranscription
00:00Tech & Co, la quotidienne, le débrief de la tech.
00:06Le débrief de l'actu tech avec ce soir sur le plateau de Tech & Co, mesdames, messieurs.
00:11Eh bien Frédéric Simotel, ça va Fred ?
00:12Bonsoir François, bonsoir à tous.
00:14Est-ce que tu as passé un bon week-end mon Fred ?
00:16Écoute, oui, regardez les batailles de tous ces patrons.
00:19On ne pouvait pas y échapper.
00:20On n'a pas arrêté.
00:21Nos Instagram, nos machins.
00:23Bien sûr, et on compte les points entre les différents protagonistes.
00:28On va évidemment rentrer dans les détails dans un instant.
00:31Frédéric Simotel, journaliste à BFM Business.
00:33Bogdad Bodnar est avec nous aussi.
00:35Salut Bogdan.
00:36Bonsoir.
00:36Merci d'être avec nous.
00:37Bogdan qui est journaliste à La Tribune.
00:39La Tribune qui, vous le savez, est le cousin de BFM Business
00:43puisque depuis peu vous êtes rentré dans la famille Samassé-Gemmédia.
00:47Et on est très heureux de te retrouver régulièrement.
00:50Et merci.
00:51Et puis nous avons Bruno Guggen-Mietti qui est avec nous.
00:53Salut Bruno.
00:55Bonsoir.
00:57Québécois Power est là, mesdames, messieurs.
00:59Il est avec nous en visio.
01:01Bruno qui est journaliste animateur du carnet de l'actualité numérique.
01:05Vous pouvez regarder, écouter Bruno.
01:08Et chaque jour, vous avez ces 120 secondes de tech.
01:12Podcast à ne pas rater.
01:13Tout va bien aussi du côté du Québec, mon Bruno ?
01:16Ça va très bien.
01:18Comme le disait Frédéric, on a passé les dernières 48 heures
01:21à voir les échanges de part et d'autre.
01:22Et c'est à tous et chacun qui ajoute son opinion dans la discussion.
01:28Exactement.
01:28Alors, on va prendre le temps pour revenir un petit peu
01:31parce qu'évidemment, c'est un sujet à tiroir.
01:33Parce qu'évidemment, après, il y a des conséquences géopolitiques à tout ça.
01:37Mais pour débuter donc, ce débat monte d'un cran aux États-Unis
01:40sur la régulation de l'IA.
01:42Et cette fois, ce sont les géants du secteur eux-mêmes
01:45qui tirent cette sonnette d'alarme.
01:48Anthropik, OpenAI, XAI, tous mettent en garde
01:51à quelques jours d'intervalle sur des progrès de l'IA jugés
01:54de plus en plus rapides, voire trop rapides.
01:57Entre les démissions de chercheurs, les incidents impliquant des agents IA,
02:00on sent bien que quelque chose est en train de basculer.
02:03Anthony Morel nous racontait tout cela ce matin.
02:07Le détonateur, ça a été, il y a quelques jours,
02:09on avait parlé d'ailleurs de la démission de Jacob Coxon,
02:12ce chercheur d'anthropique qui accuse les géants de l'IA
02:15de jouer avec nos vies, je le cite.
02:18Et ça, ça a ravivé toutes les craintes autour de cette question
02:21la plus vertigineuse du moment.
02:23Quel risque réel fait peser l'IA sur notre survie en tant qu'espèce ?
02:27Et dans la foulée, c'est vrai que les langues se sont déliées.
02:29On a vu sur les réseaux sociaux tout un tas de chercheurs de haut rang
02:32en intelligence artificielle qui expliquent que le danger,
02:34il n'est pas seulement théorique, qu'il est réel,
02:36je pense à ce chercheur en sécurité chez Anthropique
02:39qui estime à 10% le risque d'une extinction de l'humanité dans la décennie.
02:44C'est évidemment pas très rassurant.
02:45Alors Dario Amodei, lui le patron d'Anthropique,
02:47il assure que sa réflexion ne date pas de cette polémique.
02:49Il a publié un long texte ce week-end
02:51où il explique que son opinion s'est forgée ces derniers mois
02:54avec la multiplication d'incidents un peu étonnant.
02:57On se souvient par exemple chez OpenAI
02:59de cette intelligence artificielle
03:01qui n'était pas censée avoir accès à Internet,
03:03qui était parvenue à contourner les barrières qu'on lui avait imposées
03:06et à s'attaquer à de vrais systèmes informatiques.
03:08Évidemment, ça pose des questions.
03:09Et ce qu'il explique surtout, c'est que ça n'est qu'un début
03:12parce que ces risques vont être démultipliés
03:14avec l'arrivée de ce qu'on appelle l'amélioration récursive.
03:18C'est-à-dire en gros, pour le dire simplement,
03:20des IA qui vont s'auto-améliorer
03:22et qui font dépasser notre capacité à comprendre
03:24comment elles fonctionnent réellement.
03:26Il évoque la possibilité que d'ici quelques mois,
03:28un essaim d'agents IA puissent carrément prendre le contrôle
03:32de la totalité d'Internet
03:33et générer des centaines de milliards de dollars de dégâts.
03:37Scénario terrifiant.
03:38Alors une fois qu'on a dit ça, au-delà des déclarations d'intention,
03:41qu'est-ce qu'on fait ?
03:41Anthropic dit, donne des gages d'une certaine manière.
03:44Ils disent, on va installer chez nous des évaluateurs tiers
03:46qui seront indépendants,
03:48qui auront accès à toutes les données de l'entreprise.
03:49Ils pourront publier des rapports en toute indépendance.
03:52OpenAI a dit, ok, on va faire la même chose.
03:54Évidemment, tout ça, ça peut fonctionner
03:55que si tous les grands labos jouent le jeu
03:57et au-dessus de tous les États,
03:59parce qu'évidemment, personne n'a intérêt à ralentir tout seul.
04:02Il faut un accord, un peu comme celui qu'on a
04:04sur les armes nucléaires par exemple.
04:05Mais là, évidemment, ça devient beaucoup plus compliqué.
04:07On le voyait par exemple avec la position
04:08que prend Donald Trump,
04:09qui n'a pas vraiment envie
04:11que les géants américains de l'IA
04:12ralentissent au risque de se faire dépasser par les Chinois.
04:16Voilà, explication très claire d'Anthony Morel.
04:18Mais peut-être pour revenir au début de l'histoire,
04:21alors ça fait un moment qu'il y a cette petite musique
04:23de cette IA qui est dangereuse,
04:26qui pourrait être dangereuse pour l'humanité,
04:27pour la société.
04:28Mais malgré tout, ça s'est quand même accéléré cet été
04:30avec les différents piratages.
04:32On se rappelle de Hugging Face.
04:34Et quand on écoute en fait
04:37tous ces intervenants de l'IA,
04:39ces pontes de l'IA,
04:40certains ont peur de voir, en gros,
04:43des agents d'IA
04:44qui, dans quelques semaines, dans quelques mois,
04:47pourraient agir massivement sur Internet
04:49et pourquoi pas bouleverser Internet en fait.
04:52C'est ça le truc.
04:52Et ça serait un peu comme
04:54une espèce de monstre
04:55qui nous échapperait finalement.
04:58Bogdan, qu'est-ce que...
04:59Alors j'imagine que comme Fred et comme Bruno,
05:01tu as suivi tous ces épisodes
05:03tout au long de ce week-end.
05:05Quel est ton point de vue là-dessus ?
05:06Alors, c'est vrai qu'il y a un peu un côté.
05:08On a l'impression d'avoir un tigre
05:09qui s'est échappé d'un zoo
05:10et personne ne sait comment l'arrêter.
05:13Moi, mon point de vue,
05:14c'est que d'abord,
05:15ces entreprises,
05:16elles s'inquiètent à partir du moment
05:17où il y a des scandales.
05:18Donc, c'est bien beau d'intervenir
05:21et de lancer des grands discours
05:23quand en réalité,
05:23ça fait quatre ans
05:24qu'ils ont ces outils-là entre les mains.
05:26Enfin, rappelons qu'Amodéi
05:29travaillait déjà chez OpenAI
05:30depuis 2016.
05:31Donc, il avait parfaitement conscience
05:32de tous ces dangers.
05:34Là, on a l'impression
05:34que la technologie
05:36va bien plus vite
05:37que la cybersécurité
05:38qui l'entoure
05:39et qui est un pan essentiel.
05:41C'est un peu comme vendre une voiture
05:43sans avoir vérifié les freins.
05:45Donc, ce qui les inquiète en réalité,
05:47ce n'est pas tant les dangers
05:48dont ils avaient parfaitement conscience,
05:50mais c'est le retour des investisseurs
05:51parce que personne n'a envie forcément
05:53d'une voiture
05:54qu'on ne peut pas contrôler.
05:55Et donc, ils sont un peu obligés
05:56de rassurer tout le monde.
05:57Sinon, cette bulle, elle éclate
05:58et toute cette manne d'argent
06:00qui est récupérée depuis quatre ans
06:01risque de disparaître assez rapidement.
06:05Bruno, quel est ton point de vue là-dessus ?
06:07Alors, tu as suivi tout ça ce week-end.
06:09C'est quand même incroyable.
06:10Alors, on se dit aussi,
06:11est-ce qu'il n'y a pas quand même
06:12de l'hypocrisie derrière
06:15tout ce discours ambiant
06:16de la part du patron d'OpenEye,
06:18de la part du patron d'Entropique ?
06:20Même Elon Musk s'est mêlé à la danse.
06:23Enfin bref, quel est ton point de vue là-dessus ?
06:26Il y a un contexte.
06:27De plus en plus, on parle d'encadrer
06:29l'industrie de l'intelligence artificielle.
06:32Et là, ce qu'on voit
06:33quand on lit la lettre
06:35qui a été écrite par le grand patron d'Entropique,
06:38c'est qu'essentiellement,
06:38il est en train de décliner
06:39ce qui devrait être fait
06:40et comment ça devrait être fait.
06:42Donc, c'est lui qui veut dicter
06:43ce qui va être fait
06:44pour encadrer l'IA.
06:46Il ne veut pas que ce soit les États-Unis.
06:48Il ne veut pas que ce soit...
06:49Parce qu'il y a une pression
06:50pas de la part de la présidence,
06:52mais au Congrès,
06:55autant démocrates que républicains,
06:57eux ont très peur.
06:59Et donc, ils sont en train
07:00de faire des pressions
07:01pour mettre en place
07:03un organisme
07:04qui pourrait encadrer la chose.
07:06Donc, il y a un problème
07:08pour les joueurs de l'IA.
07:10Tout le monde dit
07:10oui, oui, oui,
07:11on veut que ce soit encadré,
07:12mais on veut que ce soit encadré
07:14de la façon qu'on veut.
07:16À ça, il y a ça.
07:16Puis de l'autre côté,
07:17il ne faut pas oublier
07:18que cet automne,
07:21là, ça a été poussé
07:22au mois d'octobre,
07:23Entropique devrait entrer en bourse.
07:25Et donc, dans ce paysage-là,
07:27il se doit un peu,
07:28comme le disait
07:29notre collègue à la tribune,
07:30il se doit de rassurer
07:32les actionnaires
07:33du sérieux de leur affaire,
07:34du sérieux de leur approche,
07:36du leadership
07:37qu'ils ont dans l'industrie.
07:38Parce qu'Open&A,
07:39il l'a dit,
07:40l'entrée en bourse,
07:41ça ne sera pas en 2026,
07:42ça va se faire probablement en 2027.
07:44Donc, ils restent qui?
07:45Ils restent entropiques.
07:47Ils doivent se positionner
07:48comme un leader.
07:48Puis entre-temps,
07:49bien, ils sortent comme ça.
07:51Les grands bons de l'industrie
07:52disent oui, oui,
07:53il a raison, il a raison.
07:54Mais comme on l'a dit précédemment,
07:57depuis mars 2023,
07:59qu'il y a des gens
07:59qui lèvent des drapeaux,
08:00je pense à Yoshua Benjou
08:02à l'époque en mars 2023
08:03avec 2000 signatures.
08:06Encore la semaine dernière,
08:07il y avait Yoshua Benjou
08:08dans le Times
08:09qui sortait avec une entrevue.
08:12C'est là,
08:13c'est toujours là,
08:14sauf que de temps en temps,
08:15les grands patrons des boîtes
08:17sortent en disant
08:17qu'il y a des dangers.
08:18Ils sont tous sortis
08:19le mois dernier
08:21en disant que le cybercrime
08:23allait être très dangereux
08:24et que d'ici quelques mois,
08:26les gouvernements
08:27et les gens du public,
08:29pas les gens
08:31qui nous regardent,
08:31mais le secteur public
08:32devaient se préparer
08:33à être attaqués
08:34par des agents IA.
08:36Alors,
08:37c'est à la fois
08:39un rappel,
08:41mais fait dans un contexte
08:43qui est un peu dramatique.
08:45– Et puis, Fred,
08:47il y a eu l'histoire,
08:47Jacob Coxon,
08:48il y a quelques jours de cela,
08:49qui a mis un peu
08:50le feu aux poudres aussi.
08:52Pourquoi ?
08:52Parce que ce gars-là,
08:53qui était chez Anthropique,
08:54un poste assez élevé,
08:55a décidé…
08:56– Il était chopiné jusqu'avant.
08:58Un peu comme Dario Amoné aussi,
09:00qui a fait les deux.
09:01– Il est tout jeune,
09:02ce que je reviendrai,
09:03c'est important.
09:04– Oui,
09:04et ce gars-là a dit
09:05« Je démissionne
09:06parce que j'ai l'intime conviction
09:08qu'on va droit dans le mur
09:10et que si on continue comme ça,
09:12l'IA va détruire l'humanité. »
09:14Waouh !
09:15Déjà, on se dit…
09:16Enfin, la première question
09:16qui m'est venue ce week-end
09:19quand il y a eu tout ça,
09:20je me suis dit
09:20« Mais comment l'IA
09:21peut détruire l'humanité ? »
09:23Personne n'explique ça.
09:25C'est quoi ?
09:25C'est paralyser Internet,
09:27paralyser les hôpitaux,
09:29paralyser les transports ?
09:30– Qui rentreraient
09:31dans les centrales de guerre,
09:32qui rentreraient
09:32dans les systèmes d'aviation
09:34pour que les avions
09:34se rendent dedans.
09:35– Donc ça ferait exploser…
09:36– C'est ce qu'il n'y a de Terminator.
09:39– Après,
09:42moi je suis toujours un petit peu…
09:45Il faut voir aussi
09:47plusieurs choses.
09:48La première,
09:48Jacob Busson,
09:49il a 27 ans.
09:50Il aurait…
09:51Bon, on sait que
09:52Geoffrey Hinton,
09:53qui est beaucoup plus âgé,
09:54avait déjà un petit peu
09:55sonné à tirer d'alarme,
09:57la sonnette d'alarme,
09:58tiré de la sonnette d'alarme,
09:58j'y arrive.
09:59Bill Gates,
10:00il y a trois semaines,
10:01a dit « Oui,
10:01quand je discute avec les patrons,
10:02on voit qu'il y a
10:03toute cette méfiance. »
10:04Bon, après,
10:05on le voit depuis
10:06quand même quelques années,
10:08des jeunes ingénieurs
10:09un peu exaltés,
10:10on en a vu chez Google,
10:12qui ne voulaient pas
10:12que Google travaille
10:12pour l'armée,
10:13on en a vu chez Microsoft,
10:15ils sont tous un petit peu…
10:16On en a tous,
10:16et aujourd'hui,
10:17les jeunes qui ont
10:18une nouvelle façon
10:19de voir le monde,
10:20qui ne veulent pas
10:20se laisser dominer,
10:21tout ça,
10:22bon, il faut voir
10:23la personnalité
10:24de ce jeune chercheur,
10:25c'est ça.
10:25Après, on voit
10:26qu'il y a beaucoup de gens
10:26qui lui ont emboîté le pas,
10:27mais pas complètement
10:28sur les mêmes…
10:29Ils n'ont pas tous dit
10:30« Il a raison,
10:31il a raison ».
10:31Ils ont tous dit
10:31« Oui, il a raison
10:33de tirer la sonnette d'alarme,
10:34mais il faut qu'on regarde,
10:35il faut qu'il y ait
10:35un peu de contrôle. »
10:36Donc, ça a été
10:38une petite étincelle,
10:39mais c'est pas…
10:41Tous les gens
10:41qui le suivent
10:42ne sont pas complètement
10:43à fond derrière lui.
10:45Il faut voir que tout ça,
10:49il y a une guerre des talents
10:50aussi dans ces grandes entreprises-là.
10:53Donc, voilà,
10:54de dire « Nous,
10:54on est un plus éthique
10:55que d'autres ».
10:56Ce qui est intéressant,
10:57c'est que ce Jacob
10:58qui est parti de chez Anthropique
11:00faisait partie
11:02de la boîte
11:02qui avait le plus d'éthique,
11:04finalement.
11:04Oui, c'est ce qu'il pensait.
11:06Il était chez Open Airy,
11:07il a dit « Ils n'ont pas assez d'éthique,
11:08je vais aller chez Anthropique »,
11:09puis il se rend compte
11:10qu'Anthropique…
11:11Et en plus,
11:12ce qu'il y a de dingue,
11:12c'est qu'il est parti
11:13deux mois avant
11:13que ses actions Anthropique
11:15deviennent actives.
11:16C'est-à-dire qu'il a renoncé,
11:17il est parti,
11:18en fait,
11:19avant de pouvoir toucher
11:20beaucoup de cash.
11:21Finalement,
11:22ça veut dire quand même
11:22que soit il est en pleine dépression
11:26et il ne va pas bien du tout…
11:28Tu vois,
11:28il y a peut-être un côté exalté,
11:30il s'est peut-être rendu compte
11:31qu'il dit « Attention,
11:32il faut mettre des gardes fous »
11:33et partout,
11:33et il ne se sentait pas
11:34complètement écouté.
11:35Il a certainement raison
11:36sur pas mal de points.
11:37Maintenant,
11:38peut-être qu'il fait partie
11:38justement de cette nouvelle génération
11:41de jeunes,
11:42un peu…
11:43exalté qu'il faut écouter
11:44quand même
11:45parce qu'ils sont
11:46dans ces développements-là.
11:47Mais attention,
11:48ce n'est pas un patron
11:49de labos majeurs,
11:50etc.
11:51Il a fait parler de lui
11:52parce que justement,
11:52il venait de chez Anthropique
11:55et qu'il a appuyé
11:56sur le point éthique
11:57alors qu'Anthropique
11:58sont les premiers à dire
11:58« Attendez-nous,
11:59la main sur le cœur ».
12:01Tout ça vient donc
12:02dans cette guerre des talents,
12:03dans cette histoire.
12:04Open AI a annoncé
12:05que leur IPO
12:07le rentre en bourse,
12:08il le ferait que l'année prochaine.
12:10Anthropique est en pleine recherche.
12:12Il y a beaucoup de choses,
12:14je trouve,
12:14beaucoup de paramètres
12:15dont il faut tenir compte
12:16aujourd'hui
12:16par rapport à ne pas tout jeter,
12:18enfin jeter le bébé
12:21avec l'eau du bain.
12:22Donc voilà,
12:23mais c'est un petit coup de semence,
12:25mais c'est pas…
12:26Je ne sais pas,
12:27j'en ai discuté
12:28avec Anthony Morel,
12:28je ne suis pas complètement d'accord
12:29avec Anthony Morel
12:30quand il dit
12:30que c'est lui
12:31qui a mis le feu aux poudres
12:32et tout ça.
12:33Non, il a mis une petite étincelle.
12:34En fait,
12:35ça a été un peu
12:35la goutte d'eau
12:36qui a fait déborder
12:37un vase qui était bien plein
12:39ces derniers mois,
12:40à Bogdan.
12:40Je rejoins complètement
12:41son analyse.
12:42Ce n'est pas un profil
12:43que l'on connaissait,
12:44si on prend un peu de temps.
12:45Alors, c'est un peu dur
12:46parce que, de fait,
12:48son intention a l'air bonne,
12:50mais il n'était pas forcément
12:51connu dans l'entreprise.
12:53C'est dur aussi à dire,
12:54mais il faut toujours se méfier
12:55des jeunes
12:55qui ont les dents longues
12:57dans la Silicon Valley.
12:58Donc, on ne sait pas
12:59où lui il peut fouiller.
13:00Leur idéologie,
13:00on l'a vu dans la partie
13:03aujourd'hui
13:04de consommation d'énergie,
13:06etc.,
13:07d'aller trop loin.
13:08On peut très bien imaginer
13:09que ce garçon
13:10passe peut-être
13:10à une période,
13:11il traverse une période
13:12un peu difficile.
13:14Non, mais attends,
13:15on ne sait pas
13:16ce qui peut arriver,
13:17tu vois.
13:17On va faire son analyse.
13:18Non, mais peut-être
13:19qu'il est en plein burn-out
13:20et que d'un coup,
13:20il balance ça
13:21sans trop réfléchir
13:23aux conséquences
13:23que ça peut avoir,
13:24tu vois.
13:25Alors, ce qui est intéressant...
13:26Oui, Bruno, vas-y,
13:27je t'en prie.
13:28Non, je vais dire,
13:29ce qui serait intéressant
13:29de surveiller,
13:30c'est que dans six mois,
13:30s'il ne démarre pas sa boîte,
13:33qui, elle,
13:33va s'occuper
13:34de l'encadrement
13:35ou de la sécurité
13:36des IA,
13:36ça ne serait pas sur le problème.
13:37Il n'y en a d'autres
13:38avant lui qui l'ont fait.
13:39Oui, ou alors
13:39si dans trois semaines,
13:40il n'arrive pas
13:40à chauffer au panier,
13:41tu vois,
13:41ce qui serait aussi possible.
13:45Alors, évidemment,
13:46toutes ces déclarations
13:47ont eu pas mal
13:48de conséquences
13:48et notamment
13:50une espèce
13:50de régulation
13:51qui est venue
13:53un petit peu
13:53dans le débat
13:54de la part
13:54de ces géantes
13:55de la tech.
13:57Alors, c'est quoi
13:57cette régulation ?
13:58Eh bien, en fait,
13:59Open AI, Google Anthropik
14:00aimerait bien avoir
14:01un gendarme de l'IA,
14:02c'est-à-dire un peu
14:03des évaluateurs indépendants
14:05qui seraient placés
14:07à l'intérieur des laboratoires,
14:08qui auraient quasiment
14:09les mêmes droits
14:11et les mêmes accès
14:12que les ingénieurs
14:13qui travaillent
14:13sur ces IA
14:14et qui seraient là
14:16pour dire,
14:17attention,
14:18on va trop loin,
14:20ralentisser ce truc-là,
14:21etc.
14:22Enfin, je...
14:23Mais qu'est-ce qu'ils peuvent faire ?
14:24Alors, moi,
14:24j'ai regardé,
14:25j'écoutais les chaînes américaines
14:27cet après-midi,
14:28ils disent,
14:28qu'est-ce qu'ils peuvent faire ?
14:29Suspension temporaire,
14:30ils disent, écoutez,
14:31on ne bosse plus pendant 6 mois,
14:32on arrête tout pendant 6 mois.
14:33Est-ce qu'ils peuvent dire
14:34on réduit les investissements ?
14:35Bon, là, on sait qu'aujourd'hui,
14:36ça va être un peu compliqué.
14:38On limite la capacité des modèles,
14:40on va les brider,
14:41mais est-ce que tout le monde
14:42va dire,
14:42on doit développer
14:43des modèles hyper performants,
14:44on doit rentrer en bourse,
14:46on doit satisfaire les entreprises,
14:47comment faire ?
14:49Donc, les audits indépendants,
14:50ça peut...
14:51Ça va ressembler à quoi,
14:52ces audits indépendants ?
14:53Est-ce qu'ils seront contraignants ?
14:54Très peu contraignants ?
14:55Tu vois, c'est ça qui est...
14:56C'est tout ce flou autour de ça.
14:59En plus, autre chose,
15:00on parle de OpenAI,
15:03Microsoft et Anthropik.
15:06Bon, il y a les Chinois.
15:08L'Europe...
15:08Alors là, on a...
15:10La Chine, on va en parler juste après.
15:10Et c'est Google, pardon,
15:11on me dit à l'oreille Léa Benaïm.
15:14La Chine dit tout à fait autre chose.
15:16Tu vois, c'est une affaire un peu...
15:19On a l'impression que c'est une affaire
15:20entre patrons de labo, là,
15:21qui s'emportent un peu.
15:23Oui, parce qu'il y a donc ce ralentissement
15:25et cette régulation, en fait.
15:27On part un peu dans tous les sens.
15:28Et le ralentissement,
15:29ce n'est pas forcément la régulation.
15:30Ce n'est pas pareil, Bogdan.
15:32Oui, et c'est surtout...
15:34Voir des acteurs qui s'autorégulent
15:35dans la Silicon Valley,
15:36moi, je m'en méfie toujours,
15:37parce qu'en soi,
15:39on peut toujours être critique
15:40avec Bruxelles et l'Union Européenne.
15:42On le voit que, du moins,
15:44l'Union Européenne cherche à les réguler
15:45et ça les irrite
15:46et ils font tout pour les contredire.
15:48Donc, on a déjà des exemples
15:50d'organismes extérieurs
15:51qui tentent de les limiter,
15:52ne serait-ce que sur des technologies,
15:54et ça ne fonctionne pas du tout.
15:55J'ai vu passer sur X,
15:59anciennement Twitter,
16:00une proposition d'un ancien employé d'Enthropique
16:01qui parle de Mitter.
16:03Alors, Mitter, c'est une organisation
16:05qui est censée être à but non lucratif,
16:07qui, en réalité, est aussi financée
16:09par ces mêmes acteurs
16:10et qui a déjà accès en exclusivité
16:12à tous les nouveaux modèles.
16:14Donc, ce ne serait pas...
16:16On pourrait voir, imaginer
16:19cette proposition-là arriver
16:21dans les prochaines semaines,
16:22et ça va tous les rassurer
16:23parce que c'est une organisation
16:24qui dépend de ces mêmes acteurs.
16:27Ce qu'ils redoutent,
16:29c'est, comme tu dis, une régulation,
16:31et la régulation, elle peut venir des États.
16:34Jusque-là, ils donnaient
16:35le moins de détails possibles
16:36au pouvoir public.
16:38N'importe quelle attaque
16:39était plus ou moins détaillée
16:40dans des rapports de deux pages.
16:41Moi, je recommande à tout le monde
16:43d'aller voir le rapport
16:44du collectif Nightingale.
16:46Donc, la dernière attaque,
16:47on va dire un peu massive,
16:48qui a eu lieu,
16:48c'était contre une page Wikipédia
16:50en Allemagne.
16:51Et donc, c'est un collectif extérieur
16:52qui a mené cette analyse.
16:54Mais on voit des choses assez folles,
16:55même si c'est très réduit.
16:56On voit qu'il y a une IA
16:57qui a tenté d'anonymiser ces échanges
16:59en les plaçant sur Tor,
17:00qui héberge, on va dire,
17:03le Darknet, pour vulgariser.
17:05Ce qui est très inquiétant.
17:06Et ça, c'est des détails
17:07qu'on ne trouve pas
17:08dans les rapports de Penéiaï.
17:09Donc, s'il y a un acteur,
17:11il faut qu'il soit forcément extérieur
17:12et il faut qu'il ne plaise pas
17:13à ces acteurs de l'IA.
17:15Après, si on revient à cette volonté
17:18pour certains d'avoir une espèce de...
17:20Alors, j'exagère,
17:21mais imaginez un peu
17:22un Arceps de la régulation de l'IA,
17:24finalement, c'est ça ?
17:25Un Arceps de l'IA ?
17:25Non, juste une chose.
17:26Ce qui est intéressant
17:27dans cette histoire-là,
17:28c'est que, est-ce que ce n'est pas
17:30aussi pour eux
17:32le fait de se dédouaner
17:34des responsabilités
17:35que peuvent avoir,
17:37je ne sais pas moi,
17:38une catastrophe l'IA ?
17:40Tu vois ce que je veux dire ?
17:42C'est ça aussi, derrière tout ça.
17:43Je ne sais pas ce que tu en penses, Bruno.
17:44Et puis après, Fred peut prendre
17:46la parole là-dessus.
17:48On a l'impression que tout le monde
17:49essaie de se dédouaner
17:50pour dire, écoute,
17:51on ne sait pas trop où on va,
17:52ça peut être dangereux.
17:53Donc, si on a des régulateurs,
17:55c'est eux qui, finalement,
17:57essuieraient les plâtres.
17:59Et pas nous, finalement.
18:02C'est exactement ça
18:03qui est en train d'avoir lieu.
18:06Quand ils sont sortis
18:07le mois dernier pour dire,
18:08faites attention,
18:09dans six mois,
18:09vous allez être victime
18:10d'attaques,
18:12des cyberattaques
18:12qui vont être engendrées
18:14par des agents IA.
18:15Si ce n'est pas se dédouaner,
18:16je ne sais pas ce que c'est.
18:17Parce qu'on dit,
18:17on vous l'avait dit,
18:18c'est vous qui ne vous êtes
18:19pas préparés.
18:20Puis aujourd'hui,
18:21moi, je regarde,
18:21quand je disais tout à l'heure
18:23au début de l'émission
18:23que je voyais,
18:24je recevais plein de communiqués
18:27de presse
18:27et de courriels
18:28d'entreprises
18:30qui sont dans l'IA
18:31et qui disent,
18:31oui, mais attention,
18:33parce que là,
18:33ce qu'ils sont en train
18:34d'avancer comme scénario
18:35de réglementation,
18:36ça va être décidé par quoi?
18:38Par quatre, cinq, six joueurs,
18:39tous américains.
18:40Et là, nous,
18:42on devrait,
18:42qu'on soit canadiens,
18:43je pense à Coeur notamment,
18:45mais que ce soit Mistral
18:46ou que ce soit des taux de boîte
18:48qui font vraiment,
18:49qui ont leur IA,
18:49donc ils développent des modèles.
18:51On va devoir répondre à qui?
18:54Et c'est des Américains
18:56qui vont nous dicter
18:57comment on va développer.
18:58C'est pour ça que la Chine
18:58n'est pas plus d'accord
18:59à cette approche-là
19:00qu'à d'autres pays.
19:01Et on en parle tout de suite
19:02de la Chine.
19:02Oui, Fred?
19:03Oui, moi, juste deux choses.
19:04La première, c'est,
19:04n'oublions pas l'état
19:06d'esprit américain.
19:06Je caricature à peine,
19:08enfin, je caricature un peu,
19:09mais dans le shérif,
19:11il était armé,
19:12mais tous les autres
19:13dans le village
19:13étaient armés aussi.
19:14Donc, tu vois,
19:15comment la loi a été respectée.
19:16Et puis, deuxième chose,
19:17moi, je trouve qu'il y a
19:18une attitude qui est très bonne.
19:20De tout ce qu'on a entendu,
19:21c'est Satya Nadella
19:22qui a dit,
19:24il faut un code de bonne conduite.
19:25Il dit trois choses.
19:26Il est essentiel d'accélérer...
19:27Donc, le patron de Microsoft.
19:29Essentiel d'accélérer,
19:30de démocratiser les bénéfices de l'IA
19:32afin qu'il le bénéficie
19:33à tout le monde.
19:34Ça nécessite un écosystème de points
19:35à tous les modèles propriétaires
19:36OpenSoup par coexister.
19:38Il faut, pour les entreprises,
19:39il est impératif
19:39qu'elles conservent
19:40un contrôle total
19:41sur leurs données.
19:42Et donc, chaque organisation
19:43doit pouvoir construire
19:44sa propre boucle d'apprentissage.
19:45Moi, je trouve que c'est lui
19:46qui a le regard le plus juste.
19:48Et donc, il appelle
19:49à un code de conduite.
19:50Et je trouve que
19:51dans toutes les réactions,
19:52c'est la sienne
19:53que j'ai trouvée
19:54la plus sensée, en tout cas.
19:55Encore faut-il respecter
19:56ce fameux code de conduite.
19:57Mais ça, c'est une autre histoire.
19:58Mais ça, tu instaures
19:59les choses dans les...
20:01Oui, oui, oui.
20:02Tu bloques par les tokens.
20:03Tu peux bloquer tout ça
20:04dans les développements.
20:05On part de la Chine
20:07qui répond sans détour
20:08à l'appel des patrons de l'IA
20:09à ralentir le développement
20:10de la technologie.
20:11Et c'est un non
20:12pour le gouvernement chinois
20:13qui qualifie le PDG d'Anthropic
20:14d'alarmiste.
20:15Il accuse de mener, je cite,
20:17une guerre froide technologique.
20:19Les explications d'Axel Aragon.
20:23La Chine ne veut pas entendre parler
20:24d'une pause
20:25dans le développement de l'IA.
20:26L'appel des grands patrons américains
20:28à ralentir la technologie
20:29n'est autre qu'une tentative
20:31pour entraver les progrès chinois,
20:32selon Pékin
20:33et son porte-parole,
20:34Guo Jiakun.
20:36Propager diverses théories
20:37de la menace,
20:38s'engager dans la confrontation
20:39et la concurrence malveillante
20:40ne fera que perturber
20:42le processus de gouvernance mondiale
20:43de l'IA.
20:44Pour la Chine,
20:45l'IA est plus que jamais
20:46au cœur de la rivalité
20:47entre grandes puissances.
20:48D'ailleurs, aujourd'hui,
20:49Chen Nixon,
20:50le ministre chinois
20:51de la sécurité d'État,
20:52a même accusé
20:53des forces hostiles
20:54d'utiliser l'IA génératif
20:55pour fabriquer des rumeurs
20:56et mener des guerres cognitives
20:58contre le pays.
20:59Une inquiétude reprise
21:00par le porte-parole
21:01du ministère chinois
21:02des affaires étrangères,
21:03mais avec cette fois-ci
21:04un appel à la coopération.
21:06Le développement
21:07de l'intelligence artificielle
21:08concerne le bien-être commun
21:09de l'humanité
21:10tout entière.
21:11Toutes les parties
21:12doivent travailler ensemble
21:13pour faire progresser l'IA
21:14de manière ouverte,
21:15inclusive et bénéfique à tous.
21:17Donald Trump
21:17ne compte pas ralentir
21:19le progrès,
21:19tout comme la Chine,
21:20l'autre superpuissance
21:21dans ce secteur.
21:22Ce sera un des grands sujets
21:23de discussion
21:24entre Xi Jinping
21:25et Donald Trump
21:25pour leur rencontre
21:26à la Maison-Blanche
21:27le 24 septembre prochain.
21:30Voilà,
21:30juste une petite précision
21:31concernant
21:32ce qu'on disait tout à l'heure
21:33concernant le ralentissement
21:34de cette IA.
21:36Donald Trump
21:36a dit qu'il était contre.
21:37On a oublié de le dire.
21:38Mais c'est quand même
21:39assez important.
21:41C'est-à-dire que vous avez
21:41quand même
21:42le patron de la nation
21:43la plus puissante au monde
21:44qui dit
21:44non, allez-y les gars,
21:45amusez-vous,
21:46lâchez les rênes.
21:47Il ne faut pas freiner.
21:47Parce que sa croissance
21:48repose sur l'IA.
21:49Voilà, c'est ça.
21:50Et aucune responsabilité
21:53sur les conséquences
21:53que ça peut avoir, etc.
21:54Sa fortune et la fortune
21:55de ses amis aussi.
21:56D'elle, tout ça.
21:57Bien sûr, évidemment.
21:58Bruno,
22:00ton avis sur, justement,
22:01le point de vue de la Chine.
22:03Oui.
22:03En passant à ce que je disais
22:05tout à l'heure,
22:05c'est que le président
22:06n'est pas intéressé.
22:07Mais le Congrès, lui,
22:08et les démocrates
22:09et les républicains,
22:10donc c'est bipartis,
22:11eux, sont en train
22:11de regarder pour créer
22:12quelque chose aux États-Unis.
22:14Pour ce qui est de la Chine,
22:15effectivement,
22:16il n'y a pas de surprise
22:17à voir qu'ils ne sont
22:18pas intéressés
22:19à voir les Américains
22:21décider quelles seront
22:22les règles
22:22qui vont encadrer
22:23le développement
22:24de l'intelligence artificielle.
22:26Il n'est pas dans leur intérêt
22:27d'être stoppés
22:28dans l'avancement,
22:30dans le développement.
22:30Et donc ça,
22:31c'est tout à fait logique.
22:32D'autant plus que
22:33quand on regarde
22:34à l'international,
22:35qui est en train
22:35de marquer des points?
22:36C'est la Chine.
22:38Encore récemment,
22:39il y avait le président chinois
22:41qui a lancé
22:42sa nouvelle politique
22:43de formation
22:44des pays étrangers
22:45qui viendront à Pékin,
22:46qui viendront en Chine
22:47avoir de la formation
22:49pour être capables
22:50de développer
22:50des modèles ouverts
22:51dans leurs pays respectifs.
22:53Alors évidemment,
22:54eux ne sont pas
22:54du tout intéressés
22:55à arrêter
22:56le développement
22:57de leurs outils
22:57pendant que les Américains
22:59vont réfléchir
22:59et siffler dans les arbres.
23:02Bogdan.
23:03Alors,
23:05ça va être un peu naïf,
23:06mais je fais souvent
23:06confiance à la Chine
23:07pour ce qui est
23:08de réguler une technologie
23:09qui peut être néfaste.
23:11Je prends l'exemple
23:12des réseaux sociaux.
23:13On sait que TikTok
23:14est complètement différent
23:15de l'algorithme
23:16qu'on a en Europe
23:17et celui qu'on a en Chine
23:18et qu'il y a même
23:18un contenu pédagogique
23:19que ce qu'on n'imaginerait
23:22jamais en Occident.
23:25Sur les jeux vidéo,
23:26je ne tiendrai jamais
23:27ce discours
23:27de les jeux vidéo
23:28portent atteinte
23:29à la jeunesse,
23:30mais pareil,
23:30il y a des limites
23:31pour éviter les addictions.
23:32Et on ne rigole pas là-bas,
23:34on ne discute pas.
23:35tout le monde suit,
23:36c'est très cliché,
23:37mais c'est vrai.
23:39Sur l'IA,
23:40s'il y a un débordement
23:40dans les usages,
23:42ils pourraient voir
23:43typiquement qu'il y a
23:43une baisse
23:44dans les niveaux de scolarité,
23:46je pense que la Chine
23:47serait la première
23:47à réagir dessus.
23:49Maintenant,
23:50si on parle purement
23:52du développement
23:53et de la course technologique,
23:55il est vrai qu'il y a
23:56un peu d'hypocrisie
23:57de la part des États-Unis
23:58parce que,
23:59et tu as commencé l'émission
24:00en parlant un peu
24:01d'apocalypse,
24:02la dissuasion nucléaire
24:03est un parfait parallèle
24:05pour l'intelligence artificielle.
24:07Pourquoi ?
24:07Pourquoi il y a une course ?
24:08Certes,
24:09il y a une course
24:09à trouver de la main-d'œuvre,
24:11à forcément développer des robots,
24:13donc à une nouvelle économie,
24:14mais il y a aussi
24:14une course militaire
24:15et qui n'est pas du tout légère,
24:17mais on peut très bien imaginer
24:18que l'arme de demain,
24:19ce sera l'IA.
24:20On voit que la guerre d'aujourd'hui
24:22se fait par des drones.
24:23Si on a uniquement
24:24des robots et des drones
24:25qui se font la guerre
24:26avec l'IA la plus perfectionnée,
24:29la plus parfaite,
24:30on sait qu'on a une arme
24:31plus ou moins ultime.
24:32Donc,
24:33la Chine,
24:33elle va logiquement
24:35et pragmatiquement
24:35atteindre cet objectif,
24:37tout comme les Etats-Unis.
24:39Fred,
24:40alors évidemment
24:40ton point de vue là-dessus,
24:41et puis après,
24:42j'aimerais qu'on fasse
24:42une petite conclusion
24:43sur cette première demi-heure.
24:45Deux choses.
24:45La première,
24:47la Chine,
24:48quelque chose
24:48qu'ils ne contrôlent pas,
24:49ils n'aiment pas,
24:49donc que les humains
24:51ne contrôlent pas,
24:51ils n'aiment pas,
24:52donc c'est ça.
24:53La deuxième,
24:53c'est que la Chine,
24:54elle n'est pas du tout
24:54dans le même état d'esprit.
24:56Les Américains,
24:56ils partent vers la super-intelligence,
24:58l'IA qui va réfléchir comme nous.
25:00Les Chinois,
25:01eux,
25:01ils sont beaucoup plus pragmatiques.
25:07sur l'IA pour construire des...
25:08Enfin,
25:09c'est l'IA au service
25:10de l'industrie des Américains.
25:11Oui,
25:12c'est beaucoup plus pragmatique.
25:13Les Américains,
25:13ils sont partis
25:14dans le domaine de la recherche,
25:15ils sont dans un autre couloir.
25:18Et donc,
25:18c'est pour ça que les Chinois
25:19disent aussi,
25:19attendez,
25:20eux qui continuent s'ils veulent,
25:21nous,
25:22c'est pour améliorer la vie,
25:23c'est pour améliorer
25:24notre productivité,
25:25c'est pour pouvoir proposer
25:27davantage de produits,
25:28ils ont avancé très vite
25:28sur la voiture électrique,
25:29sur l'espace,
25:30sur tout un tas de choses.
25:31Ils ont ce côté
25:32plus pragmatique.
25:33Donc, en plus,
25:37il nous reste une minute trente.
25:39On pourrait faire une heure et demie
25:40sur ce sujet-là, d'ailleurs.
25:42Je me demande
25:42s'il ne faudrait pas faire
25:43une nouvelle nuit de l'IA
25:44dédiée à ça,
25:45au danger éventuel ou pas
25:48de l'intelligence artificielle.
25:50Mais,
25:51en fait,
25:52on se rend compte
25:52que si demain,
25:53il y a une espèce d'emballement
25:54de cette IA,
25:55on n'a même pas un bouton
25:56sur lequel appuyer
25:57pour arrêter tout ça.
25:58C'est ça qui est terrible.
25:59Tu vois,
26:00autant,
26:00je ne sais pas moi,
26:01il y a
26:04une centrale nucléaire
26:05qui ne marche pas bien,
26:06plus ou moins,
26:07tu sais où appuyer
26:07pour que ça,
26:09en tout cas,
26:09limiter les dégâts.
26:10un câble Ethernet.
26:11C'est ça.
26:11Ça,
26:12on peut le retirer
26:12sur le papier
26:13d'un data center.
26:14Oui, mais aujourd'hui,
26:15il y a tellement
26:15de data centers
26:16qui sont en redondance,
26:18finalement.
26:19Tu vois,
26:19je ne sais pas
26:20si on aurait cette capacité,
26:23si on voit
26:23qu'il y a un emballement
26:24ou quelque chose
26:25de véritablement dangereux,
26:26de tout couper,
26:27si tu veux,
26:28de couper les vivres
26:28et d'arrêter,
26:29en fait,
26:29tout ça.
26:31Ça serait peut-être
26:32la première question
26:33qu'on pourrait se poser.
26:33Bruno, oui ?
26:34Oui, on a vu,
26:35il n'y a pas tellement longtemps,
26:37il y a quelques mois,
26:38la Maison-Blanche
26:39interdire la distribution
26:40de fables
26:42à Anthropique.
26:44Et eux,
26:44dans 30 minutes,
26:45ils ont tout arrêté.
26:47Il n'y a plus personne
26:47qui avait accès.
26:48Après,
26:48ils ont remis des accès
26:49à leurs employés,
26:50ceux qui avaient le droit.
26:51Mais pour le moment,
26:52elle est là,
26:53la killing switch.
26:55Mais effectivement,
26:56il faut se poser des questions.
26:57Puis,
26:58est-ce qu'on doit avoir
26:58un droit souverain ?
27:00Est-ce que,
27:00si un jour,
27:01il y a une attaque
27:01qui se fait en France
27:02par un des agents,
27:04qu'est-ce que
27:05le bon président va faire ?
27:07Est-ce qu'il va devoir
27:08téléphoner à Washington
27:08ou est-ce qu'il pourrait
27:09avoir quelque chose
27:11sur le territoire français
27:12ou européen
27:13qui leur donne le droit
27:14de fermer le circuit
27:15à ce moment-là
27:16et de ne pas tout fermer
27:18l'Internet
27:18en même temps ?
27:20Voilà.
27:21Beaucoup de questions
27:22qui restent en suspens.
27:23Chacun gâche
27:24sa responsabilité.
27:25Voilà.
27:26Et on y reviendra,
27:28bien sûr.
27:29C'est l'un des gros,
27:29gros, gros sujets
27:30de cette rentrée.
27:31C'est l'un des gros, gros sujets
27:31de cette rentrée.
27:31C'est l'un des gros, gros sujets
Commentaires