- il y a 22 minutes
Ce lundi 28 septembre, François Sorel a reçu Laurence Devillers, professeure en intelligence artificielle à Sorbonne Université et chercheuse au CNRS, et Frédéric Simottel, journaliste BFM Business. Ils se sont penchés sur la régulation des agents d'IA conversationnels, la crainte des patrons de l'IA face à l'avancée de leurs machines, et le déblocage de 80 millions d'euros par la France pour former les actifs à l'IA, dans l'émission Tech & Co, la quotidienne, sur BFM Business. Retrouvez l'émission du lundi au jeudi et réécoutez la en podcast.
Catégorie
📺
TVTranscription
00:00Tech & Co, la quotidienne sur BFM Business.
00:04Voilà, deuxième Tech & Co comme promis depuis Marseille, depuis le stade Vélodrome, ici à l'occasion de l'AIM
00:10qui a eu lieu fin de semaine dernière.
00:13On joue les prolongations ici avec encore une émission spéciale IA.
00:17Et pour cette première demi-heure, un petit débrief avec les derniers sujets liés à l'intelligence artificielle et nos
00:23invités.
00:24Alors, un que vous connaissez, c'est Frédéric Simotel.
00:26Salut mon Fred, journaliste à BFM Business et qui m'accompagne pendant cette première demi-heure.
00:31Et on est très heureux de recevoir Laurence Devillère qui est avec nous.
00:34Bonsoir Laurence.
00:34Bonsoir.
00:35Professeur en intelligence artificielle à Sorbonne, université chercheuse au CNRS, au LISN, c'est comme ça qu'on prononce ?
00:42Laboratoire interdisciplinaire des sciences du numérique.
00:45Voilà, vous êtes l'une des spécialistes françaises des interactions humains-machines, plus de 30 ans de recherche sur la
00:50parole, les émotions, les agents conversationnels et les robots.
00:54avec des sujets très intéressants actuellement.
00:59On sait que tout le monde pointe du doigt en ce moment les réseaux sociaux, notamment auprès des plus jeunes,
01:04parce que les plus fragiles sont influencés par les réseaux sociaux.
01:07On voit qu'il y a une addiction liée aux réseaux sociaux avec tout ce qui se passe aux Etats
01:10-Unis d'ailleurs.
01:11Meta qui a été obligé de plier suite à des décisions de justice concernant les enfants et les adolescents.
01:16Et il y a une petite musique qui monte maintenant avec les assistants et les agents conversationnels.
01:21Laurence, c'est la première question que j'avais envie de vous poser.
01:24Est-ce qu'après la bataille des réseaux sociaux et des jeunes, on ne rentre pas dans une nouvelle bataille
01:31maintenant ?
01:31Comment réguler justement ces agents d'IA conversationnels qui arrivent en fait et qui peuvent poser des problèmes auprès des
01:41enfants et des ados ?
01:42Je crois que c'est un sujet majeur.
01:44Après, effectivement, ce qu'on a vu sur les réseaux sociaux qui continuent, les IA génératives vont nous influencer énormément.
01:50Ils vont faire qu'on va peut-être désapprendre à penser.
01:53Parce que ces IA génératives nous produisent des résultats directement.
01:59On pose juste une question avec un prompt ou à l'oral maintenant et on a la réponse immédiate sans
02:03avoir le chemin pour atteindre cette réponse qui fait qu'on n'apprend rien.
02:07Et donc, c'est très dangereux de penser que demain, une IA en continu pourrait nous aider dans l'éducation
02:13nationale.
02:13Ça devient une machine à penser et nous, on ne pense plus.
02:16Exactement. Et là, on le théorise très bien. Il y a donc une université américaine qui vient de sortir une
02:20étude qui était à partir des travaux de Daniel Kahneman,
02:24qui a un prix Nobel en 2002 d'économie comportementale, qui disait que quand on prend une décision, c'est
02:30système 1, système 2.
02:31Système 1, c'est intuitif. On a plein de biais. On va se tromper très souvent.
02:35Il y a énormément de cas où je peux vous expliquer pourquoi on se trompe de façon intuitive.
02:39On va vers quelque chose où on ne réfléchit pas, on ne fait pas de mathématiques dessus.
02:43Et système 2, où on réfléchit cognitivement.
02:46Alors, ils ont fait un test en rajoutant un système 3 qui est ChatGPT.
02:50ChatGPT est là, une fenêtre ouverte, et on pose des problèmes à des jeunes.
02:54Et ils doivent décider s'ils vont suivre ou pas ChatGPT, recopier ce que propose la machine.
02:58Alors, quand ChatGPT dit quelque chose de vrai à 93%, ils étaient plus de 1000 à répondre,
03:05ils vont suivre ce que dit la machine.
03:08Et quand la machine dit quelque chose de faux, à 80%, ils vont dire la même chose.
03:14Et donc, en fait, c'est terrible.
03:16Parce que du coup, ils ne réfléchissent pas.
03:19Il y a un biais de confiance énorme.
03:21Et quand on questionne aussi sur la confiance envers ces machines,
03:25entre des gens qui ne l'utilisent pas et des gens qui ne l'utilisent,
03:27ceux qui l'utilisent sont bien au-dessus des autres et font confiance aux réponses de la machine.
03:31Alors, demain, si on fait ça, on désapprend totalement et on désapprend.
03:35Notre esprit critique n'est plus là.
03:37Puisque système 2, c'est faire un pas de côté, se demander si c'est juste, regarder vraiment.
03:42Et il y a des cas comme ça, très simples à expliquer,
03:44et qui, à mon avis, devraient être faits à l'école.
03:47Mais ça veut dire qu'on est sur toutes les problématiques doivent être là,
03:52ou il y a certaines qu'on peut déjà automatiser, sur lesquelles ce n'est pas la peine de chercher.
03:56Je prends l'exemple de la traduction.
03:58Est-ce que la traduction n'est obligée de... On ne peut pas tout confier à la machine ?
04:02Alors, je pense qu'il faut différencier, si vous voulez, l'éducation des enfants,
04:05et nous, adultes, en capacité de faire le pour, le contre, le vrai et le faux.
04:11Ces machines n'ont aucune vérification d'une certaine véracité.
04:15Donc, elles proposent quelque chose de vraisemblable, et elles marchent de mieux en mieux,
04:18sans être super intelligents.
04:20Mais c'est vraiment des systèmes extrêmement complexes, mais extrêmement performants.
04:24Et donc, vous allez complètement passer à côté le fait de faire cet effort d'apprentissage.
04:29Et c'est à l'école qu'on apprend ça.
04:31Donc, si les enfants de moins de 10 ans ont des machines qui les aident,
04:34parce que pour traduire, etc., ils ne vont jamais savoir quelles sont les langues d'étrangère.
04:38Et quand on apprend une langue, on apprend de la diversité,
04:41on apprend du débat populaire, on apprend autre chose.
04:43Donc, il faut faire attention à ce qu'on va remplacer.
04:45Je pense que c'est tout à fait délétère pendant l'éducation des enfants,
04:48au moins jusqu'à 10 ans, qu'il n'y ait aucune machine.
04:51Et on voit déjà des jouets arriver pour Noël avec Tchad GPT à l'intérieur pour des moins de 3
04:54ans.
04:54Vous imaginez la manipulation sur le langage, les émotions ?
04:58C'est monumental.
04:59Et donc, on ne se rend pas compte que, de façon invisible,
05:02cette machine arrive et va modifier l'apprentissage des jeunes.
05:06Et après, c'est pareil, il faut leur apprendre les risques,
05:08en même temps qu'on leur démontre ce que c'est que la techno,
05:10et qu'on leur apprend à être, effectivement, agile avec ces machines.
05:13Alors, il y a cet aspect-là, pardon Fred,
05:15mais il y a aussi l'aspect émotionnel qui est aussi très intéressant.
05:19C'est qu'aujourd'hui, il y a des applications qui vous permettent de discuter
05:21avec des personnages fictifs,
05:23et on voit que parfois, ça se termine de manière dramatique,
05:26avec des suicides, etc.
05:29Et ça, c'est peut-être encore plus dangereux, finalement.
05:32C'est le fait de, quand on est devant son écran,
05:35qu'on est emprunt à la solitude,
05:37et qu'on discute avec ces intelligences artificielles,
05:42les conséquences vont être dramatiques.
05:44Alors, il y a des psychologues, des psychiatres qui en parlent très bien,
05:47et qui disent qu'on a un mouvement de société majeure,
05:50qui fait que les gens, quand ils vont les voir,
05:53ils n'ont plus de problèmes sexuels,
05:54ou d'aventure, ou de disjonction, ou de choses comme ça.
05:57Ils ont des problèmes liés à l'IA.
05:59C'est-à-dire qu'on standardise aussi ces espèces de dérives d'état mentaux,
06:03et ça devient très compliqué.
06:05On devient très fragile, très narcissique,
06:07et très fragile,
06:08et très facile à manipuler par toutes ces IA
06:13qui vont vous faire croire à leur affection,
06:16ou à leur connaissance,
06:17et tout ça est tout à fait faux.
06:18Ce que je veux dire par là, c'est que, Fratus,
06:20on voit bien qu'il y a une volonté de réguler les réseaux sociaux,
06:23on va être obligé aussi de réguler cette IA auprès des enfants,
06:26et des jeunes adultes.
06:28Alors, pour moi, on n'y arrivera pas.
06:29On n'y arrivera pas, parce que la machine est lancée,
06:30on l'a vu pour les réseaux sociaux,
06:32donc s'il faut, là, aujourd'hui,
06:34c'est non seulement quand même essayer de le faire,
06:36mais on est aussi dans l'obligation d'interdire,
06:39peut-être pour les plus jeunes,
06:40et puis d'éduquer.
06:42C'est fondamental.
06:43Si on ne fait pas la maïotique socratique,
06:45ce que j'appelle la discussion responsable en classe,
06:47qu'on n'apprend pas aux gens à discuter, à débattre,
06:49d'humain à humain,
06:50et à comprendre les arguments,
06:52et à se faire une espèce de carapace pour affronter tout ça,
06:56demain, on sera naïf devant ces IA,
06:58et on va être les esclaves de quelques géants du numérique
07:00qui ont décidé de nous manipuler dans un sens ou un autre.
07:03Est-ce que ça veut dire qu'il faut être capable
07:04de différencier les tâches dans une classe ?
07:07Parce que s'il faut qu'on apprenne à débattre,
07:09ça prend du temps.
07:10Il y a un temps scolaire, je ne sais pas,
07:11qui est de 18, 20, 25 heures par semaine.
07:14Est-ce que ça veut dire qu'il y a des choses
07:16qu'on va apprendre un peu plus facilement grâce à l'IA
07:18pour justement se concentrer sur cette partie esprit critique,
07:22discussion, échange, etc.
07:23Je pense que c'est délétère, l'IA, en tant qu'IA.
07:26Ce qu'il faut apprendre, c'est la technique qu'il y a dedans.
07:28C'est ça l'école.
07:29C'est comment je construis une IA,
07:31comment je construis ces modèles,
07:32et pas tellement les usages de l'éducation
07:35à travers ces machines.
07:36La meilleure chose qu'on aurait à faire,
07:38c'est d'ouvrir le modèle, d'ouvrir le capot de la voiture
07:40pour montrer aux enfants comment on fait.
07:42Ils vont bien s'amuser, ils vont apprendre plein de choses,
07:44que ce soit en science, mais aussi en philosophie,
07:46mais aussi en littérature.
07:48On les fait utiliser ça sur des exemples
07:50et on désosse, et on montre les difficultés de ces machines.
07:53Et en quoi, il ne faut pas les suivre ?
07:55Est-ce que l'IA ne serait pas la solution à tout ça ?
07:56Parce que justement, on est dans une posture
07:59où on demande des choses à l'IA,
08:00mais l'IA pourrait nous stimuler aussi, finalement.
08:04Elle pourrait, je ne sais pas moi,
08:05nous donner des petits défis tous les jours,
08:08nous apprendre des choses.
08:10Parce qu'en fait, ce qu'il y a de incroyable avec l'IA,
08:12c'est que c'est un outil qui peut servir à tout.
08:15Il pourrait aussi être un stimuli, finalement, pour les jeunes.
08:18Tout à fait, mais pas pour les jeunes,
08:21pas pour les enfants très petits.
08:23Il faut vraiment démystifier
08:24avant d'apporter l'usage à travers la technologie.
08:27Je pense que nous, tous experts,
08:29ou nous, tous adultes, si vous voulez,
08:31on n'a pas trop de problèmes.
08:32Certains sont plus fragiles,
08:33ils vont peut-être, effectivement,
08:35tomber amoureux de ces machines,
08:36mais quand même, rationnellement,
08:39les gens s'en débrouillent
08:40et augmentent leur compréhension du monde,
08:42leur savoir, grâce à ça.
08:43Pour les enfants qui n'ont pas encore de stabilité
08:46dans ce qu'ils ont compris de connaissances du monde,
08:49de ce que c'est que, finalement...
08:51Ils n'ont pas assez de faits établis, si vous voulez,
08:54pour avoir les garde-fous
08:55permettant de savoir quand ça triche ou pas en face.
08:57Et ça, c'est vraiment compliqué.
08:58Après, on peut quand même faire des systèmes d'IA
09:00qui seraient très différents des IA génératives
09:02et qui nous amèneraient à comprendre
09:04l'espace autrement, la physique autrement,
09:06les maths autrement,
09:07en utilisant des outils d'IA.
09:09Mais pas l'IA générative qui nous recrache
09:11ce qu'on a déjà dit.
09:12Ça, c'est extrêmement dangereux.
09:13Mais ça veut dire qu'il faut complètement revoir le système d'éducation ?
09:18Pour moi, il faut revoir le système d'éducation dans le sens...
09:20Je parle des plus jeunes, évidemment.
09:21Non, mais les plus jeunes, les plus anciens.
09:22C'est-à-dire qu'aujourd'hui, moi, mes cours, par exemple,
09:24en licence, en première année de licence,
09:26je ne leur demande pas de faire un devoir,
09:29un mémoire comme on le faisait avant.
09:31Je leur dis, voilà, vous allez utiliser ce que vous voulez.
09:33Moi, je suis pro IA.
09:34Donc, si on peut trouver des choses intéressantes, on le fait.
09:36Mais vous allez me montrer à l'oral,
09:38vous allez m'expliquer en temps limité à l'oral
09:41exactement la problématique avec des pours et des contres
09:44en élaborant.
09:44Vous faites ça en équipe pour pouvoir discuter entre vous
09:47avec des gens qui ne sont pas forcément d'accord,
09:48mais en élaborant les raisons pour lesquelles
09:50on irait plutôt dans ce sens ou en dessous d'un autre.
09:52Et on essaie de faire ça sur des sujets de société,
09:54sur ces sujets de l'IA, de cybersécurité,
09:57de médecine, de santé, de détection de cancers précoces.
10:00Et c'est très intéressant parce que c'est là
10:02qu'ils appréhendent vraiment ce que c'est.
10:03Ensuite, faire de la techno, c'est aussi très intéressant
10:06lorsqu'on a déjà ces moteurs de raisonnement
10:12qui sont toujours là.
10:14C'est comme le sport.
10:16Il faut s'entraîner.
10:17Il faut muscler son cerveau, s'entraîner.
10:20Et d'ailleurs, c'est ce qui est assez rigolo,
10:21c'est que plus vous marchez, plus vous réfléchissez.
10:23Et ce que j'ai dit à mes étudiants,
10:25plus vous êtes en train d'écrire,
10:26plus ça vous aide à mémoriser.
10:28Donc, il ne faut pas oublier que le corps apprend
10:30en même temps que l'esprit
10:31et que les émotions qu'on ressent
10:33sont aussi des marqueurs
10:34qui vont nous aider à apprendre.
10:36Donc, il faut vraiment être dans cette interaction.
10:38Alors, il y a un autre sujet
10:39qui est hyper intéressant
10:40que je voulais évoquer avec vous, Laurence.
10:42C'est la petite musique de ces patrons de l'IA
10:48qui, en fait, nous mettent dans une situation
10:49un peu compliquée.
10:51Ils créent des modèles de plus en plus puissants,
10:53de plus en plus performants.
10:54Et ils nous disent, parallèlement à ça,
10:56attention, on ne sait pas où on va.
10:59Et notre technologie peut nous échapper.
11:01Il y a encore quelques jours,
11:02au Conseil de sécurité de l'ONU,
11:04Sam Altman, Dario Amodei,
11:05enfin, tous les géants de l'IA
11:08sont montés au créneau en disant
11:09qu'il fallait des contrôles d'IA plus puissants,
11:12qu'il fallait sans doute réguler tout ça.
11:14Alors, qui croire ?
11:15Parce que, est-ce que ce n'est pas du marketing
11:16de la peur derrière tout ça
11:18et ça leur sert de publicité
11:20parce que ça devient,
11:22ce drame devient presque fascinant ?
11:24Ou est-ce qu'il y a, à votre avis,
11:27une vraie peur à avoir concernant tout cela ?
11:30C'est un mélange de tout cela,
11:31mais je vais revenir sur la peur.
11:33En fait, ce qui est important pour eux,
11:35c'est que, effectivement,
11:36si demain ça dérape,
11:37parce que personne n'a envie de freiner
11:39dans cette course,
11:40il faut arriver en premier
11:41dans cette compétition sur l'IA,
11:43il va y avoir des problèmes
11:44et ils ne veulent surtout pas
11:45en être responsables.
11:46Donc, si on est capable de réguler
11:47ou même de mettre des freins,
11:49ça sera nous qui régulons,
11:51qui serons fautifs
11:51de ne pas avoir su comment le faire.
11:54Or, aujourd'hui,
11:55du point de vue scientifique,
11:56on ne sait pas aligner
11:57un modèle d'IA générative,
11:59un Tchad GPT,
11:59sur les humains.
12:01D'abord, on est des cultures différentes
12:02un peu partout dans le monde,
12:03on n'a pas les mêmes envies d'éthique,
12:06il y a des gens qui parlent de solidarité,
12:08d'autres qui parlent de liberté, etc.
12:10On n'est pas alignés sur ces sujets-là.
12:12Et les machines ne le sont pas non plus.
12:14Elles ne sont pas capables
12:14dans les situations de vie.
12:16Je vais vous donner un exemple
12:17d'une IA agentique.
12:18Moi, j'ai trouvé ça assez drôle.
12:21Donc, au lieu de parler que de peur,
12:22parlons un peu de choses
12:23qui sont amusantes.
12:24Les IA agentiques
12:25sont déjà dans les mains
12:26de certains chefs de PDG
12:28qui les utilisent
12:29pour gérer leurs mails,
12:30pour en lancer des workshops,
12:34pour tout un autre chose.
12:35Donc là, c'est un Australien
12:36qui décide d'aller faire du sport
12:37et demande à son IA agentique,
12:38donc par rapport à Tchad GPT,
12:40ce n'est pas quelque chose
12:40qui parle,
12:41mais qui fait des actions.
12:42Donc, il envoie finalement
12:44réserver un cours de sport pour lui.
12:46C'est un peu son assistant IA, quoi.
12:48Voilà.
12:48La machine des optimistes
12:50va chercher l'endroit
12:52où il voulait aller
12:53et se rend compte
12:53qu'il n'y a pas de place.
12:56Donc, elle cherche une faille
12:57et elle en trouve une
12:58pour désinscrire quelqu'un
13:00et mettre son propriétaire
13:01à la place.
13:02Donc, les failles,
13:03il y en aura partout.
13:03Comment vous voulez
13:04qu'on imagine toutes les failles ?
13:05Et donc, lancer comme ça
13:07dans notre univers
13:08de tous les jours
13:09avec des millions d'agents
13:11capables de faire différentes tâches
13:12et d'optimiser leurs tâches,
13:14on va se retrouver
13:14dans des situations inextricables.
13:16Donc, ça, ça leur fait peur.
13:17Et ça, ils aimeraient bien
13:18qu'on régule pour ça.
13:19Et la deuxième raison,
13:20c'est qu'ils soient arrivés
13:21à un niveau de technologie
13:22au-dessus des Chinois,
13:23les Américains
13:24et au-dessus des Européens,
13:25surtout,
13:26et d'autres pays.
13:27Et ce qu'ils veulent surtout,
13:28c'est garder leur avance.
13:29Donc, si on régule,
13:30tout le monde devra réguler
13:31et on va perdre encore plus
13:33dans cette idée
13:34de pouvoir rattraper.
13:35Donc, il faut vraiment
13:35faire attention,
13:36mais c'est quand même intéressant
13:37qu'ils soient autour d'une table
13:38pour discuter des risques.
13:39J'insiste sur ce sujet
13:40parce que quand on voit
13:40que Sam Altman dit
13:41que même 1% de risque
13:45de situation catastrophique
13:46liée à l'IA
13:47serait inacceptable.
13:49Vous qui êtes là-dedans
13:5024h sur 24,
13:51est-ce que vous pensez
13:51que c'est possible ?
13:53Est-ce qu'il y a même
13:54ne serait-ce qu'1% de risque
13:55pour que l'humanité
13:59soit menacée
14:00à cause de l'IA ?
14:02Ou est-ce que
14:02c'est presque risible pour vous ?
14:05Le 1%, il sort de nulle part.
14:08Donc ça, c'est excréable
14:08pour un scientifique.
14:10Le 10% de malchance,
14:11c'est pareil.
14:12L'IA superintelligence
14:14va arriver l'année prochaine
14:15ou l'année d'après
14:16ou en 2030,
14:17comme nous expliquent
14:18tous ces géants du numérique
14:19et tous ces milliardaires
14:20de la tech.
14:21Tout ça, c'est de l'enrobage,
14:24de la rhétorique.
14:25Ce sont des nouveaux sophistes.
14:27Ce sont des gens
14:27qui se contrefichent
14:28de la réalité,
14:29de la vérité,
14:30qui ont un objectif propre
14:31et qui finalement
14:31nous racontent des histoires
14:33et nous emmènent
14:34dans un storytelling
14:34qui fait peur.
14:36Alors quand on a peur,
14:36on est comme dans les phares
14:37des voitures,
14:37on ne bouge plus pour beaucoup.
14:39C'est le contraire
14:40qu'il faut faire aujourd'hui.
14:41Il faut raisonner
14:41de façon rationnelle.
14:43Une IA ne va pas demain
14:44tout changer,
14:45nous faire que tout va s'arrêter,
14:47mais elle risque
14:48de faire des dégâts.
14:49Par exemple,
14:49si je prends Méta
14:50qui faisait tous ses dégâts
14:51auprès des jeunes,
14:51des suicides dont vous avez parlé,
14:53c'est inadmissible
14:54ce qui s'est passé.
14:55Il a certes été condamné
14:56par plusieurs Etats américains,
14:57mais à quoi ?
14:58À payer une somme
14:59qui pour lui
14:59ne représente rien
15:00et ça ne veut pas dire
15:01qu'il avait changé
15:0216 milliards sur sa fortune,
15:04c'est rien.
15:05Et ce n'est pas pour ça
15:06qu'il va changer
15:07la façon dont ces systèmes
15:08se comportent
15:09et surtout demain,
15:11s'il y a à nouveau
15:11des gens qui ont des problèmes
15:13avec ces mêmes IA,
15:14il a déjà répondu au truc,
15:15donc on ne peut plus l'envergner.
15:17Après, au-delà des 16 milliards,
15:19il y a eu quand même
15:20des décisions fortes
15:21qui ont été prises par Méta.
15:23Interdire les réseaux sociaux
15:24de plus d'une heure par jour,
15:26je crois,
15:27pour les moins de 18 ans.
15:28C'est appliqué ?
15:29Ça va l'être.
15:30En tout cas,
15:30la décision est assez récente.
15:32Vous avez raison.
15:33Mais en tous les cas,
15:33il y a eu une réponse
15:34de la part de Méta
15:35sur ce sujet.
15:36Et d'ailleurs,
15:37c'est une réponse
15:38qui n'est qu'américaine.
15:39Il y a eu une réponse
15:39infaisable pour beaucoup.
15:41Comment vous pouvez faire
15:42pour contrôler ça ?
15:43C'est aux parents de contrôler.
15:45Ils s'embarquent
15:46en étant chevaliers blancs,
15:47en disant
15:47voilà,
15:48on a des solutions pour vous
15:49qui ne savent pas
15:50appliquer auprès des gens
15:51dans la situation,
15:52dans les différents pays.
15:53Donc pour moi,
15:54il y a une arnaque aussi
15:54à une possible solution
15:56qui n'en est pas une.
15:57Fred ?
16:00La question qu'on se pose
16:01par rapport à
16:01évidemment
16:02à tout ce double discours
16:05dont tu as parlé,
16:06c'est à la fois
16:06il faut ralentir
16:07puis à la fois on accélère.
16:08On a vu le lendemain.
16:09Pompier et pyromanes.
16:10Voilà.
16:10Ils ont à peine dit
16:11qu'il fallait ralentir
16:12qu'à un ventière
16:14il y a quelques jours,
16:15on sort Opus 5.5,
16:16on sort GPT6.
16:17On divise les prix aussi.
16:21Non seulement plus performants,
16:22mais comme tu l'as dit,
16:23les prix divisés par deux.
16:24C'est-à-dire,
16:25utilisez-moi davantage
16:26maintenant le token
16:27et tout ça.
16:27Donc c'est assez paradoxal.
16:30Alors après,
16:31il y a aussi des enjeux
16:32géopolitiques
16:32parce que s'ils se mettent
16:33à réguler entre eux,
16:34on éjecte les Chinois aussi
16:36parce que ça aussi,
16:37c'est un...
16:38Il y a un autre sujet
16:38avec les Chinois
16:39dans le poids de source
16:39avec la montée de la criminalité
16:41avec le cyber,
16:42avec le numérique.
16:43Et puis moi,
16:44je pense aussi
16:45que là,
16:45il y a un grand souci,
16:46c'est que,
16:46évidemment,
16:47il faut des géants
16:47dans un secteur
16:48qui drive un peu le marché.
16:49Mais si c'est ceux-là
16:51qui se mettent en avant,
16:54on est en train
16:54de créer encore plus
16:55un fossé numérique.
16:57Je lisais il y a quelques jours
16:58une note
16:59du Conseil d'analyse économique
17:01qui disait,
17:02qui parlait
17:03de l'approvisionnement
17:03de la France.
17:04Alors dans l'éducation,
17:05dans tout un tas de choses.
17:06Mais l'approvisionnement
17:07de la France,
17:07il mettait dans l'une des raisons,
17:08c'était la faible adoption numérique
17:10au niveau des PME, TPE.
17:12Et on peut imaginer
17:13que si ces gens-là
17:15sont largués
17:15par la transformation numérique,
17:17on leur ajoute
17:18de l'IA dessus.
17:19Alors ils pourront
17:19toujours l'utiliser
17:20à titre individuel
17:21ou quelques-uns
17:22dans l'entreprise
17:23pour mieux gérer
17:23leurs clients,
17:24je ne sais quoi.
17:24Mais si ces grands
17:26de l'IA
17:27se mettent à réguler
17:28et se mettent à...
17:29Et puis le coût d'éteint
17:29et tout ça,
17:30ça va freiner davantage.
17:32Et moi,
17:32je trouve que l'un des grands risques,
17:34il est autour de ça.
17:35Un mot aussi peut-être ?
17:36Il faut savoir vivre avec l'IA.
17:37C'est ça que j'ai écrit.
17:38Donc pour les familles,
17:40pour les enfants
17:40et pour les entreprises.
17:42Dans les bonnes librairies,
17:43forcément.
17:44Un mot aussi
17:45sur cette initiative
17:46de la part du gouvernement.
17:48On l'a évoqué brièvement
17:49dans Tech & Co
17:50il y a quelques jours de cela.
17:51C'est cette enveloppe
17:53de 80 millions d'euros
17:54qui fait partie
17:55de ce projet
17:56Impulsion IA 2027
17:57pour aider en fait
17:59les entreprises
18:00et les salariés
18:01à s'accaparer l'IA.
18:03Donc c'est un sujet
18:03que tu viens d'évoquer.
18:04Mais je voulais avoir
18:05votre avis, Laurence, là-dessus.
18:06Coup d'épée dans l'eau.
18:07Est-ce que ça a un intérêt
18:09véritablement ?
18:10Parce qu'on se rend compte
18:11que peu d'entreprises
18:12aujourd'hui utilisent l'IA
18:14et pour notre compétitivité,
18:17pour plein de choses,
18:18ce n'est pas très bon.
18:19Bon, écoutez,
18:20sur ces sujets-là,
18:20je crois qu'on est très mauvais.
18:21Pour l'école,
18:22de la même façon,
18:23nous, à la Fondation
18:23Blaise Pascal,
18:24on a fait des capsules
18:26éthiques, numériques et IA
18:27pour les enfants
18:27en CM1 et CM2.
18:29Le gouvernement
18:29ne s'en est pas emparé.
18:30Alors qu'il est très au courant
18:31de ce qu'on a proposé
18:33qui était peu de temps,
18:34mais rendre les enfants capables
18:37de distancier,
18:38d'avoir un esprit critique
18:39et d'amorcer cela.
18:40Il faut évidemment
18:41le continuer après au collège
18:42et après en seconde.
18:44Or, le ministre annonce
18:45qu'en seconde,
18:46on va apprendre
18:47aux enfants de l'éthique.
18:48C'est trop tard.
18:49Ils ont déjà ces outils
18:50dans les mains
18:50depuis fort longtemps.
18:51Pour les entreprises,
18:52c'est un peu la même chose.
18:53Il ne s'agit pas
18:54de mettre des milliards.
18:54Il s'agit de dire
18:55comment on va faire.
18:56Il s'agit de former.
18:58Il s'agit d'avoir des outils.
18:59Pourquoi est-ce qu'on a
19:00des grandes écoles,
19:01on a des gens très très bien
19:03qui font des projets
19:03pendant leurs études ?
19:05Pourquoi on ne leur demande pas
19:06de réagir à des sujets
19:08de société ?
19:08Qu'ils prennent l'eau,
19:10l'électricité
19:10ou qu'on fasse des tuteurs
19:14avec des entreprises
19:14et que ça puisse être utile ?
19:16Je pense qu'on est
19:16dans une guerre froide
19:17qui n'a rien à voir
19:18avec toutes les guerres
19:19qu'on a vues avant,
19:20mais qui nécessite
19:21un engagement populaire,
19:22qui nécessite
19:22un engagement citoyen,
19:24qui nécessite
19:24un engagement des grands cerveaux
19:26qui sont éduqués
19:27en France et en Europe.
19:29Et ça,
19:29je ne le vois nulle part.
19:30Cet engagement-là,
19:31il n'existe pas.
19:32On ne parle qu'à
19:34des milliards.
19:36Moi, je suis désolée
19:36quand j'entends une start-up
19:38qui sûrement a des projets
19:39excellents me dire
19:40j'ai levé tant de millions.
19:42Moi, ce que j'aimerais savoir,
19:43c'est pourquoi ?
19:44Pour quel but ?
19:45Qu'est-ce que ça va faire
19:46pour la société ?
19:47On a besoin de ça
19:48pour que les gens adoptent
19:49et c'est en ça
19:50que ça serait intéressant aussi.
19:51Si on adopte
19:52ces technologies intelligemment,
19:53si on met les garde-fous
19:54et qu'on les restreint
19:55et qu'on les rend plus robustes
19:57avec un alignement
19:58sur certains sujets,
20:00on a fait, nous,
20:00un rapport
20:01pour M. le Premier ministre
20:02avec Vanina Paoli-Gagnin
20:04qui est excellent
20:05sur l'articulation,
20:06robustesse technique,
20:07exigence démocratique
20:08et en même temps
20:09qui parle de l'alignement
20:11impossible totalement.
20:12Mais en le restreignant
20:13sur certains sujets,
20:15on peut y arriver.
20:16Pourquoi on ne fonce pas là-dessus ?
20:17Et si nous, on adopte,
20:18si nous sommes en Europe
20:20beaucoup à utiliser l'IA,
20:22on va faire monter le niveau
20:23et peut-être d'intérêt,
20:26d'innovation,
20:27de progrès,
20:28chez nous.
20:28Je reviens juste
20:29sur la formation.
20:30Moi, j'entends beaucoup
20:31d'entreprises qui me disent
20:32qu'on est dans le...
20:33Alors, qu'ils forment
20:33leur milieu de collaborateurs,
20:34c'est plutôt des grands comptes,
20:35et ils me disent
20:36qu'on est dans le 110-1.
20:37C'est 100 personnes formées,
20:3910 qui l'utilisent vraiment...
20:41C'est parce qu'on ne les sent pas bien,
20:42excusez-moi.
20:42Et 1 qui va être
20:44un peu l'élire pilote.
20:45Et tout à l'heure,
20:46hors micro,
20:47on a eu un débat tous les deux.
20:48Parce que je dis,
20:48oui, il faut ce côté formation,
20:51continue, etc.
20:52Et tu m'as dit,
20:52mais non, on se trompe.
20:54En fait, en plus,
20:55je suis désolée,
20:56mais l'art du prompt,
20:58c'est tout sauf intelligent.
20:59L'art du prompt,
21:00ça ne m'a jamais aidé
21:01à ouvrir le capot de la machine.
21:02Je regarde ce qu'il y a avant,
21:03au début,
21:04je regarde ce que ça sort à la fin.
21:05Moi, je suis en train
21:06de faire la machine,
21:07je vous trompe,
21:07et demain,
21:08il ne répond plus la même chose.
21:09Et puis, il y a des parties
21:10aléatoires là-dedans
21:11qui font que ça crée un peu.
21:12Ces machines sont
21:13extrêmement performantes.
21:15Elles commencent à avoir
21:15des émergences d'abstraction,
21:16de généralisation.
21:17Ne croyez pas que je sous-estime.
21:19Au contraire,
21:20j'ai des thèses là-dessus.
21:21Donc, on est vraiment
21:22sur des outils
21:23extrêmement performants
21:24qui viendront,
21:25qui sont pour beaucoup
21:26cette super-intelligence
21:27dont on parle,
21:28mais qu'on ne sait pas mesurer.
21:29On ne sait pas ce que c'est.
21:30Le seul qui a dit
21:31quelque chose d'intelligent
21:31là-dessus,
21:32c'est Demi Sazabiz
21:33de Google DeepMind
21:34qui a dit,
21:35bon, ben voilà,
21:35on n'a qu'à faire
21:36le test d'Einstein.
21:38Qu'est-ce que c'est
21:38que le test d'Einstein ?
21:39On décide que la machine
21:40n'engloutit que des données
21:41jusqu'à 1919
21:43ou c'est pas grave.
21:43Et on lui demande
21:44après des choses
21:46qu'a trouvées Einstein.
21:47Est-ce qu'elle sera capable
21:48de le faire ?
21:48Mais on est incapable
21:49de se mettre dans cette situation.
21:50Mais c'est pour vous dire
21:51qu'on ne peut pas évaluer.
21:53On ne sait pas évaluer.
21:54Et si vous entendez
21:55l'appel des mathématiciens
21:56de Cédric Villani
21:57et des Médaille Field
21:59qui ont écrit
22:00dans Le Monde dernièrement,
22:01ils expliquent très bien cela.
22:02Si on utilise trop
22:03ces outils
22:04pour arriver à des solutions,
22:05on va perdre
22:06en qualité d'abstraction,
22:08de réflexion.
22:09Il se pose même la question
22:09de Dieu venir
22:10de leur métier en fait.
22:12Mais c'est anecdotique
22:13ça à la limite.
22:14Ce qui n'est pas anecdotique,
22:15c'est la perte
22:17de pensée,
22:18de savoir raisonner
22:19de toute la population.
22:20On a une classe
22:21qui aime
22:22à s'enrichir
22:23sur l'abstraction
22:24qui sont les mathématiciens
22:25ou les philosophes.
22:26Si cette machine répond
22:27à toutes les questions
22:29qu'on pose
22:30sans qu'on ait aucun effort
22:31pour produire le chemin
22:33pour arriver à cela,
22:34on va perdre en qualité
22:35de trouver des choses
22:36et d'améliorer.
22:37Et on vient de prononcer
22:37le mot important.
22:40C'est le mot effort.
22:42Parce que je trouve
22:42qu'aujourd'hui,
22:43on perd l'effort justement.
22:44Alors revenons au sport.
22:45On a une incapacité cognitive,
22:47on a une paresse
22:47par rapport à cet IA.
22:49Et l'effort,
22:50oui,
22:50on n'a plus envie
22:51de le faire parfois.
22:52Revenons au sport.
22:53Les jeunes sont
22:54très addicts de sport.
22:55Ils font des trails,
22:56ils font de plus en plus
22:57de sport
22:57et là,
22:57ils font des efforts.
22:59Votre cerveau demain,
23:00c'est la même chose.
23:01Il faut le muscler
23:02autant qu'on sait muscler
23:03son corps
23:03et on en sera très fiers.
23:05Musclons notre cerveau.
23:06Voilà.
23:08Mais c'est hyper important.
23:09Merci beaucoup,
23:10Laurence,
23:11d'avoir été avec nous.
23:12Laurence de Villers.
23:13Merci Frédéric Simotel.
23:14Merci Frédéric Simotel.