Passer au playerPasser au contenu principal
CNEWS
Anne Fulda reçoit Marion Carré pour son livre «Le paradoxe du tapis roulant» dans #HDLivres

Catégorie

🗞
News
Transcription
00:00Bienvenue à l'heure des livres Marion Carré.
00:03Alors on vous a déjà reçu ici pour un précédent livre
00:05qui traitait justement d'une chercheuse
00:09qui avait été une pionnière concernant l'intelligence artificielle.
00:12Et vous publiez aujourd'hui Le paradoxe du tapis roulant,
00:16un livre qui est publié chez la TES, un essai nécessaire
00:19et qui vient de quelqu'un qui a une vraie connaissance de ce secteur
00:23puisque vous êtes entrepreneuse, experte en intelligence artificielle,
00:27également enseignante à Sciences Po.
00:28Alors déjà, avant tout, expliquez-nous pourquoi finalement
00:32il y a cette constance, cet intérêt que vous avez
00:35pour ce sujet de l'intelligence artificielle.
00:38Comment ça vous est venu ?
00:40Alors je suis tombée dans le bain de l'intelligence artificielle
00:43il y a près de neuf ans maintenant,
00:45à une époque où ce n'était pas encore sur toutes les langues comme aujourd'hui.
00:50Mais il y a neuf ans, j'ai vu l'opportunité de mobiliser cette technologie
00:54comme un levier au service de la curiosité.
00:58pour pouvoir, avec l'entreprise que j'ai cofondée qui s'appelle Askmona,
01:02permettre d'enrichir la découverte dans les musées.
01:05Donc ça a commencé comme ça, avec une approche, je dirais,
01:08les mains dans le cambouis de l'intelligence artificielle.
01:11Et j'ai eu envie au fur et à mesure de prendre du recul
01:13et de réfléchir à tous les enjeux que soulève cette technologie.
01:17Alors vous expliquez cette expérience dans votre livre et vous le dites.
01:22Bon, il ne se passe pas un jour sans que je dialogue avec une IA, une intelligence artificielle.
01:27Est-ce que vous diriez que c'est créer une forme d'addiction envers cette technologie ?
01:33Alors, c'est vrai que me concernant, comme j'ai toujours baigné,
01:39toujours utilisé des intelligences artificielles dans mon quotidien professionnel,
01:43je me suis assez peu posée de questions pendant longtemps.
01:46Et ce qui m'a frappée, c'est quand je me suis aperçue que des personnes autour de moi
01:50se servaient aussi beaucoup de l'intelligence artificielle.
01:53Dans l'ouvrage, je prends l'exemple de mon père, qui n'est pas du tout le geek typique,
01:56mais qui s'est mis à s'en servir énormément.
01:59Et je me suis interrogée sur nos rapports à cette machine
02:03qui est maintenant très présente dans nos quotidiens.
02:06Et c'est vrai qu'au moment où je suis passée à la table d'écriture,
02:10je me suis vraiment rendue compte aussi de la place que prenait l'intelligence artificielle
02:14parce que ça a été dur d'amorcer le processus d'écriture en me disant
02:18j'écris tous les jours en utilisant des IA et là je vais écrire sans IA.
02:22Et au début, la panne était un peu complexe à surmonter.
02:26Donc vous nous l'assurez, ce livre a été écrit sans aucune IA ?
02:29Écrit sans aucune IA, mais avec une forme de mise en abîme du sujet tout au long du livre
02:34sur mon rapport à l'intelligence artificielle.
02:36Alors justement, vous venez de mentionner votre père
02:38et vous écrivez effectivement dans le livre que ce n'est pas du tout un geek,
02:41qu'il s'y est mis assez facilement
02:43et que surtout elle s'est finalement immiscée avec beaucoup de rapidité dans son quotidien,
02:50comme si elle avait toujours été là.
02:52Est-ce que c'est ça le danger ?
02:55C'est justement que cette IA s'immisce
02:58et qu'on n'arrive plus à finalement penser, faire certaines tâches, réfléchir sans elle.
03:07Alors l'intelligence artificielle, c'est vrai qu'elle est présente dans le quotidien de beaucoup de personnes.
03:11On est sur près d'un Français sur deux, plus de 80% des 18-24 ans.
03:16Donc c'est un outil qui est maintenant très répandu, qui n'est plus du tout une niche.
03:19Et effectivement, ce que j'ai observé, c'est cet effet tapis roulant
03:22où au départ, on monte sur le tapis roulant d'intelligence artificielle
03:27avec un enthousiasme face à cette sensation d'être plus rapide, plus créative, d'avoir plein d'idées.
03:33Et petit à petit, il y a ce risque de s'appuyer de plus en plus,
03:37de se laisser porter par l'intelligence artificielle
03:40en finissant par se rendre compte que cette technologie,
03:44quand on délègue trop, quand on s'appuie trop dessus,
03:47nous emmène tous au même endroit.
03:48Donc c'est le constat que j'ai fait.
03:49À mon sens, ce n'est pas une fatalité.
03:51Je pense qu'on est à la croisée des chemins
03:52entre cet usage tapis roulant d'intelligence artificielle
03:56et un usage tapis de course dont je parle un peu plus loin dans le livre.
03:59Et qu'il y a besoin aujourd'hui d'avoir une prise de conscience collective
04:02sur ce qu'on fait de ces outils,
04:05aussi bien au niveau individuel qu'en tant que société,
04:07sur la façon dont on organise notre travail et nos quotidiens autour de ça.
04:11Oui, parce que l'intelligence artificielle,
04:13c'est immédiatement dans beaucoup de domaines.
04:15Certains lui parlent presque comme à une amie,
04:17comme à une psychologue,
04:19comme à une sorte d'expert professionnel dans différents domaines.
04:25Et alors ce qui est intéressant, c'est qu'elle s'impose un peu partout,
04:27ce que vous constatez, dans tous les milieux sociaux, à tous les âges.
04:32Et ce que j'aime bien, vous écrivez un moment,
04:35le plus inquiétant, c'est qu'on en vient à lui confier,
04:37ce qui touche à l'essence même de nos réflexions et de notre créativité,
04:40la charge mentale de réfléchir.
04:42Donc c'est sur ce point particulier que vous entendez mettre en garde
04:46et dire qu'il y a moyen, d'ailleurs vous allez nous dire comment,
04:50d'arrêter ce train qui permettrait de déléguer l'essentiel
04:54de ce qu'il fait un être humain finalement.
04:56Tout à fait, dans ce paradoxe du tapis roulant,
04:59ce qui nous emmène sur cette voie du tapis roulant,
05:01c'est une délégation cognitive croissante
05:04où petit à petit se développe un phénomène
05:06que des chercheurs appellent la paresse algorithmique.
05:09C'est-à-dire qu'en fait, au fur et à mesure,
05:10on se rend compte, on confie une tâche,
05:12puis deux, on se rend compte que l'intelligence artificielle s'en sort bien,
05:15alors on lui donne des problèmes de plus en plus complexes.
05:18Et le risque, c'est que ça nous emmène à ce que certains scientifiques
05:22appellent le système zéro, en complément du système 1 et 2
05:26de la pensée mis en évidence par Daniel Kahneman,
05:29où il y a système 1, pensée rapide, système 2, pensée plus approfondie.
05:33Et là, le système zéro, ce serait prendre l'habitude de,
05:36pour toutes les tâches de réflexion en fait un peu complexes,
05:38de s'appuyer sur l'intelligence artificielle.
05:40Alors, il y a des moments où ça fait sens,
05:42quand on doit manipuler beaucoup de données, par exemple,
05:45on est content de pouvoir s'appuyer sur cette technologie.
05:46Mais si c'est pour réfléchir au quotidien sur des choses qu'on faisait avant par nous-mêmes,
05:52alors ça pose problème parce que l'enjeu, c'est de continuer à exercer notre esprit critique,
05:57à réfléchir et ne pas prendre l'habitude de déléguer la réflexion à la machine.
06:02Alors, que peut-on encore maîtriser et comment en fait ?
06:05Alors, effectivement, moi je pense que ce paradoxe du tapis roulant n'est pas une fatalité
06:10et à mon sens, il faut renverser l'usage qu'on a de l'intelligence artificielle
06:15pour transformer le tapis roulant en tapis de course.
06:18C'est-à-dire que cette fois, on ne se laisse pas porter.
06:21On court dessus pour venir muscler notre réflexion et nous renforcer.
06:27Et je pense qu'il y a plusieurs, il y a tout un ensemble de techniques et d'idées
06:31que je développe dans le livre.
06:33Mais ce qui est assez important parmi ces axes-là,
06:35c'est notamment le fait de garder ce que j'appelle le premier et le dernier kilomètre de la réflexion.
06:40C'est-à-dire que l'intelligence artificielle ne nous demande pas de tout déléguer.
06:45Les moments où on doit agir se déplacent, c'est-à-dire plus en amont
06:48pour donner un maximum d'idées et d'orientation à la machine,
06:54mais aussi plus en aval pour réfléchir, challenger, rediriger ce qu'elle a proposé
07:00et pleinement se l'approprier afin de sortir de cette mauvaise habitude
07:04où beaucoup de personnes se contentent de copier-coller ce que propose l'IA.
07:08Et c'est ça qu'il faut éviter parce qu'il faut continuer à réfléchir par nous-mêmes.
07:12Alors c'est une pente dangereuse effectivement que vous décrivez,
07:14mais qui peut justement faire en sorte que ce tapis de course devienne un...
07:18Ce tapis roulant, pardon, devienne un tapis de course comme vous le dites.
07:22Est-ce qu'il faut réglementer ?
07:23Est-ce que ça doit venir de ceux qui mettent sur le marché ces IA de plus en plus perfectionnés
07:29ou des pouvoirs publics parce que la pente naturelle de l'homme
07:33est peut-être une certaine paresse, c'est une forme de facilité ?
07:36Donc comment arriver justement à imposer cette évolution ?
07:40Alors il y a plein de portes d'entrée et de, je dirais, moments de la vie où ça peut agir.
07:45Il y a déjà un aspect sur l'éducation.
07:47En se disant, alors on a eu cet enjeu avec d'autres technologies,
07:50par exemple on apprend à faire des tables de multiplication
07:53avant de se servir d'une calculatrice,
07:55alors qu'on pourrait direct se dire mais la calculatrice peut le faire,
07:58pourquoi ne pas apprendre ça directement ?
08:00Et je pense qu'il va y avoir un enjeu dans la formation à l'intelligence artificielle
08:04pour avoir une progressivité où on n'apprend pas tout de suite à s'en servir,
08:09on apprend à s'en servir parce que c'est clé,
08:11mais avant on apprend les fondamentaux
08:12qui nous permettent de ne pas dépendre de la machine
08:15parce qu'on sait faire par nous-mêmes
08:16et surtout parce que comme on sait faire par nous-mêmes,
08:19on peut critiquer ce qu'elle fait,
08:20on peut prendre du recul.
08:23Donc ça c'est un premier axe qui est celui de l'éducation.
08:25Il y a aussi celui de la façon dont on organise notre travail
08:29puisqu'on a ce réflexe où comme l'IA nous permet d'aller plus vite,
08:34on calque notre rythme de travail sur ce que permet l'IA.
08:37On se dit voilà maintenant ça prend quelques minutes,
08:39donc je ne veux pas prendre plus de temps pour relire ce qu'a fait l'IA
08:42parce que j'ai l'impression de perdre du temps,
08:44or cette prise de temps est nécessaire.
08:47Donc ça c'est quelque chose à prendre en compte dans les organisations.
08:49Et après il y a effectivement au niveau de la façon
08:51où on conçoit des intelligences artificielles,
08:54plein de choses qui peuvent être faites pour les enrichir,
08:57que ce soit sur la diversité des données
08:59à partir desquelles elles vont être entraînées,
09:01mais aussi sur le fait de nous inciter à continuer à challenger,
09:05à se poser des questions face aux résultats qu'elles nous proposent.
09:08Très bien.
09:09En tout cas c'est un sujet qui est passionnant,
09:11que vous abordez de façon très fouillée et intéressante.
09:15Votre livre s'appelle Le paradoxe du tapis roulant,
09:17c'est paru chez Lattès.
09:19Merci beaucoup Marion Carré.
09:20Un grand merci.
Écris le tout premier commentaire
Ajoute ton commentaire

Recommandations

2:32
À suivre
"C'est absolument terrible": Benoît Payan, maire DVG de Marseille, réagit à l'assassinat par balles du frère d'Amine Kessaci, militant engagé contre le narcotrafic
BFMTV
il y a 8 heures
6:07
Ève Ruggieri : L'Heure des Livres (Émission du 05/12/2023)
CNEWS
il y a 2 ans
6:14
Marion Carré : L'Heure des Livres (Émission du 02/05/2024)
CNEWS
il y a 2 ans
6:14
Marie Nimier : L'Heure des Livres (Émission du 06/01/2025)
CNEWS
il y a 10 mois
5:34
Malène Rydahl : L'Heure des Livres (Émission du 20/02/2024)
CNEWS
il y a 2 ans
5:53
Farida Khelfa : L'Heure des Livres (Émission du 22/01/2024)
CNEWS
il y a 2 ans
5:49
Anne Goscinny : L'Heure des Livres (Émission du 10/10/2024)
CNEWS
il y a 1 an
5:53
Alain Baraton : L'Heure des Livres (Émission du 29/06/2023))
CNEWS
il y a 2 ans
6:38
Marc Levy : L'Heure des Livres (Émission du 17/02/2025)
CNEWS
il y a 9 mois
6:45
Alister : L'Heure des Livres (Émission du 15/01/2025)
CNEWS
il y a 10 mois
6:06
Léa Wiazemsky : L'Heure des Livres (Émission du 11/04/2024)
CNEWS
il y a 2 ans
7:00
Camille Pascal : L'Heure des Livres (Émission du 26/08/2024)
CNEWS
il y a 1 an
5:57
Sandrine Roudeix : L'Heure des Livres (Émission du 06/09/2024)
CNEWS
il y a 1 an
9:03
Marc Weitzmann : L'Heure des Livres (Émission du 10/10/2025)
CNEWS
il y a 5 semaines
5:49
Rachel Khan : L'Heure des Livres (Émission du 04/06/2024)
CNEWS
il y a 1 an
6:24
Alice Zeniter : L'Heure des Livres (Émission du 10/09/2024)
CNEWS
il y a 1 an
6:37
Fabrice Midal : L'Heure des Livres (Émission du 01/05/2024)
CNEWS
il y a 2 ans
6:38
Mélissa Da Costa : L'Heure des Livres (Émission du 28/08/2024)
CNEWS
il y a 1 an
5:27
Yann Queffélec : L'Heure des Livres (Émission du 02/09/2024)
CNEWS
il y a 1 an
5:30
Joséphine Tassy : L'Heure des Livres (Émission du 09/11/2023)
CNEWS
il y a 2 ans
6:18
Marc Lavoine : L'Heure des Livres (Émission du 23/01/2025)
CNEWS
il y a 10 mois
7:31
Anne Graire : L'Heure des Livres (Émission du 11/07/2025)
CNEWS
il y a 4 mois
5:25
Angie David : L'Heure des Livres (Émission du 05/03/2024)
CNEWS
il y a 2 ans
1:08
Marie Lebey : L'Heure des Livres (Émission du 05/09/2025)
CNEWS
il y a 2 mois
7:33
Tiphaine Auzière : L'Heure des Livres (Émission du 26/03/2024)
CNEWS
il y a 2 ans