- il y a 1 semaine
L'intelligence artificielle transforme notre façon de parler, d'apprendre et de créer. Entre promesses technologiques et risques pour l'humanité, comment l'IA redéfinit-elle notre rapport au monde ? François Rastier, linguiste au CNRS, décrypte les bouleversements en cours et nous alerte sur les dangers d'un basculement vers la "post-réalité".
Catégorie
🗞
NewsTranscription
00:00Dans la grande interview, je reçois un invité qui a été déclaré mort par ChatGPT avec une insistance, je dois dire, assez déconcertante.
00:15François Rastier, sémanticien, docteur en linguistique, directeur de recherche et mérites au CNRS, a écrit un essai passionnant.
00:22L'IA m'a tué, Comprendre un monde post-humain, qui est paru aux éditions Intervalle dans la collection Le Point sur les idées.
00:30Il démarre par cette histoire de la principale, le principal chatbot aujourd'hui utilisé avec une IA générative, qui a lancé cette folie des IA génératives,
00:41qui insiste pour dire que François Rastier, bah non, il est décédé.
00:46Et il dit ça auprès de vos collègues, vos amis qui vous connaissent bien, qui font remarquer quand même à ChatGPT,
00:53bah quand même, j'ai déjeuné avec lui hier, tu dois bien te tromper.
00:57Et ChatGPT insiste en disant, attention, fausses informations, moi j'ai des sources fiables, il va même jusqu'à donner de foliens.
01:06Alors comment est-ce que vous expliquez, François Rastier, cette obstination à vous déclarer mort ?
01:13Oui, alors, il y a d'abord un problème de responsabilité, ça aurait pu avoir des conséquences personnelles, on ne sait jamais.
01:24Plus grave que la question que je me posais, comment porter son propre deuil, vous voyez ?
01:32C'est ce que dit Borges, assister à sa mort, c'est toujours ce qu'il y a de plus intéressant.
01:38Bon, mais la question c'est celle de l'irresponsabilité, et en fait ce sont des machines qui sont, le client est roi,
01:49donc ces machines sont faites pour ne jamais se démentir, ni démentir le client d'ailleurs.
01:58Si vous interrogez 4 liens sur 10, ils vont vous dire, si vous dites, est-ce que Macron est marié à un monsieur transgenre, ils vont vous dire oui.
02:15Alors cette tendance à la flagornerie, ils sont en train d'essayer justement de le corriger dans la nouvelle version,
02:21GPT-5 visiblement, ils travaillent beaucoup, beaucoup là-dessus, mais vous parliez de la question de la responsabilité,
02:26et effectivement, dans le livre, vous posez cette question, mais en fait, qui parle derrière ces IA, qui me parle ?
02:34Et c'est important, dans une conversation qu'on entretient entre humains finalement,
02:39vous dites que ça fait partie de la garantie sociale de savoir à qui je m'adresse.
02:42Alors qui parle, c'est la grande question, depuis le début de la philosophie du langage,
02:50puisque quel est le statut d'une parole qui est adressée par personne ?
02:58Vous voyez, on ne sait pas qui est derrière.
03:01Alors, est-ce que c'est un oligarque avec une capuche ?
03:07Est-ce que c'est les programmeurs, puisqu'il y a des biais ?
03:11Alors, du côté de l'oligarque, on a vu par exemple que Grock, l'IA de Musk,
03:18reflétait assez fidèlement les opinions du propriétaire,
03:23et je me suis demandé ensuite, par rapport à l'histoire de tout ça,
03:30parce que l'IA n'a pas commencé, ça fait depuis 1956 qu'on en parle,
03:35d'ailleurs dans une demande de financement.
03:40Et ça a commencé dans les réseaux sociaux, c'est-à-dire qu'il y a eu de moins en moins
03:48de communication interpersonnelle dans les réseaux sociaux.
03:54Zuckerberg estime à 7% seulement de communication interpersonnelle,
04:03parce qu'en fait, c'est autre chose qui se passe.
04:07D'abord...
04:08C'est quoi, des bots, c'est ça ?
04:09C'est les robots, et ensuite, c'est la figure de l'influenceur
04:13qui a repris le...
04:18qui a émergé, et finalement, les IA sont des influenceurs de poche.
04:24Et dans les pratiques, on voit que c'est en train d'évoluer,
04:29c'est-à-dire qu'il y a 2-3 ans, c'était plutôt de la recherche d'informations,
04:35et maintenant, ça a été les placements, ça a été les voyages,
04:42mais maintenant, c'est la vie intime.
04:44Est-ce que...
04:47Qu'est-ce que je dois faire dans mon couple ?
04:50C'est ça, c'est confident.
04:52Même la psychothérapie.
04:53Donc, alors, c'est pas un exercice illégal de la médecine,
04:59mais c'est utilisé comme ça,
05:00avec des problèmes sur l'anorexie,
05:07sur, enfin, disons, tous les gens qui,
05:10étant déjà isolés par les réseaux sociaux,
05:14se trouvent affaiblis.
05:16Vous voyez, la question est celle de l'emprise.
05:19Alors...
05:20D'ailleurs, sur, justement, l'emprise,
05:22parce que vous dites que vous n'avez pas du tout envie
05:25d'aider OpenAI et Tchadjupiti
05:27à corriger son apprentissage,
05:30et donc à lui dire,
05:31ben non, je ne suis pas mort,
05:32et à lui donner les bonnes infos,
05:33mais d'un autre côté,
05:35vous dites que toute résistance est illusoire.
05:38On est fichus, quoi.
05:40Ah non, pas du tout.
05:42Simplement, je vois pas.
05:44C'est quand même comme ça que vous terminez le chapitre.
05:47Moi, je l'ai dévoré le livre,
05:49alors attention, je peux vous citer.
05:50Vous dites, toute résistance est illusoire aujourd'hui.
05:54Alors, je ne parle là que de l'intelligence générative
05:58grand public,
05:59parce que, bon, on nous dit toujours,
06:03oui, mais c'est très utile en médecine
06:05pour lire les radios, etc.
06:06Mais ça n'a rien à voir.
06:08Ça a été inventé pour guider les fusées
06:10pendant la guerre des étoiles en 1985.
06:13Bon, en reconnaissance de forme,
06:16c'est très bon en l'IA.
06:17Sauf que là, c'est l'IA générative grand public,
06:20c'est-à-dire quelqu'un qui vous...
06:21Quelqu'un, quelque chose qui vous parle,
06:24et il y a une autorité,
06:25et il cherche à vous prendre du temps,
06:27puisque c'est ça qui est monétisé.
06:30C'est-à-dire qu'on a monétisé
06:31l'ensemble des ressources terrestres,
06:33mais la vie intime n'avait pas encore été monétisée.
06:36Et ça, c'est ce qui a été dit
06:39être le pétrole du XXe siècle.
06:42Donc, les réseaux sociaux ont servi
06:45à accumuler les données personnelles,
06:48et l'IA s'en est servi.
06:49Ce sont les mêmes firmes, ces métas.
06:52Et la force de TikTok,
06:54c'est qu'ils avaient un bassin d'utilisateurs
06:59par centaines de millions,
07:02plus grands que les Américains.
07:04Donc, c'est spécialement addictif,
07:06parce que tous les biais sont là,
07:08y compris des biais comme celui
07:12de la récompense aléatoire
07:13qui est utilisée dans les casinos
07:14pour les bandits manchots.
07:16Vous voyez, derrière ça,
07:17il y a le neuromarketing.
07:20Et ça, c'est des décennies de recherches
07:22et de succès.
07:24Alors, vous dites,
07:25parce que je voulais quand même
07:26sur l'avant-propos,
07:28j'ai trouvé que c'était intéressant
07:29que vous dites que l'IA réunit
07:30trois thèmes majeurs de notre présent.
07:32Les données, donc,
07:34qui constituent le corpus d'apprentissage.
07:37La post-vérité.
07:39Et vous parlez même, en fait,
07:41de post-réalité.
07:43Vous allez nous expliquer
07:44ce que vous entendez par là.
07:45Et enfin, un projet transhumaniste,
07:48où là, vous allez jusqu'à parler,
07:50en fait, de totalitarisme
07:52à travers ces outils diagénératifs.
07:54Oui.
07:55Alors, il y a l'idée que
07:57l'homme doit être augmenté.
07:59C'est-à-dire, la condition humaine,
08:01c'est un peu une maladie à soigner.
08:05Alors, la mort est à soigner.
08:06Tous ces oligarques
08:08sont dans des logiques
08:11d'augmentation de la vie,
08:14enfin, disons,
08:16de partir dans des...
08:18Quand on aura usé cette planète,
08:19on va aller sur Mars,
08:20à ces musques.
08:22Avec la création de nouveaux mythes,
08:23nous dire des nouvelles religions.
08:24Oui, oui, oui.
08:25Et avec la question
08:27de l'autorité politique.
08:29J'ai entendu à la radio France Inter,
08:32le président d'une commission
08:35d'éthique officielle française
08:37dire, le prochain président de la République
08:42devrait savoir coder.
08:44Ce qui élimine d'emblée
08:45tous les candidats actuels.
08:49Et ça veut dire aussi
08:50que la question du pouvoir
08:52se pose.
08:53Et elle se pose
08:55de façon cruciale.
08:57Si bien que, par exemple,
08:59avant-hier,
09:00enfin, mardi,
09:02donc, il y a eu
09:04un appel
09:05de 10 prix Nobel,
09:07400 personnalités,
09:10dont des gens aussi
09:11de l'intelligence artificielle,
09:13pour dire,
09:14il faut absolument réguler ça,
09:16parce qu'ils sont tous
09:17dans une logique
09:18de fuite en avant
09:19de façon à avoir
09:21l'application tueuse
09:22qui va gagner sur les autres.
09:23Et donc,
09:24c'est l'aboutissement
09:25de la dérégulation.
09:26La dérégulation.
09:28Absolument.
09:30Open AI
09:30perd un milliard de dollars
09:32par mois.
09:34C'est quoi
09:35comme modèle économique ?
09:39Alors,
09:40vous parlez d'ailleurs
09:42de sa propre surestimation
09:44et vous donnez
09:45des explications.
09:46pourquoi est-ce qu'on
09:46surestime en fait
09:47les capacités
09:48de ces IA génératifs ?
09:49Vous dites d'abord
09:49parce que chez les informaticiens,
09:52il y a un souhait
09:52de maximiser les financements.
09:55Chez les industriels,
09:56c'est la volonté
09:56de créer des nouveaux produits
09:58et d'étendre la clientèle.
10:00Chez les décideurs,
10:00c'est parce qu'on a peur
10:01de rater le coche
10:02de la nouvelle innovation
10:04hyper prometteuse.
10:06Et puis,
10:06auprès du grand public,
10:07vous parlez de badauderie,
10:08c'est la volonté
10:09de croire au miracle.
10:10On est tous enfermés
10:11comme ça
10:12dans une bulle
10:13qui nous fait
10:13surestimer
10:15ces IA génératifs.
10:16Alors,
10:16c'est elles-mêmes
10:18qui ont créé
10:19cette hype.
10:20C'est les mêmes firmes,
10:22c'est Facebook,
10:23c'est etc.
10:23Donc,
10:24c'est Google...
10:25Oui,
10:25mais tout le monde suit,
10:26c'est quand même incroyable ça.
10:27Oui,
10:27et ça a été très vite,
10:28mais ça monte.
10:29Mais ce n'est pas le cas
10:30de toutes les innovations,
10:31François Rassé.
10:33Là,
10:34il y a aussi
10:35cette question
10:36et que vous travaillez
10:37très bien
10:38depuis nombreuses années,
10:39aussi cette question
10:40d'utilisation du langage
10:41qui était finalement
10:42juste le propre de l'humain
10:44d'un seul coup.
10:45on découvre
10:47que d'autres êtres,
10:48les logiciels,
10:49sont capables
10:49de langage,
10:50sont doués de langage.
10:51Même si on ne sait pas
10:52qui parle,
10:53à la limite,
10:54c'est une emprise supplémentaire.
10:57C'est une voix
10:58qui vient du ciel
10:59d'une certaine manière.
10:59qui a une autorité.
11:01Et là,
11:03on voit des jeunes diplômés,
11:05etc.
11:05Pour la moindre chose,
11:07ils veulent valider
11:08leurs déplacements,
11:10leurs voyages,
11:10leurs amours,
11:11etc.
11:12Et ils seraient désemparés
11:16maintenant,
11:17comme si on perdait
11:18son GPS en voiture,
11:19s'il n'y avait pas
11:21une validation.
11:22Donc,
11:22c'est une dépendance
11:23et c'est une dépendance
11:25à l'égard
11:26d'une firme
11:27qui va garder
11:29vos données.
11:30Parce que...
11:31C'est une dépendance
11:32en plus inquiétante
11:34parce que justement,
11:34vous faites la démonstration
11:35de cette insistance
11:36dans l'erreur
11:36de Tchadjivtik,
11:37concernant votre fausse mort
11:40qui vraiment...
11:41Et puis,
11:42on voit les incohérences,
11:43il change de date
11:43de décès aussi.
11:44au fur et à mesure,
11:46ils donnent des faux liens.
11:48Comment est-ce que
11:48vous expliquez
11:49qu'on fasse davantage
11:50confiance à ces IA génératives,
11:52qu'elles soient
11:52des autorités,
11:54alors qu'on ne sait pas
11:55qui parle,
11:56donc il n'y a pas
11:56cette garantie sociale,
11:58alors que les erreurs
12:00sont inhérentes
12:01et propres
12:02à leur mode
12:02de fonctionnement,
12:03finalement ?
12:04Oui,
12:04mais c'est vraisemblable.
12:05C'est-à-dire que
12:07Tchadjivtik,
12:09maintenant,
12:09il m'a ressuscité.
12:11Oui,
12:11vous êtes moins fâchés.
12:13Mais sans dire
12:17que c'était lui
12:18qui m'avait tué.
12:19Mais ce que je veux dire,
12:24c'est qu'on le croit
12:26parce qu'il est crédible.
12:28C'est-à-dire que
12:28quand il aligne
12:2960 notices nécrologiques
12:32tout à fait logieuses,
12:34à mon égard,
12:34j'étais très flatté,
12:35bien sûr,
12:36écrites par des collègues,
12:38etc.,
12:39en mettant les références,
12:40les liens,
12:41les liens pour consulter.
12:42Il y a un effet de réalité,
12:47si on peut dire,
12:48de réalité documentaire.
12:50Et le gros problème,
12:51c'est que l'ensemble du web
12:53depuis 2016
12:55est majoritairement créé
12:57par des robots.
12:58Et donc,
12:59ce que produit actuellement
13:00en masse
13:01l'intelligence artificielle
13:02va nourrir
13:03les intelligences artificielles
13:05à venir.
13:06Et donc,
13:07par exemple,
13:08les Russes,
13:08tous les jours,
13:09publient 1 400 narratifs
13:11différents sur la guerre
13:12en Ukraine
13:13qui sont traduits
13:14en 40 langues,
13:15si bien que si
13:16vous interrogez
13:19pour savoir
13:19si Zelensky
13:21a déclenché la guerre,
13:23vous avez 4 IA sur 10
13:24qui vont vous dire oui.
13:26Et bientôt,
13:27ce sera 10 sur 10.
13:28Parce que ça,
13:29vous expliquez très très bien
13:31comment fonctionnent
13:32ces IA génératifs.
13:33Vous avez travaillé
13:33dans un laboratoire
13:34d'intelligence artificielle,
13:35donc vous savez
13:36de quoi vous parlez aussi.
13:37Vous parlez du problème
13:38du corpus d'entraînement.
13:41Oui.
13:41Alors,
13:42si vous prenez
13:42le web,
13:46c'est...
13:48Et du corpus d'entraînement
13:49sans supervision,
13:50c'est-à-dire,
13:51on ne sait pas exactement
13:52comment ont été entraînés
13:54ces IA,
13:54avec quel contenu.
13:55Quand on mélange le faux
13:56et le vrai,
13:57c'est le faux
13:58qui l'emporte.
14:00Par définition,
14:01c'était le secret
14:02de l'assistant de Beria
14:05qui était...
14:08Alors ça,
14:10c'est typique
14:11du totalitarisme,
14:12c'est-à-dire,
14:13il y a une vérité
14:15qui est mélangée...
14:16Enfin,
14:17le faux et le vrai
14:18sont mélangés
14:19et il est impossible
14:20de distinguer
14:21si bien que ça finit
14:23par être intériorisé.
14:25mais...
14:26Ça donne du corps,
14:27finalement,
14:27à la fausse information.
14:28Voilà,
14:28c'est-à-dire,
14:28il y a n'importe quoi
14:29sur X
14:30et donc,
14:32ce n'importe quoi
14:33sert de corpus
14:35d'entraînement.
14:36C'est officiel.
14:39Alors,
14:40je voulais,
14:40parce que ça passe
14:41très vite le temps,
14:42vous savez,
14:42à la télé,
14:43je voulais qu'on passe
14:44à un exercice
14:45où je vous pose
14:46des questions binaires
14:47pour que vous puissiez
14:49me répondre
14:49assez rapidement.
14:52On commence ?
14:53Vous êtes prêts ?
14:53Oui, oui.
14:54Allez,
14:54Donc,
14:55oui ou non,
14:55on devrait restreindre
14:57les usages
14:58des IA génératives ?
15:00Il faudrait déjà
15:01que les écoles
15:02soient des endroits
15:03sans écran.
15:04Le seul endroit
15:05au monde
15:05sans écran,
15:06ça pourrait être
15:07l'école
15:07et tous les décideurs
15:13vont dans le sens contraire.
15:14Parce que ça,
15:15c'était ma deuxième question.
15:16Pour ou compte
15:16l'IA à l'école ?
15:18Oui,
15:18alors,
15:19franchement,
15:20non,
15:20non,
15:20parce que
15:21qu'est-ce qu'on transmet ?
15:24Est-ce qu'une IA peut transmettre ?
15:26Ce n'est pas sûr du tout.
15:27On a fait des expériences
15:28avec les MOOC,
15:30etc.
15:30Enfin,
15:30tout ce qui était
15:31apprentissage virtuel,
15:33ça n'a jamais été.
15:33Mais là,
15:34c'est un simple outil
15:35technique supplémentaire.
15:36Ce serait un outil
15:37technique supplémentaire,
15:38mais ça ne remplacera.
15:42Il y a la question
15:43de la dette symbolique.
15:44On n'est pas en dette
15:45à l'égard d'une machine
15:46ou alors on est
15:48dans le délire.
15:50Vous voyez ?
15:51Et pourquoi
15:52est-ce qu'un gamin
15:54décide d'aller
15:56dans un sens
15:56ou dans un autre ?
15:57En général,
15:58c'est à cause d'un prof.
16:00Allez,
16:01on continue.
16:01Vrai ou faux,
16:02les IA génératives
16:04sont des machines
16:04à désinformer ?
16:06À désinformer.
16:09À désinformer.
16:10Oui.
16:11Ah, vous dites ?
16:11Désinformer.
16:13Disons,
16:13elles sont complètement neutres.
16:15Elles se foutent
16:16complètement
16:17de la nature
16:20des informations
16:21qu'elles transmettent
16:22puisque ce sont
16:23des chaînes de caractère.
16:24Attention,
16:25c'est des documents,
16:26ce n'est pas des textes.
16:27Ce sont des chaînes
16:28de caractère.
16:28Elles vont vous les recracher
16:29sans aucun problème.
16:31Orwell avait
16:32vu ça en 1946.
16:34Il dit
16:34la pire écriture moderne,
16:36c'est de mettre
16:36ensemble
16:37des groupes de mots.
16:39Là,
16:39il critiquait
16:40le journalisme.
16:41Mais là,
16:41c'est du journalisme
16:42généralisé
16:43qui est devenu,
16:44si on peut dire.
16:45Du mauvais journalisme,
16:46s'il vous plaît.
16:46Du mauvais journalisme.
16:47Non,
16:48mais je veux dire,
16:48il avait en plus
16:49cette désinformation
16:51qui existait déjà
16:52dans le totalitarisme.
16:54Bon,
16:54est-ce que vous avez
16:55quand même
16:56une certaine admiration
16:57ou alors pas du tout
16:58pour l'habileté
16:59avec laquelle
16:59c'est Tchad Bat
17:00manie le langage ?
17:02Alors,
17:03en fait,
17:04c'est des humains
17:04qui manient le langage,
17:05c'est-à-dire que
17:06ils ont,
17:08les corpus d'apprentissage
17:10sont corrects.
17:11Alors,
17:11c'est comme ça
17:12qu'on détecte
17:15les textes générés
17:17par l'IA,
17:18ils sont plus corrects
17:19que les textes
17:20générés par les humains.
17:22Et dans les universités,
17:24ça fait trois ans
17:25qu'on a plus d'une chose
17:26d'orthographe.
17:27Donc,
17:28il y a aussi
17:28une perte d'expertise
17:30massive,
17:30c'est-à-dire que
17:31les gens vont sortir
17:32diplômés,
17:33mais ils n'auront rien lu,
17:34simplement,
17:36ils auront donné
17:36les PDF.
17:37J'avais encore
17:38plein de questions
17:39à vous poser,
17:39François Rastier,
17:40mais on arrive
17:41à la fin
17:41de cette grande interview.
17:43Je rappelle que
17:43vous êtes linguiste,
17:45directeur de recherche
17:45et mérites au CNRS,
17:46auteur de
17:47L'IA Mathieu,
17:48comprendre un monde
17:49post-humain
17:50aux éditions Interval.
17:52C'est un livre
17:53passionnant,
17:53je vous le conseille
17:54à tous,
17:55ça démarre par votre
17:55fausse mort
17:57qui nous permet
17:57de mieux comprendre
17:58ce qui nous arrive
17:59véritablement.
18:00Merci beaucoup,
18:02à très bientôt.
18:02Sous-titrage Société Radio
Recommandations
16:26
|
À suivre
5:17
6:06
11:20
4:41
6:08
3:37
16:41
5:58
Écris le tout premier commentaire