00:00Bienvenue à l'heure des livres Abel Quentin.
00:02Bonjour.
00:02Alors on vous connaît, vous êtes avocat de formation,
00:04mais vous avez fait un nom en littérature,
00:07en quelques romans à peine, ça a commencé par Sœur,
00:09il y a eu Le Voyant des Temps, il y a eu Cabane,
00:10et aujourd'hui Sanctuaire, qui est paru aux éditions de l'Observatoire.
00:15Alors c'est entre l'essai et le roman,
00:19en tout cas c'est une forme de pamphlet plutôt mordant,
00:23avec la plume ironique qui vous est propre.
00:28Alors à vous lire, on peut se demander d'ailleurs
00:30si vous n'êtes pas devenu une forme de lanceur d'alerte,
00:33en tout cas d'écrivain engagé,
00:35parce que dans chacun de vos livres,
00:37vous aviez un sujet de prédilection,
00:40dans Sœur c'était l'islamisme,
00:44dans Cabane c'était l'avenir de la planète,
00:46et puis dans Le Voyant des Temples, le wokisme,
00:49et là c'est l'essor de l'intelligence artificielle et générative.
00:54Peut-être d'ailleurs que vous nous ferez une petite différence
00:56entre les deux.
00:58Pourquoi ce choix ?
01:00Pourquoi cet engagement ?
01:02Il y a une filiation entre mon dernier livre, Cabane,
01:04qui parlait, comme vous le disiez,
01:07de nos échecs sur le terrain du climat,
01:10et au fond je parlais de ces années 70,
01:13où il y avait des lanceurs d'alerte sur le tout,
01:14les premiers lanceurs d'alerte,
01:15on était en 1972,
01:17et bien là je considère que sur cette question
01:20de l'intelligence artificielle,
01:21on est à nouveau en 1972,
01:22c'est-à-dire un commencement,
01:24et avec finalement les mêmes folies,
01:29la même démesure qui se profile,
01:31et je crois qu'on peut tirer des leçons de l'histoire,
01:36plus ou moins lointaines,
01:37et aussi récentes sur les réseaux sociaux,
01:39pour ne pas s'embarquer dans des aventures
01:42que l'on ne méprise pas,
01:44et essayer de reprendre le contrôle de notre destin.
01:46Alors, vous avez décidé de consacrer ce livre,
01:49dans lequel vous vous dressez,
01:51un véritable réquisitoire en fait,
01:53à l'encontre de l'intelligence artificielle
01:56et des risques qu'elle fait encourir,
02:01certains parlent d'une révolution anthropologique,
02:04qu'est-ce qu'elle met en jeu ?
02:05Qu'est-ce qu'elle menace le plus ?
02:07Elle menace énormément de choses,
02:09et donc justement j'ai fait un livre presque un peu généraliste,
02:11avec un ton pamphlétaire assumé,
02:14où j'explique qu'il faut faire
02:15une comptabilité,
02:16il faut faire des comptes,
02:17et ne pas aborder cette question
02:19de façon séquencée,
02:20l'IA et la santé,
02:21l'IA et l'éducation,
02:22et que se poser la question
02:24de savoir si ces technologies
02:27sont un bénéfice net ou non pour la société,
02:30ça demande de regarder beaucoup de choses,
02:32c'est-à-dire de se poser la question
02:34de l'écologie,
02:35se poser la question de l'éducation,
02:36se poser la question de l'anthropologie,
02:39de notre façon d'être au monde,
02:42de beaucoup d'aspects,
02:43et bien sûr qu'il y a des avantages évidemment,
02:45et mon livre en parle,
02:47c'est-à-dire que mon livre n'est pas
02:48une sorte de cri technophobe primaire,
02:50enfin j'espère pas,
02:51et il constate bien sûr
02:53que pour beaucoup il y a un confort immédiat,
02:55d'ailleurs très très séduisant,
02:56une attractivité extrêmement forte,
02:59mais je considère qu'on ne peut pas s'en tenir là,
03:01on est obligé de mettre ses gains
03:03à court terme,
03:04en relation avec ce qui est détruit,
03:05et ce qui est détruit
03:06est parfois moins visible,
03:08moins mesurable,
03:10et parfois à long terme,
03:12alors que les bénéfices sont à court terme,
03:13mais il faut faire cette comptabilité-là,
03:16et c'est ce que j'essaye de faire
03:17avec mes moyens,
03:18et avec ce ton-là dans ce livre.
03:21Oui, donc ça se lit bien plus aisément
03:23que pourrait l'être un essai classique.
03:28Alors selon vous,
03:30enfin ce que vous disiez à l'instant,
03:31qu'il y a une forme de déni,
03:33d'inertie comme il y a eu face
03:34au changement climatique,
03:36comment l'expliquer,
03:37finalement comment expliquer
03:38que cette question
03:39qui devrait mobiliser
03:41énormément de penseurs,
03:42d'intellectuels,
03:42il y en a certains qui le font,
03:44finalement n'intéressent pas grand monde,
03:46sauf j'allais dire,
03:47il y a eu récemment
03:47cette encyclique du pape
03:50qui a abordé ce sujet,
03:52en parlant même
03:53de désarmer la nécessité
03:54de désarmer l'intelligence artificielle.
03:56Qu'en avez-vous pensé
03:57que c'est positif
03:58qu'il y ait une telle intervention ?
04:00C'est très positif,
04:01il parle même d'esclavage,
04:03il parle de nouvelles colonisations,
04:05donc il y a des mots
04:06très très forts
04:07et surtout c'est une encyclique,
04:09qu'on soit,
04:09moi je ne suis pas particulièrement croyant,
04:11mais qu'on soit croyant ou pas croyant,
04:12c'est important
04:12qu'un leader moral
04:15dise des choses
04:16qui viennent un peu percuter
04:17tous ces poncifs
04:18qui sont dans l'air,
04:19très très gazeux,
04:20comme le fait
04:20que c'est seulement un outil,
04:21qu'il suffit de l'humaniser
04:24et puis ça va bien se passer,
04:25ça dépend ce qu'on en fait.
04:27Et voilà,
04:28Léon XIV dit notamment
04:30que cet outil n'est pas neutre,
04:32ça n'est pas un outil d'air,
04:33c'est une machine,
04:33elle agit sur nous,
04:34donc il ne faut pas se leurrer
04:35en s'imaginant
04:36qu'on peut en retrancher
04:38les effets pervers,
04:39les effets secondaires
04:41et n'en garder que le bien.
04:43Pour moi,
04:43elle est structurellement,
04:44si vous voulez,
04:44l'IA générative,
04:46elle est fondée par exemple
04:47sur le pillage d'œuvres massifs,
04:49c'est-à-dire que
04:50sans ce pillage d'œuvres,
04:52elle n'est pas viable,
04:53elle n'aurait pas pu exister,
04:54elle n'aurait pas pu conquérir
04:55des centaines de millions d'utilisateurs.
04:57L'IA générative,
04:58elle est fondée
04:58sur ce qu'on appelle
05:02en langage naturel avec le robot
05:03et que ça crée évidemment
05:05des risques d'addiction monstrueux.
05:07Et ces choses-là
05:07font partie de la définition
05:09de la technologie elle-même,
05:10donc il y a une sorte d'illusion
05:11à penser qu'on va pouvoir
05:13faire une sorte de
05:14d'IA vertueuse.
05:15Et donc là-dessus,
05:16presque,
05:16j'irai un peu plus loin
05:17que le Lyon XIV
05:18qui lui reste quand même
05:20peut-être dans cet espoir-là.
05:22Est-ce qu'à la différence
05:24des grandes révolutions technologiques
05:26qu'il y a déjà eues,
05:28la différence,
05:29c'est que la machine
05:30risque d'échapper
05:30à son créateur
05:32c'est ça le danger ?
05:33À vrai dire,
05:34ce n'est pas ce qui m'inquiète
05:35le plus.
05:35Et justement,
05:36dans le livre,
05:36ce que j'essaie d'expliquer,
05:38c'est que cette peur finalement
05:39du scénario à la Terminator
05:42est d'ailleurs parfois agitée
05:44par les acteurs de la tech
05:45elles-mêmes
05:46comme finalement
05:47un voile d'opacité
05:50qui nous empêche
05:50de regarder ce qui est détruit
05:52maintenant,
05:52ici et maintenant,
05:53de façon moins spectaculaire.
05:56Et donc parler par exemple
05:57d'un risque
05:58de robots tueurs,
05:59de super intelligences artificielles
06:01que font à longueur d'interview
06:02les patrons d'OpenEI,
06:04d'Enthropic,
06:05c'est une façon
06:06de ne pas parler
06:07de cet IA moins spectaculaire
06:09qui est dans nos poches,
06:10qui est HGPT et qu'on sort
06:11et qui crée des...
06:14qui sape
06:15en fait
06:16notre esprit critique
06:18de façon quotidienne,
06:19beaucoup plus insidieuse,
06:20beaucoup moins spectaculaire.
06:21c'est pour ça que je me méfie
06:23du catastrophisme
06:25en technicolore,
06:26si vous voulez.
06:26– Oui,
06:27et alors il y en a
06:28que vous avez un peu
06:28dans le nez,
06:29je peux dire,
06:29c'est un peu les géants
06:31de la tech
06:31et ce discours
06:33assez anesthésiant,
06:36finalement,
06:37pas très clair d'ailleurs,
06:38qu'ils tiennent
06:39afin de faire passer
06:39la pilule
06:40d'une certaine façon.
06:41– Oui,
06:41c'est un nombre de poncifs,
06:42donc c'est pour ça
06:43que c'est comme une pâtisserie
06:45pour un écrivain,
06:46si vous voulez.
06:46Moi, je suis un écrivain
06:47qui aime bien
06:48m'en prendre au poncif,
06:49pas seulement d'ailleurs
06:50par plaisir
06:52ou par amusement,
06:53c'est que je crois
06:53que l'écrivain,
06:54il est là pour appeler
06:55un chat un chat.
06:56C'était une phrase
06:56de Jean-Paul Sartre
06:57dans un texte
06:58qui s'appelle
06:58« Qu'est-ce que la littérature ? »
07:00et appeler un chat un chat,
07:01c'est évidemment,
07:03du coup,
07:03essayer de déconstruire
07:04toutes ces paroles
07:05qui ne veulent rien dire.
07:06L'IA va stimuler
07:07votre créativité
07:08quand elle prend en charge
07:09la créativité.
07:11L'IA va nous permettre
07:14de dépasser
07:14de nouvelles frontières,
07:15va nous augmenter
07:16quand elle nous diminue.
07:17L'IA,
07:18qui sont agités
07:21comme des espèces
07:22de mantras
07:22sans queue ni tête
07:23par des gens
07:24qui parlent
07:25de façon robotique
07:26à la manière
07:27des technologies
07:28qu'ils promeuvent.
07:30Et pour moi,
07:31ça peut être
07:31le rôle d'un écrivain
07:32que de nous ramener
07:35sur le plancher
07:35des vaches,
07:35justement.
07:38Votre livre
07:39s'appelle Sanctuaire
07:40parce que ce que
07:41vous suggérez,
07:42c'est qu'il y ait
07:42justement la création
07:43de sanctuaires
07:44qui soient complètement
07:47interdits,
07:47des zones interdites
07:48à l'intelligence artificielle.
07:50Je dis deux choses.
07:51Il y a ce que la loi
07:53pourrait faire.
07:54Évidemment que
07:55si on souhaite
07:56que notre civilisation
07:57ait encore quelque chose
07:58à dire au monde,
07:59qu'on garde une jeunesse
08:00alerte,
08:00qu'il ne soit pas
08:01totalement intoxiqué,
08:02il faudra à un moment donné
08:02que le législateur,
08:04le politique s'en occupe.
08:06Mais seulement sans attendre,
08:07il y a des choses
08:08qu'on peut faire.
08:08Moi, je dis quelque chose
08:09de très très simple,
08:10c'est que la première chose,
08:11c'est de ne pas l'utiliser,
08:12c'est-à-dire de la boycotter.
08:13En réalité,
08:14la moitié des Français,
08:15elle n'en le choure pas.
08:17Les deux tiers des usages,
08:18nous disent des études,
08:18sont des usages récréatifs,
08:20personnels.
08:21Donc, ça n'a rien à voir
08:22avec le fait de rattraper
08:23les Chinois et les Américains.
08:24Là, la recherche médicale
08:26n'a strictement rien à voir
08:27avec les IA génératives
08:29bâties sur des grands modèles
08:30de langage.
08:31Donc, on peut parfaitement
08:32faire de la recherche médicale
08:34sans avoir tchat GPT
08:36dans les millions de poches.
08:37Et ensuite,
08:38il y a l'idée de sanctuaire.
08:39Sanctuaire, c'était l'idée
08:41d'avoir des endroits
08:43que l'on préserve.
08:44C'est, par exemple, l'école.
08:46Il y a un gros débat.
08:47Est-ce que l'école doit être
08:48un sanctuaire ou pas ?
08:48C'est un gros débat
08:50qui agite la communauté éducative.
08:53Moi, je pense qu'elle doit l'être.
08:55Et ensuite, cette notion,
08:57je l'avais imaginée souple,
08:59c'est-à-dire pouvant désigner
08:59également une œuvre.
09:00Moi, j'écris sur le livre.
09:01Il y a une question
09:02qui est posée à la littérature.
09:03Est-ce qu'on peut entrer
09:05dans une maison sûre ?
09:06Et moi, je veux dire à mon lecteur,
09:08mes livres à venir,
09:09ce livre-là,
09:09ce sont des maisons sûres.
09:11Et voilà, on a entendu
09:12l'Académie des Oscars
09:13expliquer qu'ils allaient
09:15sanctuariser leur prise.
09:16C'est des choses
09:18que l'on peut faire tout de suite.
09:20Et j'ai envie de dire,
09:21quelle que soit la possibilité technique
09:23de vérifier tout ça,
09:24il faut le faire
09:25parce que d'abord,
09:25c'est poser un geste symbolique.
09:27C'est-à-dire,
09:28je fais une hiérarchie.
09:29Ce n'est pas la même chose
09:30de faire une œuvre d'art
09:32ou de l'esprit
09:33avec l'aide d'une machine
09:34que de la faire
09:34avec ses moyens humains.
09:36En tout cas,
09:37je vous conseille vraiment
09:38de lire ce livre.
09:39Ça s'appelle donc Sanctuaire.
09:40C'est paru aux éditions
09:41de l'Observatoire.
09:42Toujours cette patte
09:43qui vous est propre,
09:44que l'on retrouve
09:45dans tous ceux
09:46qui ont aimé
09:47en Pécabane
09:47et aussi sœurs.
09:50Merci beaucoup,
09:51Abel Quentin.
09:52Merci Anne Fulda.
Commentaires