00:00On peut éradiquer toutes les forêts du monde à la recherche de molécules ayant des vertus médicinales.
00:06Forcément, on en trouvera, et forcément, il y aura un gain pour la médecine.
00:10Et cinq ans après, on sera tous morts.
00:13Donc vous voyez qu'il ne suffit pas que quelque chose soit bon pour la médecine
00:16pour que ce soit bon pour la vie sur Terre.
00:19Et vous voyez que c'est un peu, et là encore, je m'excuse, je vais encore plus loin dans la caricature,
00:24mais c'est un peu comme si on disait qu'il faut autoriser les armes automatiques
00:27en vente libre ou en don libre et à tout âge.
00:30Et on mettrait en lumière que telle ou telle agression a été évitée.
00:34Parfait, en effet.
00:35Mais vous voyez bien que la balance bénéfice-risque n'a pas été évaluée
00:38et que c'est extrêmement malhonnête de ne regarder que les bénéfices,
00:41puisqu'en l'occurrence, bien évidemment, les dégâts seraient bien supérieurs.
00:45La médecine est en train d'être utilisée par les techno-prédateurs
00:58comme étant la mauvaise caution de toutes les dérives.
01:02Et je pense que c'est très important que vous vous empariez de ce mensonge.
01:07L'IA aujourd'hui, c'est une machine de négation de la vie.
01:10Et je crois que nous devenons son prisonnier plus que l'inverse.
01:13Nous nous obligeons à penser et à réagir
01:16pour être en conformité avec les attentes des IA.
01:19Et pas l'inverse.
01:20Récemment, un contrôleur m'a recommandé dans un train
01:23de faire écrire la réclamation par GPT
01:28parce que, m'a-t-il dit,
01:29elles sont lues par des bots à la SNCF.
01:32Et ce sont les robots qui parlent le mieux aux robots.
01:36C'est pas sérieux.
01:38C'est pas sérieux.
01:39Deuxièmement, toujours au niveau médical,
01:42est-ce qu'on est certain que ça fait du bien
01:45si on regarde un peu plus large ?
01:48Alors récemment, j'ai pris connaissance d'une situation intéressante
01:51et assez subtile en réalité.
01:54C'était le cas où peut-être le numérique et l'IA
01:57sont le plus évidemment utiles
02:00parce qu'il était question d'un dispensaire en Afrique
02:02où le médecin ne pouvait se rendre que de façon sporadique.
02:07Et donc, le dispensaire était essentiellement tenu
02:11par des infirmiers et infirmières
02:12qui, après plusieurs années de pratiques,
02:15parvenaient plutôt bien à poser des diagnostics simples
02:18et à administrer des traitements de base.
02:20Mais le médecin a eu l'idée d'utiliser des tablettes
02:23sur lesquelles il a implémenté une IA.
02:26Il se trouve qu'en effet,
02:28le diagnostic produit par un questionnaire détaillé
02:32a été un peu amélioré.
02:35C'est vrai.
02:36Résultat des courses,
02:38c'était plutôt mieux que le diagnostic
02:40par le personnel paramédical
02:42et peut-être même parfois d'ailleurs
02:43que par le personnel médical.
02:45Mais le médecin s'est posé alors une question toute simple.
02:48Comment les tablettes sont-elles fabriquées
02:50et comment est produite l'énergie qui les alimente ?
02:53Elle, parce que c'était une jeune femme,
02:54a enquêté et sa conclusion a été sans appel.
02:57Pour améliorer un peu le diagnostic dans le dispensaire,
03:00le coût est tellement exorbitant.
03:04Il faut de fait engendrer des conditions de vie abominables
03:07et vraiment, je pèse mes mots,
03:08pour les gamins qui vivent sur les lieux d'extraction,
03:11bien pire encore sur les lieux de décharge.
03:13Et c'est la conclusion à laquelle elle est arrivée.
03:16Finalement, cela conduit à engendrer
03:18beaucoup plus de morts ailleurs,
03:20loin de son regard,
03:22pour parvenir au mieux
03:23à peut-être une vie épargnée ici.
03:26Les cancers et maladies cardiovasculaires
03:29explosent littéralement.
03:30sur les lieux de production du numérique
03:33et les consommations associées
03:35participent significativement
03:37au réchauffement climatique global.
03:39Ça n'a aucun sens.
03:41Ce n'est pas sérieux
03:42de justifier une catastrophe globale
03:45par un gain local.
03:47Et là, on est dans le cas le plus favorable.
03:49Donc imaginez maintenant
03:50l'utilisation dans un hôpital parisien
03:52rempli de médecins,
03:54ou grenoblois d'ailleurs.
03:55Je crois qu'on ne peut pas se réjouir
03:58de ce qu'une tumeur a été décelée un peu plus tôt,
04:01ce qu'effectivement une IA sait faire,
04:05en ignorant tous les cas
04:07et toutes celles qui ont été engendrées
04:09par cette même IA,
04:11et dont on peut aujourd'hui être à peu près
04:12factuellement certain qu'elles sont bien plus nombreuses.
04:15Le médecin, dans le cas que j'évoque,
04:18a donc décidé de renoncer aux tablettes
04:21dans son dispensaire.
04:22C'est une histoire vraie.
04:23Mais savez-vous ce qui s'est passé ?
04:25La panique.
04:26La panique, parce qu'en quelques années seulement,
04:29plus personne ne savait faire quoi que ce soit
04:31sans tablettes.
04:32C'est ça la situation de monopole radical.
04:36Les infirmiers et infirmières
04:37paniquaient littéralement.
04:39Le numérique nous a fait désapprendre
04:41ce que nous savions faire,
04:43parfois très bien,
04:44parfois correctement,
04:45parfois parfaitement,
04:47avant son émergence.
04:49Sans la grande image
04:50et le renouveau des valeurs,
04:52je crois sincèrement
04:53que nous n'avons aucune chance.
04:55Je donne un dernier exemple trivial,
04:57hors du médical.
04:58Imaginez une IA qui optimise
05:00la régulation thermique de votre logement.
05:03Pas de perte de confort,
05:04mais une économie d'énergie et d'argent.
05:07Là, quand même,
05:08on ne peut pas nier qu'on gagne.
05:10On gagne, puisqu'on dépense moins d'argent
05:12et on dépense moins de fioul.
05:13Donc forcément, c'est quand même mieux.
05:16Même pas.
05:17Pourquoi même pas ?
05:18Parce que dans notre système de valeurs,
05:20qu'est-ce qu'on va faire avec l'argent économisé ?
05:22Un petit week-end à l'autre bout du monde
05:24ou un V6 pour la prochaine voiture
05:26parce que c'est quand même plus cool.
05:28Et c'est exactement ce qui se passe en pratique.
05:30Donc en fait,
05:31avec un résultat qui est souvent bien pire
05:33que les externalités
05:35de ce sur quoi nous avons économisé.
05:37Donc vous voyez que ce n'est pas un problème ingénérique,
05:39c'est un problème axiologique.
05:42Dernier argument de ce point
05:44qui est important pour vous
05:45et je crois qu'il faut le répéter.
05:48On ne peut même pas dire
05:50ce que peut-être certains d'entre vous
05:52ont en tête en ce moment.
05:53Bon allez, ok, ok.
05:55On arrête d'améliorer les bombes
05:57et les saloperies
05:58qui rendent nos enfants débiles.
06:00On veut juste, juste la techno
06:02pour les IRM et les TDM.
06:04Parce que ça, quand même, c'est bien.
06:06Mauvaise nouvelle, ça ne marche pas.
06:08Et ça ne marche pas du tout.
06:09Et c'est trivial la raison.
06:11Parce qu'en effet,
06:12la seule et unique raison
06:13pour laquelle les puces
06:14qui sont utilisées
06:15dans les instruments médicaux
06:17ont un coût accessible,
06:19c'est précisément
06:20parce qu'elles sont développées
06:21pour être produites
06:22à des millions d'exemplaires
06:24dans des gadgets addictifs
06:26ou dans des bombes.
06:27La techno adore les bombes
06:28parce que c'est usage unique.
06:30Après, il faut remplacer.
06:31Et donc, sérieusement,
06:33si on décidait de développer
06:34les technos juste pour les IRM,
06:37la machine ne coûterait pas un million.
06:39Elle coûterait un milliard.
06:40Donc, vous voyez bien
06:41que ce n'est pas économiquement tenable.
06:43Il n'y a pas d'amélioration des IRM
06:45s'il n'y a pas une économie de l'armée
06:47et une économie des gadgets derrière.
06:50Ce n'est pas possible.
06:51Il faut être un peu sérieux
06:52avec ces questions.
06:54Troisième et dernier point.
06:56J'ai presque fini.
06:58Est-ce qu'on est même certain
06:59que ça fait du bien aux patients ?
07:01Alors ça, évidemment,
07:01c'est le point le plus délicat.
07:03Mais je crois que même là,
07:04il faut être prudent.
07:06Alors, au premier ordre,
07:07oui, évidemment,
07:09si on utilise des moyens démesurés
07:10pour soigner quelqu'un,
07:12en oubliant toutes les externalités négatives
07:14sur la société,
07:15forcément, il y a, c'est vrai,
07:18un bénéfice pour lui ou pour elle.
07:20Mais même là,
07:21je crois quand même
07:22que c'est un peu plus subtil.
07:23Parce que souvent maintenant,
07:24vous le savez mieux que moi,
07:26peut-être pas dans les maisons de santé,
07:27mais en tout cas,
07:28dans beaucoup de cabinets de ville,
07:30les médecins tapent sur leur ordinateur
07:33pendant qu'on leur parle.
07:34Je le disais tout à l'heure.
07:36Et même si le diagnostic est bon,
07:38incontestablement,
07:39le patient est moins en confiance.
07:41Il ou elle avait aussi besoin
07:42de ce petit moment de connivence,
07:44d'une certaine solennité.
07:46Dans le huis clos du cabinet,
07:48je crois qu'il se passe quelque chose
07:49qui est infiniment plus important
07:51que la seule prescription
07:53des bonnes pilules.
07:54C'est un moment
07:55que le patient attend parfois
07:59depuis des semaines,
08:00surtout avec la tension actuelle
08:02du système de santé.
08:04C'est le moment
08:05où il ou elle va exprimer
08:07ce qu'il ne peut dire
08:08à personne d'autre.
08:09Parfois,
08:10il a passé des jours
08:11à choisir les mots justes.
08:12Il a peur.
08:14Et il ne veut pas
08:15d'une IA
08:16ou d'un médecin robot.
08:17Parce qu'il veut lire
08:18sur le visage du médecin
08:20le niveau de confiance
08:21de son diagnostic,
08:23la gravité de la situation.
08:24Il veut jauger l'espoir,
08:27non pas à l'aune
08:27d'une probabilité objectivée
08:29que GPT peut lui donner,
08:31mais dans les yeux du docteur.
08:33Je crois que les comptes rendus
08:34d'hospitalisation
08:35qui sont aujourd'hui
08:36largement écrits par GPT
08:37sont devenus un désastre.
08:40Vous savez que les patients
08:41soupesaient chaque mot
08:42choisi par le médecin
08:44ou par l'équipe.
08:45Peu importe
08:46qu'il y ait quelques fautes,
08:47ce n'était pas très grave.
08:48Maintenant,
08:49ils ont des trucs stéréotypés
08:50qui sont moches,
08:51chiants,
08:52anxiogènes,
08:53mais surtout insignifiants
08:55et qui sont bien pires
08:56que les quelques fautes
08:58d'orthographe
08:59ou d'erreur
08:59ou de grammaire
09:01que faisaient parfois
09:02les internes.
09:03Je crois que c'est un peu
09:04comme l'enseignement,
09:05vous savez,
09:06pour moi.
09:07Statistiquement,
09:08une IA pourrait faire
09:09moins de fautes
09:10qu'un professeur.
09:12Mais qui veut de ce monde ?
09:13Même si on oublie
09:15ce qu'on ne doit pas faire,
09:16que la techno nous tue par ailleurs
09:18et qu'elle est donc indéfendable,
09:20je ne suis vraiment pas convaincu
09:21de leur bénéfice direct.
09:23Sincèrement,
09:24je préfère écouter
09:24un prof d'histoire
09:25qui fait une petite faute
09:26sur les dates,
09:27mais qui transmet sa passion,
09:29sa bienveillance,
09:30ses indignations,
09:31ses révoltes,
09:32qui a dans les yeux
09:32l'amour
09:33dont parlait Pasolini,
09:34qui a un putain de texte
09:35de GPT
09:36qui est lisse
09:37comme la mort
09:37et pauvre
09:38comme l'acier.
09:40Voilà,
09:40j'ai essayé de vous montrer
09:41que l'excuse
09:43qui consiste à dire
09:44« La techno est là,
09:46donc autant l'utiliser
09:47pour la médecine »
09:49est mauvaise.
09:50Et je crois que
09:50quelle que soit
09:51la façon dont on la considère,
09:52elle doit être questionnée.
09:55Soyez, s'il vous plaît,
09:56à la hauteur
09:56de l'enjeu civilisationnel
09:58comme à celle
10:00de la grandeur
10:01de votre profession.
10:02Ne vous laissez pas duper
10:03et récupérer.
10:05Merci.
Commentaires