00:00Indépendamment des liens bien réels que nous avons évoqués entre l'IA et la destruction des écosystèmes et l'exploitation des pays du Sud,
00:08ma question serait plutôt n'est-elle pas en tant que telle et même sans cela une gigantesque faillite, c'est-à-dire un effondrement de notre puissance d'être,
00:18pour ne pas dire une arme de destruction massive, puisque nous avons vu l'effet de ces utilisations en temps de guerre.
00:30Alors je reviens un instant sur la puissance, le mot que j'ai employé ce matin, parce que j'en suis arrivé à la conclusion que c'est un peu ce sur quoi on ne peut pas ne pas être en accord.
00:41Ce que je veux dire, c'est que c'est quand même un peu délicat d'asséner des vérités, avec assurance, quand il s'agit d'un choix par essence contingent.
00:48Vous et moi, nous ne sommes pas forcément d'accord sur tout, et bien évidemment, je n'ai pas forcément raison quand il s'agit d'un critère esthétique.
00:55Certains peuvent aimer les oiseaux et les plantes, d'autres préférer le béton et le métal, on ne va pas durer très longtemps avec les seconds,
01:04mais je ne nie pas qu'il y a une diversité de désirs et de manières de souhaiter habiter cette planète.
01:12Il y a quand même un commun, c'est que nous sommes vivants et que nous voulons vivre.
01:17Et c'est cela, je crois, qui se manifeste dans la puissance d'être.
01:20C'est un peu ce que théorisait Bergson, précisément d'ailleurs en réponse au scientisme.
01:26Il disait en un sens très particulier qui n'est pas le sens physique, que les êtres vivants ne conservent pas l'énergie.
01:31Et c'est aussi ce qu'à sa façon théorisait Kierkegaard.
01:35Si on se laisse remplacer par des machines, on accepte de devenir les rouages, les outils d'un méta-projet.
01:42Mais quel est-il ? Est-ce qu'on a envie que notre vitalité devienne un instrument, le moyen d'une optimisation de l'artificialisation du réel ?
01:53Honnêtement, ça devient presque Matrix.
01:55Parce qu'on n'est pas en train de se mettre en rang pour sauver le monde.
01:59On pourrait faire des efforts pour ça, se dire bon je renonce un peu à ma liberté, mais c'est pour dévier un astéroïde qui va tous nous détruire.
02:06Dans ce cas-là, pourquoi pas ? En réalité, on est aujourd'hui en train de se mettre en rang pour détruire le monde.
02:12La vie est, me semble-t-il, à elle-même sa propre fin, ou éventuellement un projet spirituel, si certains ou certaines le désirent.
02:21Mais elle est le contraire d'un rouage lui-même assujetti à un processus suicidaire et prédateur.
02:29Alors on connaît les affres de l'IA, j'en ai mentionné quelques-uns, intelligence artificielle en introduction,
02:34consommation, pollution, néocolonialisme, failles de sécurité, addiction, généralisation de la désinformation, censure, etc.
02:41Mais ce n'est pas le pire. A mon avis, la question fondamentale n'est pas de savoir s'il faut ou non décarboner l'IA.
02:50Parce que bien sûr, l'IA émet énormément de CO2. Et, spoiler, on n'y arrivera pas.
02:55Mais la question, c'est plutôt de se dire, même si on y parvenait, ce qui est faux,
03:00est-ce que nous voudrions que des algorithmes, qui n'ont rien d'intelligent en réalité, produisent un réel prévisible, normé, calculé,
03:07sans exubérance et sans protubérance, sans bifurcation et sans imprévu, adapté à la surveillance de masse et formaté à la rentabilité ?
03:17Voulons-nous que les publicités soient ciblées pour décupler nos addictions ?
03:21Que les contenus pseudo-informationnels soient choisis pour confronter nos convictions ?
03:26Si vous croyez que la Terre est plate, si vous croyez que les vaccins sont globalement nocifs,
03:30YouTube vous proposera du contenu qui corrobore ses croyances erronées.
03:35Voulons-nous donc qu'il en soit ainsi que nos curriculum vitae, et c'est déjà le cas, sachez-le, soient lus par des machines,
03:43que la finance mondiale, qui nous gouverne dans une large mesure, soit régie par des programmes dont,
03:48de l'aveu même de leurs créateurs, plus personne ne comprend le fonctionnement ni les attentes,
03:54que nos assurances et vulnérabilités soient calculées en fonction de probabilités objectivées,
04:00que nos amis ou nos amants soient sélectionnés par des filtres normalisés.
04:04C'est déjà le cas. Vos enfants vont choisir leur conjoint grâce à l'algo de YouTube, de Facebook plutôt,
04:11ou de Snap ou de Insta, qui va choisir ceux qui apparaissent dans leur fil d'actualité,
04:17et donc ceux avec lesquels ils vont engager des conversations et éventuellement flirter.
04:21Souhaitons-nous que nos complaintes et suppliques, adressés par exemple à l'administration ou à l'État,
04:28soient traités par des agents conversationnels, des bots, dont on sait tous qu'ils ne marchent jamais,
04:33mais qui se généralisent partout.
04:35Que nos créations soient supplantées par des interpolations,
04:39que les frappes militaires soient concoctées par des ordinateurs.
04:42indépendamment des liens bien réels que nous avons évoqués entre l'IA et la destruction des écosystèmes,
04:49et l'exploitation des pays du Sud, ma question serait plutôt, n'est-elle pas en tant que telle,
04:54et même sans cela, une gigantesque faillite, c'est-à-dire un effondrement de notre puissance d'être,
05:00pour ne pas dire une arme de destruction massive, puisque nous avons vu l'effet de ces utilisations en temps de guerre.
05:07Je sais, je crois, ce que vous vous dites en ce moment.
05:13Il n'a pas complètement tort, mais quand même, il n'a pas complètement raison non plus,
05:17parce qu'il y a des aspects positifs.
05:20Oui, bien sûr.
05:22Mais tout mon point consiste à vous convaincre qu'on ne peut pas, qu'on ne doit pas penser ainsi.
05:29Vous êtes bien placés pour connaître, n'est-ce pas, le concept de balance-bénéfice-risque.
05:33En l'occurrence, il voudrait plutôt dire balance-bénéfice-coût.
05:36Et elle penche tellement fort, en l'occurrence, de façon objective du côté des coûts,
05:41que je trouve un peu obscène d'oser mettre les bénéfices sur la table,
05:45alors même qu'on n'entend que ça toute la journée.
05:48Nous sommes aujourd'hui dans la dernière bascule,
05:50c'est-à-dire la génération d'une dépendance à un outil qui n'est pas nécessaire,
05:54et qui est devenue vitale, parce que nous ne parvenons plus à envisager les alternatives.
06:00Je vous donne un exemple très concret de notre envoûtement intellectuel.
06:04Récemment, un sondage a été fait auprès de développeurs,
06:08donc des gens dont la création de codes informatiques est le métier.
06:12Et on leur a demandé combien de temps ils pensaient gagner grâce aux agents conversationnels,
06:17aux IA génératives de type GPT.
06:19Les réponses varient entre 13 et 32% de temps gagné.
06:22L'étude scientifique a chronométré les temps réels mis pour parvenir à certaines tâches.
06:30Et la réponse vraie est entre moins 2 et moins 40%.
06:33Autrement dit, on perd du temps, même quand on est un développeur,
06:37même quand on est un codeur.
06:39Et la raison est simple, en fait.
06:40C'est que le temps passé à écrire le prompt, on ne le compte pas,
06:44parce qu'on le considère comme gratuit.
06:45Le temps passé à corriger le prompt, on ne le compte pas.
06:48Le temps passé à renommer les librairies, on ne le compte pas.
06:51Parce qu'en fait, on a presque déifié l'IA.
06:54Et c'est pour ça qu'on lui donne ce privilège qui est factuellement déraisonnable.
06:59Grothendik, que je citais ce matin, le plus grand mathématicien du XXe siècle,
07:03expliquait très bien, je décontextualise un peu parce que l'IA n'existait pas encore,
07:08mais c'est vraiment l'idée,
07:10qu'un théorème mathématique qui serait généré par une IA
07:14aurait une valeur nulle, même s'il était vrai.
07:16Même en mathématiques, là je ne parle pas de poésie, de musique ou d'art plastique,
07:20c'est tout à fait évident dans ces cas-là.
07:22Même en mathématiques, parce que ce qui est intéressant dans un théorème,
07:25c'est la connivence que le chercheur ou la chercheuse développe avec lui,
07:29c'est l'exploration patiente du paysage autour du résultat.
07:33Si nous perdons ça, nous perdons tout.
07:36D'ailleurs, souvenons-nous que la science de la nature, la mienne, la physique,
07:40est née chez Lucrèce et que nous avons oublié les deux leçons,
07:43à savoir qu'elle est née dans un poème et qu'elle s'adossait à une éthique.
07:49Donc, au-delà des externalités négatives immenses,
07:54je ne prends pas le ton de vous parler des hidden prompts et des false packages,
07:58mais les problèmes de cybersécurité associés à l'IA sont assez réellement terrifiants.
08:03On est un peu en train de chercher le vaccin au virus que nous créons nous-mêmes,
08:09ce qui est quand même assez bêta.
08:11Je crois que la question est de savoir si nous voudrions que le réel soit régi
08:16par la forme la plus pauvre de toutes les dynamiques possibles,
08:20celle fondée sur la complétion probabiliste, c'est ce que fait GPT,
08:24tentant de reproduire le déjà connu.
08:26La seule question, me semble-t-il, est préférons-nous une vraie balade dans une vraie forêt
08:32ou la simulation, grâce aux électrodes qu'Elon Musk rêve d'implémenter dans nos cerveaux,
08:38de cette même balade depuis notre canapé en mangeant du pop-corn ?
08:42C'est à peine caricatural.
09:14Abonnez-vous !
Commentaires