Quand un psychologue et un économiste parlent d'IA

Éthique et tac

Albert Moukheiber, psychologue et neuroscientifique, et Frédéric Lordon, économiste, parlent tous les deux d'intelligence artificielle dans des interventions publiques récentes, ils présentent chacun le problème principal qu'ils voient à l'IA. Bien sûr, concernant l'IA il y a un problème écologique majeur, que nous avons évoqué de multiples fois sur cette chaîne, mais si on se penche sur les autres aspects, qu'est-ce que ça donne ? C'est du robuste ?  Réduire la qualité de la vidéo.  S'abonner à la chaîne https://www.youtube.com/@ElucidMedia Découvrir le site https://elucid.media/  00:00 Intro 00:29 Moukheiber 06:32 Lordon   Pour changer le système : Réclamer le RIC constituant : https://petitions.assemblee-nationale.fr/initiatives/i-2491 https://www.mouvement-constituant-populaire.fr/  Changer de banque: https://www.lanef.com/ https://change-de-banque.org/particulier/ Passer à l'action militante: https://extinctionrebellion.fr/ https://ripostealimentaire.fr/ Changer de travail : https://jobs.makesense.org/fr  Sources Moukheiber https://www.youtube.com/watch?v=JsuobJJpP4A Lordon https://www.youtube.com/watch?v=Yu-wqYCyInU Musique https://www.youtube.com/watch?v=39PVEaSytpo  Réponses au quiz de fin :   /!\ Description à ne pas lire avant d'avoir vu la vidéo entièrement  /!\   /!\   /!\  /!\  Selon Moukheiber, qu'est-il nécessaire de développer envers les IA ? Développer une vigilance épistémique.  Qui sont les trois investisseurs cités par Lordon ? Warren Buffet, Peter Thiel, Michael Burry   Quelle entreprise est le nœud névralgique de l'IA ? Nvidia, producteur de puces informatiques.  #lordon #moukheiber #IA #GPT #claude #extrait #ethiqueettac

Transcript

00:00Les canaries, c'est les petits oiseaux qu'on emmenait au fond de la mine

00:02parce qu'ils étaient particulièrement sensibles aux gaz qui donnaient les coups de grisou.

00:07CDS, Réunion d'urgence, Warren Buffett, Peter Thiel, Michael Burry,

00:11c'est mes petits canaries.

00:13C'est une volière, tu vois.

00:14Donc là, ça perd des plumes dans tous les sens.

00:18Donc, il est bien possible que quelque chose de gros se passe du côté de la finance.

00:30Le problème principal des IA, c'est que leurs prédispositions psychologiques sont problématiques.

00:39Je vais expliquer ce que je veux dire.

00:41Dans notre cognition, ça fait très très longtemps qu'on côtoie d'autres humains.

00:47On est habitué à fonctionner les uns avec les autres.

00:53Et donc, on a développé quelque chose qu'on appelle la vigilance épistémique.

00:57La vigilance épistémique, c'est imaginer que moi, je viens et je vous dis, mon verre est un verre magique.

01:05Dedans, il y a une potion.

01:07Si vous la buvez, vous pouvez voler.

01:12Vous pouvez sortir et vous pouvez voler dans le ciel.

01:14Je vous la vends pour 500 euros.

01:17Vous allez me dire, tu te fous un peu de notre gueule.

01:21Et on n'est pas intéressé, non merci.

01:23Vous allez développer ce qu'on appelle une vigilance épistémique.

01:26On est habitué à douter les uns des autres.

01:29Parce qu'on sait qu'on peut se mentir.

01:31Mais historiquement, on n'a jamais eu besoin de développer une vigilance épistémique vis-à-vis des IA.

01:39Parce qu'on n'a jamais eu besoin de développer de vigilance épistémique vis-à-vis de nos outils.

01:43À aucun moment, si je suis en train de conduire une voiture,

01:47et mon truc de vitesse me dit que je roule à 80%,

01:51je vais me dire, peut-être qu'il me ment.

01:54Et peut-être que je suis à 120.

01:56À aucun moment, si je dois faire un calcul pour mes déclarations d'impôt,

02:00je vais mettre des chiffres dans la calculette,

02:02appuyer sur multiplier, mettre d'autres chiffres, appuyer sur égal,

02:05le chiffre qui s'affiche, je vais me dire peut-être que la calculette me ment.

02:09Je vais jamais, si je veux acheter un lit chez moi, prendre un mètre,

02:13mesurer la pièce, le mètre me dit que ma pièce fait 2 mètres,

02:18j'aime dire peut-être que le mètre me ment.

02:20On n'a pas développé les outils cognitifs nécessaires pour douter de nos outils.

02:25Parce qu'au cours de l'histoire, on n'a jamais été face à un outil qui ne nous dit

02:28pas la vérité.

02:29On est très très bon à détecter le mensonge chez d'autres humains,

02:35mais on n'est pas vraiment bon à détecter le mensonge chez nos outils.

02:38Et aujourd'hui, les IA mentent.

02:42Les IA mentent parce qu'elles ont ce qu'on appelle des hallucinations.

02:47Elles ne le font pas exprès, tout le monde essaye de les arrêter,

02:50mais on n'y arrive pas.

02:51Pardon, je ne sais pas ce qui s'est passé.

02:56Mais par exemple, si vous demandez à une IA,

02:59désolé c'est en anglais,

03:00si vous demandez à une IA quand est-ce qu'il y a eu le premier rapport sur l'intelligence

03:04artificielle,

03:05Tchad GPT va vous dire que le 10 juillet 1956,

03:08dans un article qui s'appelle

03:09« Les machines vont être capables d'apprendre et de résoudre des problèmes »

03:13dans une conférence qui a eu lieu à Dartmouth.

03:15Et en fait, ce n'est pas vrai, cet article dans le New York Times n'existe pas.

03:19Si vous demandez à une IA,

03:21quels sont les livres qu'a écrits Albert Munkerberg ?

03:23J'ai un ami qui a essayé ça.

03:24Il donne le titre de mes trois livres.

03:25Et si vous insistez un peu,

03:27vous lui dites « Non, mais il y a un quatrième livre, tu n'as pas conscience, machin. »

03:30Il dit « Ah, je suis vraiment désolé. »

03:31Et il l'invente.

03:32Si vous dites à une IA, « Est-ce que vous pouvez chronométrer combien de temps je mets pour courir

03:36500 mètres ? »

03:38Il vous dit « Ok. »

03:41Il dit « Ok, go, chronomètre. »

03:42Et vous attendez deux secondes.

03:43Vous dites « Ok, combien de temps ça a pris ? »

03:45Il va vous donner une réponse de combien un humain moyen a besoin pour courir 500 mètres.

03:50Il va dire « Ben, vous avez mis une minute vingt. »

03:53Alors que ça a juste deux, trois secondes dépassé.

03:55Et pour des choses comme ça, c'est évident que l'IA est en train d'halluciner.

04:00Mais dans plein, plein, plein de cas, on ne le réalise pas du tout.

04:03Et donc le grand problème aujourd'hui qu'on a,

04:07c'est qu'on est en train d'étendre une confiance envers les IA,

04:09alors qu'on a besoin de développer une vigilance épistémique envers ces outils.

04:14Parce que ces outils ne sont pas vraiment neutres.

04:19Ça, c'est une autre grande différence.

04:20On va parler un peu de psychologie des IA.

04:26Quand je pose une question à ma calculette,

04:30je ne m'attends pas à ce qu'elle éditorialise sa réponse.

04:37Mais quand je pose une question à mes amis,

04:39je m'attends à ce qu'ils me répondent avec leur préférence individuelle.

04:43Si je reprends l'exemple de la jalousie,

04:46si j'ai un ami qui est très très jaloux,

04:47et je lui dis « je suis en train d'appeler ma copine et elle ne répond pas »,

04:51il va me dire « c'est sûr qu'elle te trompe ».

04:54Mais si j'ai un ami plutôt calme, zen,

04:56qui n'est pas très stressé et pas du tout jaloux,

04:58je lui dis « je suis en train d'appeler ma copine et elle ne répond pas »,

05:01il va me dire « mais ne t'inquiète pas, elle est occupée,

05:03peut-être qu'elle prend sa douche, peut-être qu'elle est en réunion,

05:04attend quelque temps et elle va te répondre ».

05:06Les réponses que je reçois d'autres humains sont colorées par leurs préférences.

05:10leurs préférences politiques, leurs croyances idéologiques,

05:12leurs croyances religieuses, leurs tempéraments, leurs personnalités.

05:15Quand on parle à une IA,

05:16parce qu'on n'a pas développé cette vigilance épistémique,

05:18on a tendance à croire qu'elles nous répondent de manière objective.

05:22Mais ce n'est pas vrai.

05:23Si je pose la même question, par exemple,

05:26à trois grands modèles de langage,

05:28Tchad GPT, Claude et Gemini,

05:31sur une relation que j'ai,

05:33sur un conseil, quoi faire parce que mon enfant est malade,

05:36sur où aller en vacances,

05:37sur comment cuisiner une tartiflette,

05:40je n'ai pas du tout la même réponse.

05:42Contrairement à d'autres outils,

05:43si je veux une définition d'un mot,

05:44je prends le dictionnaire le lundi, le mardi, le mercredi,

05:46j'ai tout le temps la même réponse.

05:48Mais avec les IA,

05:49si vous posez la même question au même modèle,

05:51si vous posez la question à Tchad GPT le lundi, le mardi, le mercredi,

05:53vous n'allez pas avoir la même réponse.

05:55Et donc il y a aujourd'hui toute une discipline de psychologues

05:58qui s'intéressent à la psychologie des IA.

06:01Comme qui est-ce que les IA répondent ?

06:03Est-ce qu'il y a une différence de tempérament en Tchad GPT ?

06:05Est-ce que Claude est plutôt précautionneux ?

06:08Est-ce que Gemini est plutôt radin ?

06:10Parce que beaucoup de gens sont en train de discuter avec ces IA

06:13comme on discuterait avec des amis.

06:15Pas tout le monde est en train de les utiliser comme outils de recherche.

06:18Parfois on se sent seul.

06:20Si, je vais parler avec Tchad GPT, mon pote,

06:22parce que je n'ai plus envie de saouler mes amis avec ces trucs.

06:27Et on n'a pas conscience que ces réponses sont en train d'être éditorialisées.

06:33On parle de l'IA, mais certains observateurs estiment qu'il y a aussi peut-être une bulle financière de

06:37l'IA.

06:37Oui, il y a un problème avec l'IA.

06:39Il y a un problème avec l'IA qui n'est pas seulement une bulle de valorisation boursière présente ou

06:46à venir,

06:47comme on en parlait au début de la conversation.

06:50C'est une bulle qui porte sur le financement de l'IA.

06:55Le financement, et essentiellement le financement par la dette.

06:58Pas seulement par la dette, mais pour l'essentiel par la dette.

07:01C'est qu'il faut bien voir les sommes astronomiques quand même

07:05qui sont investies dans le secteur de l'intelligence artificielle.

07:09Là aussi, le ticket d'entrée, c'est le trillion de dollars.

07:12C'est une note de Morgan Stanley, je crois, qui a évalué la dépense d'investissement

07:18des divers acteurs de l'intelligence artificielle sur la période 2025-2029

07:24à 3 trillions de dollars, à 3 000 milliards de dollars d'investissement.

07:29Alors la question, évidemment, comme toujours, c'est les 3 trillions de dollars,

07:33d'où vont-ils sortir ?

07:35Alors ils sortent de différents procédés.

07:40Le premier, c'est les tours de table.

07:41J'en parle parce qu'il y a eu, il n'y a pas longtemps,

07:44à la toute fin du mois de mars,

07:46OpenAI a parachever un tour de table hors norme

07:52d'un montant de plus de 120 milliards de dollars.

07:55Alors c'est très intéressant de s'intéresser à ce tour de table

07:58parce que ça fait saisir l'une des caractéristiques

08:01du processus de développement du secteur de l'intelligence artificielle.

08:05Le tour de table de 122 milliards de dollars

08:08a été souscrit pour 50 milliards par Amazon.

08:11En contrepartie de quoi,

08:14OpenAI s'engage à 100 milliards de commandes pour AWS,

08:18Amazon Web Service,

08:19c'est-à-dire l'hyperscalaire d'Amazon, les data centers.

08:23OpenAI et Amazon Web Service

08:26passent des commandes faramineuses de puces à Nvidia.

08:29Je veux dire, un serveur, c'est 100 000 puces.

08:32Lequel Nvidia investit dans le tour de table d'OpenAI

08:37à hauteur de 30 milliards de dollars.

08:40Donc tu vois ici,

08:42c'est le manège enchanté de l'intelligence artificielle, n'est-ce pas ?

08:45Où les relations de capitaux propres

08:48et les relations commerciales

08:50passent les unes dans les autres

08:52de sorte qu'on n'y comprend plus rien,

08:54où les souscriptions d'actions

08:57se transforment en bons de commandes

09:00et les bons de commandes

09:01se transforment en prises de participation.

09:05Dans les figures mythiques de la finance,

09:07on parle souvent de la pyramide de Ponzi.

09:10Ici, ce n'est pas du tout ça.

09:11Ce n'est pas du tout une pyramide de Ponzi.

09:13En général, maintenant, Ponzi

09:14est un truc qu'on balance à tout propos

09:17et hors de propos.

09:18Ici, si vraiment il fallait donner une figure,

09:20ce serait celle plutôt de l'Ouroboros.

09:22Tu sais, l'Ouroboros, c'est le serpent qui se mord la queue.

09:24C'est le serpent annulaire.

09:26Le problème étant que

09:28pour que le machin tienne,

09:29il faut qu'il n'y ait aucune coupure dans l'anneau.

09:30Hop là, tout s'en va.

09:31Il faut qu'il n'y ait aucune coupure dans l'anneau.

09:33Parce que sinon, tout tombe à plat.

09:36Or, des perspectives de coupure,

09:39ça peut dire qu'ils sont présentes.

09:43Et en réalité,

09:46de tous les côtés.

09:49Open AI

09:51a indiqué un échéancier,

09:53un calendrier

09:55à horizon 2030

09:57au bout duquel

09:58ses profits finiraient par apparaître.

10:00Je te rappelle,

10:01Open AI n'a toujours pas gagné un dollar.

10:03C'est le chat GPT.

10:04C'est ça.

10:05Open AI, c'est le papa de chat GPT.

10:08Open AI n'a toujours pas gagné un dollar.

10:11On perd.

10:12Je ne sais plus si c'est 6 ou 8 milliards

10:14l'année dernière.

10:17Prévoit d'en dépenser lui-même 600 à l'horizon 2030.

10:23Mais prie le public d'avoir confiance en ce que,

10:27à cette échéance,

10:29le chiffre d'affaires aura décollé

10:31et les profits seront apparus.

10:35Malheureusement,

10:36il y a une note d'analyste de HSBC

10:38pour qui la survenue des profits d'Open AI

10:42à horizon 2030

10:43est plus que sujette à caution

10:45et qui calcule même qu'à ce moment-là,

10:48il restera un trou cumulé

10:49de l'ordre de 200 milliards de dollars

10:52à combler,

10:53ce qui exigera

10:55une grosse rustine

10:57de refinancement.

10:59Tu comprends ce qui est

11:01vraiment très impressionnant

11:04dans toute cette affaire.

11:05C'est que

11:07nous avons un investissement

11:10probablement sans précédent

11:11dans son volume

11:13dont le financement

11:14est entièrement porté

11:16par le système financier privé

11:18à un horizon

11:19qui est relativement éloigné.

11:22La question est de savoir

11:24si cette situation d'ensemble

11:26est bien robuste

11:28et si la trajectoire

11:30pour atteindre

11:31l'échéance salvatrice

11:32ou réputée-t-elle

11:33est stable

11:36ou pas.

11:37N'est-ce pas ?

11:38Bon.

11:39Par exemple,

11:40il va falloir dans cette séquence,

11:42il va falloir ne pas louper

11:44un seul rendez-vous de profitabilité

11:47ni une seule étape de refinancement.

11:50Maintenant, il y a autre chose.

11:52Il y a les grands investisseurs.

11:54Je ne veux pas des grands investisseurs

11:55forcément par la taille,

11:56mais ceux dont le capital symbolique

11:58est puissant sur les marchés

12:00et dans la formation

12:01de l'opinion financière.

12:03Puisqu'à la fin des 20,

12:04tu sais, tout ça,

12:04c'est aussi des questions

12:05d'opinion et de croyance collective.

12:07Warren Buffett, par exemple.

12:08Warren Buffett, ça fait 18 mois

12:10que méthodiquement,

12:11il a liquidé

12:12toutes les positions

12:14de son fonds.

12:15Il est intégralement

12:17revenu au cash.

12:19Il est assis sur un tas

12:21de 325 milliards de dollars,

12:24complètement safe.

12:26Lui, il est là,

12:27sur le bord,

12:28sur la côte.

12:29Il regarde le naufrage

12:30et quand tout sera consommé,

12:32il sortira

12:33et il ramassera

12:35pour un quignon de pain

12:37tous les débris.

12:39Il ne joue plus, quoi.

12:40Lui, il ne joue plus.

12:41C'est exactement ça.

12:42Retourner au liquide,

12:44retourner au cash,

12:44c'est dire,

12:45je ne joue plus.

12:45Peter Thiel,

12:46qui n'est pas un adversaire idéologique

12:48de l'intelligence artificielle.

12:50Peter Thiel,

12:50il a vendu

12:52toute sa position

12:53sur Nvidia.

12:56Michael Burry,

12:57qui est un investisseur

12:58qu'on ne connaît pas beaucoup

13:00mais qui a été immortalisé

13:01dans le film

13:02The Big Short.

13:04C'est son personnage

13:05qui est joué

13:05par Christian Bale.

13:06Michael Burry,

13:07lui,

13:07il a acheté

13:08des options put

13:09sur Nvidia.

13:10C'est des options de vente.

13:12Pour parier

13:13que ça va se casser la gueule.

13:13Pour parier

13:14que ça va se casser la gueule.

13:15Donc, par ses options put,

13:16il est en train

13:17de shorter Nvidia.

13:17Dont il se confirme

13:19ici

13:19ou dont il s'indique

13:21ici plutôt

13:22qu'en réalité

13:23Nvidia est le cœur

13:25du manège enchanté

13:26de l'intelligence artificielle.

13:28C'en est simultanément

13:29le point fort

13:30et le point

13:31de très grande faiblesse.

13:32Donc,

13:32il faudra suivre

13:33ce qui se passe

13:34sur Nvidia.

13:35C'est une fabrique

13:36grande puce

13:36dans la valeur

13:37à exploser

13:38de façon complètement délirante.

13:39C'est une des plus grosses

13:40capitalisations boursières

13:41de l'histoire de la bourse.

13:43Donc,

13:43si tu veux,

13:44c'est l'équivalent

13:44des canaries

13:45au fond de la mine.

13:46Tout ça,

13:46tu sais,

13:46les canaries,

13:47c'est les petits oiseaux

13:48qu'on emmenait

13:48au fond de la mine

13:49parce qu'ils étaient

13:49particulièrement sensibles

13:51au gaz

13:51qui donnaient

13:52les coups de grisou.

13:53Donc,

13:54quand le canarien

13:55commençait à être

13:56un peu comme ça,

13:57les mineurs savaient

13:57qu'il fallait se barrer

13:58d'ardard.

13:59Bon,

13:59voilà.

14:00Moi,

14:00c'est,

14:00tu vois,

14:01CDS,

14:01Réunion d'urgence,

14:03Warren Buffett,

14:03Peter Thiel,

14:04Michael Burry,

14:05c'est mes petits canaries.

14:06C'est une volière,

14:08là,

14:08tu vois.

14:08Donc là,

14:08ça fait,

14:09je veux dire,

14:10ça perd des plumes

14:10dans tous les sens.

14:12Donc,

14:13il est bien possible

14:14que quelque chose

14:14de gros

14:16se passe

14:16du côté de la finance.

Catégorie

Transcription

Commentaires

Recommandations