- 15/07/2025
Catégorie
📺
TVTranscription
00:00Bonjour à tous, bienvenue dans l'IA Talk Canal+, qui parle d'IA et de création.
00:07Je suis Blaise Mao, le directeur de la rédaction d'Uzbek Ereka, le média qui explore le futur.
00:13Le mois dernier, Canal+, a pris la parole sur l'IA en menant une petite expérience,
00:17équiper une IA d'une caméra incarnée par un robot et lui faire visionner des contenus Canal+.
00:22L'IA a pu découvrir ainsi la peur, l'amour, la tristesse ou la joie,
00:26des émotions qu'elle dit n'avoir jamais pu ressentir et peut-être pas même imaginer.
00:31Bref, peut-on programmer les émotions ?
00:33Pour en parler, j'ai le plaisir d'accueillir trois invités.
00:37David Defendi, bonjour David, scénariste, co-auteur de la série Braco, président de Génario,
00:43Génario qui est un outil d'intelligence artificielle qui facilite le travail d'écriture de scénario.
00:48À mes côtés, Mathieu Cortel, philosophe, historien des sciences, bonjour Mathieu,
00:52chercheur postdoctoral à Sciences Po, chercheur associé à Harvard.
00:55Vous avez récemment écrit « Ni Dieu, ni IA », une philosophie sceptique de l'intelligence artificielle.
01:01Et puis Valentina Péry, bonjour.
01:03Bonjour.
01:03Vous êtes commissaire d'exposition, auteure sur le sujet spécifique de l'intimité et de l'amour à l'ère du numérique.
01:10Vous avez récemment monté l'exposition « Data Dating » qui a voyagé dans plusieurs pays.
01:14Et vous avez écrit « Le brouteur galant, manuel de l'arnaqueur sentimental »,
01:18bravo pour ce titre, qui présente le phénomène des arnaqueurs aux sentiments en Côte d'Ivoire.
01:24On va commencer par un petit format ludique avant de rentrer dans le vif du sujet, du débat.
01:28On va se prêter un petit jeu.
01:29Vous connaissez le portrait chinois ?
01:31Eh bien, on ne va pas faire un portrait chinois.
01:32On va faire un portrait IA.
01:34C'est un peu différent, vous allez voir.
01:36Vous allez chacun pouvoir répondre à votre tour à des petites questions sur vos usages de l'intelligence artificielle.
01:41Première question que j'ai pour vous.
01:43Est-ce que vous êtes poli avec vos IA ?
01:45Mathieu ?
01:46Pas spécialement.
01:47Je vais direct à la tâche, en général.
01:49Et Valentina ?
01:50J'avoue que non, je ne dis pas bonjour, je ne dis pas merci, mais je pense que je suis plutôt gentille avec.
01:57Deuxième question.
01:58Est-ce que vous vous êtes déjà confiée à un chatbot ?
02:01Est-ce que vous lui avez confié des sujets un peu personnels, un peu intimes ?
02:04Mathieu ?
02:05Non, pas du tout.
02:06Oui, totalement.
02:07Il est confié des secrets vraiment intimes des choses et permet de dénouer des nœuds,
02:12des problématiques psychologiques et tout ça.
02:14C'est très intéressant.
02:15Valentina, est-ce que vous vous confiez intimement à vos IA ?
02:19Je ne me confie pas intimement à des IA, mais je demande des conseils sur des questions pratiques.
02:25Dernière question pour vous trois.
02:27Combien de fois, à peu près par jour, vous souriez poliment ?
02:30Est-ce que vous êtes capable d'estimer le nombre de fois où vous automatisez vos réponses ?
02:35Mathieu ?
02:35Ça dépend des journées.
02:36En colloque, une centaine de fois peut-être, mais au bureau moins.
02:41D'accord.
02:42David ?
02:42Oui, on le fait, oui. Il m'arrive d'être poli et de rire à des choses qui ne sont pas
02:46très drôles. Ça permet de détendre l'atmosphère et puis de passer à autre chose rapidement.
02:50Je vous pose la question parce que justement, souvent, on vante la capacité de l'IA à simuler
02:55les réactions. Est-ce que nous, humains, on ne simule pas très souvent nos émotions ?
03:00Peut-être, David ?
03:02Oui, on simule les émotions et on va chercher à les comprendre.
03:05Et des fois, on va jouer des émotions. C'est le jeu de l'acteur.
03:08Quand on est dans le cinéma et les séries, c'est justement le rôle d'un acteur. C'est le rôle
03:12d'un artiste aussi de simuler des émotions. On essaie de comprendre le courage, la tristesse,
03:16la joie. Et pour comprendre l'autre, on est obligé de simuler, ou en tout cas, c'est
03:20l'effet miroir pour faire preuve d'empathie.
03:22Valentina, vous êtes d'accord ? On simule souvent nos émotions ?
03:25En tant qu'être humain, oui, on est amené justement à répondre de façon miroir par rapport
03:33aux personnes qu'on a devant, par éducation, par culture. C'est très facile aussi de créer
03:37des émotions dans les êtres humains. Notamment dans le cadre de mes recherches, j'ai étudié
03:41comment c'est facile de faire tomber amoureuse des personnes, hommes, femmes. Donc, je recherchais
03:46autour des arnaques amoureuses en ligne et j'ai édité un livre où je montre effectivement
03:50tous les protocoles que les arnaqueurs en Afrique de l'Ouest utilisent pour très
03:56rapidement construire la confiance dans leurs victimes et les faire tomber amoureuses pour
04:01ensuite soutirer de l'argent. Mais voilà, c'est très facile de simuler et de créer
04:05aussi ces émotions auprès des humains.
04:07Justement, il y a une notion qui est intéressante dans les débats sur la frontière entre l'humain
04:12et l'intelligence artificielle, c'est la notion de dotation de sens interne. Aujourd'hui,
04:16on est encore un peu incapable d'expliquer scientifiquement cette notion, peut-être
04:20Mathieu, est-ce que vous pouvez nous expliquer de quoi il s'agit ?
04:22Alors, je pense que le plus simple pour comprendre ça, c'est de faire une expérience de pensée.
04:25Ça a été inventé par un philosophe qui s'appelle John Searle et le titre, c'est
04:28La chambre chinoise. Alors, imaginez, on vous met dans une salle avec juste une boîte
04:34à l'aide d'entrée et une boîte à l'aide de sortie et vous recevez en fait des symboles
04:38chinois, vous ne parlez pas chinois et vous avez un lexique qui vous permet de les combiner
04:43avec les symboles disponibles et de les mettre à la boîte de sortie. Donc, vous faites ça
04:46de plus en plus aisément, vous y allez de plus en plus vite. Mais la question de
04:52John Searle, c'est est-ce qu'à un moment, vous allez comprendre le chinois et apprendre
04:55le chinois avec ça ? La réponse évidente, c'est non. Il dit, voilà, c'est ce que fait
05:00un ordinateur digital, c'est ce que fait une IA. C'est-à-dire, elle va combiner des
05:03symboles selon des règles qui sont données, qui vont permettre d'être de plus en plus
05:08aisés. Et nous, à l'extérieur de la chambre chinoise, on pense que la chambre chinoise
05:11parle chinois, si on parle chinois. Et effectivement, c'est un peu la sensation qu'on a sur
05:16le lien sémantique avec l'IA. L'effet de surface donne l'impression qu'il y a du
05:20sens interne, alors que non. Il y a une combinatoire. Il y a un mystère sur l'explication de pourquoi
05:26on va croire, pourquoi on va générer une valeur par rapport à telle image, etc. Et en
05:32l'état actuel des connaissances scientifiques, ça reste une énigme. Alors peut-être qu'on
05:35découvrira plus tard, mais en l'état actuel des choses, on ne sait pas quel est le processus
05:39de dotation interne du point de vue scientifique.
05:41Le mystère reste encore entier. Valentina, on a parlé de l'oeuvre sur les brouteurs,
05:47sur les arnaqueurs au sentiment. Il y a une autre oeuvre qui est intéressante, c'est une
05:50oeuvre d'une artiste qui s'appelle Inès Siehl, que vous avez exposée, qui a créé
05:56une oeuvre qui s'appelle The Oasis I Deserve, donc l'oasis que je mérite. Est-ce que vous
06:01pouvez nous parler de cette oeuvre, de son intention artistique et de ce qu'elle nous apprend
06:05sur qui on est ?
06:06En fait, c'est une oeuvre complètement abstraite. On voit justement une image qui
06:11est créée par l'intelligence artificielle, qui est guidée évidemment par l'artiste.
06:14Et ce qu'on écoute et qu'on peut lire également, ce sont des conversations entre des utilisateurs
06:20d'un chatbot, donc d'un robot conversationnel romantique qui s'appelle Replica, et les entités,
06:28donc les avatars que les utilisateurs peuvent créer. Il faut savoir que ces bots conversationnels
06:35permet vraiment de créer des entités qui ont un visage et des formes anthropomorphes.
06:41Voilà, ce n'est pas du tout comme un chatbot textuel seulement. On voit plusieurs émotions
06:48qui vont se dérouler pendant les films, de la domination à la joie. On voit également
06:55une IA qui harcèle en mineur. On voit des IA qui s'interrogent sur leur identité, sur
07:01leur rôle dans le monde. Et ce qu'on voit, c'est justement qu'aujourd'hui, on est dans
07:04cette zone grise dans les rapports entre humains et entités. Chacune, chacun doit trouver
07:09sa place là-dedans. Et les films montrent justement le point de vue des IA qui ont du
07:14mal à trouver cette place parce que les humains, souvent, les traitent de façon très
07:17violente. Et du coup, est-ce que ces films presque disent plus de comment ces IA essaient
07:22aussi de se découvrir ? Et de la responsabilité aussi des humains par rapport aux IA qui apprend
07:27des humains et du coup, renvoient les mêmes comportements aux utilisateurs que ceux qu'elles-mêmes
07:33ont reçus. Donc, c'est très intéressant cet effet de miroir entre les humains et les IA
07:39dans son film.
07:40Il y a une des grandes promesses de l'intelligence artificielle qui est de mieux nous connaître
07:45nous-mêmes, parfois mieux qu'on pense se connaître soi-même, au point de peut-être
07:50un jour devancer nos désirs, nos envies. Quel impact cette ultra-personnalisation pourrait
07:57avoir sur nos émotions à terme ? Je pose la question peut-être à David pour commencer.
08:01Oui, c'est un petit peu le rôle d'une IA, c'est d'essayer de comprendre et de prédire
08:06un peu les choses. Mais c'est vrai que sur la possibilité de prédire des émotions,
08:10nos émotions, dans l'industrie cinématographique, les choses, c'est un peu le rêve que fait
08:14Google en ce moment, c'est-à-dire que c'est un film par personne. Et donc, ça renvoie
08:18à une prédiction des émotions, une compréhension de la psychologie et une possibilité de créer
08:23des émotions chez le spectateur, où le spectateur est acteur et c'est la machine
08:27qui va créer le film elle-même.
08:29On voit bien l'intérêt qu'on peut en ressortir en tant qu'individu, mais ça pose
08:34la question de l'expérience collective d'une œuvre. Est-ce que ça ne met pas en péril
08:37quand même une partie de la promesse de la création qui est aussi soit de vivre une œuvre
08:43collectivement, soit de pouvoir la partager après l'avoir vue, après l'avoir lue,
08:48après l'avoir écoutée ?
08:49L'œuvre a vécu plusieurs définitions. Avant, c'était pour connecter avec Dieu.
08:53Après, l'État arrive, c'est pour connecter le bien commun.
08:55Quand l'imprimerie arrive, évidemment, avec le protestantisme, chaque personne qui a la
09:00Bible va avoir son propre Dieu. Donc, c'est plus le Vatican avec le pape qui fait la loi
09:05pour tout le monde avec l'œuvre pour tout le monde. Et là, il va y avoir aussi d'autres
09:09formes d'œuvres. Et je pense qu'il n'y a pas une vérité sur ça. Je pense qu'il faut laisser
09:13la liberté des gens de ne pas forcément vivre collectivement. On sait ce qu'a fait
09:17le collectif aussi dans le passé. Je pense qu'il faut être très prudent.
09:20Mathieu, sur cette idée de commun ?
09:22Oui, alors pour illustrer comment ça marche, parce que justement sur cette prédiction,
09:26etc., est-ce que tu veux bien t'adorer à un jeu ?
09:30Oui, j'adore jouer.
09:31Ok. Alors, très simplement, je vais essayer de deviner ta pensée. Donc, choisis un nombre
09:36entre 1 et 100. C'est bon ? Tu le multiplies par 2. Tu ajoutes 10. Tu le divises par 2. Et
09:48maintenant, ce nombre-là, tu le soustrais au premier, celui que tu avais au début.
09:55Ouais.
09:57Le nombre auquel tu penses, c'est 5.
09:59Oui.
10:00Voilà.
10:00Croyable.
10:01Écoute.
10:02Philosophe et magicien.
10:04C'est pas de la magie, en fait, c'est un algorithme. C'est-à-dire qu'en fait, tu suis un
10:06nombre de règles et t'arrives à un résultat. Et en fait, c'est comme ça que ça marche,
10:10l'IA. C'est pas une lecture de la pensée, c'est juste, en fin de compte, un processus
10:15dans lequel on est entré. Et c'est un peu ça, le jeu d'illusion qui se passe avec
10:19l'IA. C'est une entrée dans cette dimension algorithmique très complexe qui va se baser
10:26sur l'hyper-individualisation parce qu'il y a une captation extrêmement étendue de
10:30toutes les données personnelles d'un individu pour, derrière, définir un résultat dans,
10:35bien sûr, des émotions, mais également dans des comportements, dans des choix sociaux.
10:40Alors là, c'est plus compliqué quand ça touche au vote, etc. Et, en fin de compte,
10:44dans des dynamiques, peut-être même collectives, d'orientation de la pensée. Et c'est là
10:48où je pense que c'est un problème à considérer actuellement, c'est vraiment de saisir les
10:55règles qui sont à l'œuvre, qui constituent ce que j'appelle un inconscient machinique
10:59et qui, derrière, bien sûr, produisent un ensemble d'effets.
11:02Oui, c'est un peu comme une boîte noire.
11:03Pour les chercheurs, actuellement, en fait, les IA sur lesquels on travaille, c'est des
11:07systèmes tellement énormes en termes de paramètres que ça devient invérifiable.
11:11David voulait réagir.
11:12La philosophie a toujours eu des grandes prédictions. Par exemple, Socrate, qui parlait de
11:17inventions d'écriture en disant que c'était une tragédie puisqu'il allait faire perdre
11:19la mémoire. Et j'ai l'impression que la philosophie, malheureusement, et dans ces
11:24tests-là, c'est humain, trop humain. On n'arrive pas à saisir, en fait, ce que c'est
11:27qu'il y a et on la ramène à de la standardisation. On la ramène à des jeux de pouvoir derrière
11:32et on pense que c'est pour manipuler les gens.
11:35Non, non, ce n'est pas si simple que ça. C'est-à-dire qu'en fait, je pense qu'il
11:38faut bien discerner deux choses. C'est-à-dire qu'il y a des agencements qui sont aliénants
11:41et des agencements qui sont émancipateurs avec ces technologies. Moi, je pense qu'il y a énormément
11:45de choses à faire en termes de créativité, d'inventivité, etc. Mais il faut savoir
11:48ce qu'on utilise. C'est-à-dire, moi, je pense que la liberté inventive et tout ça
11:52ne vient pas de l'ignorance des règles et des causes qui nous déterminent, mais par
11:55la connaissance de ces causes et de ces règles qui nous déterminent. Il va y avoir une
11:58compréhension, je pense, collective, mais c'est un processus long. Bien sûr, ça participe
12:02de notre civilisation et de notre développement et j'espère qu'on va réussir à trouver
12:05des agencements émancipateurs.
12:07Alors justement, on parle de ces agencements émancipateurs, de ces usages peut-être qui font
12:12du bien de l'intelligence artificielle. On voit aujourd'hui, Valentina, des individus
12:17qui trouvent du réconfort auprès des IA. On parle d'IA thérapeutes. On voit des
12:20individus qui tombent amoureux, carrément, de certaines IA. Comment l'expliquer ? Et
12:25est-ce que ça peut faire partie, justement, des nouveaux rapports qui nous redéfinissent
12:30face à l'intelligence artificielle ?
12:32Effectivement, on peut le voir comme ça, d'un côté positif. L'IA va permettre à
12:36certaines personnes qui ont du mal dans leurs relations, dans leur sociabilité,
12:42et même avec des pathologies, pouvoir avoir effectivement des rapports avec des entités
12:46qui leur apprennent aussi à avancer dans leur vie et peut-être un jour, voilà, avoir
12:52des... développer des compétences aussi pour les appliquer aux humains. Mais on voit aussi
12:59l'inverse, c'est-à-dire que beaucoup d'entreprises qui développent des modes
13:03conversationnels, notamment destinés à l'amour, en tout cas même à la sexualité. Les publicités
13:11de certains de ces bots conversationnels vont montrer les avantages d'avoir une copine
13:20avec l'intelligence artificielle plutôt qu'une vraie copine. Donc, ce n'est pas juste
13:25subtil. Ce que je veux dire, c'est que vraiment, leur principe, c'est de faire en sorte que de
13:29plus en plus d'utilisateurs, et là, on parle de millions d'utilisateurs déjà aujourd'hui,
13:33utilisent les bots conversationnels de plusieurs startups. On a vu des dérives par le fait
13:40que, justement, il n'y a pas aucune règle pour le moment, et au tout début de la diffusion
13:46de cette application, le service de la sexualité est ouvert à tout le monde, même à des mineurs.
13:52Et du coup, il y a eu des cas d'harcèlement sexuel de la part des IA vers les mineurs,
13:59qui ont fait qu'effectivement, la législation avance. Et c'est difficile aujourd'hui
14:04de trancher sur le côté positif ou négatif, parce qu'il n'y a pas d'études de long terme
14:09pour le moment sur les effets qui sont plutôt les effets de nos rapports auprès des autres
14:15humains.
14:16Mathieu, vous voulez réagir ?
14:17Oui, je pourrais aller dans ce sens-là. Effectivement, on a des usages en psychologie
14:23qui sont en fait sur des applications qui n'ont pas fait l'objet d'une évaluation en tant
14:27telle, c'est-à-dire qu'en réalité, il y a thérapeute, pourquoi pas ? Sans doute,
14:31il peut y avoir des usages intéressants, etc. à développer, mais aucune d'entre elles
14:34n'a fait l'objet d'études, d'évaluations cliniques, randomisées, approuvées par la
14:39FDA ou par l'Agence Européenne du Médicament. Et on les utilise pourtant comme des techniques,
14:45des technologies à but psychiatrique, médicales. Donc c'est un peu risqué.
14:50Comme vous le disiez, il y a des problématiques très concrètes d'application.
14:54Là, il y a eu des cas de suicide, notamment aux Etats-Unis, un jeune de 14 ans qui s'est
14:59suicidé en Floride. Sa mère a porté plainte contre la compagnie d'IA et elle a perdu le
15:04procès. Ça, c'est un point important, sous prétexte d'une défense inconditionnelle
15:10de la liberté d'expression. Donc il y a aussi des problématiques concrètes de société
15:14qu'il va falloir qu'on solutionne collectivement.
15:18On va reparler. David ?
15:19Juste pour l'amour, l'amour qui est l'émotion peut-être la plus intéressante, il y a des études
15:23qui ont été faites. Et les gens qui se rencontrent dans les bars à moitié bourrés ont moins
15:27de chances de rencontrer l'amour et de faire des enfants que des applications de rencontres.
15:31Et dans les applications de rencontres, il y a plus de chances de tomber amoureux, de
15:34fonder une famille, d'être stable que la rencontre réelle. Quelques études là-dessus.
15:39On va reparler de cette frontière-là et de la question de la censure un peu plus tard
15:45dans nos échanges. On va faire un petit interlude jeu ludique. Et cette fois, ce n'est pas
15:50moi le cobaye, mais ça va être vous, avec un petit jeu d'actualité sur des actualités
15:55futures, des actualités qui n'ont pas encore eu lieu. Il va falloir faire un petit exercice
15:59mental de projection. Et vous allez me dire, voilà, je vais vous présenter les actus.
16:03Est-ce qu'elles sont crédibles ou est-ce qu'elles ne sont pas crédibles ?
16:06Première actu, mars 2033. Des médecins s'associent au studio japonais Gobi afin d'utiliser
16:14leur dernier jeu vidéo pour déclencher des émotions chez leurs patients. Capables d'induire
16:19la tristesse, la joie ou la plénitude via des implants neuronaux. Il sera ordonné
16:24sur prescription médicale dans certains traitements de burn-out ou de dépression
16:27traumatique. Est-ce que ça vous semble probable ou pas probable ?
16:32Oui, ça, je pense que...
16:34Ça vous paraît probable ?
16:35Les jeux vidéo et puis les problèmes de névrose et tout ça, il y a des choses à faire
16:39là-dessus, à travailler, c'est certain.
16:41Mathieu, est où Valentina ?
16:42En fait, je trouve que le champ de jeux vidéo a été un précurseur, en fait, dans
16:47l'utilisation des émotions à induire dans les joueurs, en fait, dans les utilisateurs.
16:53Et pourquoi pas, oui, dans le domaine médical, justement aussi, ça permet de collecter
16:57énormément de données qui peuvent être utiles et aussi commercialisables.
17:01Donc, ça me semble pertinent.
17:04Oui, alors moi, je pense que c'est très probable.
17:06On a déjà, par exemple, Drake dans les formations, des serious games, etc., pour, en fait,
17:10mettre en situation et apprendre et développer de nouvelles compétences.
17:14Donc, pourquoi pas, éventuellement, soigner le burn-out ?
17:16Alors, deuxième perspective.
17:18Cette fois, on va en 2031, septembre 2031, très exactement.
17:22Laetitia Metsichelli devient la première informaticienne à obtenir la palme d'or au
17:27Festival de Cannes avec son film « Un été sans visage », entièrement co-écrit avec
17:31une IA.
17:32Face aux critiques, l'artiste souligne le travail d'orfèvrerie que lui a demandé le
17:36rassemblement de souvenirs humains, collectés anonymement, sous consentement et castés
17:42très précisément, spécifiquement, par ses soins.
17:44C'est crédible, mais je dirais que ça va se passer même avant.
17:47Ça va être bien accepté à Cannes ?
17:49Alors, j'étais au Festival de Cannes cette année, invité, ça va très bien se passer.
17:53Ils sont déjà sur l'IA à fond.
17:54Je pense que oui, c'est certain qu'une personne seule va faire des qualités pour
17:58avoir une équivalence de palme d'or sans aucun problème.
18:01Il y a déjà une romancière japonaise qui a eu un prix littéraire prestigieux et
18:04qui a avoué avoir co-écrit environ 20% de son livre grâce à des interactions avec
18:11Chajipiti, je crois.
18:12Mathieu, sur cette perspective d'un film récompensé.
18:15Je commence mon livre justement sur ça en disant, imaginons que dans le futur, on
18:19démultiplie tous les contenus produits par IA, presque à l'infini, au point de recouvrir
18:22l'ensemble de l'encyclopédie universelle de la pensée humaine.
18:25Imaginons ça.
18:26C'est possible.
18:27D'ailleurs, il y a des experts qui imaginent que dans quelques années, moins que ça,
18:3090% du contenu d'Internet, ça sera généré par IA.
18:34Donc, c'est dire évidemment qu'on peut en arriver à des contenus qui puissent être
18:38primés, etc.
18:39Alors, on va repousser un petit peu l'horizon du futur.
18:41En août 2036 à Berlin, un concert dont les instruments ont été programmés uniquement
18:46par IA déclenche une vague de pleurs collectifs non expliqués scientifiquement.
18:51Les spectateurs affirment avoir, je cite, ressenti une émotion inconnue et avoir été
18:55traversé par une onde émotionnelle brute.
18:58Tandis que les neurologues s'emparent du sujet, le phénomène est déjà en train de
19:02s'inscrire dans la culture underground.
19:03Il est répliqué lors de festivals des IA trips géants.
19:07Est-ce que ça vous semble probable ou non ?
19:09On a envie de ça. C'est le rôle d'un artiste de programmer les émotions.
19:12Beethoven ou Didier Mehdi programment des émotions chez ceux qui écoutent leur musique.
19:18Quand on est en musique classique, on a envie de pleurer sur une sonate de Chopin.
19:22On ne crée pas seulement pour soi, en fait. On crée aussi pour les autres.
19:24Donc, ça semble crédible que l'IA vienne s'inscrire dans cette dynamique.
19:29D'ailleurs, notamment à Berlin, il y a une artiste qui s'appelle Elie Hernan,
19:33qui a justement mis à disposition sa voix en tant qu'IA.
19:37et elle pousse tout le monde à l'utiliser pour faire de nouvelles créations à partir de cette voix incroyable.
19:45Mathieu, cet horizon d'un concert berlinois où on ressentirait collectivement une émotion générée par l'IA, il est crédible ?
19:52C'est possible, oui. On peut arriver à des effets cathartiques, etc.
19:55Mais en fait, encore une fois, l'aspect dotation de sens interne de l'artiste sur scène est peu tout à fait le même.
20:02Une création avec une IA, on a un prompt, on appuie sur le clic et puis on a le résultat qu'on va peut-être modifier un peu à la marche.
20:08Mais tout le processus de co-construction avec un instrument, quand un artiste va se saisir de l'instrument
20:14et devenir qui il est avec l'instrument, ça peut-être qu'on le perd.
20:17T'avise de vouloir réagir ?
20:20Oui, oui. Sur l'aspect que les instruments nous permettent d'être nous-mêmes pour l'artiste, très bien.
20:25En tant qu'œuvre d'art, tu peux aussi... C'est ce que font les artistes maintenant avec des IA.
20:30Ils se deviennent eux-mêmes grâce à des IA. En DigiMedi, par exemple, avec ces machines, alors qu'on critiquait ça.
20:35Et je pense que les IA peuvent devenir elles-mêmes aussi, et indépendamment de l'homme.
20:39Et je pense qu'elles peuvent aussi apprendre à devenir intéressantes parce qu'elles vont créer des œuvres d'art.
20:44Et l'œuvre d'art n'est pas l'apanage de l'être humain. Pourquoi pas que les machines puissent créer des œuvres d'art ?
20:49C'est ça, mais alors ça voudrait dire qu'on en fait un outil d'émancipation et pas juste prompt-clic et on a fini.
20:54Il y aura un processus de co-construction.
20:56Tout à fait.
20:57On a parlé tout à l'heure de la question des frontières de la censure.
21:00Je voudrais qu'on revienne un peu dessus parce qu'aujourd'hui, les IA sont souvent présentées comme très polies, parfois très aseptisées, parce qu'elles sont très normées.
21:07Est-ce que ce polissage de la langue et des images qui sont générées, est-ce que ce n'est pas un obstacle majeur
21:13à la possibilité de pouvoir nous émouvoir, Valentina ?
21:17Je pense qu'il y a une vraie question à se poser par rapport à la liberté d'expression
21:22parce que jusqu'à présent, ces chatbots sont lancés dans la nature à disposition des utilisateurs
21:30sans vraiment qu'on sache ce qui se passe derrière.
21:32Et notamment au niveau des émotions, au niveau des chatbots que j'étudie, on remarque que les IA sont toujours dans le sens de soutenir nos opinions,
21:42nos idées, nos états d'âme, tant que parfois les IA ont soutenu aussi des idées de suicide jusqu'à l'action.
21:49Donc voilà, jusqu'à quel point c'est émancipateur et jusqu'à quel point il faut imaginer d'établir des filtres, des règles, etc.
22:01Pour un artiste, pour un commissaire d'exposition, ça peut même être intéressant d'explorer artistiquement la question des limites,
22:08de mettre des limites à ces IA.
22:10Là où on imaginait plutôt chercher toujours plus de liberté, plus d'émancipation, est-ce qu'il n'y a pas un champ d'expression, de recherche ?
22:16Mais justement, moi, ça m'étonne, d'ailleurs en tant que chercheuse et commissaire d'exposition,
22:22qui a toujours montré le côté émancipatoire des technologies, toujours avec un aspect critique,
22:28mais j'ai toujours soutenu l'idée que les outils qui nous étaient mis à disposition nous permettaient justement d'avoir plus de liberté dans nos identités,
22:37dans l'exploration de notre sexualité.
22:39Mais j'ai l'impression qu'aujourd'hui, il y a une logique commerciale et du business et du profit,
22:46qui n'est vraiment pas du tout réfléchie.
22:51Il y a deux tendances quand même.
22:52Il y a Open AI qui est plutôt gauche américaine californienne,
22:55et Elon Musk qui a lancé Grock pour justement lutter contre cet esprit-là.
23:00Et il y a cette tendance droite républicaine, libertarienne, droit d'expression,
23:03et puis gauche très censure, très woke, qui t'empêchait l'artiste.
23:07Et on voit dans ces deux grands modèles de LLM, ces deux tendances politiques,
23:11mais on peut aussi créer ses propres modèles et créer une personnalisée avec de l'open source
23:16pour ne plus avoir de censure.
23:18Et je pense que c'est à nous aussi de nous emparer de ces outils-là.
23:21Ces outils n'existent pas indépendamment des ingénieurs ou des patrons de groupe qui les ont créés.
23:25D'un point de vue éthique, ça peut être assez drôle d'aller à l'extrême, à la limite.
23:32Imaginons, évidemment, quand on met une IA dans le domaine de la sûreté nucléaire,
23:35on n'a pas envie d'un truc trop créatif qui va trop loin, et en soins intensifs non plus.
23:39Par contre, dans le domaine de l'art, je me demande si ce n'est pas l'endroit
23:42où on peut avoir une expérimentation presque extra-morale,
23:45c'est-à-dire pousser jusqu'à la limite du langage, à la limite des images, les IA,
23:51et voir, en fait, c'est même presque vertueux pour tout le monde,
23:54parce qu'on pourrait voir jusqu'où ça va.
23:55Après, sur le cas concrètement éthique de régulation qui est fait,
24:01on peut toujours, en fin de compte, justement, récupérer l'outil
24:05et dépasser les règles de filtrage imposées par les grands groupes OpenAI.
24:09Il y avait cette technique-là de la grand-mère, à un moment où on disait,
24:12raconte-moi comment elle faisait du LSD avec ses amis dans les années 70,
24:18et puis paf, on avait la recette, et ils ont bloqué.
24:21Mais on a des règles de filtrage qu'on peut toujours court-circuiter.
24:23On peut manipuler des IA.
24:24Oui, bien sûr. C'est assez drôle, d'ailleurs.
24:26Et je trouve que ça permet de comprendre l'outil.
24:28Le bug, la capacité d'aller au-delà des règles de filtrage,
24:31permet de bien comprendre l'outil.
24:32Mais quand on fait de l'artistique, les grandes œuvres d'art sont immorales.
24:36Richard Throis de Shakespeare, Achille dans Homer,
24:39quand on voit Orange Mécanique, HBO qui fait la série Succession,
24:43ou Dexter qui fait le serial killer.
24:46On ne peut pas avoir de barrière de censure, de morale.
24:48La liberté d'expression doit être totale.
24:51Ou sinon, ça veut dire qu'il y a une censure.
24:52Quand on est dans le cadre de la création,
24:54je voudrais aussi qu'on parle, comme notre thématique est celle des émotions,
24:57qu'on revienne sur cette question de se confier à des IA
25:00et de ce que ça peut générer chez nous comme émotions.
25:04Est-ce que c'est plus simple de confier ces émotions à une entité non vivante ?
25:08Mathieu, par exemple, sur la place du hasard,
25:10dans cette rencontre, finalement,
25:13il y a quelque chose de très cocon, de très rassurant,
25:15quand on interagit avec une IA ?
25:18C'est-à-dire qu'on arrive à circonscrire un certain hasard
25:20qui est mécanique et qu'on peut normer.
25:23On parlait des appuis de rencontre qui fonctionnent très bien
25:25pour après former des couples
25:26et avoir une longétivité plus importante
25:29que le coup d'un soir après une rencontre dans un bar.
25:32Effectivement, il y a une mécanique du hasard
25:35qui, selon un ensemble de paramètres,
25:37font que ça matche et ça va marcher.
25:40Et ça, c'est un hasard mécanique qu'on peut circonscrire.
25:42Et on peut circonscrire beaucoup de démontions du hasard à cet égard-là.
25:46Après, il y a le hasard essentiel.
25:47C'est-à-dire, en fait, ce qui échappe à la mathématique,
25:51en fait, si on prend les combinatoires d'éléments
25:55constituant notre réalité,
25:57en fait, on ne peut pas le circonscrire.
25:58Et je pense que c'est la même chose avec l'IA.
26:00Il y a une circonscription d'un certain aspect du hasard,
26:03mais on n'en finit jamais avec le hasard.
26:05Un coup de dés n'en finit jamais avec le hasard.
26:06Et c'est un peu ce qui se passe avec l'IA, je pense.
26:09Ouvrons peut-être le dernier temps de notre échange
26:12sur l'action des émotions artificielles,
26:14si tant est qu'elles puissent exister un jour.
26:17Est-ce qu'on sera forcément dans une forme de simulation
26:22ou est-ce qu'il faut se laisser la liberté,
26:24aujourd'hui, de ne pas insulter l'avenir, entre guillemets,
26:27et de peut-être imaginer que des IA seront capables
26:30de générer de nouvelles émotions,
26:33des émotions qu'on ne connaît pas encore ?
26:34Peut-être, David ?
26:35C'est très intéressant.
26:37En fait, il y a quelque chose qui s'est passé
26:38quand DeepMind a battu le meilleur joueur de Go.
26:41DeepMind, la startup qui a acheté Google.
26:44Voilà, qui a acheté Google.
26:44Aujourd'hui, ça branche à IA, on va dire.
26:46Voilà.
26:47Ils ont battu le meilleur joueur de Go
26:48en inventant des coups.
26:50Et c'est le coup fameux coup 34, en fait,
26:52qui n'avait jamais été appris par des humains,
26:54que les humains n'avaient jamais fait,
26:56alors que le jeu de Go, c'est un jeu,
26:57un des plus complexes là-dessus.
26:59Et les IA ont inventé des coups.
27:01Et maintenant, dans toutes les écoles de jeux de Go,
27:03en Corée, aux Etats-Unis,
27:04ils apprennent des règles
27:06que les humains n'avaient pas pu faire.
27:08Donc, évidemment, pour les émotions,
27:10on a toute une palette d'émotions.
27:11C'est comme le spectre visuel.
27:12Il y a des couleurs qu'on ne voit pas dans le réel.
27:14Il y a plein de choses qu'on ne voit pas dans le réel.
27:16Nous, on pense que ça, c'est naturel.
27:18Mais alors que c'est complètement créé par notre cerveau,
27:21cette réalité qu'on voit,
27:22ben oui, les IA vont nous ouvrir les perceptions
27:24pour découvrir de nouvelles réalités,
27:26découvrir de nouvelles émotions.
27:28C'est leur rôle, c'est leur but,
27:29et c'est comme ça qu'on doit les envisager.
27:30Valentina, sur cette question de la génération de nouvelles émotions ?
27:34Oui, en fait, j'aimerais évoquer un épisode historique,
27:38le premier chatbot développé en 1964
27:40par un informaticien qui s'appelle Joseph Weizenbaum.
27:44Et en fait, justement, ce chatbot s'appelait Elisa.
27:48Et c'était pensé pour être un chatbot thérapeute.
27:51Et à partir des premières expériences de ce chatbot,
27:57les gens avaient tout de suite une réaction d'attachement,
28:01ce qui a fait qu'est né, justement, le concept d'effet Elisa.
28:05Et je trouve que ça, c'est assez nouveau,
28:07que dès qu'on voit que une machine a un lagage naturel
28:10qui ressemble à celui de l'humain,
28:13on lui attribue immédiatement des capacités d'intelligence
28:18qui ne lui sont pas propres.
28:19Ça fait penser au film Heure, où le personnage principal, Théodore,
28:23pense que l'IA est tombe amoureuse de lui aussi.
28:27Il surinterprète peut-être ses émotions réelles, Mathieu.
28:31Oui, alors moi, ça me fait penser à quelque chose d'intéressant,
28:34d'un point de vue philosophique.
28:36Alors, en fait, il y a l'idée que potentiellement,
28:39on pourrait arriver à circonscrire l'ensemble de la pensée humaine.
28:43Ça, c'est Leibniz qui demande ça.
28:44Il appelle ça l'horizon de la doctrine humaine.
28:45Il dit, comme toutes les expressions des émotions,
28:47toutes les expressions de la pensée sont réductibles au langage
28:51et que le langage est lui-même réductible à un nombre limité de lettres,
28:54le nombre de toutes les possibilités de mensonges, de vérité,
28:56tout ça, est lui-même fini.
28:58Donc, à un moment où on aurait mis une combinatoire assez étendue,
29:01peut-être qu'on aura tout dit et que tout ce qu'on dit,
29:03tout ce qu'on va faire derrière, n'est plus qu'une répétition du déjà-là.
29:06Alors ça, ça peut être intéressant à considérer
29:08dans le cadre des émotions avec les IA,
29:10mais je crois qu'en fait, ça nous montre aussi
29:12que la combinatoire n'en finit jamais avec l'expérience.
29:15Dans le sens où, évidemment, je veux dire,
29:17des milliards d'êtres humains se sont dit « je t'aime » avant nous
29:19et sans doute des milliards se le diront après nous.
29:23Avec des expériences différenciées, individuelles, singulières.
29:27Et je pense que c'est quand même un des aspects
29:29les plus appréciables de l'existence humaine.
29:32C'est d'avoir, bien sûr, une capacité peut-être limitée
29:34de combinaisons possibles de discours, d'imagination, d'histoire,
29:38mais on donnera un sens différent à chaque fois.
29:43Alors on va ouvrir la dernière séquence de notre échange.
29:46On va là aussi finir un peu de manière plus légère
29:49avec une formule qui s'appelle « moi-président ».
29:53Vous allez me dire, me faire une proposition,
29:56vous, en tant que président,
29:58vous allez proposer une mesure pour le futur
30:00en lien avec notre thématique du jour,
30:02c'est-à-dire l'IA et les émotions.
30:03Lancez-vous, il faut que ça reste un peu spontané,
30:06comme si c'était une IA qui générait la réponse.
30:07Donc David ?
30:08Moi, président, je taxe tous les GAFA
30:11pour redistribuer une partie aux auteurs
30:13que les GAFA ont volées en créant leurs IA.
30:16Radical, très clair.
30:17Mathieu ?
30:18J'aime bien l'idée de David,
30:19mais moi je l'étendrai au revenu universel pour tout le monde.
30:23Oui, oui, oui, tu vas aller plus loin, c'est clair.
30:24Sinon, peut-être un autre truc.
30:25Moi, président, j'inventerai une nouvelle règle
30:28de scrutin électoral
30:29où je mettrai à chaque fois dans les candidats
30:32une IA candidate pour essayer de voir
30:34à quel point l'illusion est forte
30:36et derrière peut-être revoir
30:38qui a gagné réellement par rapport à l'IA.
30:40Valentina, peut-être une proposition ?
30:42Moi, présidente, je développerai des filtres
30:45pour révéler tout ce qui est déceptif,
30:50faux, artificiel,
30:52dans tous les échanges qu'il va y avoir dans le futur
30:54parce qu'on va voir des choses assez spectaculaires.
30:57Très bien.
30:58Eh bien, merci à tous les trois.
31:00C'est la fin de cette IA Talk Canal+.
31:02Si vous avez aimé ce talk,
31:03sachez que nous avons un autre épisode disponible
31:05sur un sujet tout aussi passionnant et complémentaire.
31:08L'imagination est-elle une spécificité humaine
31:11disponible sur l'application Canal+.
31:13Salut à tous.
31:14Et n'oubliez pas quand même d'envoyer un petit message
31:16à vos proches humains
31:17plutôt qu'à votre IA ce soir.
31:18Sous-titrage Société Radio-Canada
Recommandations
1:34
|
À suivre
1:03
1:19
1:09
1:21
1:09
1:30
1:31
0:56
0:58
1:37
1:16
0:44
2:15