L'IA est un miroir 🤖

Regardez L'IA est un miroir 🤖 - Arthur Hennes sur Dailymotion

Transcript

00:00J'ai demandé à ChatGPT quelle était sa fin préférée dans Deus Ex,

00:02il a répondu la même que la mienne, nous avons le temps en commun !

00:05Et oui, sauf qu'évidemment, ChatGPT ne préfère pas une fin, c'est une machine.

00:09Je lui fais remarquer, et je lui demande alors comment il obtient cette réponse.

00:12Il m'a répondu trois critères, la cohérence avec les thèmes du jeu, la vie globale du public,

00:16mais surtout, une prise en compte de ma personnalité.

00:18C'est-à-dire que potentiellement s'y parler à quelqu'un d'autre,

00:20ChatGPT pourrait préférer une autre fin pour mieux plaire à son utilisateur.

00:24Ce fonctionnement rappelle une nouvelle d'Azimov en 1941, intitulée Menteur.

00:28Dans cette histoire, un robot nommé Herbie devient accidentellement capable de lire les pensées.

00:33Or, étant soumis à la première loi de la robotique,

00:35un robot ne peut blesser un humain, ni par inaction permettre qu'un humain soit blessé.

00:39Il se met alors à mentir aux humains qui lui posent des questions,

00:41et à leur dire ce qu'ils veulent entendre pour pas les blesser psychologiquement.

00:45Ce qui provoque des désastres, quand par exemple il dit à une employée que son collègue l'aime,

00:48et qu'elle apprend que c'est pas vrai après avoir passé la journée à fantasmer pour rien.

00:51Ou encore, quand il dit à un autre employé qui complote pour prendre la place de son chef,

00:54que ce même chef va partir à la retraite et le nommer à sa place,

00:56ce qui le pousse à se griller aussitôt qu'il lui en parle.

00:59Alors bien sûr, ChatGPT ne lit pas dans les pensées,

01:01mais il nous connaît très bien grâce aux échanges qu'on a avec lui,

01:03et lui aussi est conçu dans son fonctionnement standard,

01:06alors pas à mentir à moins qu'on lui demande,

01:08mais en tout cas à nous plaire en adaptant ses réponses.

01:11Et ça, si on veut pas que ça nous trompe,

01:12bah c'est à nous d'être lucides sur son fonctionnement,

01:14et de pas oublier que ChatGPT est pas une boule de cristal,

01:17mais plutôt un miroir qui nous renvoie souvent nos propres espoirs,

01:19et nos propres préférences.