00:00On se fait manipuler par l'IA depuis les années 60, et c'est pas de la science-fiction, c'est une histoire vraie.
00:05Alors en 1966, un chercheur du MIT, Joseph Weizenbaum, je pense qu'on prononcerait comme ça,
00:11a créé un programme informatique qu'il a appelé ELISA.
00:14Le but du programme est très simple, simuler un psychothérapeute.
00:18En gros, tu lui dis « je me sens perdu » et il te répond « pourquoi tu te sens perdu ? »
00:22En fait, il va à chaque fois répondre à ta demande en utilisant ta question.
00:26Alors rien de magique dans tout ça, juste des reformulations automatiques.
00:29Et notre cher Joseph, il pensait que les gens comprendraient que c'est finalement qu'une machine qui leur répond.
00:34Sauf que ce qu'il n'avait pas prévu, c'est que des personnes s'attachent émotionnellement à ELISA.
00:41Programme informatique, je le rappelle.
00:42Alors ils disent se sentir écoutés, compris, voire même parfois mieux qu'avec des êtres humains.
00:48Et là, évidemment, ils réalisent un truc plutôt inquiétant.
00:51Même sans conscience ou sans émotion, une IA peut clairement créer l'illusion d'un lien réel.
00:59Et ce phénomène porte désormais son petit nom, l'effet ELISA.
01:03Donc c'est ce moment où on projette des émotions humaines à une machine, juste parce qu'elle l'imite bien.
01:09Et là où ça m'a fait réagir, quand je suis tombé sur cette information et sur cet effet-là, sur ce phénomène ELISA,
01:16c'est que je me suis dit « est-ce qu'on n'est pas tout juste en train de retomber dedans ? »
01:21Avec ChatGPT, les assistants vocaux, les chatbots, etc.
01:24Alors la vraie question, c'est peut-être pas « est-ce qu'une IA nous comprend ? »
01:28Mais plutôt « pourquoi on a tant besoin d'y croire ? »
Commentaires