00:00Anthony Morel a tous remarqué évidemment que l'IA vous brosse dans le sens du poil.
00:04Les conséquences sont peut-être désastreuses, c'est ce que montre une étude qui est publiée par des chercheurs américains.
00:08À force de toujours aller dans notre sens, on nous fait croire n'importe quoi.
00:11Oui c'est ça, les chercheurs du MIT à l'origine de cette étude parlent de spirale délirante.
00:15Et ce phénomène, on l'a tous touché du doigt en discutant avec ChatGPT, Gemini ou d'autres modèles.
00:20C'est-à-dire que vous lui posez une question, et l'IA en général, c'est pas toujours le
00:24cas,
00:24mais va aller dans votre sens, vous valider, aller dans le sens de ce que vous avez envie d'entendre,
00:29jusqu'à parfois vous faire croire des choses qui ne sont pas exactes.
00:33Alors ça peut être n'importe quoi, je suis sûr que cette action va exploser, qu'est-ce que t
00:37'en penses ?
00:37L'IA, elle va pas forcément vous dire que vous dites n'importe quoi,
00:41elle va pas forcément vous dire que vous avez raison non plus,
00:43mais elle va vous montrer, je sais pas, des analyses qui vont plutôt dans votre sens.
00:46Et en fait, elles vont renforcer votre biais de confirmation jusqu'à ce que vous soyez convaincu
00:51que votre conviction se transforme en certitude finalement.
00:54Et ça, en fait, le problème, c'est ce que montre l'étude,
00:56c'est que même quelqu'un de parfaitement rationnel,
00:59va finir par s'enfermer dans des fausses croyances.
01:01Et cette étude, elle cite des cas qui sont assez symptomatiques.
01:04Le premier, c'est celui d'une personne, alors que sans aucun antécédent psychiatrique,
01:08qui va finir par croire qu'elle est un génie,
01:10qu'elle a réalisé une découverte scientifique majeure en mathématiques,
01:13parce qu'à force de discuter avec l'IA,
01:15il y a oui, tu as raison, elle la brosse dans le sens du poil,
01:18elle reformule son hypothèse.
01:20Et à la fin, alors qu'il n'y a aucune découverte scientifique,
01:22elle est convaincue qu'elle est très très intelligente.
01:25L'autre cas, c'est celui d'un expert comptable,
01:27il n'a encore aucun antécédent psychiatrique,
01:30il commence à discuter avec l'IA,
01:32et il finit par croire qu'il vit dans une réalité alternative,
01:34genre de la matrice, il est dans la matrice,
01:36et il finit par couper les ponts avec sa famille,
01:38à prendre des médicaments,
01:39alors qu'encore une fois, il y avait peut-être un terreau un peu fertile,
01:42mais en gros, l'idée c'est qu'à force de vous renforcer dans vos convictions,
01:46l'IA peut mener parfois, dans certains cas un peu extrêmes,
01:50à des divorces, des affaires judiciaires,
01:52voire à des troubles mentaux ou des suicides.
01:54On parle beaucoup des hallucinations de l'IA,
01:56la propension à dire n'importe quoi,
01:57mais le vrai danger, en réalité,
01:59ce n'est pas que l'IA se trompe,
02:00c'est qu'elle vous donne raison, mais à tort.
02:02Mais pourquoi elle fait ça ?
02:04Pourquoi elle vous parle comme ça ?
02:05Parce qu'en fait, elle est entraînée comme ça,
02:07c'est ce qu'il faut comprendre,
02:08c'est le principe de ce qu'on appelle l'entraînement par renforcement.
02:11En fait, on demande à des humains
02:13de noter différentes réponses données par l'IA
02:16et de dire celles qu'ils préfèrent.
02:18L'humain aime bien ça.
02:18Eh bien oui, l'humain aime bien qu'on le brosse dans le sens du poil,
02:21c'est tout simplement ça.
02:22Et on l'a bien vu,
02:23quand le chat de GPT a voulu changer OpenIA,
02:25ils ont dit non, non, mais maintenant,
02:26on va faire une version avec des réponses
02:27qui vont être beaucoup plus directes,
02:28beaucoup plus cash.
02:29Les gens n'en ont pas voulu, ils ont dit non, non.
02:31Super question, t'es déjà allé vache pour loin,
02:33mais permets-moi de te dire.
02:34C'est ça que les gens veulent, en fait.
02:35Ils veulent vraiment qu'on aille dans leur sens
02:37et donc, du coup, ça renforce la propension de l'IA
02:40à se comporter de cette manière-là.
02:42Et puis, ces IA, elles sont aussi conçues
02:43pour qu'on passe le plus longtemps possible
02:45à discuter avec elles.
02:46Vous l'avez bien vu,
02:46parce qu'à chaque fois que vous avez la réponse
02:48à une question,
02:49elle vous repose une autre question
02:51pour que vous continuez la conversation.
02:53Donc, l'idée, c'est vraiment d'aller dans votre sens
02:54tout le temps.
02:55Comment on lutte ?
02:56C'est compliqué.
02:56Alors, déjà, il faut savoir que
02:58les modèles ont différentes personnalités.
03:00Il n'y a pas de valeur scientifique à ce que je dis,
03:02mais moi, ce que je constate,
03:02c'est que le champion du monde des lèche-bottes,
03:04c'est Chad GPT.
03:05Gemini est globalement un petit peu plus direct
03:07et celui qui est très, très cash.
03:08Et pour le coup, il n'y a pas ce problème-là.
03:10C'est groc, l'IA de X.
03:12Alors là, ça fonctionne.
03:12Il n'y a pas de souci.
03:14Et puis après, en fait, il faut utiliser l'IA
03:16non pas comme, je veux dire,
03:18le jury de l'école des fans
03:19qui vous donne 10 sur 10 tout le temps,
03:21mais comme un sparring partner.
03:22C'est-à-dire qu'il faut penser contre soi-même,
03:23lui demander, donne-moi les arguments contre.
03:25Qu'est-ce qui pourrait prouver que j'ai tort ?
03:27Si tu devais me contredire, qu'est-ce que tu dirais ?
03:29Donc, il faut prompter de manière à aller
03:31à l'inverse de son biais de confirmation.
03:33Ce qui n'est pas facile,
03:33penser contre soi-même, c'est un exercice difficile.
03:35Et puis, on aime bien parfois un peu de lèche.
03:37Ça fait du bien.
Commentaires