La tautologie au carré de l’IA générative [Isabelle Barth]

Xerfi Canal

Pas si fréquent, je vais vous raconter une histoire de Tauto ! Pas le Toto auquel vous pensez ! Une histoire de tautologie, et ça peut être une histoire pas drôle du tout. Mais elle vaut le coup d’être entendue. C’est l’histoire de l’Intelligence Artificielle qui nous fait tous courir un risque important : celui du raisonnement tautologique ! [...]

Transcript

00:00Je vais vous raconter une histoire de toto.

00:10Pas le toto auquel vous pensez, mais une histoire de tautologie.

00:15Et ça peut être une histoire pas drôle du tout.

00:17Mais elle vaut quand même le coup d'être entendue.

00:20C'est l'histoire de l'intelligence artificielle qui nous fait tous courir un risque important,

00:25celui du raisonnement tautologique.

00:27Je l'ai déjà observé, il est important de comprendre ce qui peut advenir pour s'en prémunir.

00:33Qu'est-ce que la tautologie ?

00:35On la reconnaît facilement en littérature.

00:37La tautologie consiste à répéter la même chose avec des mots différents.

00:41Un exemple simple, il est parti à l'aube ce matin.

00:45On peut avoir aussi des tautologies volontaires,

00:48qui marquent la volonté de faire passer le message comme « un ordre est un ordre ».

00:52Le raisonnement tautologique, encore appelé effet Cerceau,

00:56consiste à admettre au début du raisonnement ce que l'on veut prouver par la démonstration que l'on va faire.

01:03Un exemple pour une étude en management.

01:06Je veux démontrer le rôle essentiel du dirigeant d'entreprise dans la performance de son entreprise.

01:12En toute rigueur scientifique, je pose l'hypothèse qui sera soit validée, soit invalidée.

01:16Mais je décide de prendre comme cas d'étude des chefs d'entreprise qui ont réussi,

01:22et comme méthode des entretiens qui leur demandent comment ils ont mené cette réussite.

01:26CQFD.

01:28En quoi l'IA générative risque-t-elle de créer une tautologie au carré ?

01:33Je l'ai déjà observée à plusieurs reprises.

01:35Étape 1, je mène une étude sur un sujet.

01:38Mon premier réflexe est de demander une synthèse à l'IA générative de mon choix.

01:42Étape 2, je vais dans les entreprises pour observer le phénomène

01:46et mener des entretiens auprès des personnes concernées.

01:49Étape 3, je constate que ce qu'ils me disent correspond à ce que m'avait livré mon IA.

01:55Où est le bug ?

01:56Le problème, c'est que l'IA générative puise dans ce que les chercheurs,

02:00les managers ont pu dire et écrire sur le sujet.

02:03Il est donc logique que je retrouve dans mes entretiens ce qui a déjà été mis au jour

02:06par les experts comme les opérationnels.

02:09Ce que j'ai lu, entendu ou observé dans les entreprises est déjà collecté

02:14pour le réservoir de données de l'IA et les pratiques sont, à leur tour, inspirées par ces écrits.

02:21C'est comme cela qu'on peut être certain que 100% des gagnants du lot

02:24ont tenté leur chance ou que 100% des entrepreneurs qui ont réussi

02:29ont fait les bons choix stratégiques.

02:32C'est à l'intelligence humaine de résister et de réfuter contre ce biais tautologique

02:37ou bien d'éduquer son IA à le faire.

Catégorie

Transcription

Recommandations