00:00Il est 6h20, quand des psychiatres observent notre rapport à l'intelligence artificielle,
00:05mais aussi des juristes, des économistes, des scientifiques,
00:07c'est tout l'intérêt du conseil pluridisciplinaire qui a été lancé en février,
00:11qui rend aujourd'hui son rapport à l'Elysée,
00:13rapport sur nos vulnérabilités face à l'IA générative.
00:16Quelles sont-elles ces vulnérabilités ?
00:18Bonjour Amine Benyamina.
00:20Bonjour.
00:20Vous êtes professeur de psychiatrie et d'addictologie à l'université Paris-Saclay.
00:24Vous êtes coprésident de cette commission IA générative et vulnérabilité.
00:28Il y a un discours dominant de la part de dirigeants ou de chefs d'entreprise qui nous dit
00:32« Attention, il ne faut surtout pas rater ce virage technologique qu'il y a. »
00:36Et vous, vous nous dites prudence ?
00:37Oui, prudence, évidemment, ce virage, je ne veux pas le rater,
00:40mais simplement, il ne faut pas non plus rentrer dans le mur.
00:42Si je peux me permettre de reprendre un peu votre image.
00:46Quelle est la genèse de ce travail ?
00:49C'est une commission qui a été installée par le président de la République et la ministre du Numérique,
00:53avec Serena Vilata, vous ne les avez pas citées,
00:55mais je vais le dire, qui est chercheuse sur l'intelligence artificielle,
00:58et mon collègue Raphaël Gaër, qui est psychiatre à Sainte-Anne.
01:00Voilà, les trois coprésidents.
01:02Ce sont les trois.
01:03Et donc, la composition déjà annonce finalement le sujet de notre travail.
01:08Le président avait lancé une réflexion sur l'IA.
01:11Et donc, ensuite, il nous a demandé de réfléchir de manière assez claire,
01:14parce qu'il y avait des signaux sur « on aime, on n'aime pas ».
01:19Il y a un vrai paradoxe.
01:19Les Français ont massivement adopté l'IA, un peu comme partout dans le monde.
01:23C'est 100 millions d'utilisateurs en deux mois, si vous comparez...
01:26Pour ChatGPT.
01:27Oui, pour ChatGPT.
01:28À Instagram, on a mis 26 mois pour avoir beaucoup moins que ça.
01:31Et donc, il y a une véritable fascination.
01:34Et puis, on a peur, parce que ça va vite, on ne sait pas de ce qu'il en retourne.
01:38Puis, on s'est rendu compte qu'il y avait quand même des vulnérabilités,
01:41et puis des risques.
01:42Bien que, évidemment, ce virage, il faut le prendre.
01:44On ne dit pas ça, mais il y a des vrais risques liés à cette technologie.
01:48Et ça, c'est ce que vous listez dans votre rapport.
01:51Première catégorie de risques, les vulnérabilités, à l'échelle des individus.
01:55Et notamment, vous parlez de dette cognitive.
01:57De quoi s'agit-il ?
01:58Alors, la dette cognitive, c'est le fait, finalement, de ne pas exploiter intégralement
02:02nos capacités cognitives.
02:03C'est quoi ?
02:04C'est la pensée, la réflexion, l'expression, la décision.
02:07C'est tout ça.
02:08On ne fait pas marcher notre cerveau à plein.
02:09En gros, c'est un peu ça.
02:11J'ai pris quelques notes, parce que le rapport est assez récent.
02:14On s'est rendu compte qu'on avait une amplitude de 55% qui est utilisée.
02:18Donc, forcément, à un moment ou à un autre, on va se retrouver sur une forme de dépendance
02:23et de paresse cognitive.
02:25Et ça, c'est extrêmement important.
02:26On le voit tout de suite.
02:27Si vous allez chercher une information, il y a quelques années, on tapait sur les moteurs
02:32de recherche connus, Google pour ne pas le citer.
02:34Et on avait un certain nombre de pages sur lesquelles, ou bien de lignes sur lesquelles,
02:38on appuyait pour avoir une information.
02:40Maintenant, on a directement l'information qu'il nous a donnée.
02:42On n'a plus le libre arbitre.
02:43C'est fini.
02:44Et puis, on ne peut même pas aller rechercher la source.
02:47Donc, ça fait partie de ces choses-là.
02:50Lorsqu'il y a été arrivé, à titre personnel, et puis dans mon entourage, j'étais encore
02:55sur Google.
02:57Je le dis parce que c'est un peu le cas de tout le monde.
02:59Maintenant, je vais directement sur l'icône sur GPT, parce que ça me raconte tout.
03:02Et puis, j'ai une forme à la fois de dette et de paresse cognitive.
03:05Donc, vous-même, vous l'utilisez ?
03:07Comme tout le monde.
03:08Pas toujours, mais beaucoup.
03:09Ça, c'est un point.
03:10Le deuxième point, c'est la dépendance émotionnelle.
03:12Vous l'avez liée, c'est-à-dire sur les individus, liée à cette IA.
03:17Et cette dépendance émotionnelle, elle est amplifiée par ce qu'on appelle la flagornerie.
03:22Donc, il faut faire attention à ça.
03:24Mais dans vos consultations, il y a des patients qui viennent vous voir à cause de l'IA ?
03:27Pas encore.
03:28En revanche, dans la fila active qui est la mienne, parce que dans mon service, j'ai un hôpital de
03:33jour adolescent, 15-23 ans.
03:36De plus en plus, je remarque une forme de fuite dans l'IA, notamment liée à conversationnelle et affective, dont
03:43on parlera peut-être tout à l'heure.
03:45Et qui m'amène à réfléchir sur la parole donnée et l'importance donnée à ce mécanisme.
03:52C'est des personnes en souffrance.
03:54Et là, c'est un vrai signal pour le clinicien que je suis.
03:56Dans votre rapport, vous avez identifié aussi les vulnérabilités contre notre modèle de société.
04:02Là, de quoi s'agit-il ?
04:03Alors, si vous repartez sur les vulnérabilités individuelles, on se rend vite compte qu'on a quand même affaire à
04:11une machine extrêmement puissante.
04:13Alors, sur le collectif, c'est d'abord l'enjeu de la pensée et de l'opinion.
04:20On est à la veille des élections.
04:21On se rend compte que quand même, ce qui sort de la bouche de l'IA est plus crédible et
04:26moins sujet à discussion et moins sujet à débat.
04:30Lorsque vous posez une question...
04:31On croit pour avoir tant content tout ce que nous dit l'IA ?
04:31Absolument. Par exemple, sur les opinions, on s'est rendu compte, on a regardé ce qui s'est passé en
04:35Écosse,
04:36que 35% des informations qui ont été distribuées par l'IA pour les personnes qui devaient finalement voter étaient
04:44erronées.
04:45Un tiers.
04:46Un tiers. C'est beaucoup.
04:47Et donc, je ne dis pas qu'ils ont voté parce qu'ils avaient ce type d'informations,
04:52mais on a affaire quand même à des choses extrêmement importantes.
04:56Les risques sont séduisants, surtout en période électorale.
04:58Et donc, on a un élément important.
05:00Pour ce qui est de la France, on a un fossé linguistique, on le note,
05:05parce que ces machines, ces IA, sont construites sur un modèle anglo-saxon.
05:10En dehors de la langue, il y a quand même un mode de réflexion, un mode de pensée,
05:13qui est véhiculé aussi par ce type d'outils.
05:16Mais donc, vous nous dites qu'il faut faire attention à l'IA en tant que tel, en tant qu
05:20'objet informatique,
05:21ou parce qu'elle est entre les mains de 4-5 grandes entreprises qui ont des visées commerciales ?
05:25Les deux.
05:25Les deux, parce qu'il y a aussi une vulnérabilité économique.
05:28Bien qu'on soit psychiatre, on avait quand même des gens qui étaient experts sur le sujet.
05:33Un peu, rappelez-vous, sur les réseaux sociaux, on a commencé à les mettre à disposition gratuitement.
05:37Puis petit à petit, 15 ans après, on voit pertinemment qu'on a quand même un modèle économique insidieux qui
05:44s'est installé.
05:45Après avoir construit une forme de dépendance, qu'elle soit clinique ou non, vis-à-vis de l'objet,
05:52et donc avec une monétarisation de fait de ce type de technologies.
05:57Et une fois que ce constat est fait, est-ce qu'on peut atténuer ces vulnérabilités ?
06:00Alors, on peut les atténuer, puisqu'on a évidemment des propositions.
06:05Globalement, on a mis en place des alertes.
06:08La première, c'est sur les enfants.
06:10Là, c'est très clair.
06:11On a très clairement montré que pour les enfants, il fallait faire attention,
06:16parce qu'on a déjà des objets, des jouets avec l'IA, tout ça,
06:19qui constituent finalement une véritable alerte.
06:21Pourquoi ? Parce que le cerveau de l'enfant...
06:23Il est en construction ?
06:24Il est en construction.
06:25On en avait parlé, rappelez-vous, pour les réseaux sociaux et les écrans.
06:27Oui, vous étiez venu.
06:28C'est toujours la même chose, et c'est même pire, en gros, avec l'IA.
06:31Donc là, là-dessus, il va falloir très vite avancer sur le sujet.
06:34Mais sinon, on protège l'exploitation des mineurs, forcément.
06:37Donc, on a proposé aussi une forme d'analyse,
06:42ou bien avant et après la mise sur le marché de ce type de produit.
06:46Puis, on parle carrément d'autorisation de mise sur le marché.
06:50Et le président de la République va dans votre sens ce matin dans une interview aux Echos,
06:54puisqu'il dit que s'il y a un risque pour les enfants avec certains usages de l'IA,
06:58alors il faut l'interdire.
06:59Merci beaucoup, Amine Benyamina, d'être venue ce matin dans le studio,
07:03j'allais dire dans le bureau, c'est un peu notre bureau aussi,
07:05le studio du 5-7, co-président de cette commission IA Générative et Vulnérabilité.
07:09Vous êtes professeur de psychiatrie et d'addictologie.
