00:03Ma première invitée s'appelle Fatia Gass, bonjour Fassia, vous êtes directrice innovation et programme IA Générative au groupe La
00:12Poste.
00:13Vous contribuez donc à un groupe de travail aussi au sein du Hub France IA sur cette question des IA
00:19Génératives et en particulier de leurs risques.
00:21Aujourd'hui ce qui m'intéresse c'est le sujet d'une conférence que vous allez donner au Tech Show
00:26Paris qui se tient là très prochainement, les 18 et 19 novembre prochains, d'ailleurs on sera présent sur ce
00:33salon.
00:34Vous vous interrogez la question de la décision à l'ère de l'IA. Est-ce que l'IA aujourd
00:39'hui ça vous semble un atout pour mieux décider ou au contraire un risque ? Vous vous rangez dans quelle
00:45catégorie ?
00:46Je dirais aucune des deux. Ça dépend du type de décision que l'on a à prendre. Clairement l'IA
00:54est une aide indéniable quand on a à décider mais dans des circonstances bien particulières.
01:01C'est-à-dire que quand on a un objectif qui est bien déterminé, qui ne bouge pas, quand on
01:06a des données qui sont propres, qui sont validées, vérifiées et évidemment lorsque la décision a été prise et qu
01:16'il y a une erreur, on puisse revenir en arrière et qu'il n'y a pas d'enjeu avec
01:22cette décision-là.
01:23D'accord. Ce qu'il y a c'est que ça, j'ai l'impression peut-être que ça peut
01:27rendre encore plus complexe la prise de décision parce qu'on va se baser sur des données qu'on possédait
01:33déjà auparavant, des réflexes peut-être que nous avons en tant que chef d'entreprise.
01:38Et puis d'un seul coup, il y a en plus un autre avis qui apparaît qui est celui de
01:42l'intelligence artificielle.
01:43Eh bien c'est à nous de décider encore une fois si on va prendre en compte cet avis ou
01:48pas.
01:48Il n'y a pas un risque quand même d'estimer que finalement le logiciel dit intelligent va être supérieur
01:55?
01:55Bien sûr et le risque est là, c'est cette espèce de confiance que l'on a en la machine
02:01en se disant c'est une machine donc elle ne peut pas se tromper.
02:03D'ailleurs on est beaucoup plus sévère vis-à-vis d'une machine qui se trompe que vis-à-vis
02:09d'un humain qui se trompe parce qu'on considère que la machine ne peut pas se tromper.
02:13Et le risque il est aussi là, c'est-à-dire que de fait on a une confiance absolue, on
02:18ne vérifie pas, on pense que la machine est neutre.
02:21Or ce qu'on oublie c'est que la machine elle véhicule nos propres biais, nos propres défauts.
02:27Une IA elle a été faite par des hommes avec un grand H donc elle véhicule entre guillemets tous nos
02:33travers.
02:34Et ça on a tendance à l'oublier ou on ne le sait pas parce qu'on ne sait pas
02:38exactement comment ça fonctionne.
02:39En sachant mieux, on peut mieux effectivement décider.
02:45D'accord.
02:47Aujourd'hui, ce que vous donneriez comme conseil justement aux décideurs en entreprise sur la manière de prendre en considération
02:56ces recommandations, on va dire, de l'intelligence artificielle ?
03:01Alors moi je reste, je travaille dans le domaine de l'intelligence artificielle, je fais confiance à l'intelligence artificielle
03:10dans certains domaines.
03:11En revanche, je reste très critique et tout ce que me fournit l'intelligence artificielle, j'y mets un oeil
03:18critique.
03:18Je vérifie quand le sujet me paraît important et donc c'est ça que je recommande.
03:24Alors qu'est-ce qu'on vérifie ? Les données en 30, c'est ça ?
03:27Les données en 30, c'est beaucoup plus compliqué de les vérifier parce qu'elles sont pléthoriques et donc on
03:32a du mal à vérifier ça.
03:34En revanche, on peut vérifier la sortie quand on demande quelque chose à une IA générative, on peut lui demander
03:39ses sources et on peut vérifier ses sources.
03:41Moi c'est ce que je fais et il m'est arrivé de cliquer sur une source en me disant,
03:46tiens, qu'est-ce qu'elle dit cette source ?
03:47Et en fait, la source n'existait pas, ça avait été inventé parce qu'une IA, c'est un algorithme
03:53qui fait ce qu'on lui a demandé de faire.
03:55Donc je lui demande de me fournir des sources, il va me fournir des sources quitte à les fabriquer et
03:59quitte à ce qu'elles soient fausses.
04:00Donc voilà, restons critiques et disons-nous bien que la machine en réalité, elle n'est pas intelligente.
04:08On fait en sorte qu'elle ressemble à notre comportement, qu'elle est à peu près notre comportement et qu
04:13'elle soit, qu'elle est l'air intelligente.
04:15Mais en réalité, elle n'est pas intelligente. Et ça, il ne faut jamais le perdre de vue.
04:20Est-ce qu'il y a un risque de perdre la richesse des différents points de vue au sein de
04:24l'entreprise ?
04:25Tout à fait, tout à fait. Et c'est pour ça que lorsqu'on conçoit un système, si on veut
04:30diminuer du nombre d'angles morts,
04:33alors il faut diversifier les équipes qui conçoivent les systèmes.
04:37On ne peut pas confier la conception d'un système à un seul type de population.
04:42Il nous faut des jeunes, des seniors, des femmes, des personnes de différences ethno-culturelles et les équipes techniques avec
04:51les équipes métiers.
04:52Et là, on a des chances de diminuer au maximum les angles morts.
04:57On peut arriver comme ça à une décision augmentée, plus intelligente ?
05:02Tout à fait. À une meilleure décision ou à une décision plus pertinente par rapport à l'objectif qu'on
05:08s'est fixé.
05:08Parce qu'il ne faut jamais perdre de vue que derrière cette décision, il y a un objectif, en fait.
05:13Donc, ce que vous nous dites, c'est qu'il faut garder la main, de toute façon, sur la décision.
05:19Oui, tout à fait.
05:20Et il y a plusieurs façons de la garder.
05:22Oui.
05:22Donc, de regarder ce qui sort de cette décision, quelles sont les sources, d'avoir des équipes multiples et variées
05:29qui travaillent sur la création des systèmes de prise de décision.
05:32Tout à fait.
05:32Quoi d'autre ?
05:33La qualité des données.
05:35Oui.
05:36La qualité des données.
05:37Et tout le monde va vous dire, de mauvaises données en entrée, ça vous donne de mauvais résultats en sortie.
05:43Et donc, se préoccuper de la qualité des données.
05:46Aujourd'hui, les entreprises ont énormément...
05:48Et ça, c'est le travail de qui dans l'entreprise ?
05:50C'est le travail de ceux qui s'occupent des données, justement.
05:53Tous les data managers, tous les data scientists, les data analysts, ces personnes-là sont en prise directe avec la
06:02donnée et sont en capacité de dire, c'est de la donnée fiable, ça n'est pas de la donnée
06:06fiable.
06:07Et c'est tout un travail.
06:08Aujourd'hui, on veut aller vers l'intelligence artificielle et on oublie parfois de se préoccuper de la qualité de
06:14la donnée que l'on a.
06:15Merci beaucoup, Fatih Agas, d'avoir témoigné dans Smartech.
06:19Je rappelle que vous êtes la directrice innovation et programmée générative au sein du groupe La Poste.
06:24Merci beaucoup.
06:24Merci à vous.
