- il y a 2 jours
Catégorie
🗞
NewsTranscription
00:00...
00:00Merci beaucoup Sacha, vous restez avec nous.
00:10Je vais demander à Jean-Baptiste Mananti, qui doit être dans la salle, de nous rejoindre sur scène, s'il vous plaît.
00:16Ah ben le voilà, bonjour. Vous allez vous mettre au milieu.
00:21Bonjour Jean-Baptiste, merci beaucoup Sacha pour cette keynote.
00:25Jean-Baptiste, vous êtes l'auteur de la dernière étude de l'Institut Terram, que vous avez co-écrit avec la talentueuse Aurélie Jean,
00:31qui est intitulée IA, inclusion algorithmique et enjeux de cohésion sociale, économique et territoriale.
00:37Donc votre étude, elle interroge la capacité des utilisateurs, vous dans cette salle, citoyens, entreprises, décideurs politiques,
00:45à comprendre les mécanismes de l'IA, c'est-à-dire comment ça marche.
00:50Vous l'avez abordé cette question, Sacha. Comment ça marche ? Quelles sont vos conclusions, Jean-Baptiste ?
00:56Il faut l'allumer, il faut l'allumer parce qu'il y avait des larsen.
01:00Quand on a lancé cette étude, effectivement, on s'est intéressé à la manière dont cet objet, l'intelligence artificielle,
01:08était saisie à l'échelle territoriale, et vous l'avez dit, par les individus, mais aussi par les organisations,
01:14et en particulier les collectivités territoriales.
01:16La conclusion, elle est très simple, c'est que la manière dont l'IA se déploie aujourd'hui,
01:20elle fait peser un risque d'une France à deux vitesses, avec en particulier des territoires périphériques,
01:25périurbains, ruraux, ultramarins, qui sont défavorisés, et qui risquent d'être encore plus marginalisés par le déploiement de ces outils.
01:33Mais qu'est-ce qui explique cette France à deux vitesses, dont vous venez de parler, selon vous ?
01:36Alors, il y a une double dynamique, mais qui repose sur les discussions qu'on a eues tout à l'heure, sur les billets algorithmiques.
01:41Une double dynamique. D'abord, il y a le sujet de l'entraînement de ces modèles, ces grands ensembles de données qui vont entraîner ces outils.
01:50Si c'est les ensembles de données des centres, des villes, pour le dire un peu creuement,
01:56ils vont invisibiliser par nature la réalité de ces territoires, qu'on peut dire périphériques.
02:02Le deuxième élément qui va renforcer ça, c'est ce qu'on disait, le fait que ces outils s'entraînent en permanence sur les données de leurs utilisateurs,
02:12et si ces utilisateurs, il se trouve que lorsqu'ils sont habitants de ces territoires périphériques, en particulier dans les zones rurales,
02:24ils ont des usages qui sont moins intenses, qui sont moins développés de ces outils.
02:27Et donc, on va avoir cette espèce de cercle vicieux, qui fait que d'une part, par l'entraînement de ces modèles,
02:32et d'autre part, par leur usage, on va continuer à marginaliser ces territoires.
02:36Et ça va avoir des effets très concrets, à la fois en termes de perpétuation des stéréotypes qui sont associés à ces territoires.
02:42Si vous prenez un grand modèle et que vous lui demandez de vous générer une photo d'une femme bretonne,
02:45il y a très forte chance pour qu'il vous sorte une photo d'une femme en costume traditionnelle avec la bigoudenne.
02:50Ça, c'est du maintien de stéréotypes.
02:51Et puis, au-delà de ça, on va avoir des outils qui ne sont pas du tout adaptés aux réalités de ces territoires-là.
02:56Alors, Jean-Baptiste, pour savoir si ces IA génératives, elles constituent un risque ou une opportunité,
03:03il faut vraiment que tous les utilisateurs, et donc c'est toutes les personnes qui sont dans cette salle,
03:07comprennent concrètement, on en a parlé depuis le début de ce think tank,
03:11mais comprennent concrètement qui les fabrique, qui les possède, qui les entraîne.
03:16Ça aussi, vous en avez parlé, Sacha, mais je voudrais vraiment avoir une réponse de Jean-Baptiste sur ce sujet.
03:20Qui les entraîne.
03:21Et d'ailleurs, ce n'est pas un hasard si ce sujet de l'éducation, très prégnant, il est au cœur de votre étude aussi.
03:27Oui, c'est vrai.
03:28Quand on développe cette notion d'inclusion algorithmique,
03:31qui s'inscrit dans le prolongement de l'inclusion numérique,
03:33et qui revient à essayer de comprendre tous les processus qui nous permettent de concrètement reprendre la main sur ces outils-là,
03:38on l'étudie selon quatre axes.
03:40Il y a un premier axe qui est l'axe de l'accès,
03:43pouvoir accéder à ces outils, à ces terminaux, à une connexion de qualité.
03:46Il y a un deuxième axe qui est l'axe des usages,
03:48donc un premier apprentissage, on va dire, savoir utiliser l'outil,
03:51mais savoir l'utiliser pour le mobiliser, on va dire, au service de son quotidien.
03:56Il y a un troisième axe qui est centré sur la compréhension,
03:59et là on rentre dans ce que vous disiez, effectivement,
04:00la compréhension du fonctionnement, mais aussi de l'ensemble de ses impacts sociaux, sociétaux, informationnels,
04:07la manière dont ça va transformer notre rapport au monde,
04:09nos dynamiques intrafamiliales, notre rapport au travail.
04:13Et donc l'ensemble de cette culture algorithmique, effectivement, il faut la soutenir.
04:16Et puis il y a une quatrième dimension qui repose plus, pour le coup, sur la conception de ces outils.
04:20Donc là, c'est comment on va, dès leur création, intégrer cette portée, cette dimension émancipatrice.
04:26Mais alors les politiques d'éducation, elles sont à la hauteur, selon vous, ou pas ?
04:29Alors je vais vous faire une réponse en deux temps,
04:31et puis en prenant une vision peut-être large de politiques d'éducation,
04:34c'est-à-dire en incluant aussi les politiques de médiation,
04:38qui vont avoir un impact assez fort sur le développement en particulier de cette culture numérique
04:41et de l'esprit critique qu'on peut avoir vis-à-vis de ces outils.
04:44Donc le premier élément, c'est que sur le terrain, ces politiques, elles sont à la hauteur.
04:49C'est-à-dire qu'il y a un écosystème foisonnant d'acteurs,
04:5213 000 structures de médiation, en plus des établissements scolaires ou universitaires,
04:57qui agissent, qui développent des pratiques.
04:59Alors il y a plusieurs programmes qui sont lancés,
05:02il y a la Maison de l'intelligence artificielle, Anis et Sophie Antipolis,
05:04qui a eu plus de 100 000 personnes depuis 2020,
05:06il y a des programmes comme Café IA, comme les Cafés de la Data,
05:08qui permettent d'aller accompagner justement les citoyens, le grand public,
05:12dans leur appropriation de ce sujet.
05:14Mais pour autant, cette politique sur le terrain pour qu'elle fonctionne,
05:17il faut qu'elle soit soutenue.
05:18Et il faut en particulier qu'elle soit soutenue financièrement.
05:21Et c'est là que le babless,
05:22parce que le projet de budget qui a été présenté la semaine dernière
05:25prévoit, il me semble, deux tiers de rabotage
05:28sur le budget de ces structures de médiation numérique.
05:30Concrètement, on passe de près de 42 millions d'euros à 14 millions,
05:34pour accompagner 16 millions de Français qui sont éloignés du numérique.
05:38Et donc, si vous voulez, il y a cette dualité entre des actions sur le terrain,
05:41on sait ce qu'il faut faire.
05:42Le sujet, c'est est-ce qu'on va se donner les moyens de pouvoir le faire ?
05:45Sacha, j'ai un peu fouillé, on a discuté ensemble pour préparer ce think-tank,
05:50j'ai un petit peu fouillé sur Google,
05:52et j'ai trouvé sur votre LinkedIn que vous inscriviez
05:57« AI and data for the good of people and the planet ».
06:02Donc, vous, en fait, vous êtes convaincu que l'IA peut faire plus de bien que de mal, c'est ça ?
06:06Alors, moi, je suis convaincue que l'avenir de l'intelligence artificielle
06:10dépend sur ce qu'on fait en tant que communauté mondiale aujourd'hui.
06:15Et que c'est une grande erreur de voir l'avenir de la technologie
06:19comme quelque chose qui nous arrive.
06:22Parce que l'avenir de la technologie, c'est ce qu'on fait aujourd'hui,
06:26au niveau de l'éducation, au niveau de politique publique,
06:29et au niveau de la diversité, équité et l'inclusion.
06:31C'est peut-être mon petit côté américain qui est éternellement optimiste,
06:36mais moi, je vois une grande débat autour de
06:40« Est-ce qu'il y a « est bien ou pas »
06:42comme quelque chose un peu contre-productive,
06:46parce que ça donne un type d'agence à quelque chose qui n'est pas humain.
06:51C'est l'entropomorphisation d'une technologie.
06:53Et c'est comme si on se demandait au début de l'Internet
06:56« Est-ce que l'Internet est bien ou mauvais ? »
06:59L'Internet a fait des choses absolument extraordinaires.
07:02L'Internet a assuré un accès à l'information sans précédent,
07:08a créé plein d'emplois qui n'existaient pas,
07:11et des boîtes aussi.
07:13Et d'ailleurs, on ne se pose plus la question aujourd'hui sur Internet.
07:15Voilà, c'est comment on les utilise.
07:16Et d'ailleurs, j'étais très interpellée par le magnifique discours de Madame la ministre,
07:20parce qu'en effet, les technologies, elles ne sont pas neutres,
07:23mais la possibilité de la technologie est définie par la population
07:29qui la crée, qui la régule et qui la utilise.
07:33Et donc, c'est pour ça que cette participation est absolument essentielle.
07:36Alors, Sacha, vous avez terminé votre keynote tout à l'heure sur l'IA responsable.
07:40Pourquoi l'inclusion numérique et algorithmique dont parlait Jean-Baptiste à l'instant,
07:45est-ce qu'elle est aussi fondamentale,
07:46mais aussi, paradoxalement, aussi peu développée, selon vous ?
07:52Alors, deux dimensions comme vous de réponse.
07:54La première, c'est que la responsabilité par nature
07:57doit être l'approche dans la manière dans laquelle
08:01on développe tout système de l'intelligence artificielle
08:04avec l'ambition de créer un secteur de la technologie
08:07aussi diversifié que la société qu'on aspire de créer.
08:11Donc ça, c'est absolument essentiel.
08:13Les populations qui créent ces solutions doivent être aussi diversifiées
08:18que les utilisateurs à la fin de la journée.
08:21Et c'est seulement comme ça qu'on va créer, justement,
08:24une technologie qui sert l'humanité et pas le contraire.
08:27Après, la raison pour laquelle il y a ce grand écart,
08:29c'est qu'en réalité, actuellement,
08:31quand vous parlez, par exemple, avec des contreparties dans l'industrie,
08:35environ 85% des organisations voient l'IA responsable
08:39comme une priorité primordiale au niveau du COMEX.
08:43Mais seulement 25% des entreprises ont un système en place
08:47pour la mettre en œuvre au niveau de gouvernance interne.
08:50Pourquoi ? C'est parce qu'il y a responsable.
08:52C'est compliqué.
08:53Et donc, en fait, nous, on passe énormément de temps chez AWS
08:56à aider les entreprises et les organisations
08:59à passer de la théorie vers le pratique.
09:01Et c'est essentiel.
09:02Parce que si vous parlez...
09:02J'ai passé très longtemps dans les organisations multilatérales
09:07avant d'être dans l'industrie.
09:08Si vous parlez avec des décideurs politiques,
09:11chaque décideur politique au niveau mondial,
09:13si vous demandez, est-ce que vous pensez que la transparence,
09:16l'explicabilité, la réduction de billets,
09:19c'est des éléments essentiels pour la manière dans laquelle on développe l'IA,
09:23chaque décideur politique va dire oui, absolument.
09:26Si vous parlez avec des ingénieurs et vous dites,
09:28est-ce que vous pouvez coder la transparence, l'explicabilité,
09:32la réduction des billets dans vos algorithmes ?
09:35Chaque ingénieur va dire, Sacha, c'est des très jolis mots,
09:38mais je ne comprends absolument pas ce que vous voulez que je fasse.
09:41Et en fait, il faut qu'on passe de cette théorie et conviction
09:44de politique publique vers la pratique par l'éducation,
09:48mais aussi par un partage de définition
09:51et une compréhension partagée au niveau mondial
09:53de qu'est-ce que c'est ces dimensions de l'IA responsable.
09:57Merci, Sacha.
09:57Dans ces conditions, Jean-Baptiste,
09:59comment mettre l'IA au cœur d'une action citoyenne globale
10:04pour éviter que l'IA ne creuse encore davantage les inégalités, selon vous ?
10:09Qu'est-ce que vous en dites dans votre rapport ?
10:10Cette question citoyenne, elle pose la question de la gouvernance de ces systèmes,
10:14en particulier de leur gouvernance à l'échelle locale.
10:16Alors, ça veut dire quoi concrètement intégrer les citoyens
10:18dans la conception et dans le suivi de ces outils ?
10:20Ça ne veut pas dire qu'on va avoir demain 60 millions d'ingénieries IA,
10:23mais on peut les associer en amont,
10:25dans la définition des besoins, des lignes rouges aussi
10:28qu'on veut imposer à ces systèmes,
10:31et derrière, dans l'évaluation et le suivi de ces outils.
10:35Et ça, localement, il y a plusieurs collectivités
10:37qui s'en sont déjà emparées.
10:39Pour retenir qu'un seul exemple,
10:40on peut prendre la ville de Rennes, par exemple,
10:42qui est un conseil citoyen du numérique responsable,
10:44et qui va permettre d'avoir, à chaque fois que la collectivité
10:46va développer ce genre d'outils,
10:48une interrogation quand même de ceux qui, au final,
10:50en sont très souvent les principaux utilisateurs
10:52et ceux qui vont le plus être impactés par eux.
10:53Est-ce que vous avez le sentiment, Jean-Baptiste,
10:56en ayant travaillé sur cette étude pendant de longs mois,
11:01que le monde politique,
11:03et on a plusieurs femmes politiques
11:05qui vont venir après, en fin de think tank,
11:08est-ce que ce monde politique
11:09prend la mesure de la révolution
11:11qui est en marche, selon vous ?
11:13Au vu de ce que je vous ai dit sur le budget,
11:17je pense qu'une partie de la réponse est non.
11:20Ceci dit, ce budget est encore susceptible d'évolution.
11:23On a l'espoir, et je sais qu'il y a des parlementaires
11:25dans la salle, justement,
11:26on a l'espoir que ça évolue dans le bon sens.
11:28C'est le moment de faire passer les bons messages.
11:30Ceci dit, il y a un besoin général,
11:32et au niveau national, politique,
11:34mais aussi territorial,
11:35de politiser l'IA.
11:36Et je rebondis vraiment sur ce que disait la ministre tout à l'heure,
11:39l'IA n'est pas un sujet neutre,
11:40et donc il y a un besoin, collectivement,
11:42politiquement, de s'en emparer,
11:43comme un objet politique,
11:44c'est-à-dire comme un objet de choix,
11:46de décision,
11:47et ces décisions, il va falloir qu'on les fasse.
11:49Sacha, on est terriblement pris par le temps,
11:51mais j'ai vraiment envie de vous poser
11:52la dernière question qu'on avait préparée ensemble,
11:54puisque j'ai vu, en fouillant sur l'Intid
11:57et votre trajectoire,
11:59que vous avez travaillé 12 ans à l'UNESCO,
12:00et notamment en Afrique, à Dakar,
12:02et à Addis Abeba.
12:03Ce n'est pas anodin.
12:05Parlez-nous, si vous le voulez bien,
12:06en quelques secondes,
12:07de l'inclusion algorithmique et de l'IA
12:09comme vecteur d'égalité
12:10dans un continent autant en explosion
12:13comme l'Afrique.
12:13D'ailleurs, vous avez parlé d'Igali aussi,
12:15tout à l'heure.
12:16Merci pour cette question,
12:17et merci pour votre fouillage.
12:18En général, quand les gens tapent
12:19Sacha Rubel sur l'Internet,
12:21il y a quelque chose qui arrive,
12:22qui est une autoportrait de Sacha Rubel
12:23dans son salle de bain.
12:24Ce n'est pas moi.
12:25Ah, mais je n'ai pas vu ça.
12:26Et donc, je suis ravie
12:27que vous avez trouvé un autre élément.
12:31Donc, par rapport à cet aspect de l'Afrique,
12:34précisément,
12:34alors pas simplement,
12:35j'ai travaillé pour UNESCO en Afrique,
12:36mais j'ai grandi en Afrique.
12:38J'ai quitté l'Afrique quand j'avais 17 ans
12:39et j'ai de la grande chance
12:41d'avoir grandi au Mali et au Sénégal.
12:44Et en fait, par le vécu,
12:46mais aussi par mon parcours professionnel,
12:48je dirais deux choses.
12:49Une, c'est que je suis attristée
12:53par le discours qui existe
12:54au niveau de ce qui se passe en Afrique,
12:57comme si on doit importer
13:00des solutions européennes envers l'Afrique,
13:02parce qu'en réalité,
13:03il y a des solutions qui existent
13:05dans une manière absolument extraordinaire
13:07qui sont créées en Afrique
13:08et qui sont un modèle pour le reste du monde
13:11et qui devraient être exportées,
13:13comme ce qui s'est passé
13:14avec tout ce qui est le mobile banking
13:16à l'époque qui était créé en Afrique de l'Est.
13:18Il y a des solutions
13:18pour la santé féminin,
13:20pour l'accès aux finances
13:21et pour l'éducation personnalisée en Afrique,
13:25qui est une opportunité,
13:26une occasion absolument extraordinaire
13:28de prendre ces innovations
13:30et de les exporter au niveau mondial.
13:32parce que quand vous regardez démographiquement
13:34le monde de demain,
13:36les plus grandes innovatrices
13:38et entrepreneuses
13:39viendront du continent.
13:42Et juste une statistique par rapport à ça,
13:44le plus grand nombre d'entrepreneurs
13:48par population au niveau mondial,
13:53c'est au Ghana.
13:55Ghana a le plus d'entrepreneuses mondiales
13:59vis-à-vis de leur population.
14:00Donc en fait,
14:01c'est une opportunité,
14:02pas simplement pour l'émancipation féminin,
14:05mais aussi que l'Afrique soit vraiment
14:08une modèle de qu'est-ce que
14:10et comment faire de l'IA,
14:12une dévier pas simplement
14:13de l'émancipation et l'inclusion,
14:16mais aussi de la co-création
14:18de l'avenir qui existera demain.
14:20C'est un vrai sujet,
14:20je suis ravie qu'on ait terminé là-dessus.
14:22Merci infiniment à tous les deux,
14:23Sacha Rubel, Jean-Baptiste, Mananti.
14:25Merci pour vos applaudissements nourris.
Recommandations
20:58
|
À suivre
20:58
13:59
36:18
2:51
0:19
15:56
14:03
17:35
7:32
3:38
Écris le tout premier commentaire