Passer au playerPasser au contenu principal
  • il y a 6 semaines
Colloque DGAFP : Mieux travailler dans la fonction publique. Quelles solutions pour relever le défi ? organisé au Conservatoire national des arts et métiers (CNAM) le 31 mars 2026.

Table ronde 4 : IA, transformation des métiers publics, place des agents et performance des services publics

Animation : Faustine BENTABERRY, cheffe du département de la coopération et de la prospective, DGAFP.

1. RETEX : 10 ans d’utilisation de l’IA à la DGFiP, présenté par Amelie VERDIER, directrice générale des finances publiques
2. Quels prérequis pour la réussite de projets IA dans les organisations de travail ?
Philippe TRIMBORN, chargé de mission IA à la DRH d’Orange
Aurélien FENARD, directeur de la transformation digitale et de la gouvernance des données RH chez France Travail
Yann FERGUSON, sociologue du travail et directeur scientifique du laborIA

Catégorie

🗞
News
Transcription
00:00En attendant, ce que je vous propose, c'est de parler d'un levier de transformation majeur,
00:04celui de l'intelligence artificielle et en quoi elle percute et donne de nouvelles perspectives.
00:10J'appelle Faustine Bentaberry, Amélie Verdier, Yann Ferguson, Philippe Trimborne et Aurélien Fennat à nous rejoindre.
00:27Voilà, ils s'approchent. Merci à eux.
01:03Bonjour à tous et à toutes.
01:05Je suis très heureuse de vous accueillir pour cette dernière table ronde au sujet de l'intelligence artificielle
01:11et de ses impacts sur les métiers publics, sur la place des agents et plus largement sur la performance des
01:17services publics.
01:19Avant d'entrer dans le cœur de nos échanges, il me semble essentiel de replacer cette table ronde dans son
01:24contexte,
01:25celui des travaux actuellement menés par la Direction générale de l'administration et de la fonction publique
01:29autour de l'intelligence artificielle et de la gestion des ressources humaines publiques.
01:34Depuis maintenant quelques mois, la DGASP est fortement mobilisée sur ses enjeux.
01:39Elle a d'abord publié en 2024 une stratégie d'usage de l'intelligence artificielle en matière de ressources humaines
01:48dans la fonction publique de l'État.
01:50Cette stratégie a marqué une étape importante en posant un cadre clair et structurant pour accompagner le développement de ces
01:57technologies au sein des administrations.
02:01Elle a ensuite été complétée, en 2024 encore, par une méthodologie de déclinaison opérationnelle.
02:08Celle-ci aborde des dimensions essentielles pour le passage à l'action, la gouvernance des projets d'IA,
02:14la gestion prévisionnelle des emplois, des effectifs et des compétences, ainsi que les enjeux de formation et d'accompagnement des
02:22agents.
02:23Autrement dit, il ne s'agit pas seulement de penser l'IA comme un outil, mais bien comme un levier
02:28de transformation à intégrer dans une vision globale des ressources humaines.
02:33Parallèlement, la DGASP conduit actuellement plusieurs groupes de travail inscrits à l'agenda social de la fonction publique,
02:41associant les organisations syndicales et les employeurs publics.
02:45Ces travaux sont particulièrement importants car ils permettent d'inscrire le développement de l'intelligence artificielle
02:51dans une logique de dialogue social, conditions essentielles, on va le voir ce matin,
02:56pour garantir l'acceptabilité, la pertinence et la durabilité des transformations engagées.
03:03Enfin, au-delà de la réflexion stratégique, la DGASP est également engagée dans des expérimentations concrètes.
03:09Deux projets peuvent être mentionnés à ce titre.
03:12Le premier concerne le développement d'un chatbot RH appelé Assistant RH,
03:17à destination des gestionnaires RH des secrétariats généraux commandes départementaux.
03:22L'objectif est de faciliter l'accès à l'information, d'apporter un appui aux gestionnaires dans leur mission quotidienne
03:28et de fluidifier certains processus.
03:31Le second s'inscrit dans le cadre du programme interministériel de formation en ligne Mentor,
03:38avec le développement d'une solution d'intelligence artificielle visant à enrichir les parcours de formation,
03:45à les personnaliser davantage et à mieux accompagner les agents dans le développement de leurs compétences.
03:51Ces différentes initiatives, comme d'ailleurs toutes celles mises en œuvre aujourd'hui par les employeurs publics,
03:57illustrent bien la dynamique actuelle, une volonté à la fois de structurer, d'expérimenter et d'associer les acteurs.
04:04C'est dans ce contexte que s'inscrit notre table ronde d'aujourd'hui, qui poursuit deux objectifs.
04:11D'une part, mettre en discussion les conditions de réussite de la mise en place de l'intelligence artificielle dans
04:17les métiers publics.
04:19Et donc, nous allons chercher à comprendre ce qui permet concrètement à ces projets de fonctionner.
04:23Quels sont les prérequis ? Quels sont les facteurs clés de succès ?
04:27Comment éviter les écueils ? J'espère qu'on arrivera à répondre à toutes ces questions.
04:30Et surtout, comment faire en sorte que ces outils soient réellement utiles aux agents et aux services publics ?
04:36D'autre part, nous avons souhaité mettre en avant des projets à des stades de maturité différents.
04:42Certains relèvent encore de l'expérimentation.
04:44D'autres sont déjà plus avancés, voire déployés.
04:48Cette diversité est essentielle car elle permet de mieux appréhender la réalité des transformations en cours,
04:53dans toute leur complexité.
04:55Et elle permet aussi de croiser les regards entre stratégie, mise en œuvre concrète et analyse des impacts sur le
05:01travail.
05:03Pour nourrir cette réflexion, nous avons le plaisir d'accueillir aujourd'hui plusieurs intervenants au profil complémentaire.
05:08Nous avons tout d'abord la chance d'accueillir Amélie Verdier, directrice générale des finances publiques,
05:13dont le parcours au sein de l'État, notamment à la direction du budget et dans différentes fonctions stratégiques,
05:18lui confère à la PHP une vision particulièrement riche de la transformation de l'action publique.
05:25Elle pourra notamment partager le retour d'expérience de la DG FIP,
05:28engagée depuis plusieurs années dans l'usage de l'intelligence artificielle.
05:32À ses côtés, nous accueillons Sarah Vigneault, responsable d'accueil au sein de la Cité administrative d'État à Lyon.
05:38Son témoignage apportera un éclairage précieux au plus près du terrain
05:41sur la manière dont l'intelligence artificielle transforme concrètement les métiers et les pratiques professionnelles.
05:48Nous aurons également le plaisir d'entendre Aurélien Feudnard,
05:52bonjour, directeur de la transformation numérique et de la Data RH chez France Travail.
05:58Il travaille depuis de nombreuses années à l'articulation entre innovation technologique et transformation des organisations,
06:03avec une attention particulière portée à la place de l'humain.
06:06À ses côtés, Philippe Trinborn, chargé de mission IARH chez Orange,
06:12apportera le regard d'un grand groupe engagé sur la structuration de ces usages de l'IA,
06:16notamment à travers des démarches éthiques et des chartes encadrant ces pratiques.
06:21Enfin, nous aurons le plaisir d'accueillir Yann Ferguson, sociologue et directeur scientifique du laboria,
06:30dont les travaux portent sur les effets de l'intelligence artificielle sur le travail,
06:34les métiers, les conditions de travail et les organisations.
06:38Son regard permettra de prendre du recul et d'éclairer les enjeux à partir de travaux de recherche.
06:43La richesse de cette table ronde tient précisément à cette diversité de profils et de points de vue,
06:49décideurs publics, praticiens de terrain, experts de la transformation et chercheurs.
06:54Au fil de nos échanges, nous chercherons à répondre à des questions très concrètes.
06:59Comment déployer l'intelligence artificielle dans des organisations publiques ?
07:02Comment associer les agents à ces transformations ?
07:05Comment encadrer les usages, notamment sur le plan éthique ?
07:09Et quels impacts ces technologies ont-elles réellement sur le travail et sur les métiers ?
07:15Nous allons donc maintenant rentrer dans le vif du sujet avec une séquence de retour d'expérience
07:20sur un cas particulièrement intéressant, celui de la DGFIP, qui bénéficie d'un recul d'une dizaine d'années sur
07:27l'utilisation de l'IA.
07:28L'objectif de cette séquence, c'est vraiment de croiser deux regards complémentaires.
07:32Un regard stratégique, celui de la direction, et un regard opérationnel avec celui d'un agent dont le métier a
07:38évolué concrètement avec l'arrivée de ces outils.
07:41Madame la directrice générale, la DGFIP est souvent présentée comme une administration pionnaire sur les sujets d'IA.
07:48Pour commencer, est-ce que vous pourriez nous dresser un rapide historique de l'adoption de l'IA à la
07:53DGFIP
07:54en nous donnant quelques exemples concrets de réalisation ?
07:57Et à partir de ces différents exemples, est-ce que vous pourriez partager avec nous votre regard,
08:03le regard que vous portez aujourd'hui sur les impacts de l'IA en matière de ressources humaines ?
08:08Bonjour à toutes et à tous, merci beaucoup de cette invitation et merci du format,
08:12parce que je pense qu'effectivement, pour une administration de la taille de la DGFIP,
08:15une stratégie qui n'est pas relayée, portée par les équipes de terrain, ça peut être très vite, très conceptuel.
08:22Donc je pense que c'est très, très adapté comme format.
08:24Juste en deux mots, parce que je pense que sinon, ça peut être aussi un peu abstrait.
08:29Donc la Direction générale des finances publiques, c'est une administration d'à peu près 95 000 personnes,
08:34dont les deux très grands métiers principaux sont la gestion fiscale,
08:38et puis la gestion publique, la tenue des comptes, et on est présent sur tout le territoire.
08:44Donc on a effectivement comme caractéristique à la Direction générale des finances publiques
08:47d'être une administration de la donnée depuis très longtemps,
08:50et donc d'avoir des expériences d'IA depuis au moins 2014.
08:54Alors attention, bien sûr, à l'époque, on n'était pas sur de l'IA générative,
08:58on était sur de l'IA prédictive, mais c'est quand même du maniement de données
09:02qui prescrit un comportement, ou en tout cas une manière d'agir,
09:06et qui donc influe très directement sur le contenu du travail.
09:10Donc de quoi on parle ?
09:13C'est dans tous nos métiers, notamment dans le contrôle fiscal,
09:19on a un projet d'alimentation en permanence de la programmation du contrôle fiscal
09:25par du croisement de données, donc voilà, du data mining,
09:29qui fait qu'on a, pour fixer les idées, en permanence un travail
09:33sur l'ensemble des données qu'on récupère,
09:35je vais le faire sur le cas des entreprises,
09:37mais ça marche aussi sur les particuliers,
09:39pour regarder toutes les informations qu'on a sur une entreprise
09:42et repérer les incohérences.
09:44Bon, le cas très simple, c'est de se dire,
09:46on regarde ce qu'une entreprise achète, on regarde son chiffre d'affaires,
09:49et on se demande un tout petit peu,
09:51c'est la version super simplifiée évidemment,
09:53mais s'il n'y a pas une incohérence éventuelle,
09:55on le repère par secteur, on le refait de plein de manières différentes,
10:00ça marche évidemment, c'est assez transposable, vous voyez, au particulier,
10:03et ça fait, encore une fois, plus de 10 ans qu'on y est,
10:06on a maintenant plus de la moitié des contrôles,
10:08à peu près la moitié des contrôles qui sont déclenchés comme ça.
10:11Ce sont toujours des vraies personnes,
10:13des inspecteurs des impôts qui font les contrôles,
10:15mais en revanche, pour décider sur quoi on les envoie,
10:19en fait, on a progressivement déployé ces outils,
10:22puis renoncer, ce qui était quand même historiquement l'approche,
10:26de dire, ben voilà, pour, par exemple, les plus grosses entreprises,
10:30ou les personnes les plus riches, on doit passer tous les X années,
10:34on le fait vraiment à partir d'une analyse de risque prescrite
10:38par ces approches d'intelligence artificielle,
10:42sachant que, je vous ai dit, c'est à peu près la moitié,
10:44mais on fait aussi tout le reste par travail humain,
10:47mobilisation de renseignement, etc.
10:50Je vais parler de cet exemple-là, juste pour dire en un mot
10:53qu'on le fait aussi sur nos métiers de gestion publique,
10:55sur la dépense, puisqu'on fait du contrôle hiérarchisé
10:59depuis très longtemps, mais on fait depuis, là encore,
11:02une quinzaine d'années, vraiment des modèles prédictifs,
11:06auto-apprenants, à la fois sur la nature de la dépense,
11:09le type d'ordonnateur, etc.
11:11Mais je vais revenir sur le contrôle fiscal,
11:12parce que je pense que c'est là qu'on a eu le plus grand choc,
11:17en fait, parce que c'est vraiment de ça dont on parle,
11:20sur la conception que les inspecteurs des impôts avaient de leur travail,
11:23enfin, je dis les inspecteurs, mais les vérificateurs, les brigades, etc.
11:28Et voilà, la livraison d'un outil qui les a mis,
11:32je prends le vocabulaire qui m'a été présenté par les organisations syndicales
11:35à ma prise de fonction il y a deux ans,
11:36mais je pense qu'il faut voir qu'il y a une réalité très marquante derrière ça,
11:40ils ont dit qu'on a taylorisé notre travail,
11:42ce qui est pour une profession très intellectuelle,
11:45quel que soit le grade des personnes qui font ça,
11:48mais c'est vraiment un métier d'intelligence,
11:50de se poser des questions, de ne pas prendre pour argent comptant
11:53l'éliace fiscale, la compta, etc.
11:55C'était très violent de leur dire,
11:57vous savez quoi, il y a plus de la moitié,
11:58enfin, maintenant on est à la moitié,
12:00mais en fait, il y a quelqu'un qui va faire ça mieux que vous,
12:03et c'est une machine qui va croiser des données.
12:05Et donc, ça a été très violent,
12:06y compris sur cette parcellisation,
12:09en tout cas perçue comme telle, du travail.
12:12Donc, je crois qu'on est en train de remonter la pente,
12:14mais c'était à la fois une nécessité
12:17pour l'efficacité de l'action publique,
12:18parce qu'en fait, travailler comme ça,
12:21évidemment, va beaucoup plus vite,
12:23enfin, fait gagner beaucoup de temps
12:24par rapport à une analyse humaine de données.
12:29Et on a aussi amélioré au fur et à mesure
12:32la qualité de ces listes,
12:34mais ça a pris énormément de temps
12:37pour travailler les organisations.
12:40Une des clés de succès,
12:41je ne veux pas être trop longue,
12:42mais c'est de dire qu'on a bien mis l'accent très tôt,
12:44et ça s'est enrichi au fur et à mesure,
12:46sur le fait que c'était justement pas
12:48qu'un modèle descendant de,
12:49il y a l'administration centrale qui a pensé pour vous
12:52quelles données il fallait croiser,
12:53mais un aller-retour un peu permanent
12:55sur, on vous envoie des listes,
12:56ensuite, vous avez un travail d'appropriation
12:58de ces propositions de contrôle.
13:01Donc, vous n'êtes pas, comment dire,
13:04il n'y a pas 100% des propositions de contrôle
13:06qui ont une suite,
13:07elles doivent être choisies humainement,
13:09et puis, en fait, avec un retour qualitatif
13:11qui a été au fur et à mesure,
13:12qui est monté en puissance sur,
13:14ça, c'est intéressant,
13:15ça, pourquoi vous n'avez pas croisé telle donnée,
13:17et qu'est-ce que ça donne, voilà.
13:18Et donc, dans nos indicateurs de résultats,
13:20il y a le fait que la médiane
13:23des droits et pénalités
13:25sont appelées suite à contrôle,
13:27ce qui est pour nous, en gros,
13:28la productivité d'un contrôle.
13:29Est-ce qu'on a bien fait d'aller
13:30là où on est allé ?
13:31Est-ce qu'effectivement,
13:32c'est un contribuable
13:35pour lequel il y avait des choses à faire ?
13:36La médiane des contrôles augmente.
13:39Elle reste inférieure
13:40à ce qui est déclenché
13:41par le contrôle humain,
13:42et j'ai envie de dire,
13:43c'est normal.
13:44C'est un débat qu'on a beaucoup,
13:45et avec nos organisations syndicales,
13:46et avec la Cour des comptes, d'ailleurs,
13:48parce qu'en fait,
13:49les sujets les plus compliqués,
13:51la fraude la plus sophistiquée,
13:52pour l'instant,
13:53on sait qu'on la repère d'abord
13:54par mobilisation de renseignements
13:56soit internes, soit externes,
13:59par collaboration avec d'autres acteurs
14:01de lutte contre la fraude.
14:02Mais notre objectif,
14:04il n'a jamais été d'aller
14:05à 100% de contrôle déclenché
14:07par ces listes,
14:08mais de gagner du temps
14:09pour autre chose.
14:13Je ne veux pas être trop longue,
14:14mais en tout cas dire
14:14que c'est quelque chose
14:15qui prend beaucoup de temps,
14:17que moi, j'ai essayé,
14:19je crois que c'est aussi un peu
14:20l'objet de ces échanges,
14:21de dire qu'est-ce qu'on essaye
14:22de faire personnellement.
14:24Arrivant dans un système
14:25qui avait déjà été déployé
14:26depuis pas mal d'années,
14:29moi, je me suis quand même vraiment dit
14:30qu'il faut prendre au pied de la lettre
14:32le retour que nous font
14:33certains acteurs
14:34de taylorisation de leur travail.
14:36Parce qu'une partie de mes équipes
14:37considéraient que c'était un vocabulaire,
14:39je me tente vers rien,
14:40on en a déjà parlé plein de fois,
14:41mais je vais y venir après,
14:43ce sont des vocabulaire
14:45qui a été jugé excessif,
14:47en disant, mais en fait,
14:49à aucun moment,
14:50il y a une machine qui automatise,
14:52puisqu'en fait, encore une fois,
14:53ce n'est qu'une aide à la décision
14:54d'une certaine manière.
14:55J'ai dit, mais en fait,
14:56ils le vivent comme ça.
14:57Donc, fort d'une expérience,
14:59voilà, pardon,
14:59encore une faute de la recoupée,
15:00mais il se trouve que j'ai travaillé
15:01à la PHP,
15:02que j'ai adoré ça,
15:03que j'en suis fière,
15:03donc j'y reviens aussi.
15:06Et ça m'a beaucoup appris,
15:08parce que, voilà,
15:09à l'hôpital,
15:09de toute façon,
15:10sans l'humain,
15:10évidemment, vous ne faites rien,
15:11à la DGFIP,
15:12ce n'est que de l'argent.
15:14Et donc,
15:14il faut se dire qu'il fallait
15:16entendre ça.
15:16Et c'est que c'était perçu,
15:18ce n'était pas qu'une posture,
15:19c'était perçu comme
15:20on me déshumanise
15:22et on me prive du sens au travail.
15:24Et pour arriver à le redonner,
15:26il faut évidemment,
15:28je dirais quand même,
15:30effectivement,
15:31démontrer,
15:31parce qu'encore une fois,
15:32si ça n'avait pas marché,
15:33on l'aurait fait,
15:34mais s'enrichir du retour.
15:36Alors, j'en viens peut-être
15:38à de quoi on parle aujourd'hui,
15:39puisque ça,
15:40c'est de l'IA prédictive.
15:42On fait maintenant
15:43de l'IA générative,
15:45donc sans être exhaustive.
15:48Dire qu'on a à la fois
15:50utilisé des projets,
15:52vous avez peut-être
15:52entendu parler,
15:53qui est le foncier innovant,
15:54c'est le repérage
15:55par croisement d'images
15:57des piscines non déclarées
15:58pour faire court,
15:59donc qui nous a permis
16:00d'améliorer les bases fiscales.
16:02On a juste récupéré
16:0342 millions d'euros comme ça,
16:04ça valait la peine.
16:07Je ne vais pas parler
16:08de l'amendement
16:08parce que ça ne concerne
16:10pas tant le monde que ça,
16:10mais si ça vous intéresse,
16:12comment est-ce qu'on automatise
16:13le traitement des amendements,
16:14notamment au projet
16:15de loi de finances ?
16:16Dans nos projets du moment,
16:18alors peut-être que vous en direz
16:19un mot,
16:20on travaille notamment
16:21sur un projet
16:22dit de langage clair,
16:23parce que je crois
16:24qu'il faut en général
16:25comprendre que les services
16:26publics et l'administration
16:28sont assez mal compris
16:29de nos concitoyens.
16:30Et alors,
16:31l'administration fiscale,
16:32on est assez champion du monde
16:33en termes de complexité.
16:35et vous allez me dire
16:36qu'est-ce que l'IA
16:36vient faire là-dedans ?
16:37C'est de dire que
16:39de manière générale,
16:40on a à la fois des équipes
16:41qui sont,
16:42et c'est une qualité,
16:43très soucieuse
16:44de la précision des termes
16:46qui savent que les réponses
16:47écrites qui sont apportées
16:48seront opposables
16:49et que donc il faut,
16:51le réflexe naturel,
16:53c'est de citer
16:53le code général des impôts,
16:55la doctrine,
16:56le BOI,
16:57etc.
16:58Et après,
16:58vous vous retrouvez,
16:59comme c'est arrivé un jour
17:00à Nanterre,
17:01dans la file d'attente
17:02de la trésorerie amende
17:04avec une queue importante,
17:05on essayait de regarder,
17:06de réfléchir à comment
17:07on l'améliore.
17:08Il me dit,
17:08regardez,
17:09on a fait des petits documents
17:10pour expliquer aux gens
17:10que les mains levées
17:11sur SATD,
17:12ce n'était pas ici
17:12qu'ils pouvaient les faire.
17:13Je lui dis,
17:13bon courage.
17:15Est-ce que vous avez vraiment
17:16l'impression qu'il y a des gens
17:17en face qui vont vous comprendre ?
17:19Ni mains levées,
17:20ni SATD,
17:21je pense,
17:21on ne va peut-être pas faire
17:22de sondage dans la salle.
17:23Donc,
17:23on a ce projet de démarche globale
17:26qui est de dire
17:26qu'il faut qu'on soit
17:28plus compréhensible
17:29pour des non-experts.
17:30Et l'IA,
17:31c'est une brique de ça.
17:32Ce n'est pas la seule,
17:33mais c'est de dire
17:34qu'on peut automatiser,
17:36si je puis dire,
17:37avec un outil IA
17:37qui a été entraîné à ça,
17:41des manières
17:41de résumer une réponse,
17:44répondre sous un angle
17:46ou un autre,
17:46tout en disant clairement
17:47que ce contenu
17:48a été produit par IA
17:49et que c'est toujours
17:50un humain qui le valide.
17:53J'en profite
17:53devant cette assemblée.
17:55On vient aussi
17:56de lancer
17:56une amélioration
17:57via IA
17:58de notre moteur de recherche
18:00sur impôts.gouv
18:01que vous connaissez forcément
18:02vu le million
18:03et dizaines de millions
18:04d'utilisateurs
18:05qu'on voit chaque année.
18:07Là aussi,
18:08dans lequel on améliore
18:09la recherche par mots-clés.
18:11Donc,
18:11ça n'a l'air de rien,
18:11vous allez me dire,
18:12mais en fait,
18:13on améliore énormément
18:14l'expérience utilisateur
18:16quand on fait ça.
18:17On a un assistant IA
18:19qu'on a en test.
18:20Je pense que j'étais très attentive
18:21à ce qui a été dit
18:22dans les tables rondes précédentes
18:23sur le fait que,
18:24face à ces bouleversements
18:26technologiques énormes,
18:28il faut procéder aussi
18:29par expérimentation,
18:32test,
18:32et on n'est pas parti
18:33en direct sur tout.
18:36Je vais venir peut-être
18:37quand même aux questions
18:38sur les enseignements
18:39au CRH,
18:40salut des GFP,
18:42avec cette idée
18:43qu'il faut regarder
18:45ce qui fonctionne
18:46et de quoi on a besoin.
18:49Moi,
18:49j'ai été très frappée
18:50du fait qu'on a à la fois,
18:51comme je vous l'ai dit,
18:52des organisations syndicales
18:53assez critiques,
18:54voire très critiques.
18:54On a quand même
18:55notre premier syndicat
18:56des GFP,
18:57solidaire,
18:57qui avait fait un ouvrage
18:58complet pour dire
18:59pourquoi l'IA
19:00allait tuer le travail.
19:00Donc,
19:01on ne fait pas comme si
19:01ce n'était pas un sujet.
19:02Et de l'autre,
19:03moi,
19:03j'ai énormément d'agents
19:04qui nous réclament de l'IA,
19:05en fait,
19:06considérant qu'on ne peut pas
19:07rester à l'écart.
19:08On est certes
19:09une administration
19:10qui a une culture
19:11de la sécurité informatique
19:13très forte,
19:14donc une interdiction absolue
19:16d'installer sur le poste
19:16de travail
19:17toutes les IA
19:18dont je ne donnerai pas
19:19le nom,
19:20qui ne sont pas publiques.
19:23Mais du coup,
19:24on a développé
19:24un assistant
19:25et on le développe
19:27d'abord avec ceux
19:27qui avaient envie d'y aller.
19:29Donc,
19:29on a commencé
19:29par 2000,
19:30puis 3000,
19:31puis bientôt 20 000,
19:33agents de la DGFIP
19:34qui regardent
19:35ce dont ils se servent
19:36et j'imagine
19:37que ma voisine
19:37va peut-être
19:38dire de quoi
19:39elle se sert.
19:40Donc,
19:41voilà.
19:42On a des cas d'usage
19:43sur les métiers du juridique,
19:44mais je ne voulais pas
19:44tout décrire.
19:45Je voudrais terminer
19:46cette première intervention
19:48en disant simple,
19:49en tout cas dans la table ronde,
19:51en disant qu'on a essayé
19:52aussi de raccrocher
19:52tout ça
19:53à ce qui est
19:55constitutif
19:55de ce qui nous,
19:56voilà,
19:57ce qui est fondateur
19:58pour nous
19:58à la DGFIP
20:00avec une feuille de route
20:01stratégique de l'IA
20:02qu'on a présentée
20:03et qui est publique
20:04l'année dernière
20:04sur ce qui nous guide.
20:06Et donc,
20:07de l'IA au service
20:08de l'humain,
20:09peut-être ça changera,
20:10mais en tout cas,
20:11aujourd'hui,
20:11on n'a rien
20:12qui est mis
20:14face à nos usagers
20:15sans que ça ait été validé,
20:17approuvé,
20:18amélioré
20:18par un humain.
20:20J'avais aussi l'occasion
20:22de dire
20:22que ce n'est pas parce
20:23qu'on se convertit
20:24à l'intelligence artificielle
20:25qu'on oublie
20:27qu'on a une volonté
20:28de transition écologique.
20:29À la DGFIP,
20:30on appelle ça
20:30la démarche écofip
20:31et qu'il ne faut pas faire
20:32comme si on oubliait
20:34le niveau de consommation
20:35d'énergie
20:37des GPU,
20:38donc des espaces
20:38de stockage de l'IA.
20:40Et c'est aussi ça
20:41qui a été un peu
20:41à l'origine de notre idée
20:42de dire qu'on fait
20:43d'abord des tests
20:44avant de généraliser
20:45parce que comme on est
20:4695 000,
20:47qu'on a 2 000 points
20:47d'implantation sur le territoire,
20:49quand on fait beaucoup
20:50chez nous,
20:50c'est massif,
20:51effectivement,
20:52et qu'il fallait
20:53qu'on le fasse comme ça.
20:55Je l'ai dit
20:56qu'on est transparent,
20:56il faut être transparent
20:57vis-à-vis des agents.
20:59On parle maintenant
21:00chez Ryan
21:00d'intelligence artificielle
21:01à toutes nos instances
21:03sociales
21:03pour faire des points
21:04d'avancement,
21:06mais aussi transparent
21:07vis-à-vis des usagers.
21:08Et donc,
21:09quand on a fait ces tests,
21:10notamment dans les centres
21:11de contact
21:11sur nos outils
21:13de parler clair,
21:15j'avoue qu'on leur a posé
21:16la question
21:16en ayant un peu
21:17une idée de la réponse,
21:18mais moi,
21:18il me semblait assez évident
21:19qu'on devait dire
21:20que cette réponse
21:21a été, par exemple,
21:22générée à 80 %
21:23par IA.
21:24Même si, à la fin,
21:24c'est un humain
21:25qui l'a validé,
21:27pas qu'on puisse
21:27prêter le flanc
21:28à la critique.
21:29On est, nous,
21:29quand même un peu
21:30sous le feu des projecteurs
21:31de dire,
21:31attention,
21:32la DGF vous a pas dit,
21:33ils ont utilisé vos données,
21:34ils ont fait un résumé,
21:35etc.
21:36Et puis,
21:36on essaye de...
21:37Voilà,
21:37formation obligatoire,
21:38ça, ça a été dit aussi
21:39tout à l'heure,
21:39je pense que c'est important.
21:40Tout le code IR a été formé,
21:42on y revient hyper régulièrement
21:43parce que c'est quand même
21:44aussi évolutif,
21:45l'IA.
21:46Et puis,
21:46un conseil scientifique
21:48du numérique
21:48dont je ne dis rien
21:49pour l'instant.
21:51Merci beaucoup.
21:52Du coup,
21:52on voit bien
21:53que les agents
21:56restent quand même
21:56au cœur de la démarche
21:57de la DGFIP
22:00quand on vient
22:01à la problématique
22:02de l'IA.
22:02Et d'ailleurs,
22:03Sarah Vigneault
22:04est parmi nous aujourd'hui.
22:06Sarah,
22:06est-ce que vous pourriez
22:06nous décrire
22:07vos fonctions aujourd'hui
22:08et expliquer concrètement
22:10comment elles ont évolué
22:12avec l'intelligence artificielle ?
22:14Et plus largement,
22:16est-ce que l'introduction
22:17de l'IA
22:18a changé quelque chose
22:20pour vous
22:20et votre collectif de travail
22:23d'une manière plus générale ?
22:25Je vous remercie déjà
22:26de m'avoir invitée.
22:28Sarah Vigneault,
22:28je suis responsable
22:29de l'équipe spécialisée
22:30d'accueil
22:31à la cité administrative
22:32de Lyon.
22:33C'est une cité
22:34qui accueille
22:34un public très large.
22:36Évidemment,
22:37les usagers
22:38des services
22:38des infos des particuliers
22:39de Lyon,
22:40mais aussi tout un tas
22:41d'autres services,
22:42enregistrements,
22:43domaines,
22:44même l'INSEE
22:45puisque la cité administrative
22:46accueille
22:46plusieurs administrations.
22:50Nous,
22:51comment on a utilisé
22:52l'outil ?
22:52Nous avons été sollicités
22:54pour participer
22:54à l'expérimentation
22:56d'une IA générative,
22:58d'une dernière
22:58qui a été développée,
23:00l'assistant IA
23:00qui comporte
23:01plusieurs modules.
23:02Un module
23:03de docu-fip,
23:05documentation recherche,
23:07qui nous permet
23:07de faire des recherches
23:09déjà dans une langue
23:10naturelle,
23:11c'est-à-dire sans avoir
23:12des mots-clés,
23:12sans connaître
23:13l'arborescence
23:14pour faire les recherches
23:15et qui permet en plus
23:16de structurer
23:17des réponses,
23:18ce qui fait deux avantages
23:19importants par rapport
23:20à un moteur de recherche
23:21classique tel qu'on le connaissait
23:23à la DGFIP.
23:24Le deuxième volet,
23:25celui sur lequel
23:27je vais développer le plus,
23:28c'est le module
23:29langage clair
23:30qui a vocation
23:32à simplifier,
23:33rendre plus compréhensible
23:35le texte,
23:37en tout cas les écrits
23:38que nous apportons
23:39aux usagers.
23:41Donc la dernière question,
23:42c'était en quoi
23:43cela a modifié
23:44nos manières
23:45de travailler.
23:47Alors,
23:47premier apport,
23:48principal apport
23:49que je vois pour cet outil,
23:50cela nous a aidé
23:52à prendre conscience
23:53de la manière
23:53dont nous parlions,
23:55dont nous nous adressions
23:56aux usagers.
23:58Alors,
23:58c'est vrai qu'au contact
23:59du public,
24:00nous sommes un peu
24:00les spécialistes
24:01de la simplification.
24:03Et cette expérimentation,
24:05elle a été menée
24:05non seulement par mon équipe,
24:06mais par d'autres services
24:08dits gestionnaires
24:09qui ont moins
24:10le contact
24:11avec l'usager
24:12au quotidien
24:13et qui ne se rendaient
24:14pas toujours compte
24:15et cela a occasionné
24:16des débats
24:16entre nous.
24:18Exemple,
24:19l'utilisation du mot
24:20dégrèvement.
24:21Le dégrèvement,
24:22en fiscalité,
24:24c'est un point juridique
24:25très précis.
24:26Ce n'est pas
24:26une annulation
24:27de l'impôt,
24:28ce qui est encore
24:28autre chose.
24:29Cela peut conduire
24:30soit à une remise totale,
24:31soit à une remise
24:32partielle de cet impôt.
24:34Sauf que
24:35on est tellement habitué
24:36à l'utiliser
24:37qu'on ne se rend plus compte
24:38que les usagers
24:38en face de nous
24:39ne le comprennent pas
24:40forcément.
24:41Résultat,
24:42pour la partie gestionnaire,
24:43si l'outil simplifiait
24:44le mot dégrèvement,
24:46c'était une aberration juridique
24:47qui pouvait nous mettre
24:49en difficulté
24:49parce que
24:51c'était opposable,
24:52un document opposable,
24:53et qui donc pouvait générer
24:55des risques juridiques.
24:57Moi,
24:57mon point de vue
24:57en tant qu'expérimentatrice
24:59à ce sujet,
25:00ça a été de dire
25:01oui,
25:01mais qu'est-ce que je vois moi ?
25:03Ce sont des usagers
25:04qui ont déposé
25:04une réclamation contentieuse,
25:06qui ont reçu la réponse
25:07« votre dégrèvement
25:08a été accordé »
25:09et qui se déplacent
25:10à l'accueil.
25:11Ils se déplacent
25:12à l'accueil
25:12pourquoi ?
25:13Parce qu'ils ne comprennent
25:14pas la réponse.
25:15Est-ce que ça n'aurait pas
25:16été plus simple
25:17au démarrage
25:17de leur dire
25:18« votre impôt a été réduit
25:19ou a été annulé
25:21pour tel montant ? »
25:22Cela aurait déjà
25:23moins généré
25:24de stress à l'usager
25:25et nous aurait évité
25:26peut-être
25:26des contacts
25:27un petit peu inutiles.
25:29Le deuxième apport
25:30que je vois,
25:31c'est que l'outil
25:32nous permet
25:32de gagner du temps
25:33tout en améliorant
25:34la qualité du service
25:36rendu aux usagers.
25:37Je vous donnerai
25:37deux exemples
25:38pour les agents,
25:42pour les cadres.
25:44Pour les agents,
25:46vous connaissez l'adage
25:48« ce qui se conçoit bien,
25:49c'est non ce clairement ».
25:51Je ne veux pas critiquer
25:52le législateur,
25:53mais force est de constater
25:54qu'il n'est pas toujours
25:55facile d'exposer clairement
25:56les règles fiscales.
25:57Donc au premier jet
25:58d'une réponse écrite,
25:59la réponse n'est pas
26:00forcément très claire.
26:01Là, l'avantage,
26:02c'est que ce premier jet,
26:04on peut le balancer
26:05dans l'outil
26:05et l'outil va nous
26:07produire une réponse
26:07qu'on pourra contrôler,
26:08qu'on pourra améliorer,
26:09mais qui va nous faire
26:10gagner du temps
26:10pour faire d'autres choses,
26:12peut-être pour répondre
26:12au téléphone,
26:13par exemple.
26:15Deuxième tout petit exemple,
26:16pour les cadres.
26:18Moi, en tant que cadre,
26:19je contrôle un certain nombre
26:20d'écrits qui sont produits
26:22par mes agents
26:22et ce n'est pas du direct.
26:24Je le contrôle parfois
26:25à postérieure
26:25et la réponse est partie.
26:26Ce que je vais pouvoir faire,
26:28c'est quand je vais faire
26:28ce contrôle,
26:29éventuellement écrire
26:30une autre réponse
26:31si la réponse n'était pas
26:32assez claire,
26:32si elle n'était pas juste,
26:33faire un retour à l'agent.
26:34Mais ce retour,
26:35je ne le fais pas systématiquement.
26:37C'est aussi une question
26:37parfois de temps.
26:39Là, dans l'outil,
26:40si je détecte un agent
26:41qui est en difficulté,
26:42je peux me rendre compte
26:43tout simplement
26:44que je peux passer
26:46ces réponses
26:47à la moulinette
26:48et proposer à cet agent
26:50qui est en difficulté
26:50pour rédiger
26:51plusieurs modèles de réponses
26:53qui peuvent l'inspirer.
26:53Donc, je gagne
26:54dans mon travail d'accompagnant.
26:56Merci beaucoup.
26:57Alors, pour ces deux témoignages
26:58qui se complètent
26:59évidemment particulièrement bien.
27:00On voit au travers
27:02de vos interventions
27:02plusieurs éléments forts.
27:04J'ai entendu
27:04la nécessité du dialogue
27:06au sein des équipes,
27:07l'accompagnement des équipes.
27:08Et ce qui ressort vraiment,
27:10c'est que l'intelligence artificielle
27:12ne remplace pas l'humain,
27:13mais bien redéfinir son rôle
27:15en renforçant
27:16certaines compétences,
27:17en en faisant émerger
27:18des nouvelles.
27:19Vous l'avez très bien décrit.
27:21Je vous propose maintenant
27:22de poursuivre cette réflexion
27:23en élargissant le regard
27:24notamment sur les conditions
27:26d'encadrement
27:27et de réussite
27:27de ces projets.
27:28C'est tout l'objet
27:29de la séquence suivante
27:30consacrée aux chartes d'éthique
27:31et aux dispositifs
27:32mis en place
27:33pour réguler
27:34les usages de l'IA.
27:36Je me tourne donc
27:36vers Aurélien Feunard
27:38et Philippe Trimborne.
27:41Bonjour à tous les deux.
27:43Peut-être pour commencer,
27:44je vais me tourner
27:45vers Aurélien.
27:47Pouvez-vous nous expliquer
27:48pourquoi vous avez mis en place
27:49une charte d'éthique
27:51autour de l'intelligence artificielle
27:53à France Travail
27:54et dans quel contexte
27:55cette démarche
27:56s'est-elle inscrite ?
27:58Bonjour à toutes et à tous.
28:00Oui, alors,
28:01chez France Travail,
28:02ça fait une dizaine d'années
28:04qu'on fait de l'IA
28:06et c'est quelque chose
28:07qui nous tient énormément à cœur
28:09parce que,
28:09exactement comme ça vient
28:10d'être très bien expliqué,
28:12on manie énormément de données
28:13et puis on doit faire
28:15de l'apérage à un moment
28:16entre des offres
28:17et des demandes
28:17et ces apérages doivent être faits
28:19dans un temps contraint.
28:21Donc,
28:22depuis une dizaine d'années,
28:23exactement pareil,
28:24on a fait de l'IA
28:24avec du machine learning,
28:26du deep learning
28:28et de l'IA prédictive
28:29et forcément,
28:30on a pris le virage
28:31de l'IA générative,
28:33on va dire,
28:34en départ,
28:35enfin,
28:35on a pris le train en marche.
28:37Là où c'est très important
28:38pour nous,
28:40pour France Travail,
28:41d'avoir une charte éthique IA
28:42qui était là
28:43avant l'arrivée
28:44de l'IA générative,
28:45déjà,
28:46c'est qu'il y a trois choses.
28:48Quand on fait
28:48de la transformation
28:49par l'IA,
28:50il y a de la gouvernance,
28:51c'est pour créer
28:52de la confiance,
28:53il y a de la formation,
28:55c'est pour apporter
28:57de la compréhension
28:58et ensuite,
28:59il y a de l'encadrement
28:59et de l'accompagnement
29:00sur l'usage
29:01et sur la durée.
29:02Alors,
29:02cette confiance,
29:04elle se crée
29:04notamment grâce
29:05à une charte d'éthique IA.
29:07Pourquoi ?
29:07Parce que ça va pouvoir dire
29:09dès le départ
29:09qu'est-ce que la direction
29:12veut,
29:12c'est quoi les fondements,
29:13pourquoi on va faire
29:14de l'IA
29:15et les règles
29:17qu'on va définir
29:18pour développer
29:19cette IA
29:19et les faire aussi
29:21main dans la main
29:22avec ceux
29:23qui vont l'utiliser
29:24pour avoir
29:25de l'impact
29:25au plus près
29:26dans notre action
29:27tous les jours.
29:28Donc,
29:28faire aussi
29:29avec ceux
29:30qui font,
29:31aussi en agence,
29:32aller au plus près
29:33des cas d'usage,
29:34c'est aussi garantir
29:35une bonne acceptation
29:36puisqu'on va aider
29:37vraiment
29:39sur des points
29:40cruciaux
29:41nos agents
29:42et cette charte éthique
29:46permet de construire
29:47une gouvernance
29:48tout autour
29:49et ce qui est assez intéressant
29:50c'est que cette gouvernance
29:52va utiliser
29:55la charte IA
29:56et le dialogue
29:57comme pilier.
29:58On va commencer
29:59par des comités
30:00produits IA.
30:01À l'heure actuelle,
30:02on doit avoir
30:02environ 200 cas d'usage
30:03IA
30:04chez France Travail
30:05et ces cas d'usage,
30:07on les fait vivre
30:07avec un comité
30:08où on va co-construire
30:09avec nos chefs de projet,
30:12nos chefs de produit
30:13au plus près du terrain.
30:15Ensuite,
30:16cette charte,
30:16elle va vivre
30:17avec un comité d'éthique
30:18IA externe
30:19et interne.
30:21Les comités d'éthique
30:22IA externe
30:23sont des comités
30:24où on a
30:24des directeurs scientifiques,
30:26des membres
30:27des organisations syndicales,
30:29des chercheurs,
30:30des gens
30:30comme Ian Ferguson
30:32et on va
30:35passer ça
30:36au filtre
30:37de la sécurité,
30:38du RSE,
30:39de la RSE,
30:40etc.
30:41Et enfin,
30:43on va aller
30:44jusqu'au dialogue social
30:45qui est une étape
30:46cruciale dans l'IA
30:47pour aussi
30:49construire
30:50l'IA
30:50avec nos partenaires.
30:52Peut-être,
30:52Aurélien,
30:53excusez-moi de vous interrompre,
30:54je vais poser
30:55la même question
30:56à Philippe Trimborne
30:57et après,
30:57on poursuivra
30:58le débat.
31:00Du coup,
31:01pourquoi avoir ressenti
31:01le besoin
31:02de formaliser
31:02une charte
31:03chez Orange,
31:05une charte éthique ?
31:07Merci
31:08et bonjour à tous.
31:10Chat dans la gorge,
31:11désolé.
31:12Je ne vais pas
31:12forcément redire
31:13tout ce qu'Aurélien
31:14a évoqué.
31:14Je crois qu'on a
31:15beaucoup de traits communs
31:16dans la démarche.
31:17Mais peut-être
31:18ce qui est intéressant
31:19à noter,
31:20c'est que
31:21quand on observe
31:22un peu
31:22une population,
31:23vous êtes nombreux
31:24dans la salle,
31:25la question
31:25de la préoccupation éthique,
31:26elle est diversement
31:27reçue par les gens.
31:29Alors,
31:30je n'ai jamais rencontré
31:31personne qu'il a rejeté
31:32d'emblée,
31:33mais j'ai souvent rencontré
31:34des gens
31:35qui ne la comprenaient pas,
31:36en tout cas,
31:36qui ne la comprenaient pas
31:37automatiquement.
31:38Donc,
31:38d'avoir une charte,
31:40ça permet de verbaliser
31:42les préoccupations
31:42que l'on peut avoir
31:43dans le champ éthique
31:44et c'est plus facile
31:45d'en parler
31:46avec des personnes
31:47qui ne sont pas forcément
31:48sensibilisées
31:48à ces questions-là.
31:49Donc,
31:49je pense que ça permet
31:51aux gens
31:52de mieux comprendre
31:53de quoi ils retournent
31:54dès lors qu'on évoque
31:55la question éthique
31:56en matière de data
31:57et d'IA.
31:58Quand on regarde
31:59la charte chez Orange,
32:00en fait,
32:00elle a été créée
32:01à peu près
32:02au même moment
32:03que celle
32:04de France Travail.
32:06Ce qui est intéressant,
32:07c'est que nous avons créé
32:08notre conseil éthique
32:09un an avant la charte.
32:11Le conseil éthique,
32:12sa première mission,
32:12ça a été de conduire
32:14l'élaboration de la charte.
32:15Donc,
32:15vous voyez,
32:15et ça a duré un an.
32:16Donc,
32:17c'est un travail énorme.
32:18Donc,
32:19parfois,
32:19sur une charte,
32:20vous discutez des mots,
32:21des virgules,
32:22une certaine tournure
32:23de phrases,
32:24c'est important
32:25d'accomplir
32:26ce travail en interne
32:27et avec une vraie discussion.
32:29Là où c'est intéressant
32:30sur la charte aussi,
32:31donc c'est un point
32:31que je pourrais partager
32:32avec vous,
32:32mais je vais être
32:33relativement court,
32:34c'est que quand on fait
32:35une photographie
32:35de la charte en 2022,
32:38bon,
32:40elle comporte
32:40beaucoup de points
32:42spécifiques d'éthique.
32:43C'est-à-dire,
32:43en fait,
32:44dans la logique
32:45un peu floue,
32:46avec l'éthique,
32:47on est dans la zone grise
32:48et ces points spécifiques,
32:50ce que l'on voit souvent
32:51lorsque vous les faites
32:52valoir dans des chartes
32:54ou dans des démarches
32:54que vous avez initiées,
32:56plus tard,
32:56elles arrivent dans la loi
32:58et de nombreux principes
32:59qui ont été mis
33:00dans notre charte éthique,
33:01en fait,
33:02aujourd'hui,
33:02vous les retrouvez
33:03dans les textes
33:04de l'IA Acte,
33:04notamment.
33:05Donc, voilà.
33:06Donc, il y a toute une partie
33:06des chartes éthiques
33:07qui existent depuis 5 ans
33:09qui, en fait,
33:10aujourd'hui,
33:10se retrouvent
33:11dans le registre
33:11de la conformité.
33:13Donc, les gens
33:13qui ne comprennent pas trop
33:14pourquoi on conduit
33:15une démarche éthique,
33:17alors,
33:17quand vous avez affaire
33:19à un interlocuteur
33:19qui est plutôt un financier,
33:20vous lui dites,
33:21bon, écoutez,
33:22si on va trop vite
33:23sur un certain nombre
33:24de sujets,
33:25l'amende est de 3%
33:26ou de 7%.
33:27Alors, ça tombe dans...
33:29Je ne sais pas,
33:30peut-être que ça tombe
33:30du côté de la direction
33:31générale de ma voisine.
33:35Mais si vous ignorez
33:37aussi les aspects éthiques,
33:38vous vous retrouvez
33:39éventuellement
33:40dans des articles
33:41de presse
33:41que vous détestez.
33:42Vous vous retrouvez aussi
33:43devant des grèves
33:44dans vos organisations,
33:45voire peut-être aussi
33:46des clients qui s'en vont.
33:47Donc, ça aussi,
33:48ça permet de sensibiliser
33:49de manière concrète
33:50et sur un autre plan
33:52que le plan philosophique
33:53les gens sur la partie éthique.
33:56Merci beaucoup.
33:57C'est vraiment intéressant
33:58de voir que, finalement,
34:00ces chartes,
34:00ce ne sont pas strictement
34:01des outils juridiques,
34:03mais bien des leviers
34:05pour dialoguer,
34:06mieux comprendre,
34:08partager les usages,
34:10parfois même convaincre
34:12de l'intérêt financier
34:13au-delà
34:14de l'intérêt philosophique.
34:15et du coup,
34:15c'est déjà une partie
34:16de la réponse
34:18à la question
34:18que je vais vous poser,
34:19mais est-ce que vous observez
34:20des résultats concrets
34:21tous les deux
34:22sur la mise en place
34:23de ces chartes ?
34:24Est-ce que cette mise
34:27en place de chartes,
34:27elle est réussie selon vous ?
34:29Et quels défis
34:30restent encore
34:31à aborder
34:32dans vos organisations ?
34:35Oui, alors,
34:36est-ce que la mise
34:36en place de la charte,
34:37elle est réussie ?
34:38Je pense que oui.
34:39On est cinq ans après.
34:41C'est effectivement intéressant
34:42de voir qu'elle permet
34:44une véritable appropriation
34:45dans les différentes business units,
34:46dans les différents pays.
34:48Parce que là,
34:48on est dans un environnement
34:49qui est très fréquent français,
34:50mais Orange,
34:51dans laquelle je travaille,
34:52on est présents dans 26 pays.
34:53En fait,
34:53dans une centaine de pays,
34:54mais 26 pays
34:55dans lesquels nous disposons
34:56d'une licence d'opérateur en direct.
34:58Or,
34:58la question de l'éthique,
34:59elle est différente
35:00en fonction des cultures,
35:01en fonction des sensibilités,
35:02du contexte business,
35:03etc.
35:03Donc ça,
35:03il faut le prendre en compte.
35:04Quand vous faites une charte éthique,
35:05il faut qu'elle parle à tout le monde.
35:07Elle a simplement
35:08une version anglaise,
35:09une version française.
35:09C'est tout.
35:11Est-ce que c'est réussi ?
35:12Je pense que le conseil éthique,
35:13il a fait un gros boulot.
35:15Il est composé un peu
35:16de la même façon
35:17qu'Auréen l'a décrit
35:18chez France Travail.
35:20Il se réunit deux fois par an.
35:21Il écluse beaucoup de sujets,
35:23à la fois des sujets en anticipation,
35:24mais également des cas d'usage
35:25et des projets qui lui sont soumis.
35:27Il donne un avis
35:28qui est un avis consultatif
35:29et qui s'adresse directement
35:30au comité exécutif d'Orange.
35:34Tous les sujets
35:35qui sont passés
35:35entre les mains du conseil éthique
35:36ont été bien traités.
35:40Et le conseil éthique
35:41ne donne pas d'avis
35:43qui sont d'avis tranchés
35:44en disant non, non,
35:44c'est noir ou c'est blanc.
35:46On est toujours
35:46dans les recommandations aussi.
35:48Et je crois que la plupart
35:49de ces recommandations
35:50ont pu être observées
35:50et prises en compte
35:51par les projets eux-mêmes.
35:55Là où c'est peut-être
35:56un petit peu plus délicat,
35:57c'est qu'un conseil éthique,
35:57il ne peut pas traiter
35:58de tous les cas d'usage.
35:59Aurélien, il a dit
36:00qu'il y a 200 cas d'usage
36:01chez France Travail.
36:02Chez Orange,
36:03vous en avez, je dirais,
36:05trois fois plus.
36:06Et tous les jours,
36:07il y en a d'autres.
36:08Donc, on ne peut pas forcément
36:08saisir un conseil éthique
36:10de tous les cas d'usage.
36:10Donc, il faut arriver
36:11à comprendre
36:13qu'il y a une vraie
36:15subsidiarité organisée
36:16dans la gouvernance éthique.
36:18C'est pour ça
36:19que nous avons créé
36:19des comités éthiques
36:21locaux dans les pays
36:22ou à la tête
36:23de grandes business units.
36:26Là, c'est un peu différent.
36:27Dans le conseil éthique
36:28d'Orange,
36:28vous avez des gens
36:29qui ne sont ni juges
36:30ni partis,
36:31qui sont en général
36:31des sages externes,
36:33des experts,
36:34des scientifiques,
36:35des professeurs,
36:38qui peuvent débattre,
36:39vraiment discuter des sujets.
36:40Par contre,
36:40lorsque vous regardez localement,
36:41ce qui se passe,
36:42c'est que vous avez plutôt
36:43des gens qui sont plus
36:44dans la conformité.
36:45Souvent des juristes,
36:46des experts du droit,
36:49des gens qui sont en charge
36:50aussi des opérations localement.
36:52Donc là, forcément,
36:53vous êtes dans une configuration
36:54un peu moins discutante.
36:55Et pour explorer
36:56les tenants et les aboutissants
36:57des questions éthiques
36:58qui ressortent des projets,
37:00ce n'est pas toujours
37:01aussi facile
37:02ou en tout cas
37:03pas toujours aussi riche.
37:04Donc, il faut être vigilant
37:05à ça,
37:06former les gens
37:06dans les comités éthiques
37:07intermédiaires,
37:08la tête des directions
37:09et des business units
37:09parce que si vous ne les formez pas,
37:11le truc va passer trop vite
37:13tout simplement
37:14parce qu'il y a un enjeu
37:15et qu'il faut vraiment
37:16faire passer souvent
37:16à certains projets.
37:18Et ça,
37:19c'est un point de vigilance.
37:23Pour France Travail,
37:25je rejoins déjà totalement,
37:26on se connaît bien
37:27avec Philippe,
37:28je rejoins totalement
37:29ce qui vient d'être dit.
37:30Moi, je dirais
37:31qu'il ne faut pas avoir peur
37:32de lancer une charte éthique IA
37:34et pour moi,
37:34c'est un investissement.
37:36Oui, c'est quelque chose
37:37de long.
37:38Oui, la gouvernance IA,
37:39c'est quelque chose de long.
37:41Oui, on ne peut pas
37:41tout passer au filtre.
37:43Mais par contre,
37:44une fois que c'est fait
37:45et que c'est passé
37:46en dialogue social,
37:47vous avez une certaine
37:49transparence,
37:50voire une confiance
37:51qui s'est créée
37:52dans ce qui a été déterminé
37:54puisque vos agents
37:55sur le terrain
37:56savent que ça n'a pas été fait
37:57en dehors de tout cadre.
37:59ça a été réfléchi,
38:00ça a été partagé,
38:01etc.
38:01Donc, cet investissement
38:02qui peut paraître long
38:03au départ d'instruire,
38:05de créer une charte,
38:07de l'instruire,
38:07de la dérouler,
38:08de faire tout ça,
38:10ça crée cette confiance.
38:11Moi, je le vois,
38:12cette confiance
38:12quand on passe en dialogue social
38:14ou sur les cas d'usage,
38:16quand j'y vais,
38:19nos organisations
38:19nous demandent
38:21les conclusions
38:21de la charte éthique IA.
38:22ça veut dire qu'il y a la confiance,
38:24ça veut dire que c'est quelque chose
38:25qui a un moteur.
38:27Et je dirais,
38:27deuxième chose,
38:28c'est une base,
38:30c'est une base
38:30qui est un socle
38:32qui doit s'adapter
38:34à toutes les vagues IA
38:35qui arrivent,
38:36il y en a plusieurs,
38:38et ça doit être en conjonction
38:41et en coordination
38:43avec l'acculturation
38:44et la prévention
38:46des mauvais usages
38:47parce que l'IA
38:48peut engendrer
38:49de manière quasi automatique,
38:51voire sans s'en rendre compte
38:52de mauvais usages.
38:53Je parle forcément
38:54du shadowy AI
38:55avec les sujets
38:57de conformité
39:00et de sécurité des données,
39:02mais je pouvais parler aussi
39:03de sujets de biais,
39:06donc tout ce qu'on peut appeler
39:07la triple bulle,
39:08quand on interroge un LLM,
39:11on peut être dans une triple bulle,
39:12une bulle individuelle
39:13avec des biais de confirmation,
39:15des biais d'ancrage,
39:17des biais de raisonnement motivé
39:18qui nous enferment
39:20dans un raisonnement,
39:22interaction sociale,
39:23on est dans une chambre d'écho,
39:25on coupe son interaction sociale
39:26et enfin technologique,
39:28on a un algorithme
39:29qui nous sert
39:30ce qu'on a envie d'entendre
39:31et qui nous relance
39:32en permanence.
39:33Et donc ça,
39:33ça peut aussi avoir
39:34à aller jusqu'à
39:35soit des sujets
39:36où on ne va pas bien travailler
39:38avec l'IA,
39:39on va être dans une IA
39:40de remplacement
39:41plutôt qu'une IA
39:42de confrontation,
39:43on va progresser
39:44et puis ça va jusqu'à
39:46des sujets
39:46de santé mentale.
39:47Donc c'est important
39:48d'accompagner ça,
39:50c'est important
39:50d'accompagner
39:51l'évolution
39:53du travail réel
39:54versus le travail prescrit,
39:56voire même,
39:57on parlait des managers,
39:58les managers,
39:58on leur promet
39:59une carrière managériale
40:01et ils ont
40:02de l'anticipation
40:03et peut-être que bientôt
40:04ils auront à gérer
40:05différents agents IA
40:06et ça sera
40:06assez compliqué.
40:07Donc la question
40:08du sens
40:09dont on a parlé
40:10tout à l'heure
40:10est très importante
40:11et donc tout ça,
40:12voilà,
40:12pour moi,
40:14formation,
40:15charte d'éthique,
40:17accompagnement
40:18et puis un peu
40:20maîtrise
40:20dans la durée
40:21parce qu'il faut
40:22maîtriser
40:22ce technostress
40:23d'une technologie
40:25qui évolue
40:25toujours plus vite
40:26et nos agents
40:28peuvent avoir
40:30le sentiment
40:30d'être un peu dépassés
40:31donc tout ça,
40:32il faut le faire
40:32et le faire vivre
40:33dans la durée
40:34pour bien vivre
40:35cette transformation.
40:36Merci Aurélien.
40:37Je crois que Philippe
40:37vous aviez une petite...
40:40Oui,
40:41je vais faire une citation
40:42de mon fils
40:43qui a 19 ans.
40:46Si vous expliquez
40:47à vos collègues
40:49qu'il peut y avoir
40:50un risque éthique
40:51dans les projets montés,
40:54souvent j'entends
40:55la réponse un peu
40:55nous on n'est pas dans ça.
40:57Alors c'est important
40:58de voir qu'il y a
40:59quand même une relation
41:00entre l'organisation
41:00elle-même,
41:01la manière avec laquelle
41:02elle fonctionne
41:03et puis l'organisation
41:04une fois qu'elle commence
41:05à se doter d'IA.
41:06Si vous avez une organisation
41:07qui n'est pas très sensibilisée
41:08non plus aux questions éthiques,
41:09vous rajoutez de l'IA
41:10là-dedans,
41:11ça ne va pas s'arranger.
41:12Ça c'est important
41:13quand même de le noter.
41:16Ça va de pair.
41:18Et puis peut-être
41:18un deuxième petit conseil aussi
41:20puisque chez Orange
41:22en fait,
41:22la démarche éthique
41:24a plutôt été initiée
41:25par les équipes
41:25d'Orange Innovation
41:26donc par nos chercheurs,
41:27ceux qui travaillent
41:28depuis 10 ans et 15 ans
41:29avec des algorithmes
41:30d'IA divers et variés.
41:32En fait,
41:32ce qui est important
41:33quand même dans cette affaire-là,
41:34c'est vous,
41:35si vous êtes vraiment
41:35de nombreux DRH
41:38dans la salle,
41:39intéressez-vous
41:40à cette question éthique
41:41parce que la RH
41:42ne peut pas passer
41:43à côté
41:44de cette dimension éthique.
41:45Je crois que c'est très important
41:46qu'elle se réapproprie ça.
41:49Merci beaucoup
41:50à tous les deux.
41:52Ce qui ressort vraiment
41:53de vos témoignages,
41:54c'est que les chartes éthiques
41:56jouent plusieurs rôles
41:57à la fois.
41:58C'était la première partie
42:00de votre intervention.
42:01On voit aussi
42:02que ces démarches
42:04sont très exigeantes
42:05ou elles peuvent être exigeantes
42:06en tout cas.
42:07Vous l'avez dit,
42:08j'ai noté,
42:09en termes de gouvernance,
42:10en termes de dialogue
42:13et elles s'inscrivent
42:14dans un temps
42:14qui est parfois long.
42:16Mais que cet investissement
42:18et ça aussi,
42:19c'est ce que j'ai entendu,
42:20est essentiel
42:21pour sécuriser
42:22et faciliter
42:23les déploiements
42:23ensuite de projets IA
42:24dans la transparence
42:26et la confiance.
42:27Et ça,
42:27c'est des mots aussi
42:28que vous avez
42:29et en donnant du sens
42:30à ces démarches
42:31et c'est aussi
42:31des mots
42:32qu'on a entendus.
42:33Merci beaucoup.
42:34Je vais maintenant
42:35passer la parole
42:36pour poursuivre
42:37cette réflexion
42:38en prenant encore
42:39peut-être un peu de recul.
42:40Je passe la parole
42:41à Yann Ferguson.
42:43Et voilà.
42:46Donc, Yann,
42:47à partir des travaux
42:47que vous menez
42:48au Laboria,
42:49quels sont aujourd'hui
42:50les principaux prérequis
42:52que l'on peut identifier
42:53pour assurer
42:54la réussite
42:54des projets
42:55d'intelligence artificielle
42:56dans les organisations
42:57de travail ?
42:58Alors, d'abord,
42:59merci pour votre invitation.
43:03Donc, au Laboria,
43:04notre programme
43:05qui a été lancé
43:06par INRIA,
43:06le ministère du Travail
43:07et de l'Emploi,
43:07on essaie de comprendre
43:08les situations de travail
43:10qui sont instrumentées
43:11par l'intelligence artificielle.
43:13Et pour cela,
43:14on le fait
43:14avec le ministère du Travail,
43:16mais on le fait aussi
43:16avec la DGFIP,
43:18avec France Travail,
43:19qui ont, on va dire,
43:21le courage,
43:21l'audace
43:22de faire appel à nous
43:22pour essayer
43:23de documenter
43:24les situations.
43:25C'est intéressant
43:27tout ce qui a été dit
43:27sur le fait
43:28d'avoir une comitologie,
43:29une comitologie éthique
43:31avec des regards
43:33indépendants.
43:34À la DGFIP,
43:35on a le Conseil scientifique
43:36du numérique
43:37qui est un espace
43:38de rencontre
43:39entre les experts
43:40de l'IA du quotidien,
43:42ceux qui essayent
43:43de mettre l'IA
43:43dans les environnements
43:44de travail,
43:45qui n'est pas du tout
43:45la même expertise
43:46que la nôtre,
43:46on est plutôt
43:47des experts académiques.
43:48Et on attend de nous,
43:49évidemment,
43:50une fonction d'avis,
43:51de conseils éclairés,
43:52mais on vient aussi apprendre.
43:53On vient apprendre
43:54des situations de travail,
43:56des difficultés
43:56qui sont rencontrées
43:57par ceux
43:58dont le métier
43:59et d'essayer d'intégrer
44:01l'IA dans les situations
44:01de travail.
44:02Alors,
44:02les conseils,
44:03ça va être
44:04dans la coloration
44:06de la matinée,
44:07évidemment,
44:08c'est de partir du travail.
44:10Partir du travail,
44:11c'est un grand mot.
44:13J'ai des amis chercheurs
44:14qui ont travaillé
44:17cette notion
44:17de sens du travail
44:18et qui l'ont décliné
44:20sur trois dimensions.
44:21La première dimension,
44:22c'est le jugement
44:23d'utilité.
44:24Le sens du travail,
44:26c'est être utile.
44:27Être utile
44:27à un usager,
44:29être utile
44:29aux collègues,
44:30en tout cas,
44:31un travail
44:31dont l'utilité
44:32est reconnue.
44:33Le deuxième élément,
44:34c'est le jugement
44:35de beauté.
44:36Le jugement de beauté,
44:36ça peut être
44:37faire du beau travail,
44:39c'est reconnu
44:40comme étant un travail
44:40qui a une valeur
44:42quasiment esthétique.
44:43Ceux qui sont privés
44:44du beau travail
44:45sont en situation
44:46de souffrance esthétique.
44:47Ça a été conceptualisé
44:49de cette façon-là,
44:50mais ça peut être aussi
44:50du bon travail
44:51au sens éthique.
44:53C'est-à-dire,
44:53finalement,
44:54c'est un travail
44:54qui est déployé
44:55dans un cadre de valeur
44:56qui permet de dire
44:57que ce travail,
44:57il est fait
44:58de la bonne façon.
44:59Et puis,
45:00troisième dimension,
45:01c'est le travail
45:02qui permet de se réaliser,
45:03permet de se réaliser,
45:04de déployer ses talents,
45:06de progresser
45:06en tant qu'individu.
45:08et les enquêtes
45:09sur le sens du travail
45:10montrent que,
45:11d'une part,
45:13le peuple d'actifs français
45:15est celui qui,
45:17peut-être,
45:17qui en Europe
45:18met le plus en avant
45:19la question du sens du travail
45:21comme un élément
45:22fort dans son engagement.
45:23Et à l'intérieur
45:24de ce peuple français
45:26d'actifs particulièrement engagés
45:28sur le sens du travail,
45:29ceux qui travaillent
45:30dans le service public,
45:31ceux qui travaillent
45:32dans les associations,
45:33sont ceux qui,
45:34davantage encore,
45:36mettent en avant
45:36dans le sens du travail.
45:37Et donc,
45:38ça crée quand même
45:38une forme de tension,
45:39c'est-à-dire que
45:40toutes les transformations
45:42sont évaluées
45:43à l'aune de ce sens
45:45qui est un peu
45:46une valeur
45:47qui est opposable,
45:49j'ai envie de dire,
45:50à toute transformation.
45:51Est-ce que ça va
45:51dans le sens du travail ?
45:53Et dans le service public,
45:55on rend un service.
45:56Alors,
45:56il y a d'autres acteurs
45:57qui rendent des services.
45:59Amazon rend un service.
46:01Uber rend un service.
46:02Il y a des millions de gens
46:03qui sont satisfaits
46:04de ce service.
46:06mais le service public,
46:07c'est encore plus
46:08que rendre un service.
46:09C'est l'éthos du service.
46:11Quelle est la vision ?
46:12Quelles sont les valeurs ?
46:13Quelles sont les références
46:14qui sont mobilisées
46:15pour rendre ce service ?
46:16Ce ne sont pas
46:17des valeurs marchandes.
46:17Ce sont des valeurs
46:18d'intérêt général,
46:19des valeurs de bien commun
46:20qui ne sont pas celles,
46:22et ce n'est pas leur mission,
46:23d'Amazon et d'Uber,
46:24par exemple,
46:24ou d'autres sociétés
46:26qui vont rendre un service,
46:28mais guidées
46:29par d'autres motivations
46:31qu'on n'est pas là
46:32pour juger.
46:32mais en tout cas,
46:33ce ne sont pas les motivations
46:34qui vont engager
46:36celles des agents
46:37du service public.
46:38Alors,
46:38quelques exemples
46:39que ça peut donner.
46:40Si notre mission
46:42de service public,
46:43c'est de définir
46:46un certain nombre
46:48d'allocations sociales,
46:50eh bien,
46:50l'intelligence artificielle
46:52peut effectivement
46:52être mobilisée
46:53pour identifier
46:54ceux qui vont
46:55frauder ce service,
46:57qui vont en être bénéficiaux
46:58alors qu'ils ne le devraient pas.
46:59Ce qui peut faire sens
47:01pour les agents,
47:02parce que frauder
47:04les allocations sociales,
47:05en bénéficier
47:06alors qu'on ne bénéficie pas,
47:08ça porte atteinte,
47:09je veux dire,
47:10au projet social
47:10qu'il y a derrière
47:11les allocations.
47:12Mais pour les agents,
47:13un autre élément intéressant,
47:14ça va être que l'IA
47:15va permettre d'identifier
47:16ceux qui ne font pas recours
47:18à ces aides.
47:19Et qui vont,
47:20on va avoir une IA
47:21qui va essayer,
47:23justement,
47:23parce que ça fait sens,
47:24d'identifier ceux
47:25qui pourraient bénéficier
47:26de ces aides,
47:27mais qui n'y recourent pas.
47:27Et on sait que c'est quand même
47:28un grand nombre d'individus.
47:29Donc ça, c'est le sens.
47:31Un autre élément,
47:32et c'est un des exemples
47:34qui a été donné par Amélie,
47:35c'est le foncier innovant,
47:38par exemple.
47:38Un foncier innovant,
47:4042 millions de gains,
47:41on ne reviendra pas sur le sujet.
47:43Si c'est plus efficace,
47:44si ça fait gagner plus d'argent,
47:46on en a un peu besoin.
47:47Si c'est plus efficace,
47:48on le doit aussi aux usagers.
47:50Eh bien,
47:51on ne revient pas là-dessus.
47:53Mais ce que ça peut donner
47:54comme impression aux agents,
47:55et ce que ça peut aussi donner
47:56comme impression,
47:56comme vision de l'administration,
47:58c'est que finalement,
47:58on passe à un moment
48:00où l'agent du cadastre
48:02se rendait sur place,
48:04allait observer,
48:04allait constater.
48:06C'est coûteux,
48:08mais ça donne une vision du sol.
48:10Et l'IA,
48:11elle va identifier
48:13les piscines non déclarées
48:14par une vue du ciel,
48:15par les images de Google.
48:18C'est plus efficace.
48:19Mais par contre,
48:19ça positionne l'État
48:21dans le ciel.
48:22Et la question,
48:22c'est de savoir
48:24dans quelle mesure
48:25l'État doit aussi
48:26être dans le sol.
48:27Donc,
48:28est-ce qu'on administre
48:28vue du ciel
48:29ou est-ce qu'on administre
48:30du sol ?
48:30Le sujet n'est pas
48:31de revenir sur des...
48:33d'être moins efficient
48:34et de revenir sur le sol
48:36pour faire quelque chose
48:36qui est moins cher
48:37dans le ciel.
48:38Mais c'est de regarder
48:38comment le temps gagné,
48:39comment les bénéfices
48:42rapportés par cette solution
48:43peuvent être redéployés
48:44pour le sens du travail,
48:46mais aussi pour le sens
48:46du service public,
48:47pour qu'à un moment,
48:48ces agents reviennent
48:50un peu aussi sur le terrain
48:51pour aller chercher
48:51de la valeur
48:52que l'IA ne peut pas
48:53aller chercher,
48:53de telle façon
48:54à ce qu'à la fois
48:54pour l'agent
48:55et à la fois
48:56pour le service public,
48:57eh bien,
48:57ça fasse sens
48:58d'être présent,
49:00je dirais,
49:00au plus près des territoires.
49:03Merci beaucoup.
49:03Alors peut-être,
49:04je ne sais pas,
49:05c'est une question
49:06un peu difficile.
49:07Est-ce qu'en deux mots,
49:08parce qu'on me fait signe
49:09qu'il n'y a plus de temps,
49:11vous auriez...
49:12Quelle recommandation
49:13vous formuleriez
49:13pour les employeurs publics,
49:14justement,
49:15qui veulent mener
49:17des projets IA ?
49:18Alors je peux vous faire
49:19en exclusivité
49:20la recommandation
49:21qu'on a faite
49:22au ministère économique
49:23et financier.
49:23On a appelé ça
49:23la méthode des trois dialogues.
49:25Le premier dialogue,
49:25c'est le dialogue technique.
49:27Vous avez une idée de solution,
49:29vous allez la travailler
49:29avec les agents.
49:30On l'a dit plusieurs fois,
49:31c'est les experts
49:31de leur métier.
49:32Comment ça devient leur outil ?
49:34On a plein d'outils
49:34autour de nous.
49:35Comment ça fait sens
49:36pour leur travail ?
49:37Le deuxième dialogue,
49:38c'est le dialogue professionnel.
49:39Ça a aussi été décrit.
49:40C'est-à-dire que là,
49:40on va documenter
49:41les situations de travail.
49:42On va produire
49:43des diagnostics partagés.
49:44Qu'est-ce que cet usage
49:45de l'IA fait au travail ?
49:47Et les agents vont pouvoir
49:48y contribuer
49:48et les managers de proximité
49:49vont être les parties prenantes
49:51de ce dialogue professionnel.
49:52Si derrière,
49:53il y a une limite de la solution,
49:55on revient vers le dialogue technique.
49:56Et puis derrière,
49:57ce diagnostic partagé,
49:57on va le faire remonter
49:58vers le troisième dialogue
49:59qui est le dialogue social.
50:00Le dialogue social,
50:01aujourd'hui,
50:02il se fait en grande partie
50:03autour quand même
50:04d'une idée fantasmée
50:06de ce que c'est l'IA.
50:06Tous les jours,
50:07on entend que l'IA détruit
50:08de l'emploi,
50:08que l'IA expose des métiers,
50:09etc.
50:11Et l'élu du personnel,
50:13il vient avec cette représentation
50:14et c'est très violent.
50:16C'est très angoissant.
50:17Et donc,
50:18on va partir
50:18d'un diagnostic partagé.
50:20Et ce qui est intéressant,
50:21c'est que ces trois dialogues
50:21sont aussi des espaces
50:22d'apprentissage.
50:23Dans le dialogue technique,
50:24l'agent,
50:25il apprend un peu mieux
50:26ce que c'est l'IA.
50:26Dans le dialogue professionnel,
50:29c'est aussi les ingénieurs
50:30qui vont apprendre les métiers
50:31qui vont recourir à l'IA.
50:33Et dans le dialogue social,
50:34on apprend aussi
50:35à construire collectivement
50:37une IA qui a du sens.
50:38Et donc,
50:39on parle beaucoup
50:39de la question de la formation.
50:40On dit que la formation,
50:41c'est un élément de l'adoption.
50:42Quand on pense formation,
50:43on pense à un formateur
50:44ou à un e-learning
50:45et qu'on envoie aux agents.
50:46Mais par le dialogue,
50:48le dialogue est aussi
50:49un espace d'apprentissage
50:50qui permet à chacune et chacun
50:52non seulement de comprendre
50:53ce que c'est l'IA,
50:53mais aussi ce que l'IA fait au travail.
50:57Merci beaucoup
50:57à tous les cinq.
51:01Merci.
51:12Merci, merci beaucoup.
51:14Vraiment, on voit qu'à travers
51:16d'ailleurs cette table ronde
51:19autour d'un outil technique,
51:20l'IA, on a parlé beaucoup
51:21d'humains, de dialogue à nouveau
51:24et beaucoup de confiance.

Recommandations