00:09L'intelligence artificielle s'invite maintenant dans les mairies, les départements et les régions.
00:15Les agents publics utilisent déjà ces outils, parfois sans cadre clair.
00:21Dans ce contexte, les chartes d'utilisation d'intelligence artificielle sont un instrument essentiel pour sécuriser les pratiques.
00:29On en parle tout de suite avec mon invité, Sylvain Pontier, avocat associé chez Abeille Avocats.
00:35Sylvain, bonjour.
00:36Bonjour.
00:37On va parler ensemble des chartes d'utilisation de l'IA.
00:40Mais avant toute chose, que se passe-t-il aujourd'hui dans les administrations avec l'intelligence artificielle ?
00:46Alors, évidemment, il y a des grandes disparités selon les administrations, selon leur taille.
00:50On ne peut pas comparer une petite commune avec un ministère, un département.
00:54Mais il y a une adoption massive de l'IA de la part des agents.
00:57Très souvent, il y a ce qu'on appelle la Shadow AI, bien connue,
01:02qui est le fait que les agents utilisent l'intelligence artificielle sans que leur direction ne soit nécessairement informée.
01:09Ils utilisent leurs propres outils.
01:10Exactement.
01:11Comme on avait le BIOD, on a les propres outils IA.
01:14Donc, des agents vont céder pour la rédaction de courrier, vont céder pour la rédaction de décision,
01:19vont rentrer à l'intérieur de l'outil un certain nombre de documents,
01:23sans avoir d'informations sur qu'est-ce que j'ai le droit de faire, qu'est-ce que je
01:26n'ai pas le droit de faire,
01:27sans aucune notion de responsabilité et sans avoir de cadre pour savoir exactement ce qu'ils peuvent faire ou pas.
01:34Ça pose quoi comme problème ?
01:36Alors, ça pose beaucoup de difficultés, mais je vais prendre des exemples concrets.
01:41Le premier, c'est la fuite de données.
01:43Un agent va mettre dans un outil d'IA grand public ou obscur des éléments d'information relatifs à un
01:50citoyen donné.
01:51Ces informations vont partir sur un serveur à l'étranger,
01:55sans aucune garantie que ces données ne vont pas être utilisées pour entraîner la machine,
01:59ne vont pas faire l'objet d'une extraction, d'une fuite qu'on va retrouver quelque part ailleurs.
02:05On peut utiliser pour faire des faux papiers ou je ne sais quoi.
02:07Exactement. Autre exemple qui pour moi est encore plus dangereux, c'est le biais.
02:13On ne sait pas comment la machine va traiter les informations.
02:17Dans le cas, par exemple, de l'attribution d'une aide sociale,
02:20rien ne permet de garantir que l'IA n'a pas un biais cognitif
02:25qui fait qu'elle va, par exemple, reproduire une discrimination systémique intégrée dans la machine,
02:31mais dont l'agent n'aura absolument aucune connaissance.
02:37Autre exemple concret, le fait de la perte de contrôle.
02:42L'agent est souvent, entre guillemets, bluffé par la capacité de l'intelligence artificielle.
02:48Il va se reposer de plus en plus sur la machine.
02:50Il a tendance à l'utiliser de plus en plus.
02:52Exactement. Il va perdre son sens critique et il va déléguer la totalité de la décision à la machine.
02:59Or, ça, en administration, c'est complètement inenvisageable.
03:04Et dernier élément qui va avec les autres, c'est le risque réputationnel.
03:08C'est-à-dire qu'en cas de décision erronée prise par la machine...
03:14C'est quoi le risque, la responsabilité ?
03:16La responsabilité, c'est tout simplement une responsabilité pour faute de la part de la collectivité
03:22et le risque réputationnel qui peut aller avec telle collectivité, tel ministère, telle administration.
03:28Délègue en réalité ces décisions à une machine et non pas à des êtres humains, ça serait catastrophique.
03:33Alors, dans ce contexte, pourquoi recourir aux chartes d'utilisation de l'intelligence artificielle ?
03:39Alors, le fait de ne pas avoir de chartes, c'est déjà un choix.
03:42C'est mettre ses agents dans le flou.
03:44Est-ce que j'ai le droit de le faire ? Est-ce que je n'ai pas le droit
03:47de le faire ?
03:48Jusqu'à quel point ?
03:50Donc, ça génère à la fois de l'inégalité entre les agents et également des situations totalement anxiogènes.
03:56Donc, l'intérêt de la charte, c'est qu'elle fait plusieurs choses.
03:58D'abord, elle autorise.
04:00Donc, elle va dire, ça, c'est autorisé.
04:02Vous pouvez utiliser tel outil d'intelligence artificielle, spécialisé ou non spécialisé.
04:08Donc, l'agent sait qu'il ne se met pas en faute en utilisant tel outil.
04:13Par ailleurs, elle interdit.
04:15Elle pose une ligne rouge.
04:16Elle dit ça, c'est formellement interdit.
04:19Il y a des administrations, il y a un département qui a pris position il n'y a pas très
04:22longtemps,
04:22en disant, Tchadjpiti, par exemple, c'est non.
04:25On sait que souvent dans l'administration, on veut des outils souverains.
04:29Exactement, ou des outils spécialisés.
04:31Il y a de plus en plus d'éditeurs qui proposent des outils qui sont adaptés.
04:35Et la dernière chose, c'est que ça responsabilise.
04:37Les agents savent exactement ce qu'ils peuvent utiliser comme outils.
04:43Parce que sinon, s'il n'y a pas ce cadre-là, c'est la porte ouverte à plein de
04:47failles,
04:47comme vous décrivez tout à l'heure, à des comportements qui engendrent après la responsabilité de l'administration
04:54et puis la réputation de l'administration.
04:56Exactement. Et puis, une absence de maîtrise.
04:58Un ministère ou une collectivité, une administration, quelle qu'elle soit,
05:02elle prend des décisions qui ont des incidents sur la vie des administrés,
05:05qui octroient des droits, qui en refusent, qui en retirent.
05:10Tout ça, ça doit être fait dans un cadre légal, évidemment.
05:13Et donc, ça doit suivre une logique de la collectivité
05:16et pas une logique d'un agent IA géré par des algorithmes qu'on ne maîtrise pas.
05:21Alors, malgré tout, si on n'a pas de charte, il y a quand même un cadre juridique.
05:26Je pense au RGPD, au Règlement sur l'intelligence artificielle.
05:30Comment ça coexiste, ce cadre, avec si une collectivité décide de rédiger une charte ?
05:37Comment coexistent à la fois le cadre juridique et la charte ?
05:41Alors, la charte, ce n'est pas la loi, évidemment.
05:44Mais les normes que vous évoquez, RGPD, AI Act, Data Act,
05:52sont relativement obscures à mettre en œuvre.
05:55On va fêter d'ici peu de temps les 10 ans du RGPD.
05:59Il y a fort peu d'agents publics qui sont capables de l'appliquer tel quel
06:04ou d'avoir une idée précise.
06:05Donc, la charte, ça va être une courroie de transmission.
06:09Elle va permettre de diffuser au sein de la collectivité ou au sein de l'administration
06:13les bonnes pratiques, les bons usages.
06:16Et ce qui est essentiel, c'est que la charte, ça ne doit pas être un document
06:19qu'on va récupérer dans un cabinet d'avocats
06:22ou prendre une des 150 chartes qui existent déjà
06:25et la coller dans la collectivité.
06:27Il y a un travail de discussion.
06:29Il faut faire un atelier IA, une commission IA, discuter avec les agents.
06:33Ça veut dire qu'il faut former les agents, les sensibiliser ?
06:36Exactement. Les former, mais aussi déjà partir du besoin et de l'usage.
06:41C'est-à-dire, en réalité, pourquoi vous utilisez l'intelligence artificielle ?
06:44Quels sont vos besoins ? A quels défis vous êtes confrontés ?
06:47Et sur la base de ça, on va pouvoir faire une vraie charte
06:50qui colle parfaitement aux usages de cette collectivité
06:54qui va pouvoir être différente d'une autre collectivité ou d'une autre administration.
06:57Qu'est-ce qui fait que, dans le service public,
07:01le contrôle humain est véritablement une nécessité plus qu'ailleurs ?
07:08Eh bien, il y a une différence fondamentale entre une société privée
07:11ou une entité privée et une collectivité publique.
07:13C'est que, dans une collectivité, comme je venais de le dire,
07:18on donne des droits.
07:20Par exemple, on attribue des autorisations d'urbanisme.
07:23Parfois, on les refuse.
07:24On attribue des droits sociaux.
07:26On donne des agréments.
07:28On donne des autorisations d'occupation du domaine public.
07:31Tout ça, c'est fait par des personnes qui tiennent leur pouvoir,
07:35souvent par délégation.
07:37D'autres personnes qui, elles-mêmes, ont été élues
07:39et qui ont été élues en application de la loi
07:43et dont l'exigence est d'appliquer la loi.
07:45Au bas d'une décision administrative,
07:47il y a le nom d'un être humain
07:49qui a des pouvoirs donnés
07:50et qui doit pouvoir en rendre compte.
07:53et il ne peut pas y avoir de décision administrative,
07:57en France en tout cas,
07:57prise par l'intelligence artificielle.
07:59Ça peut être une aide,
08:01ça peut être un accompagnement,
08:02un éclairage,
08:03mais à la fin,
08:03il faut bien que ça soit un être humain
08:05et le contraire serait absolument terrible.
08:08Il faut que,
08:09quelle que soit la charte,
08:10le pouvoir reste à l'être humain,
08:12à la fin,
08:13pour valider la décision.
08:14Bien sûr.
08:14Alors, ces outils d'intelligence artificielle
08:17évoluent très vite.
08:17Comment on adapte la charte
08:19face à cette évolution des outils ?
08:22Alors, effectivement,
08:22c'est essentiel.
08:23Il ne se passe pas une semaine
08:24tant qu'on ait une nouvelle annonce
08:26d'un nouvel outil.
08:27Donc, mes recommandations
08:29et ce que nous,
08:29nous faisons avec les administrations
08:31que nous accompagnons,
08:32c'est que, d'abord,
08:33il faut avoir un document
08:35qui est relativement light,
08:37c'est-à-dire qu'il faut bâtir léger.
08:38Les chartes qui font 50 pages,
08:40qui rentrent dans énormément de détails,
08:42n'auront pas d'avenir, probablement.
08:45La deuxième chose,
08:46c'est qu'il faut une clause de revoyure.
08:48Il faut au moins que tous les six mois,
08:50on se réunisse à nouveau
08:52avec l'atelier ou la commission IA,
08:54peu importe comment est-ce qu'on l'appelle,
08:56pour rediscuter des usages.
08:57Est-ce que ça a évolué ?
08:58Est-ce que ça a changé ?
09:00Est-ce qu'il y a eu des évolutions ?
09:01Et la dernière chose,
09:02c'est qu'il faut impérativement
09:06former, accompagner,
09:07discuter avec les agents,
09:09prendre le temps de comprendre
09:10et donc faire évoluer la charte.
09:11Si elle évolue tous les six mois,
09:13ce n'est pas grave.
09:13Au contraire, c'est très bien.
09:14Ça veut dire que ce n'est pas un outil RH,
09:17mais c'est un outil de management du changement
09:21et de transition et d'évolution.
09:23On va conclure là-dessus.
09:24Merci, Sylvain Pontier.
09:25Je rappelle que vous êtes avocat associé
09:27chez Abeille Avocat.
09:28Merci.
09:28Tout de suite, on change de domaine.
09:30On va parler de la réforme
09:32du règlement d'arbitrage de la CCI.
09:34Sous-titrage Société Radio-Canada
Commentaires