- il y a 8 mois
Face à la domination technologique des États-Unis et de la Chine, l’Europe cherche sa voie dans la course à l’intelligence artificielle. Pour la sénatrice Vanina Paoli-Gagin, l’alignement des systèmes d’IA avec nos valeurs de sécurité, de transparence et d’éthique pourrait devenir un avantage stratégique. Une ambition qui suppose de structurer une véritable politique industrielle et réglementaire européenne.
Catégorie
🗞
NewsTranscription
00:06L'IA va changer nos vies en modifiant la façon dont on travaille, on apprend, on innove.
00:10Ceci est positif sous réserve que les systèmes d'IA agissent conformément aux intentions de leurs concepteurs et à nos
00:16valeurs humaines.
00:17Je cite les mots de mon invité aujourd'hui dans Smartech, Madame la Sénatrice Vanina Paoli-Gagin.
00:22Bonjour.
00:23Bonjour.
00:23Merci beaucoup d'être avec nous.
00:24A la suite d'un colloque que vous avez organisé fin 2025, le Premier ministre Sébastien Lecornu vous a confié
00:31une mission auprès de la ministre du Numérique et de l'IA, Madame Anne Le Hénanf,
00:35sur ce sujet de l'alignement de l'IA, des systèmes d'intelligence artificielle.
00:41Qu'est-ce qu'on appelle l'alignement ?
00:43Qu'est-ce qu'on appelle l'alignement ?
00:45Je reviens juste sur ce colloque qui était sous l'égide de la Fondation de l'Université de Technologie de
00:50Troyes
00:50et qui a rassemblé des chercheurs, des scientifiques, des industriels, des entrepreneurs, des fonctionnaires, des élus,
00:58pour réfléchir sur cette fonction d'alignement qui est en fait de l'ordre du structurel.
01:06C'est-à-dire qu'elle va devenir, je le pense, une espèce de colonne vertébrale des systèmes d'intelligence
01:13artificielle.
01:14– Précisément ?
01:15– Précisément.
01:17On doit avoir une approche qui soit moins sur la performance technologique
01:24et un peu plus sur la robustesse de nos systèmes.
01:27Je m'explique, on parle beaucoup de souveraineté numérique.
01:31Il ne faut pas confondre la souveraineté et le souverainisme.
01:33La souveraineté, pour moi, c'est être lucide sur ses forces et ses faiblesses,
01:37regarder ce qu'on peut changer et ce qu'on ne peut pas changer, et faire des choix.
01:41Et l'alignement, c'est précisément un choix.
01:45Parce qu'on ne pourra jamais, en fait, l'histoire est faite,
01:48on ne pourra pas contrôler tous les stacks, c'est-à-dire toutes les couches infras
01:53et puis les couches supérieures qui composent ces systèmes numériques
01:57par lesquels ces systèmes d'intelligence artificielle transitent, entre guillemets.
02:03Donc il faut qu'on reprenne le contrôle.
02:05Et aligner, c'est quoi ?
02:07C'est garantir, vous l'avez dit en préambule,
02:09que des systèmes d'intelligence artificielle puissants et autonomes
02:13puissent, de bout en bout, en fait, être conformes aux objectifs
02:19des donneurs d'ordre, des développeurs, des utilisateurs, in fine, de nos concitoyens, en fait.
02:25Mais c'est un sujet de confiance, donc qui est très important.
02:30Mais à quel niveau ?
02:31Parce qu'aujourd'hui, visiblement, les citoyens du monde font confiance à ces IA,
02:37puisqu'on les utilise tous les jours.
02:40Elles sont diffusées largement dans la société,
02:42elles se sont imposées comme un usage presque courant.
02:46Donc où se situe le sujet de la confiance ?
02:49Est-ce que c'est vis-à-vis de ces utilisateurs qui sont quand même déjà captifs,
02:54pour ne pas dire convaincus,
02:54ou c'est vraiment au niveau de la stratégie, de l'autonomie industrielle de l'Europe ?
03:01Eh bien, j'en répondrai les deux, chère madame.
03:04Les deux, en tout cas, en tant qu'élu de la nation, j'en suis convaincue.
03:09Parce qu'aujourd'hui, effectivement, tout le monde est content.
03:13Tout le monde a son petit cerveau augmenté dans son smartphone grâce au système d'IA.
03:20Mais il y a une forme d'inconscience.
03:21Il faut qu'on soit aussi très, très, très lucide sur cela.
03:25Je pense, par exemple, aux consultations en ligne ou aux prescriptions médicales
03:30qui peuvent être faites par des agents, à du soutien psychologique.
03:33Il y a des choses qui viennent intrinsèquement agir sur le cerveau humain.
03:38On est vraiment, en plus, sur le terrain de la cognition.
03:42Donc la confiance, vous l'avez dit, la confiance, c'est la base.
03:45Donc il faut s'assurer que ces systèmes fonctionnent selon les intentions, on l'a dit.
03:53Il y a la sécurité.
03:54La sécurité, c'est la résistance à des usages malveillants, à des cyberattaques,
03:59qu'elles soient des attaques cyber ou des attaques physiques.
04:03On l'a bien vu dans le conflit, malheureusement, en cours en Iran, sur les centres de données.
04:10Et puis il y a des dépendances envers des technologies qui sont étrangères,
04:15qui peuvent ne pas être conformes aux valeurs démocratiques qui sont les nôtres
04:19et qui peuvent venir interférer.
04:22Donc on doit aussi pouvoir surveiller en temps réel les ingérences possibles via ces modèles.
04:27Est-ce que ces sujets ne sont pas couverts déjà par l'AI Act au niveau européen ?
04:33Alors, vous avez raison.
04:34C'est un des objectifs de l'AI Act.
04:38sauf qu'il faut qu'on aille, entre guillemets, plus loin,
04:41parce qu'il faut aussi qu'on ait des sujets de durabilité,
04:45c'est-à-dire garantir que ces modèles soient adoptés par les citoyens
04:51en connaissance de cause et non pas de manière un peu aveugle,
04:55puisque la technologie est venue dans la poche des gens
05:00avant même que le législateur ne s'en empare que des industriels.
05:06Et qu'on évalue les risques.
05:07Exactement.
05:07Qu'on évalue les risques, c'est tout à fait juste.
05:10Et puis aussi une exigence en termes de sobriété, de décarbonation, etc.
05:14Et enfin, et c'est le point crucial,
05:16l'AI Act déflore cela, mais il faut qu'on aille plus loin
05:20pour en faire finalement des standards industriels.
05:24Ça, c'est ma conviction.
05:25C'est l'explicabilité.
05:27Il faut que ces modèles soient, en anglais on dit « safe by design »,
05:32c'est-à-dire sécurisés par conception, dès leur conception, et interprétables.
05:38On doit pouvoir dire à l'utilisateur final, en désaussant de bout en bout,
05:44comment on explique le raisonnement, comment on quantifie l'incertitude,
05:48comment on s'assure que les données ont été nettoyées,
05:51qu'il n'y a pas de biais liés au genre, à l'origine ethnique, etc.
05:57Et pour reprendre ce que vous disiez, qui est très juste, l'assurabilité.
06:03Et ça m'intéressait de rebondir sur la question des biais,
06:06parce que ce qui est intéressant aussi dans votre mission et votre approche,
06:10c'est que l'idée de l'autonomie stratégique,
06:13ce n'est pas qu'un sujet économique, c'est aussi un sujet culturel.
06:17Et c'est pour ça que vous dites qu'il faut qu'on soutienne cet écosystème aussi européen.
06:22Qu'est-ce qu'il représente aujourd'hui l'écosystème de la sécurité ou de l'alignement de l'IA
06:27en Europe ?
06:28Est-ce qu'on a déjà des acteurs fortement positionnés ?
06:31Alors oui, on en a.
06:32Je sais que la mission fait partie du travail.
06:35Je ne vais pas préempter les conclusions de la mission,
06:41mais l'objectif de cette mission, moi je ne veux pas faire un rapport de plus,
06:46il y en a beaucoup, donc déjà on va se nourrir de tout l'existant.
06:49Mais l'objectif, c'est déjà de faire une recension, un inventaire, une cartographie des acteurs,
06:57public-privé, civil-militaire, industriel, etc.
07:02Pour voir quelles sont ces zones de fragilité, de dépendance, d'excellence,
07:07parce qu'on en a de nombreuses,
07:08et puis ensuite, s'intéresser au cas d'usage de systèmes qui, de bout en bout,
07:16remplissent les quatre impératifs que j'ai cités précédemment.
07:21Vous pouvez nous les rappeler, les quatre ?
07:23Les quatre, c'est la confiance, la sécurité, la durabilité et l'explicabilité.
07:29Ok.
07:30Aujourd'hui, vous allez effectivement recenser les initiatives qui existent déjà,
07:35et vous l'avez dit, les excellences qu'on a en France et en Europe,
07:38ou qu'en France, sur votre avis ?
07:39Non, en France et en Europe.
07:40En France et en Europe.
07:42Ce travail, il existe aussi aux Etats-Unis.
07:46Vous avez commencé à percevoir les différences, peut-être, d'approche,
07:50entre l'alignement version américaine, par exemple, ou chinoise,
07:55et l'alignement européen.
07:56Quel serait l'alignement à l'européenne ?
07:59L'alignement à l'européenne, c'est celui qui, intrinsèquement,
08:07embarque, si je peux me permettre d'utiliser cette métaphore,
08:11nos valeurs démocratiques.
08:13Et donc, ça paraît assez étrange de parler de valeurs démocratiques
08:18dans des systèmes technologiques,
08:20mais je pense que les gens commencent à comprendre
08:23que la technologie du numérique, elle est dual by design.
08:29Et que, ce faisant, si on ne s'intéresse pas à ce qu'on embarque dedans
08:33et ce qu'on délivre, finalement, à l'utilisateur final,
08:37eh bien, on peut perdre la bataille idéologique des valeurs.
08:41Or, avec la montée des extrêmes, de droite comme de gauche,
08:46je pense que c'est un exercice existentiel pour nous.
08:51Est-ce qu'il y a une proximité dans le mouvement de l'alignement de l'IA
08:56avec les mouvements qui réclament une pause ou des moratoires
09:00dans l'intelligence artificielle ?
09:03Alors, ça, on va le sonder.
09:05Je pense que, quand on est clair dans le plan qu'on veut dérouler,
09:14on n'a pas peur de l'innovation.
09:16Et ce que je crains, en fait, dans ces demandes de moratoires,
09:20de pauses, etc., c'est que, oui, on va peut-être, nous,
09:24s'imposer ces pauses, mais pendant ce temps-là,
09:26les autres vont à fond de blindes.
09:29Et donc, il faut qu'on arrête d'être les naïfs
09:32ou les idiots utiles de cette course technologique.
09:36Et je pense qu'en plus, on a un avantage compétitif à en tirer.
09:41Si on est malin, si on arrive à développer
09:44un système industriel de l'alignement,
09:48des standards proactifs de l'alignement,
09:50je ne suis pas du tout pour une surréglementation.
09:53Je veux qu'on ait des standards business de l'alignement
09:56pour développer une verticale industrielle
09:59sur ce sujet très précis
10:02et s'assurer qu'en Europe ne rentrent que des systèmes d'IA
10:06qui sont conformes à ces valeurs.
10:09Alors, à la suite du collègue que vous avez organisé,
10:12on en a parlé, vous avez déposé une proposition
10:14de résolution européenne pour ajouter, finalement,
10:17ce sujet à l'agenda au niveau européen.
10:20Ça en est où ? Comment est-ce que cette proposition évolue ?
10:24Alors, pour l'instant, elle est à l'examen
10:27à la Commission des affaires européennes du Sénat.
10:30D'accord.
10:31Il y a eu beaucoup de retards liés,
10:34notamment aussi au scrutin municipal,
10:37à la suspension des travaux,
10:38mais elle va être examinée là, au printemps.
10:41Et ensuite, ça va être un appui
10:46pour que le gouvernement exhorte les instances européennes
10:50à définir ce qu'on entend au niveau européen
10:55par alignement des systèmes d'intelligence artificielle.
10:58Et je pense que c'est un exercice
11:00qu'il nous faut tous ensemble, en européen, faire.
11:04Et vous avez le sentiment qu'on est aligné,
11:08justement, sur ce sujet, aujourd'hui, en Europe,
11:11ou que ça va être aussi une bataille compliquée
11:13au sein des États membres ?
11:15Évidemment qu'il va y avoir des interprétations divergentes,
11:20des sensibilités différentes.
11:24C'est toute la richesse.
11:26Quelles sont les thématiques qui vont être
11:29peut-être les plus complexes, les plus difficiles ?
11:32Parce que quand on vous entend, en fait,
11:34sur ces quatre piliers de l'alignement,
11:36on est comme ça, à priori, facile,
11:38on est tous d'accord.
11:41On est tous d'accord,
11:42mais encore faut-il qu'on soit d'accord
11:45sur la même chose
11:46et sur ce qu'on met derrière ces vocables.
11:50Et évidemment, il va y avoir des tentations
11:54d'être beaucoup plus rigoriste
11:56ou d'être beaucoup plus laxiste
11:59et de se parer de vertu en disant
12:02on ne va pas bloquer l'innovation
12:03pendant que les Chinois et les Américains avancent, etc.
12:06Donc, je pense que c'est un exercice qui va être...
12:08C'est l'équilibre, en fait,
12:09qui va être compliqué à trouver, c'est ça ?
12:12Comme toujours en Europe.
12:13Oui.
12:14Avec qui vous allez travailler ?
12:15Comment vous allez dérouler votre mission ?
12:18Vous allez rencontrer, on l'a dit peut-être déjà,
12:21l'écosystème, des chercheurs ?
12:23Comment est-ce que vous allez travailler ?
12:25On a commencé à travailler.
12:27C'est vrai.
12:27Parce que ce n'est pas beaucoup.
12:28Cette mission date de fin février.
12:29On est au début, quand même.
12:30On est au début.
12:31Donc, évidemment, on a rencontré le cabinet de la ministre Le Hénonf.
12:34On s'appuie fonctionnellement sur la Direction Générale du Trésor
12:38et la Direction Générale des Entreprises
12:40qui ont déjà fait un travail justement sur les bacs à sable européens,
12:45l'omnibus, l'IAACT, etc.
12:47Et puis après, on va aller voir tous les acteurs en s'appuyant aussi sur le Conseil
12:55national de l'IA et du numérique, évidemment, et puis sur le comité d'éthique sur ces mêmes
13:01sujets.
13:02Et puis, on va compiler tout ce qui a pu être écrit scientifiquement, les papiers de recherche,
13:10etc., sur ce sujet précis de l'alignement et aller voir des industriels qui d'ores et déjà
13:16mettent en application des systèmes d'IA alignés, que ce soit dans le civil ou dans
13:22le militaire, je pense à la MIAD, etc., qui est en prise sur ces sujets.
13:27Et la mission se termine dans six mois ?
13:31Voilà, mais elle va sûrement se terminer avant, on va essayer de faire avant.
13:35Ah oui ?
13:36On va essayer de faire avant, ben oui, parce qu'il y a un renouvellement sénatorial au mois de septembre.
13:40D'accord.
13:41Qui m'embarque aussi, donc voilà, mais on va essayer.
13:45Ça va permettre d'accélérer le sujet.
13:48Exactement.
13:48Finalement.
13:49Exactement.
13:49C'est une bonne motivation.
13:51Merci beaucoup, madame la sénatrice.
13:53Vanina Paoli-Gagin était avec nous, notre grande invitée aujourd'hui dans Smartech,
13:58pour nous parler de sa mission sur l'alignement de l'IA.
14:01Merci à tous de nous suivre.
14:03J'ai grand plaisir de présenter et de vous proposer Smartech sur la chaîne Bsmart.
14:07Cette émission est préparée avec Émilie Roche et les équipes de Bsmart à la réalisation.
14:12Je vous dis à très vite pour de nouvelles discussions sur la tech.
14:15Merci.