- il y a 23 heures
Anne-Laure Ligozat, co-directrice de l'Observatoire sur l’impact environnemental de l’IA à l’ENS, Alexei Grinbaum, président du Comité opérationnel pilote d'éthique du numérique du CEA, Amélie Cordier, fondatrice et dirigeante de "Graine d'IA", sont les invités d'Alexis Morel.
Retrouvez "L'invité de 8h20" sur France Inter et sur : https://www.radiofrance.fr/franceinter/podcasts/l-invite-de-8h20-le-grand-entretien
Retrouvez "L'invité de 8h20" sur France Inter et sur : https://www.radiofrance.fr/franceinter/podcasts/l-invite-de-8h20-le-grand-entretien
Catégorie
🗞
NewsTranscription
00:07Deux IA qui échappent à leurs créateurs pour se connecter à internet et lancer une
00:12cyberattaque massive. C'est arrivé il y a quelques jours au géant américain OpenAI et ça sonne comme
00:18un avertissement sérieux pour tout le secteur. L'intelligence artificielle générative croît à
00:23vitesse grand V et les inquiétudes se multiplient sur ses conséquences éthiques, sociales, économiques,
00:28environnementales. Il y a par exemple ces derniers jours cette pétition signée par un millier de
00:33spécialistes de l'IA qui demande aux autorités américaines de freiner le développement de
00:37certains projets le temps qu'on puisse les contrôler. Mais aussi ces derniers mois ces citoyens qui un peu
00:43partout se mobilisent contre les nouveaux data centers. Et depuis hier l'entrée en vigueur d'une partie de
00:49l'IA Act dans l'Union Européenne, première tentative de régulation du secteur. Mais alors peut-on encore
00:56croire à un usage responsable de l'IA ? Est-il encore possible de l'encadrer, de la contrôler
01:01ou est-ce déjà trop tard ? On en parle ce matin avec nos trois invités. Anne-Laure Ligoza, bonjour.
01:06Bonjour.
01:07Vous êtes professeure en informatique, co-directrice de l'Observatoire sur l'impact environnemental de
01:11l'Institut IA et Société à l'ENS. Alexei Greenbaum, directeur de recherche et président du
01:17comité opérationnel pilote d'éthique du numérique du commissariat à l'énergie atomique.
01:20Et Amélie Cordier, dirigeante de Graines d'IA qui accompagne des entreprises, des associations,
01:26des institutions dans une adoption justement responsable de l'IA. Bonjour à tous les deux.
01:32On attend bien sûr les questions des auditeurs au 01 45 24 7000 et via l'application Radio France.
01:38Alors un mot peut-être pour commencer, Alexei Greenbaum avec vous, de ce qui a sidéré
01:43beaucoup d'entre nous la semaine dernière. J'en parlais, ces IA entraînés par OpenAI qui se sont
01:49échappés en quelque sorte lors d'un test de sécurité. Est-ce que vous pouvez nous en dire plus ?
01:54Que s'est-il passé ?
01:56Oui, on s'y attendait en quelque sorte. Mais déjà, première chose à savoir, il ne s'agit pas de
02:02modèles d'intelligence artificielle que nous utilisons tous les jours sur Internet. C'était des modèles
02:07au stade de test, des modèles qui étaient encore à l'intérieur des laboratoires et donc auxquels
02:14les contrôles qu'on appelle l'alignement, les contrôles nécessaires n'étaient pas encore
02:19appliqués. Donc ces modèles sont beaucoup plus puissants que ce qu'on voit sur Internet
02:24quand on va sur tel ou tel modèle en libre accès. Alors ces modèles ont été soumis à des
02:33tests de cybersécurité et ils étaient tellement puissants qu'ils ont contourné les défenses,
02:40les défenses mises en place par les êtres humains et ils sont allés hacker quelques entreprises
02:44sur Internet. Ils ont gagné par eux-mêmes ces modèles l'accès à Internet qui normalement
02:50leur a été interdit. Le résultat, c'est qu'on voit aujourd'hui que la supervision humaine
02:55ne suffit pas. Il faut faire de la supervision beaucoup plus puissante.
02:59Est-ce que là, on franchit un nouveau cap avec cette histoire ? Est-ce que l'IA est d
03:03'ores et déjà
03:03hors de contrôle ?
03:05Non, encore une fois, ce ne sont pas des modèles disponibles au grand public.
03:10Et on savait que ces modèles d'IA étaient très puissants, mais justement, on les teste
03:14pour ensuite concevoir des contrôles, pour ensuite donner au public des modèles beaucoup
03:20plus sûrs. Et évidemment, là, parfois, on voit des choses incroyables, mais avec des
03:27modèles de laboratoire pour le moment.
03:29Restons, redisons-le, il ne s'agissait que d'une étape expérimentale, mais ça relance
03:35en tout cas, le débat sur l'accélération de l'IA, la difficulté de plus en plus grande
03:40de l'encadrer. Je citais cette pétition d'un millier d'employés, de géants de l'IA,
03:45dont des dirigeants de premier plan, qui demandent à Washington de freiner en quelque sorte
03:49ces expérimentations, ces sorties de nouveaux modèles pour laisser le temps à la société,
03:54à l'écosystème informatique de s'y préparer et de pouvoir les contrôler.
03:57Justement, Amélie Cordier, si même ceux qui conçoivent ces modèles nous avertissent,
04:03il y a quand même de quoi s'inquiéter un peu, non ?
04:07Lorsque les gens signent des pétitions, c'est pour faire parler d'un sujet. Et en ce qui
04:13concerne l'IA, le sujet dont on essaye de parler, c'est le sujet du manque de connaissance
04:18et de compréhension du grand public sur ce qu'est cette technologie. Aujourd'hui, on
04:24se focalise sur des événements marquants, comme ceux que vous avez cités en introduction
04:29de cette discussion, mais on ne prend pas forcément le temps d'expliquer les tenants
04:33et les aboutissants de l'IA et la façon de l'utiliser de manière efficace et responsable.
04:39Si on était mieux éduqué au fonctionnement de la technologie, on aurait probablement
04:43moins peur des risques que vous soulignez. Moi, je ne m'inquiète pas trop du fait que
04:48ce soit des dirigeants d'entreprises qui demandent un ralentissement du développement
04:53de l'IA. Ce qui, soit dit en passant, est illusoire parce qu'on sait très bien que
04:59personne ne voudra ralentir ce développement. Ce qui m'intéresse plutôt, c'est qu'est-ce
05:05qu'on met en œuvre comme moyen de formation, d'acculturation, de sensibilisation pour
05:11mieux aborder l'intelligence artificielle dans les mois et les années à venir.
05:15Oui, parce que finalement, encadrer l'IA, c'est aussi nous rendre moins naïfs, nous,
05:20grand public, nous, usagers, face à cette technologie-là. Et c'est là que la formation,
05:25que l'acculturation à l'IA est primordiale.
05:28Tout à fait. Et c'est très bien que vous le mentionniez parce que vous avez mentionné
05:33plusieurs fois l'expression encadrer l'IA ou faire de l'IA responsable. Mais on n'encadre
05:39pas un marteau. On n'éduque pas un marteau responsable. Ce qui est important, c'est d'encadrer
05:44un usage responsable de l'IA. Et donc, c'est aux humains qu'il faut s'intéresser.
05:49Oui, c'est l'usage qui compte parce qu'Alexei Greenbaum, il faut peut-être le rappeler,
05:53le comportement, si je puis dire, instinctif d'une IA, c'est quoi ? C'est de chercher
05:58à maximiser sa performance, d'atteindre son objectif coûte que coûte, sans se soucier
06:03des effets de bord, des conséquences, si je puis dire.
06:07Et même plus que cela, le comportement instinctif de l'IA, c'est de générer des séquences
06:12de caractère. Nous avons des modèles de langage qui calculent des 0 et 1 qu'on voit
06:18sous forme de séquences de caractère. Ce n'est pas un modèle qui raisonne comme
06:23les êtres humains, qui comprend comme les êtres humains ou qui est conscience comme
06:27les êtres humains. Non, non, pas du tout. Mais nous sommes, nous les usagers, nous sommes
06:31dans l'illusion parce que les résultats sont tellement bons. Nous avons l'illusion que
06:35ce modèle comprenne, raisonne et nous parle. En fait, c'est un modèle qui calcule.
06:41Mais pour ajouter quelque chose à ce qu'a dit ma collègue, évidemment, les usages responsables,
06:46c'est très important, mais aussi la conception responsable. La conception, donc, du côté
06:51de l'ingénieur, du chercheur.
06:52Alors, qu'est-ce qu'on peut faire au moment de la conception pour introduire des principes
06:55éthiques, si je puis dire ?
06:58Justement, il faut faire plus qu'introduire les principes éthiques. L'Union européenne
07:02a introduit ces principes depuis sept ans. Ils existent, sont au nombre de sept. Je ne veux
07:07pas les énumérer ici, mais ce qui est intéressant, c'est qu'il y a des tensions et des conflits
07:11entre ces principes. Quand vous les montrez à un ingénieur, il dit, oh là là, mais par exemple,
07:15la transparence, il faut que le modèle d'IA soit transparent. Mais je ne sais pas ce
07:19que cela veut dire, dit un ingénieur. Et donc, il faut les opérationnaliser, les mettre
07:23en œuvre sur chaque cas d'usage concret. Que vous soyez en train de concevoir un taxi
07:28autonome, un chatbot, un compagnon virtuel ou un modèle d'IA pour les médecins, la traduction
07:35opérationnelle de ces principes est à chaque fois différente. Et donc, c'est cette tâche
07:39très difficile de prendre des principes qui sont formulés en sept termes.
07:43– Oui, alors on peut quand même en citer quelques-uns. – Et de les opérationnaliser,
07:45c'est compliqué. – Vous citiez la transparence.
07:47– Vous connaissez la transparence, la protection de la vie privée, la supervision et la défense
07:53de l'autonomie humaine, la supervision par l'homme. Vous voyez, ça, c'est justement
07:57ce principe qui est remis en question récemment par les modèles extrêmement puissants parce
08:03que la supervision humaine ne suffit pas. Il faut faire aussi de la supervision automatique
08:06par d'autres modèles d'IA. Alors après, il y a les principes de responsabilité,
08:11il y a des principes… – L'inclusivité, que personne ne soit aussi laissé en marge.
08:17– Alors oui, le bien-être social inclut cela, présuppose l'inclusivité, donc l'absence
08:23de biais, l'absence de discrimination. Tous ces principes, nous les connaissons.
08:29La partie difficile de cela, c'est la mise en œuvre. C'est la mise en œuvre parce
08:34qu'il y a des cas d'usage où un principe peut contredire un autre. Par exemple, si
08:38vous faites un compagnon virtuel pour un adolescent, bien sûr qu'il doit protéger
08:43la vie privée. Mais si cet adolescent panique ou s'il est dans un état psychologique un
08:49peu inquiétant, à ce moment-là, le compagnon virtuel doit peut-être faire signe à l'enseignant,
08:53aux parents ou aux médecins et violer un tout petit peu la protection de la vie privée
09:00pour informer la personne compétente. Donc vous voyez, il y a des tensions entre ces
09:05principes et c'est là que l'éthique de l'IA devient intéressante.
09:07– Et parfois un peu contradictoire au niveau de la conception. Amélie Cordier, une fois
09:13que l'IA nous est rendu accessible en tant qu'usager, vous qui conseillez des organisations
09:18dans l'adoption de cette IA, quel rôle on a là-dedans ? Est-ce qu'on en a un
09:22d'ailleurs
09:23sur, par exemple, ne serait-ce que le choix de l'assistant virtuel que l'on va faire
09:27entre Gemini, Claude, ChatGPT ? Est-ce que ce sont des choix qui importent ?
09:32– Bien sûr. On a même le rôle central, on a le rôle d'être exigeant. C'est-à-dire
09:38d'exiger de la part des fournisseurs de solutions que vous avez mentionnées, qui soit
09:43dit en passant sont tous américains, alors qu'il y en a quelques européens aussi.
09:48d'exiger qu'il nous propose des solutions alignées avec nos valeurs et nos besoins. Ce qui est
09:56très compliqué parce que la plupart d'entre nous ne sont pas au courant des questions
10:01à se poser. C'est pour ça que je parlais d'acculturation tout à l'heure. Mais très
10:05concrètement, pour donner des exemples, on peut se mettre en exigence d'avoir des
10:09modèles qui soient respectueux de l'environnement. Des modèles qui aient été entraînés en utilisant
10:15des données à noter, qui n'ont pas eu recours, par exemple, à du travail ingrat de la part
10:20d'annotateurs humains sous-payés. On peut exiger d'avoir des modèles qui soient, comme
10:25l'a dit Alexei, transparents, qui implémentent une certaine forme d'éthique. Donc on a vraiment
10:31le rôle central qui est celui d'être le client exigeant, de la même façon que l'on est
10:37exigeant pour tout un tas d'autres sujets de notre vie quotidienne, comme les voitures
10:41qu'on achète, par exemple, ou la nourriture qu'on consomme.
10:44C'est ça que vous appelez, vous, une adoption responsable de l'IA en entreprise, par exemple ?
10:50Ça, c'est un volet de l'adoption responsable. C'est-à-dire que c'est le volet, je choisis
10:55les outils que je vais utiliser au quotidien en connaissance de cause. Et donc, je me suis
10:59posé des questions et j'ai cherché les informations, où on m'a aidé à les trouver.
11:04Et le deuxième volet, qui est encore plus important, c'est j'utilise l'IA de manière
11:09responsable. Utiliser l'IA de manière responsable, c'est y avoir recours lorsque l'enjeu justifie
11:17vraiment le sacrifice économique, financier, parce qu'on ne parle pas du coût de l'IA.
11:24Oui, c'est pas la même chose d'utiliser l'IA dans la conception d'un produit et de l
11:30'utiliser
11:31pour recruter un salarié, évidemment. Oui, ou de l'utiliser, je sais pas moi, pour savoir
11:34ce qu'on va manger ce soir ou comment laver son pull en laine. C'est-à-dire que si
11:40la
11:40plupart des utilisateurs de l'IA avaient conscience des conséquences de leurs usages
11:46quotidiens de l'intelligence artificielle, ils le feraient probablement pas. Notre responsabilité
11:52en tant que citoyen aujourd'hui, c'est d'arriver à ce niveau de maturité où on sera
11:58capable de se dire, là, je n'utilise pas l'IA parce que je respecte la planète, mes
12:05concitoyens, les gens qui ont travaillé pour fabriquer ce produit.
12:08Alors justement, vous parliez d'impact environnemental, puisque c'est l'un des trous noirs, si je
12:13puis dire, en termes d'intelligence artificielle générative. Est-ce qu'on peut limiter son
12:16impact environnemental quand on sait que l'IA, c'est une technologie follement gourmande
12:23en énergie, en eau, en métaux rares ? Une question posée à Chajipiti, c'est une consommation
12:28énergétique, je crois, 40% supérieure à la même question posée à Google. Anne-Laure
12:32Ligoza en studio avec nous. On va dans le mur en termes environnemental ?
12:36Alors, oui, concrètement, oui. C'est-à-dire qu'effectivement, vous le disiez, l'impact
12:42environnemental de l'IA est relativement important et augmente. C'est intéressant le chiffre
12:47que vous donniez, parce qu'en fait, ces chiffres-là, en fait, on a beaucoup de mal à les avoir
12:51sur
12:52quel impact ça a, une requête. Oui, j'ai eu beaucoup de mal à avoir un panorama de l'impact
12:56environnemental. Oui, et la raison, c'est quelque chose qui a déjà été évoqué, mais c'est qu'il y
13:00a
13:00un monde total de transparence, en fait, de tous les fournisseurs, que ce soit du matériel, des
13:05différents services d'IA, etc. On a beaucoup de mal à avoir des données environnementales, donc en fait,
13:09on passe notre temps à faire de la rétro-ingénierie pour essayer de reconstruire les données,
13:14les modèles, les paramètres, etc., pour pouvoir calculer l'impact environnemental. Donc, c'est un des
13:19principaux problèmes qu'on a pour travailler sur les conséquences environnementales de l'IA.
13:24C'est qu'on a très, très peu de données et très peu de transparence de la part des fournisseurs.
13:28Je voulais revenir peut-être aussi sur l'événement que vous évoquiez en introduction. C'est intéressant
13:33parce que, par exemple, un des gros points qu'on connaît mal, en fait, c'est justement toute la chaîne
13:40de conception des systèmes d'IA. Et c'est intéressant de voir, de mettre l'accent, justement, sur tous les
13:45tests
13:46qui sont faits sur les modèles avant leur mise en production et leur utilisation par des utilisateurs.
13:51On a montré, par exemple, avec une de mes doctorantes, que c'était vraiment, en termes d'empreintes carbone,
13:55la création du modèle final, c'est vraiment tout petit. Donc, dans l'étude qu'elle a faite, c'était
13:594%
14:00de l'empreinte carbone totale de la création du modèle. Donc, quand on met l'accent sur juste la création
14:04du modèle final, c'est vraiment tout petit. Et en fait, il y a toute une partie de la création,
14:08de la chaîne de création des modèles qu'on connaît très, très mal.
14:12Et alors, le plus concret qu'on voit, nous, au grand public, parce que c'est dans nos paysages
14:15et ça pousse comme des champignons, ce sont les data centers qui sont indispensables
14:19à la puissance de l'IA. Il y en a plus de 5400 aux Etats-Unis.
14:23En France, il y a des projets un peu partout. C'est l'arbre qui cache la forêt ou c
14:27'est quand même
14:27une bonne partie du problème, les data centers, d'un point de vue environnemental ?
14:31Non, d'un point de vue environnemental, c'est quand même une grosse partie du problème, effectivement.
14:34D'autant que, alors déjà, c'est une grosse part de l'impact environnemental.
14:37C'est quand même une part qui a tendance à augmenter, même si, encore une fois,
14:40il y a beaucoup d'impacts qu'on ne connaît pas très bien.
14:42Mais en tout cas, au minimum, en termes de consommation d'énergie, par exemple,
14:45ou de consommation d'eau, on sait que les impacts augmentent.
14:47On voit ça dans les entreprises numériques, par exemple.
14:49Leur consommation d'électricité et d'eau ne fait qu'augmenter chaque année.
14:53Donc, clairement, c'est une part importante de l'impact environnemental.
14:56Ce qui ne veut pas dire que c'est la totalité, mais en tout cas, c'est que...
14:59Et l'autre problème, surtout, c'est que ça induit une pression qui est assez importante,
15:04par exemple, en termes de demandes, en termes d'électricité.
15:09Oui, localement, il y a des conflits d'usages.
15:10Localement, on va avoir des conflits d'usages, que ce soit sur l'électricité, sur l'eau, etc.
15:14Et ça pose des problèmes parce que, par exemple, les réseaux électriques
15:16ne sont pas forcément prévus pour fournir de telles puissances localement.
15:19Mais alors, est-ce qu'on peut vous répondre, peut-être, je l'ai lu en tout cas,
15:22que l'IA elle-même pourrait nous aider, à contrario, à optimiser nos consommations,
15:26à calculer les moyens de réduire notre empreinte carbone ?
15:28Bref, est-ce qu'elle peut être aussi un outil au service de la transition écologique, énergétique ?
15:34Bien sûr. Alors, c'est toujours, effectivement, le premier argument qu'on a en face.
15:38Alors, le premier point, c'est de dire, en fait, effectivement, ça a potentiellement des applications intéressantes,
15:43mais c'est très peu étudié.
15:45Donc, on a montré avec des collègues, par exemple, il y a quelques années,
15:47que la plupart des applications environnementales, en fait, elles ne sont pas du tout évaluées.
15:52C'est-à-dire qu'on se dit, oh, ça peut aider à optimiser la consommation du bâtiment,
15:55mais en fait, ce n'est pas du tout évalué, ça.
15:57Donc, il y a quelques études qui ont commencé à le faire, mais c'est relativement récent et pas du
16:00tout à grande échelle.
16:01Donc, en fait, peut-être que ça peut aider, mais pour l'instant, on a relativement peu de preuves que
16:05c'est le cas.
16:06Et puis, l'autre chose, c'est que c'est quand même une toute petite part,
16:09même si on utilisait l'IA pour des applications environnementales,
16:12c'est une toute petite part des utilisations de l'IA.
16:14Vous voyez bien que la plupart des utilisations, ce n'est pas du tout là-dessus.
16:17C'est pas ce dont on parle aujourd'hui.
16:18Alors, si j'en reviens au terme de notre débat, encadrer l'IA et ses impacts et son usage.
16:23Bon, j'ai un peu la réponse à la question que je vais vous poser, mais je vous la pose
16:25quand même.
16:26Est-ce qu'une IA frugale, une IA durable est quand même possible ?
16:32Oui, alors après, c'est toujours pareil.
16:35Ça dépend un petit peu de ce qu'on met dans l'IA, évidemment.
16:37Une IA générative, grand public, etc., la question se pose peut-être plus.
16:41En tout cas, l'IA peut certainement être utilisé pour des applications très précises, sans problème.
16:47En revanche, ce qui est sûr, c'est qu'il faut quand même beaucoup développer,
16:50enfin, on l'a déjà dit, mais encadrer.
16:52C'est-à-dire, par exemple, je vous disais qu'on passe notre temps à reconstruire les données des constructeurs,
16:57etc.,
16:58et des fournisseurs des services d'IA.
17:00C'est pas normal, en fait.
17:01La charge de la preuve doit être inversée.
17:02C'est-à-dire que ça devrait être normalement à tous les fournisseurs de ces services
17:06de nous donner les informations environnementales
17:08et de nous montrer qu'effectivement, on ne va pas dans le mur, comme vous le disiez,
17:11d'un point de vue environnemental.
17:12Et plus largement, en termes éthiques aussi, on a une question au standard.
17:16Bonjour Catherine.
17:18Oui, bonjour.
17:18Vous nous appelez de Bourges, c'est à vous.
17:21Oui, bonjour.
17:22En fait, d'abord, je vous remercie pour vos émissions
17:24et pour la qualité des intervenants.
17:25Et en vous écoutant, je me suis demandé pourquoi est-ce qu'on ne crée pas une sorte de SCSA
17:30ou de comité d'éthique, comme il existe en médecine ou pour la télévision,
17:35qui viendrait réguler, en fin de compte, ou obliger, ou communiquer.
17:40Enfin, voilà.
17:41Je pensais surtout au comité d'éthique.
17:43Oui, une sorte de comité ou d'autorité, en tout cas, de régulation de l'IA.
17:47On va peut-être poser la question à Alexei Greenbaum.
17:50Alors, l'Europe tente de faire ça depuis plusieurs années.
17:53On va y revenir avec des nouvelles mesures qui sont entraînées hier.
17:57Et même la France.
17:58Nous avons maintenant le Comité consultatif national d'éthique du numérique,
18:03qui est tout à fait parallèle, comme l'auditrice l'a dit, au comité de bioéthique.
18:09Le comité de bioéthique existe depuis plus de 40 ans.
18:11Le comité numérique est tout récent, mais il existe bel et bien.
18:16Il n'est pas opérationnel, il est consultatif,
18:20mais il peut être saisi par les ministres, par le Parlement, pour donner des avis.
18:24Et donc, j'en suis membre, pour le dire très ouvertement.
18:29Et ce comité est le premier dans le monde.
18:32Comme il y a 40 ans, le comité de bioéthique français était le premier dans le monde.
18:36Après, il existe aussi des comités opérationnels.
18:40Je préside le comité du CEA.
18:42Il existe un autre à l'INREA, l'Institut national de recherche en informatique.
18:46Et à l'échelle européenne, c'est tout un mouvement de création de ces comités d'éthique
18:51pour avoir un avis indépendant, un avis éthique sur les projets que finance la Commission européenne.
18:57Donc, c'est quelque chose qui est vraiment en train de se mettre en place.
19:01Alors, en plus, j'en viens au niveau européen, à ce qui est entré en vigueur hier,
19:05qui est une partie de l'IA acte, de nouvelles règles, de nouvelles obligations pour les plateformes,
19:10pour les réseaux sociaux, de signaler clairement tout contenu créé par intelligence artificielle,
19:16donc par des marquages, des logos, etc.
19:19Qu'est-ce que ça change vraiment ? Est-ce que ça change vraiment quelque chose ?
19:22Alors, oui, mais, la réponse que je donnerais, c'est un oui, mais.
19:28Alors, pour les contenus comme les images, comme les vidéos,
19:32il existe en effet la possibilité et maintenant l'obligation de mettre un signe chiffré,
19:41lisible par des logiciels, que telle image ou telle vidéo avait été fabriquée par l'IA.
19:46Mais cela ne marche pas encore pour le texte, c'est ce qu'on appelle les filigranes.
19:51Vous voyez, quand vous demandez à Tchad GPT ou à Pruno, un élève de 16 ans,
19:56qui fait ce devoir maison et qui fait sa dissertation avec Tchad GPT,
20:01Tchad GPT génère un texte qu'il va copier dans sa dissertation.
20:06Il n'y a aucun moyen de prouver mathématiquement que cela a été générable par Tchad GPT.
20:11Il a des travaux en cours de ce qu'on appelle les filigranes.
20:14Un de mes post-doctorants a beaucoup travaillé là-dessus,
20:17dans un projet d'ailleurs national français.
20:19Mais il n'est pas possible de le faire mathématiquement.
20:23Donc, le marquage des contenus, oui, mais tous les contenus, sauf le texte.
20:27Amélie Cordier, à hauteur d'usagers, des usagers que vous accompagnez,
20:30ça c'est utile vraiment ou c'est cosmétique de voir apparaître des labels,
20:35des étiquettes IA sur les réseaux sociaux, sur les plateformes ?
20:39C'est souvent très réclamé.
20:41Beaucoup de gens se demandent à ce qu'on les aide à distinguer le contenu réel du contenu généré par
20:47IA.
20:47Encore une fois, c'est une bonne initiative à soutenir, évidemment,
20:52mais ça ne suffira pas à résoudre tous les problèmes d'authenticité, de véracité de l'information.
20:58Il faut le compléter avec d'autres approches,
21:00et notamment toutes les approches, par exemple, de debunking de fausses informations,
21:06qui passent par d'autres moyens.
21:07Alors, vous parliez tout à l'heure, je crois que c'est vous, Amélie Cordier,
21:10qui parlait de souveraineté sur l'IA.
21:12J'ai cité des modèles qui sont en effet tous américains,
21:15puisqu'il y a aussi là derrière le risque de dépendance, évidemment, à d'autres puissances,
21:18en l'occurrence les Etats-Unis notamment.
21:20Est-ce que la solution pour éviter tous les risques qu'on vient d'évoquer,
21:24finalement, ce n'est pas justement de développer cette IA souveraine, française, européenne,
21:29avec nos règles, nos impératifs, notre cadre, Amélie Cordier ?
21:32Alors, la solution, c'est d'encourager la diversité.
21:35Évidemment, développer une IA européenne souveraine, et il y en a déjà plusieurs,
21:39c'est une bonne idée, mais ce qui est important, c'est de ne pas se focaliser juste sur une
21:43seule solution,
21:45mais d'offrir une diversité d'outils, tant en termes de compétences techniques,
21:50c'est-à-dire de puissance des modèles, que d'origine, que d'entreprises ou d'universités,
21:55qui les maintiennent.
21:56Pourquoi ? Parce que n'importe quel modèle peut être sujet à, par exemple, une revente,
22:02à une autre entreprise, et donc miser sur un seul cheval ne me semble pas très pertinent.
22:07Aujourd'hui, tout à l'heure, vous avez posé la question de, est-ce qu'on peut faire une IA
22:10frugale ?
22:12En fait, aujourd'hui, oui, il y a des tas de modèles d'IA qu'on pourrait utiliser quotidiennement
22:16pour faire ce qu'on fait déjà avec les modèles monolithiques géants, qui existent.
22:21Et le problème, c'est qu'on ne le sait pas.
22:22Donc, comme on ne le sait pas, on a tendance à ne pas l'utiliser.
22:25Si on encourage la diversité, si on encourage les gens à aller expérimenter d'autres outils,
22:30très rapidement, on va arriver à développer un écosystème d'outils
22:34qui nous permettra d'aller vers un usage plus responsable de l'IA,
22:38vers un impact environnemental moindre,
22:41et probablement aussi vers plus d'autonomie à l'égard des modèles américains.
22:45Là-dessus, Anne-Laure Ligoza, justement, je vous pose la question,
22:47une IA française, une IA européenne, ça peut être une solution pour réduire cette empreinte carbone ?
22:52En partie, puisqu'effectivement, en France, on a une électricité qui est beaucoup plus décarbonée.
22:56Donc, effectivement, de ce point de vue-là, ça peut être intéressant.
22:58Ça ne résout pas tous les problèmes, puisque, par exemple, toute la partie fabrication des équipements
23:03qui a une empreinte carbone qui est importante, voilà, c'est ça.
23:06Donc, en fait, de toute façon, ça ne résout pas tout à fait le problème.
23:09Le fait d'améliorer globalement ce qu'on observe dans le numérique,
23:13c'est que plus on optimise, plus on va utiliser.
23:15Donc, de toute façon, si on arrive à optimiser, que ce soit en termes d'empreinte carbone,
23:20par exemple, l'électricité, on va avoir tendance à l'utiliser de plus en plus.
23:24Donc, ce n'est pas la solution unique. Il faut de toute façon réduire, en fait, l'utilisation.
23:30Merci beaucoup Anne-Laure Ligoza, Amélie Cordier, Alexei Greenbaum, invités d'Inter ce matin.
23:35Bonne journée à tous les trois.
23:36Merci.
Commentaires