- il y a 2 mois
Jeudi 3 septembre 2026, retrouvez Imène Kabouya (Partner, Wavestone), Garance Mathias (avocate et fondatrice dirigeante, Mathias Avocats) et Julien Pillot (Consultant, Enseignant-chercheur en économie, Inseec - Groupe Omnes Education) dans SMART TECH, une émission présentée par Delphine Sabattier.
Catégorie
🗞
NewsTranscription
00:04Bienvenue dans le grand débrief de l'ActuTech de Smartech
00:08qui est en direct sur la chaîne Bismarck tous les jeudis.
00:10Désormais c'est à 11h30 votre rendez-vous hebdomadaire.
00:14Et pour cette grande rentrée, puisque c'est notre premier grand débrief de la nouvelle saison,
00:19nous avons le plaisir d'avoir autour de la table Garance Mathias.
00:22Bonjour Garance.
00:23Maître Mathias, avocate, fondatrice et dirigeante du cabinet Mathias Avocat.
00:27Et Julien Pillot, Julien, ravi aussi de t'accueillir pour cette reprise économiste, enseignant-chercheur à l'INSEC.
00:35Alors normalement on devrait avoir aussi Imen, Kabouya, partenaire chez Wavestone qui nous rejoindra sans doute dans quelques minutes.
00:41On va parler de quoi ? On va confronter nos points de vue avec le sujet à la une me
00:45semble-t-il en ce moment pour tous les internautes
00:47qui vont sur leur moteur de recherche préféré, c'est le lancement de Google Aperçu IA.
00:52Qu'est-ce que ça change ? Ça change beaucoup de choses, on va voir ça.
00:55Voilà. En invité, notre invité sera le sénateur Vanina Paola-Gagin, sénatrice de l'Aube,
01:02qui a remis un rapport sur l'alignement de l'intelligence artificielle.
01:06Et puis ce sera la revue de presse, on va sortir nos cartons rouges et nos cartons verts.
01:11Et on terminera avec une tribune de Jérôme Bouteillet sur Starlink Mobile.
01:16Voilà, nouvelle concurrence dans le secteur des télécoms.
01:19Allez, donc on commence avec Google Aperçu IA.
01:22Ça m'intéressait d'avoir votre point de vue là-dessus, parce qu'il me semble que ça change énormément
01:29de choses
01:29quand on fait une recherche sur son moteur de recherche.
01:32Je dis préféré, je ne sais pas si c'est préféré, mais en tout cas massivement utilisé dans le monde
01:37et aussi particulièrement en France.
01:40Qu'avez-vous pensé de l'arrivée de cet Aperçu IA ?
01:42Allez, Julien.
01:44Bon déjà, oui, effectivement, c'est le moteur leader et extrêmement dominant du marché
01:50qui met en place cette fonctionnalité, qui est parfaitement intégrée d'ailleurs, elle est bluffante.
01:56Et effectivement, ce n'est pas une évolution, c'est une révolution,
01:59parce que tu as employé le terme de moteur de recherche, ce n'est plus un moteur de recherche finalement
02:03Google.
02:03Ça devient une bibliothèque de savoirs et des savoirs qui sont fournis de façon illatérale par une entreprise
02:10dans une totale opacité, selon la sélection de sources synthétisées par leur intelligence artificielle maison,
02:17qui est Gemini, sans qu'on sache véritablement comment les sources ont été sélectionnées,
02:22pour quelles raisons, on imagine que le modèle publicitaire derrière va jouer à plein.
02:25Et ça modifie derrière, de façon vraiment subséquente, toute l'industrie du web,
02:31et notamment le web commercial.
02:33Alors, on voit quand même les sources qui sont affichées sur les résultats,
02:37on peut cliquer dessus, sur la partie business model, on attend de voir,
02:41mais pour l'instant, c'est indiqué clairement quand on a des résultats sponsorisés.
02:47Qu'est-ce que, d'après toi, ça va changer pour le moteur de recherche en profondeur ?
02:52Alors, il faut comparer ce qui va se passer pour Google et ce qui va se passer pour les éditeurs
02:57tiers.
02:57Les éditeurs tiers, on va commencer par eux parce que c'est le plus simple,
03:00vont voir leur trafic baisser, ils le voient déjà, leur trafic baisser,
03:03et dans des proportions assez importantes.
03:05Or, une partie de la rémunération des éditeurs tiers provient en fait de la redirection
03:10depuis les moteurs de recherche vers leurs sites, sur lesquels ils peuvent derrière monétiser leurs services,
03:14y compris déjà par de la publicité.
03:16Et puis, pour Google, en vérité, c'est un jeu d'équilibriste entre ce qu'il va gagner
03:22en conservant finalement les internautes sur son univers, sur son écosystème,
03:29de façon quasiment captive, puisqu'ils n'ont plus forcément besoin d'aller cliquer sur des sites
03:32et donc de sortir de l'univers Google. Et donc, derrière, ça leur permet de monétiser davantage de publicité
03:37parce que les espaces publicitaires seront plus nombreux et probablement le temps de navigation
03:40sera plus conséquent sur l'univers Google.
03:42Mais ce qu'ils vont perdre aussi de l'autre côté à travers finalement la monétisation
03:46des espaces publicitaires sur les acteurs tiers.
03:48Là où ça devient extrêmement périlleux pour Google aussi, c'est que malgré tout,
03:52Google n'a aucun intérêt à ce que les acteurs tiers finalement deviennent exsangues
03:55et finalement ferment leur site les uns après les autres, faute de pouvoir les monétiser.
03:59Oui, parce qu'on a besoin de ressources d'information.
04:01Ressources d'information et d'entraînement pour Gemini.
04:03Eh oui. Maître Mathias.
04:06Alors oui, pour compléter ce que vient dire Julien, effectivement, on est dans le phénomène de balance.
04:10C'est-à-dire que dans un premier temps, ça nous propose, donc on est influencés,
04:15on est influencés, donc il y a un biais cognitif. On va aussi dire des choses.
04:18On nous propose. Les éditeurs tiers ont vu tout à fait d'ores et déjà leur revenu chuter.
04:24Donc, il y a des actions, en tout cas des premières demandes de concurrence déloyale,
04:31d'abus de position dominante. C'est pas comme si déjà Google n'avait pas...
04:34Aux Etats-Unis ou...
04:35Aux Etats-Unis, oui, oui. Aux Etats-Unis, puisqu'effectivement, là, ça sert effectivement à entraîner.
04:41Ça sert effectivement à avoir la captivité de l'internaute.
04:46Nos données valent-de-l'or, on le sait depuis des années, mais là, il faut rester captif.
04:49Il ne faut pas que les autres internautes aillent utiliser d'autres IA.
04:53Donc, il y a tout ce biais, on va dire, sociologique, pas que juridique, mais une approche sociologique.
04:59C'est-à-dire qu'on me facilite ma vie, comme d'habitude.
05:02On me donne les grandes lignes de ce qui m'intéresse dans ma recherche.
05:09Je suis passif. Attention, ne jamais rester passif.
05:13Toujours descendre.
05:15Révolution, évolution.
05:17En tout cas, changement de modèle économique, ça, c'est sûr.
05:21Captivité des internautes, oui.
05:23Problème avec les éditeurs tiers, ça, oui, parce que c'est aussi un enjeu juridique, pour le coup.
05:28Des négociations sont en cours en Europe sur les droits voisins avec les éditeurs.
05:32C'est ce que j'allais dire.
05:33On sort au problème du respect aussi de la liberté d'expression, du respect des droits de la presse.
05:40Je reviens à toutes les libertés fondamentales qui sont là.
05:44Et ce n'est pas parce qu'on me donne une synthèse au début, sponsorisée, entre guillemets, j'assume mon
05:50mot, par Gemini et Google,
05:53que c'est vraiment ce que je recherchais.
05:56On ne fait qu'apprendre à être passif avec le numérique, avec l'ère des plateformes.
06:01Ça ne s'arrange pas.
06:02Ymen nous a rejoint.
06:03Bonjour à tous, merci.
06:04Désolée pour mon retard, je suis absolument ravie de faire cette émission de rentrée.
06:09Mais pour réagir à ce que vous avez dit, je suis complètement d'accord.
06:12Parce qu'au-delà des intérêts économiques et du changement de modèle économique sur la création de contenu,
06:17on est face à un risque quasi démocratique.
06:20Parce que c'est bien confortable de voir l'information synthétisée.
06:23Mais pour nous, c'est autant une boîte noire que le algorithme PageRank de Google.
06:26On ne sait pas comment ces contenus sont sélectionnés, pondérés,
06:30comment on synthétise des opinions qui sont contradictoires.
06:33Et ça érode notre esprit critique.
06:36Et surtout, ça crée des réponses très standards, très consensuelles,
06:40à des questions qui peuvent être très politiques, très complexes.
06:45Et donc ça, c'est aussi un danger et un risque où on court.
06:50On est dans le biais.
06:52Moi, j'étais plutôt favorable à l'idée qu'on puisse faire des propositions,
06:56intégrer ces IA dans le moteur de recherche.
06:59Parce que ça permet d'avoir une réponse un peu rapide, synthétisée.
07:03Et on voit tout de suite, tiens, quels sont les premiers résultats qui peuvent m'intéresser.
07:07Là où je mets un carton rouge, moi, sur ce qu'a fait Google avec Aperçu IA,
07:11c'est qu'on est pratiquement... on nous force la main, finalement.
07:15C'est-à-dire que le premier résultat, la première réponse, c'est celui d'Aperçu IA.
07:21Et on a même une fenêtre à fermer si on veut aller chercher par nous-mêmes.
07:26Et pour moi, c'est tellement important, quand on va sur un moteur de recherche,
07:29de chercher par soi-même, d'aller voir tout ce qui existe,
07:33d'aller dans la profondeur de Google, qui n'est déjà pas d'une profondeur extraordinaire.
07:37On sait bien qu'on reste toujours à la surface d'Internet.
07:40Mais là, pour moi, vraiment, on nous force la main sur...
07:43Je m'en tiens, finalement, à ce que me donne l'intelligence artificielle.
07:47Et après, pour réagir à ça, Delphine, en fait, on nous force la main parce que Google est obligé.
07:50Parce qu'aujourd'hui, le search se déplace vers les assistants conversationnels, le chat GPT consorts.
07:56Donc, ils cannibalisent leur modèle pour que le search reste dans l'environnement Google.
08:00Donc, c'est une décision stratégique pour laquelle ils ont été contraints.
08:05Moi, j'aurais aimé qu'on me propose et que ce soit juste un premier résultat présenté en haut
08:10et que je ne sois pas obligée de fermer une box à chaque fois.
08:12Oui, mais là, on est dans la volonté d'avoir un public captif.
08:16Un public captif, un public passif et, effectivement, des contenus très neutres.
08:23Moi, je trouve ça...
08:25Je comprends, c'est une question de modèle économique, effectivement, Imane, mais je trouve ça dangereux.
08:30On parle d'une manne de plus de 220 milliards de dollars pour l'an dernier.
08:34Ça, c'est la revenue publicitaire de Google.
08:36Donc, on parle vraiment, en vérité, de survie à moyen terme de cette entreprise qu'on appelle Fabé
08:43et qui repose essentiellement sur le search et la publicité aujourd'hui.
08:47à un moment donné où, effectivement, Imane l'a très bien dit, il y a un risque de concurrence
08:52qui n'existait pas ou qui n'existait plus dans les moteurs de recherche qui est réapparée
08:56avec la déportation des recherches usuelles qu'on aurait faites sur un moteur de recherche
09:00vers les agents conversationnels.
09:02Donc, ce sont ceux d'Enthropy, Cloud, ce sont ceux de OpenAI, ChatGPT ou ce serait Grock chez X, par
09:08exemple.
09:08Il y a quand même un risque, c'est de déporter les utilisateurs vers d'autres navigateurs
09:12qui proposent, eux, d'aller chercher par soi-même l'information.
09:16C'est peu probable. Le risque existe, mais il est peu probable parce que les habitudes ont la vie dure.
09:19Ne perds, moi.
09:21Et il est vrai que, oui, évidemment, il y a des navigateurs alternatifs
09:25et il y a même des moteurs de recherche alternatifs.
09:26Mais, en vérité, ils ont des parts de marché qui sont assez confidentielles
09:31et que lorsqu'on a appris des habitudes sur une interface numérique,
09:34il est très difficile de remettre en cause ces habitudes-là.
09:38Et lorsque une grosse partie des utilisateurs du monde entier
09:41ont pris l'habitude d'avoir leurs résultats générés d'abord par une intelligence artificielle
09:44plutôt que d'aller chercher, benchmarker éventuellement leurs ressources
09:47sur un moteur de recherche traditionnel,
09:49il y a très peu de chances qu'on fasse machine arrière.
09:50Je pense que l'histoire est déjà écrite.
09:52L'histoire est déjà écrite, je ne sais pas.
09:54Allez, soyons positifs. Il y a toujours l'esprit critique.
09:57Je pense qu'on a l'occasion de reparler.
09:58Et il y a aussi les habitudes qui ont la vie dure.
10:00C'est-à-dire que c'est à nous aussi, peut-être, de ne pas être passifs.
10:04Allez, c'est la rentrée. On va prendre des bonnes résolutions.
10:09Et de challenger quand on a des contenus plats.
10:12Tous les contenus sont très plats, sont très stéréotypés.
10:14On voit qu'il y a une manière d'écrire qui est toujours la même.
10:17C'est effectivement pour ne pas vexer des annonceurs.
10:20On a bien compris, il y a le lobby financier qui est derrière.
10:24Mais est-ce que ces réponses nous apportent vraiment quelque chose ?
10:27Ce n'est pas parce que j'ai trois liens dessous.
10:30C'est vraiment ce que je cherchais.
10:32Donc, faisons peut-être confiance.
10:34Une espèce...
10:35Si ça ne m'apporte pas le résultat, est-ce que je ne vais pas...
10:38Les spéciales vont être de plus en plus efficaces.
10:40Ah oui, mais ça, c'est l'entraînement.
10:42L'entraînement, l'entraînement.
10:43Il y a une étude, vous savez que c'est sorti aux Etats-Unis bien avant que ça sorte en
10:47France.
10:48Il y a une étude statistique qui révèle que 60% des utilisateurs de Google maintenant se contentent du résumé.
10:57Voilà.
10:58En fait, il y a une espèce de paresse intellectuelle qui est largement exploitée.
11:02Et qui est malheureusement...
11:02Qui est favorisée, exploitée.
11:04Tout à fait.
11:05C'est pour ça que j'ai à mon côté un petit peu flé-clochette ou Gemini Cricket, ce que
11:10vous voulez, comme Gemini Cricket, voilà, là-dessus.
11:14Mais gardons espoir, effectivement, parce que sinon, on est à la rentrée.
11:18En tout cas, dans le domaine professionnel, je pense que dans le domaine professionnel, dans le cadre professionnel, on ne
11:25peut pas se contenter aujourd'hui de l'aperçu hier.
11:27Non.
11:27Donc, il y a quand même...
11:28C'est pour ça que je me dis qu'il y aura peut-être l'émergence de nouvelles offres, peut
11:32-être plus spécialisées, plus professionnelles,
11:34pour continuer à accéder à la profondeur des recherches qu'on a sur un moteur.
11:39Tant que les IA ne sont pas plus efficaces qu'elles le sont aujourd'hui, et tant qu'on a
11:43des professionnels en emploi
11:44qui ont encore la capacité d'exercer un exprès critique vis-à-vis de ce que leur fournit, il y
11:48a.
11:49Et ça, sincèrement, c'est un vrai défi, mais ce n'est pas un défi économique, c'est un défi
11:52civilisationnel.
11:53Est-ce que Gemini a eu un été difficile ?
11:54Non, non, ça va.
11:56Non, mais je ne serai plus positif sur d'autres sujets.
12:00Oui, Imen.
12:02Non, pardon, j'ai cru.
12:03Je suis assez pessimiste.
12:06Non, mais j'ai eu un été extrêmement difficile aussi.
12:10Mais après, l'esprit critique, il faut apprendre à l'avoir et à l'apprendre.
12:14Et les nouvelles générations.
12:15Et c'est un gros défi pour les cabinets de conseil comme Weston,
12:18c'est comment on accompagne les jeunes générations à acquérir...
12:21Et j'allais dire, avant, ça s'appelle l'éducation.
12:23C'est pour ça que j'étais là rentrée, et j'avais ma petite pointe de positif.
12:26En revenant là-dessus, en disant que c'est nous tous et tous, c'est un travail de tout le
12:31monde, en fait.
12:32Les écoles sont en première ligne aussi, les facs, les universités, l'enseignement supérieur,
12:36et la recherche est en première ligne aussi pour pouvoir former ces professionnels qui sont capables d'exercer un esprit
12:39critique dans leur métier.
12:40Et de faire tout simplement des cas d'usage très simples.
12:43Je te prends les premières occurrences, tu cherches ailleurs, t'en penses quoi ?
12:49Petit exercice pour l'école, là, à la rentrée, pas mal.
12:53C'est une bonne idée, ça.
12:56Alors, ça m'emmène aussi sur le sujet que je voulais qu'on aborde ensemble,
13:01avec ce rapport qui a été présenté à la ministre du Numérique et de l'IA, Anne Le Hénanf,
13:08c'était le 29 juillet 2026,
13:11qui résulte d'une mission parlementaire sur l'alignement des systèmes d'intelligence artificielle.
13:15L'idée, c'est de faire émerger en Europe, pas qu'en France,
13:19mais une filière qui soit vraiment positionnée sur la sécurité de ces modèles de langage,
13:26pour que l'IA soit alignée avec ce qu'on a envie d'avoir comme société demain.
13:31Est-ce que ce sujet de l'alignement de l'IA, aujourd'hui, vous semble une illusion ?
13:39Vous semble de la théorie ?
13:41Ou vous pensez qu'on peut vraiment commencer à travailler dessus,
13:44développer une industrie, et peut-être même développer, pourquoi pas,
13:47des champions françaises sur ce thème ?
13:50Qui se lance ?
13:53Imen.
13:54Je pense, au contraire, que c'est une absolue nécessité pour les survies de l'Europe
14:00ou des valeurs fondamentales sur lesquelles s'est construite l'Europe.
14:04Donc, il faut absolument qu'on aligne les modèles,
14:07et qu'on les choisisse et qu'on ne subisse pas des projets faits et pensés par des superpuissances non
14:14européennes.
14:16On est effectivement dans la survie.
14:18Alors, l'enjeu, c'est est-ce que ce n'est pas trop tard de se poser ces questions ?
14:22Il y a eu effectivement énormément de textes qui ont été publiés en juillet et en août.
14:27On aura l'occasion d'en reparler, notamment sur la cybersécurité, l'IA, les modèles, enfin, ou autres.
14:32Voilà. Est-ce que la question qu'on se pose, c'est est-ce que la complexité des textes réglementaires,
14:38et c'est un avocat qui le dit ?
14:45Justement, complexité des textes réglementaires.
14:46Parce qu'aujourd'hui, en matière d'intelligence artificielle, on a l'AI Act.
14:50Oui.
14:50Garance.
14:51Oui.
14:51Bon, ça ne suffit pas pour dire qu'on a besoin d'avoir des IA alignées sur nos intérêts
14:55et qui ne débordent pas sur des usages toxiques ?
14:58On a un AI Act qui est là depuis quelques années, qui a eu Omnibus aussi,
15:05qui a été adopté là pour simplifier, entre guillemets, je mets simplifier avec 18 guillemets autour,
15:12qui va décaler des entrées en application.
15:15On a surtout, effectivement, une gouvernance à construire,
15:18parce que l'AI Act est un texte réglementaire, général, neutre,
15:23qui classe en catégorie en gestion du risque.
15:25Après, qu'est-ce qu'on met en risque ?
15:26Est-ce que l'étude de profil de CV, le scoring de CV,
15:32est-ce qu'il ne peut pas y avoir un biais de discrimination ?
15:36Est-ce que... Voilà.
15:37Donc, toutes ces questions-là, oui, le droit donne un cadre,
15:40mais c'est surtout la gouvernance des entreprises,
15:42la gouvernance des usages,
15:45avec quels outils je vais mettre en place,
15:48puisqu'il y aura des biais toujours,
15:51je vais pouvoir, effectivement, donner ma confiance.
15:54On est au-delà du droit.
15:56C'est pour ça que l'IA Act a introduit la notion d'éthique.
15:58Et je pense que c'est un terme qu'on n'emploie pas assez.
16:01C'est que l'éthique, avant, on n'était pas dans le droit.
16:04L'éthique, on met les règles de gouvernance,
16:08on met effectivement ces valeurs.
16:10Alors, ça a l'air d'être des mots creux, voire pompeux,
16:13mais non, c'est une vraie réalité.
16:15On a, effectivement, un écosystème avec de la durabilité,
16:19on a un écosystème avec, quand même,
16:21des économies à faire d'un point de vue de l'énergie.
16:24Alors, je ne suis pas naïve, hein.
16:26Mais il y a quand même des points de contrôle à faire
16:30par rapport à son activité et ses usages.
16:33On vient sur la formation, on vient sur l'éducation,
16:36et surtout, il y a où sont les IA stockés ?
16:41Enfin, où sont les modèles stockés ?
16:43Comment les modèles sont construits ?
16:44S'ils sont stockés dans quel data center ?
16:46Ça fait partie de tout le rapport de juillet
16:49de la Commission européenne sur la souveraineté numérique,
16:54où il va y avoir des investissements sur ces enjeux-là.
16:59Il y a beaucoup de choses.
17:00C'est-à-dire qu'il y a, d'un côté,
17:03ce qu'on accepte ou pas pour les grands modèles de langage.
17:07Donc ça, en fait, c'est le texte,
17:09le règlement sur l'intelligence artificielle.
17:11Après, il y a, effectivement, la question des usages.
17:13Qu'est-ce qui est légal ou pas ?
17:15Comment je garantis que l'éthique est respectée
17:18à chaque niveau d'utilisation de l'intelligence artificielle ?
17:22Et puis, il y a la question de la souveraineté.
17:24Mais face à cette question de la souveraineté,
17:25il y a, est-on capable de construire,
17:28c'était ma question,
17:28une filière industrielle autour de la sécurité de l'IA ?
17:32Julien.
17:37Probablement.
17:38Parce qu'on a quand même vu cet été,
17:41A Game Face se plaindre d'avoir été attaqué par des agents IA
17:48qui ont passé les portes d'Open AI,
17:52voilà, sans que personne ne s'en aperçoive.
17:55Donc ce sujet de la sécurité,
17:57on voit bien qu'il est en train de s'imposer,
17:59quand même, sur le débat autour de l'intelligence artificielle.
18:03Évidemment que les grands opérateurs d'IA
18:05ont aujourd'hui les outils qui existent,
18:07mais bon, pour l'instant, ça ne fait pas totalement ses preuves.
18:10Donc est-ce qu'en France, on peut, et en Europe,
18:12on peut se positionner sur ce sujet,
18:13et peut-être prendre une place ?
18:16Probablement qu'on est capable de construire des acteurs
18:20français ou européens qui sont spécialisés dans la cybersécurité,
18:23qui sont capables aussi d'oeuvrer à l'autonomie stratégique
18:27du continent ou du pays.
18:29Oui, mais ça prendra du temps.
18:31Ça reste hypothétique, parce qu'on est dans un milieu concurrentiel
18:34dans lequel, aujourd'hui, l'essentiel des capitaux
18:36et des moyens techniques et humains
18:39sont quand même captés par les États-Unis d'une part
18:41et la Chine d'autre part.
18:44Avec, finalement, très peu d'avantages comparatifs
18:46au sens de Ricardo qui reste en Europe.
18:50et sans une volonté politique farouche,
18:52on n'y parviendra pas, parce qu'à un moment donné,
18:54il va falloir aussi avoir une espèce d'aiguillon
18:57à la fois pour flécher les investissements
18:59et pour éviter aussi qu'il y ait de la déperdition en ligne
19:03dans un moment où on est en train de courir contre la montre.
19:07Mais au-delà de ça,
19:09il faut comprendre qu'il y a des pressions aussi
19:11qui viennent de l'extérieur.
19:12Ces pressions, aujourd'hui, elles sont extrêmement fortes
19:15et la volonté affichée, elle est
19:16on ne peut plus naître,
19:18il n'y a pas du tout d'ambiguïté,
19:20c'est on veut vous imposer notre système de valeurs.
19:23Et on va utiliser,
19:24de la même façon qu'on a pu utiliser,
19:26par exemple, Hollywood par le passé
19:27ou Netflix sur un passé plus récent,
19:29on va utiliser l'IA pour ce faire.
19:31Parce que l'éthique, elle n'est pas universelle.
19:33L'éthique, elle est relative.
19:34Elle dépend d'un système de valeurs,
19:36donc d'une culture dominante,
19:37un point géographique précis, un moment du temps précis.
19:40Et on a une étude scientifique
19:41qui s'appelle The Moral Machine Experiment
19:43qui démontre ça de façon absolument implacable
19:46avec des différences extrêmement sensibles
19:49en matière de préférence des citoyens
19:53face à une même problématique éthique
19:55selon où on se situe sur le globe,
19:56en Afrique, en Asie, en Europe, etc.
19:59Et réussir, en subissant ces pressions culturelles
20:02qui viennent de l'extérieur,
20:03avec la puissance du numérique qu'il y a derrière,
20:05à faire résister notre système de valeurs européen,
20:09ce sera un défi majeur
20:11et peut-être encore plus important
20:13et plus difficile à relever
20:14que le fait de créer des champions européens
20:16de l'intelligence artificielle.
20:17Alors, on va prendre l'invité du débrief
20:18qui est connecté avec nous.
20:20Donc, c'est la sénatrice Vanina Paoli-Gagin,
20:22sénatrice de l'Aube,
20:23qui a remis le rapport dont je vous parlais
20:26à la ministre du Numérique,
20:27Anne Le Hénorff, fin juillet.
20:30Bonjour, madame la sénatrice.
20:31Vous nous entendez bien ?
20:34Bonjour, merci beaucoup de votre invitation.
20:36Bonjour à toutes et tous.
20:37Je vous en remercie.
20:39On a commencé notre débat sur la question
20:41de l'alignement de l'IA avec les valeurs européennes.
20:45Et je posais la question de,
20:47est-on capable aujourd'hui de bâtir une industrie européenne
20:51sur ce sujet de la sécurité de l'IA ?
20:53C'était l'objectif de votre mission,
20:55d'aller voir si c'est possible.
20:56Quelle est votre réponse aujourd'hui ?
21:00Alors, la réponse est positive
21:05pour ce qui me concerne
21:06au regard du travail qu'on a conduit.
21:08On a auditionné à peu près 150 personnes.
21:14C'est l'intuition que j'avais
21:16sur l'alignement des systèmes d'intelligence artificielle.
21:19Je rappelle juste que cet alignement,
21:21il a été dit par les personnes
21:24qui sont intervenues avant,
21:26il est technique.
21:28Il est éthique
21:29et il est normatif et systémique.
21:33Et c'est vraiment ce volet systémique
21:36qui peut faire la différence pour nous en Europe.
21:39Donc, le plan qui a été présenté
21:43est un premier pas qui va dans la bonne direction.
21:48La seule course à la performance technologique
21:51pour moi sur ce sujet,
21:52de ce que nous avons investigué,
21:54elle est anachronique, en fait.
21:55C'est-à-dire que c'est la sécurité
21:58des systèmes d'IA qui va participer
22:01du nouveau paradigme de la robustesse
22:05et de la sécurité et de l'alignement.
22:08Et c'est là où l'Europe peut avoir
22:10un avantage comparatif
22:12dans une approche différenciée.
22:14mon petit slogan, c'est la bonne IA
22:17au bon endroit,
22:19pour le bon usage
22:21et au bon dosage.
22:22Est-ce que c'est vraiment un avantage
22:24que peut avoir l'Europe,
22:26j'ai envie de dire de manière commerciale,
22:29dans la compétition commerciale aujourd'hui de l'IA ?
22:33Ou est-ce que ça complique davantage
22:36la tâche justement de tous ceux
22:37qui essayent de percer dans ce domaine ?
22:39Parce que si on entend Arthur Mensch de Mistral,
22:44bon, il n'est pas forcément très favorable
22:46à une régulation plus forte,
22:47à davantage de contraintes.
22:48Je ne dis pas qu'il n'est pas favorable
22:50à de la sécurité, attention,
22:52mais faire peser plus de contraintes
22:55sur les acteurs de l'IA en Europe,
22:58ça peut être aussi à rebours
23:01de l'ambition d'avoir des champions.
23:04Alors, je comprends ce que vous dites,
23:06mais ça, me semble-t-il,
23:09c'est une analyse de premier abord, en fait.
23:14Quand on creuse la question,
23:16ce qu'il faut, c'est qu'on passe
23:18de la capacité d'évaluation
23:20à une capacité de décision indépendante.
23:23Et il faut qu'en Europe,
23:25on conditionne l'accès à notre marché
23:28à la démonstration de garanties vérifiables.
23:31Quand vous montez dans un avion,
23:33vous êtes content, en fait,
23:35de savoir qu'il y a une organisation internationale,
23:39que quand il y a des incidents,
23:41il y a des remontées d'incidents,
23:42et que la sécurité est assurée de bout en bout,
23:46grâce à des standards qui sont en évolution constante.
23:49C'est la même chose.
23:50L'Europe, ça ne doit pas juste devenir un prestataire
23:56réglementaire au bénéfice de modèles
23:59qui sont principalement extra-communautaires, en fait.
24:01Il faut qu'on valide obligatoirement
24:04les modèles de frontières,
24:06qu'on ait une sorte d'autorisation
24:08de mise sur le marché des modèles.
24:10Ça, ça veut dire qu'il faut qu'on soit capable
24:12de faire respecter ces règles.
24:17Eh oui.
24:18Mais ça veut dire que technologiquement,
24:20on doit développer une filière
24:22de l'évaluation de la sécurité.
24:26Et là-dessus, on est très bon.
24:28Donc, je vous prends l'exemple aéronautique,
24:30c'est exactement la même chose.
24:32On peut prendre aussi l'exemple du nucléaire, en fait.
24:34Donc, il nous faut une doctrine de seuil
24:36avec une logique de garantie
24:38selon la criticité des usages,
24:41le caractère réversible ou non, etc.
24:44Et donc, la sécurité,
24:46regardez ce qu'on commence à faire
24:47avec la traçabilité des contenus,
24:49ça commence par là.
24:50Et donc, il faut aussi qu'on ait des talents
24:53qui soient formés pour qu'on devienne
24:56le territoire de la safety de l'IA
25:00et des systèmes d'IA
25:01et qu'on ne laisse pas se déployer
25:04sur le territoire de l'Union,
25:05en fait, des modèles
25:07dont on n'a pas de capacité d'évaluation, en fait.
25:11Oui.
25:12Eh bien, merci beaucoup, Madame la Sénatrice,
25:15de nous avoir apporté ces précisions
25:17sur le rapport que vous avez rendu.
25:19En plus, voilà, c'est le bon moment
25:20puisqu'il y a un plan d'action
25:21sur la sécurité de l'IA
25:23qui est enclenché au niveau
25:24de la Commission européenne.
25:25Bon, on a l'impression que ça bouge.
25:26Merci encore d'avoir été connecté avec nous.
25:29Je vous en prie.
25:30On continue, nous.
25:31On enchaîne avec la revue de presse.
25:34Alors, les échos, titres,
25:35avec X-Money,
25:37Elon Musk se lance dans les services bancaires.
25:40Alors, carton rouge, carton vert,
25:43chers amis commentateurs,
25:45pour l'arrivée de ce X-Money aux Etats-Unis,
25:47pour l'instant, mais qu'en pensez-vous ?
25:50Euh, allez.
25:52Donc, je ne vois pas, Garance.
25:54Ah, donc, très bien.
25:55On a un ver seulement,
25:56donc je donne la parole à la minorité.
25:59Julien ?
26:00On va encore dire que je défends Elon Musk
26:04contre mon Zemarée.
26:05Non, mais il a toujours dit explicitement
26:07ce qu'il ferait de Twitter devenu X
26:09une fois qu'il aurait mis la main dessus.
26:10C'est vrai.
26:11Il a toujours dit clairement,
26:12Twitter, à terme,
26:14sera une application à tout faire,
26:15en tout cas pour les usages de la vie quotidienne,
26:17selon le modèle de WeChat en Chine,
26:20et qu'à terme, il y aurait évidemment,
26:22en plus, on connaît le passé d'Elon Musk,
26:24c'est quand même un des cofondateurs de PayPal,
26:25il y aurait des services monétaires
26:29délivrés par X.
26:30Bon, en fait, il ne fait qu'appliquer sa stratégie,
26:33son plan, son calendrier à lui.
26:36Et carton vert, oui,
26:37parce qu'on aurait pu craindre
26:38que ce service soit un service bancaire,
26:40ça ne l'est pas,
26:40ce n'est qu'un service de paiement.
26:41Et on aurait pu craindre aussi
26:42que ce soit adossé à de la crypto,
26:43ça ne l'est pas.
26:44C'est que sur du fiat.
26:45Donc, je trouve que dans l'éventail
26:49d'opportunités, de possibilités
26:50qui étaient les siennes,
26:51il a été plutôt raisonnable.
26:53Oui.
26:53Et il ne fait qu'apporter
26:55un service supplémentaire.
26:56Avec la promesse d'un rendement de 6%,
26:57c'est raisonnable ?
26:576%, ça va dépendre.
27:00Si ça incite davantage de personnes
27:03à déjà prendre un abonnement premium,
27:06parce que ça ne concerne que les gens premium
27:07ou premium plus.
27:08Non, les deux désormais.
27:09Oui, mais pour le 6%,
27:10pour avoir les 6%.
27:11Oui, pour les 6%, c'est premium plus.
27:12Donc, déjà, d'une part.
27:13Et d'autre part,
27:15l'argent qui va être stocké,
27:16parce qu'en fait,
27:17c'est un gros wallet,
27:17c'est une grosse réserve monétaire
27:21qui va être en fait collectivisée,
27:23elle sera placée sur les marchés.
27:25Si lui, il est capable
27:25de les faire fructifier
27:26au-delà de 6% en vérité,
27:28il s'enrichit
27:28et il fait s'enrichir également ses clients.
27:31Où est le problème, en fait ?
27:32Pour l'instant, je trouve que
27:34parmi l'éventail de possibilités
27:36qui étaient les siens,
27:37il est resté plutôt raisonnable.
27:37Allez, hymène.
27:38Carton rouge.
27:40Carton rouge, gros carton rouge.
27:41Je pense que, comme tu le disais,
27:43c'est précisément ça le problème.
27:45Parce qu'au-delà de l'application de paiement,
27:46qui ne fait qu'enfermer les utilisateurs
27:48dans un environnement X,
27:50on passe de l'information,
27:52de ce qu'on demande à l'IA
27:53et maintenant, du coup, à la transaction.
27:55Très bien, super app.
27:56Mais au-delà de la super app,
27:57quand on regarde tout ce qui est
27:58dans l'écosystème
27:59et dans la galaxie de Musk,
28:01on a Starlink, on a Tesla, etc.
28:04Donc ça ne fait que consolider
28:06un extrême pouvoir
28:08entre les mains de cette personne.
28:10Et ça sert la théorie
28:11de l'économiste italienne
28:13Francesca Bria
28:14qui parle d'autoritarienne stack.
28:17Donc c'est une théorie
28:18selon laquelle
28:19certains acteurs du privé
28:21concentreraient, en fait,
28:22des capacités
28:24autour de choses
28:25qui sont normalement
28:27du domaine du régalien.
28:27La défense, l'énergie, etc.
28:29Et on voit, c'est finalement
28:30cette théorie, cette prophétie
28:31se réaliser
28:32et c'est qu'un nouvel épisode
28:34de la tragédie Trump.
28:38De Macron, il mène.
28:39Elon Musk.
28:41Carton rouge aussi,
28:42pour d'autres raisons,
28:43des raisons réglementaires.
28:44Donc là, on a des promesses.
28:46On a effectivement des statuts.
28:48Quelles sont les conditions générales ?
28:50Je reviens effectivement au B.A.B.
28:51Quelles sont les garanties de rendement ?
28:53On n'est qu'aux Etats-Unis.
28:54Ce n'est pas du tout
28:55la même réglementation
28:56et régulation en Europe.
28:57On est dans l'écosystème
28:58Elon Musk.
28:59Donc je rejoins Imen sur
29:01est-ce que le but de Elon Musk
29:03c'est de sortir son écosystème ?
29:05Toujours pareil.
29:06Et on est effectivement
29:07sur quelqu'un
29:08qui a un plan qui défile.
29:10On a vu ses propos,
29:12on a entendu,
29:13donc pour moi,
29:15critique, bien entendu.
29:17Ça, c'est l'esprit critique.
29:19Mon esprit critique,
29:19ne serait-ce que pour le carton rouge.
29:21Et à questionner,
29:22à challenger, à suivre.
29:25Mais est-ce que cette solution
29:27pourrait être déployée en Europe ?
29:29Alors, en l'état,
29:30je ne suis pas certaine.
29:31Moi, j'ai mis un carton rouge aussi
29:32parce que quand même,
29:33quand on regarde un petit peu
29:35les personnes qui ont épluché
29:36les conditions générales,
29:38c'est loin d'être clair.
29:39Pour obtenir les garanties,
29:40les revenus de 6%,
29:42ça coûte quand même très cher.
29:44Et puis, il y a plein de frais.
29:46Il y a beaucoup de frais.
29:47Tout est payant, finalement.
29:48Beaucoup de frais cachés.
29:50Et en plus,
29:50il y a un mariage
29:51avec la plateforme X
29:53qui, moi,
29:54me pose un problème.
29:55C'est-à-dire que si je ne suis pas
29:56un bon utilisateur
29:57du réseau social
29:59qui n'a quand même rien à voir
30:00avec mes économies,
30:01avec mon argent,
30:02si je ne suis pas
30:03un bon utilisateur,
30:04eh bien,
30:04on peut me supprimer
30:05mon compte,
30:05tout simplement.
30:06Alors moi,
30:06voilà, carton rouge aussi.
30:07On passe au Parisien.
30:09Le Parisien titre,
30:10prochaine étape,
30:11nos cerveaux,
30:12point d'interrogation.
30:13Panama,
30:14le projet fou
30:14de l'IA
30:15pour numériser
30:16et détruire
30:16tous les livres
30:17du monde.
30:18Vous en avez sans doute
30:20entendu parler
30:20de cette affaire
30:22qui a été révélée
30:23à l'occasion
30:24d'une plainte
30:25pour violation
30:25de droit d'auteur.
30:26On a découvert,
30:27en fait,
30:27qu'Entropique
30:28avait acheté des livres
30:29pour les numériser,
30:31pour entraîner ses IA
30:32et les avait détruits.
30:34Alors,
30:35carton rouge
30:35ou carton vert ?
30:36Qui me met
30:37un carton vert là-dessus ?
30:39Mais non,
30:40personne.
30:41Bon,
30:42alors,
30:42mais chacun
30:42en a peut-être
30:43une sensibilité
30:44différente.
30:45Qu'est-ce qui vous a
30:46particulièrement choqué ?
30:47Imen ?
30:49Ce qui me choque,
30:51c'est plutôt
30:52la posture,
30:53enfin,
30:53ce qui a motivé
30:54la décision.
30:55En fait,
30:57le juge américain
30:59n'a pas,
31:00dans cette affaire
31:01de numérisation
31:02des livres
31:04qui ont été
31:06achetés
31:06et acquis,
31:07en fait,
31:07ce n'est pas ça
31:08qui a motivé
31:09la décision de justice
31:10de rémunération.
31:11Les 1,5 milliard
31:12d'euros
31:14qui vont être
31:16distribués
31:16aux auteurs.
31:16Pour éviter
31:17une condamnation,
31:18d'ailleurs.
31:18Pour éviter
31:19une condamnation,
31:19en fait,
31:20ce n'est pas
31:20tellement les livres.
31:21C'est deux affaires
31:22en une.
31:23Et finalement,
31:24dans l'affaire
31:25principale
31:25qui nous concerne,
31:26les juges
31:26n'ont pas considéré
31:27que ça relevait
31:28d'un unfair use.
31:30Pourquoi ?
31:30Parce qu'ils ont considéré
31:31qu'entraîner un modèle
31:34pour le rendre
31:34plus intelligent,
31:36n'empiéter pas
31:37sur les intérêts
31:37économiques des auteurs
31:38et ne constituaient pas
31:40une copie
31:41ou une recopie.
31:42Donc,
31:42on n'allait pas
31:43sur le registre
31:44de la violation
31:45des droits d'auteur.
31:46Et c'est ça
31:46qui me gêne
31:47très profondément.
31:48Oui,
31:48je comprends.
31:50Ce droit légitime
31:51pour entraîner les IA.
31:53Julien,
31:54je suis plus choqué
31:54par l'image,
31:55l'iconographie
31:56qu'il y a derrière.
31:57Le fait que,
31:58pour des raisons
31:59bassement économiques,
32:00parce que sur le plan
32:01industriel,
32:01ça va beaucoup plus vite
32:02et donc c'est beaucoup
32:02plus rentable
32:03de faire cela ainsi.
32:04On puisse détruire
32:07des livres,
32:08arracher les pages
32:08une à une
32:09pour les scanner
32:10et ensuite,
32:11finalement,
32:12mettre tout ça
32:12au rebut.
32:13L'image est terrible.
32:15L'image est terrible.
32:16Elle renvoie
32:16au pire moment
32:18de l'histoire
32:19de l'humanité.
32:20Donc,
32:20moi,
32:20c'est vraiment ça
32:21que je retiens
32:21et c'est vrai
32:22que c'est extrêmement malheureux.
32:24Garance,
32:24choquez pas.
32:25Moi, pareil,
32:26je rejoins
32:26Imen et Julien
32:27sur deux aspects.
32:29La description
32:30d'un objet.
32:30Un livre,
32:31c'est un objet,
32:32donc ça renvoie
32:32effectivement aux pires images.
32:34Ça revient
32:34à une destruction
32:34de la culture,
32:35ça revient
32:36à une manipulation
32:37de la culture
32:38et de l'information.
32:39Un monopole,
32:40c'est-à-dire
32:40qu'est-ce que je canne
32:41et après,
32:42qu'est-ce que j'en fais ?
32:43Et il y a aussi,
32:44je reviens aussi
32:45sur l'ouvrage
32:45de Sciences Cition
32:47à l'époque,
32:47parce qu'on était
32:47dans les années 50
32:48de Red Barbary
32:52toujours lire des livres.
32:54Voilà,
32:54et j'insiste là-dessus,
32:56c'est-à-dire
32:57qu'on a quand même
32:57une manipulation
32:59des populations,
33:02ne se le cachons pas.
33:04Donc là,
33:04c'est sur l'aspect
33:05de destruction
33:06d'un livre
33:07qui est un objet.
33:08Alors,
33:08ils n'ont pas détruit
33:09tous les exemplaires,
33:10il faut préciser.
33:11Mais ils détruisent
33:12effectivement
33:13les objets en terre
33:14qu'ils achètent
33:14pour une question
33:15d'efficacité.
33:17C'est ça,
33:17c'est pratique.
33:18Scanner,
33:19effectivement,
33:19on est dans l'aspect
33:20purement pratique,
33:21on s'en fiche,
33:22hop,
33:23on scanne.
33:23L'aspect en tant que juriste
33:25et avocat
33:26me choque aussi
33:27en non-respect
33:28des droits d'auteur,
33:29des droits vasins,
33:30puisqu'en fait,
33:31on est en train
33:32de se polier
33:33pas que les auteurs
33:35mais aussi les ayants droit.
33:37Parce qu'en fait,
33:38le droit d'auteur,
33:39et là on est en Europe,
33:40en fait,
33:41le droit moral
33:42d'un auteur
33:43se transmet
33:44et il y a toujours
33:45des héritiers,
33:45on va dire,
33:46de Victor Hudeau,
33:46par exemple.
33:47Donc,
33:49sur les deux points de vue,
33:50tant par rapport
33:51à l'éthique,
33:51ça a été nos mots-clés,
33:53tant par rapport,
33:54effectivement,
33:55au droit d'auteur
33:55et à l'image,
33:57parce qu'on est
33:57sur une copie,
33:59on est sur un scan
33:59et il y a déjà
34:00beaucoup de décisions
34:01aussi sur les scans,
34:02il ne faut pas oublier
34:03qu'il y avait aussi
34:04de la rémunération
34:04de la copie privée,
34:05il y a quand même
34:06des taxes qui existent
34:08dans l'Europe,
34:09là ça se fait
34:09aux Etats-Unis,
34:10donc je suis extrêmement
34:12vigilante,
34:13extrêmement en alerte
34:14pour ces deux points,
34:16ne serait-ce que,
34:17même si c'est un exemplaire
34:18parmi d'autres,
34:19qu'est-ce qu'ils vont
34:20en faire aussi ?
34:21Qu'est-ce qu'ils vont ?
34:22Puisque le but,
34:23c'est d'acheter
34:23des ouvrages
34:25édités avant une date
34:27pour que ces derniers
34:28n'aient pas été écrits
34:30ou inspirés
34:31par de l'IA.
34:32Donc on voit,
34:33et on revient au début
34:35de notre débat,
34:36à
34:37quid,
34:37esprit critique ?
34:38Et puis,
34:39moi,
34:39ce qui m'a choquée aussi,
34:41c'est,
34:41vous allez me dire,
34:42qui est dupe ?
34:43On se doutait bien
34:43qu'ils n'avaient pas
34:44juste aspiré
34:45tout Internet,
34:46qu'il leur fallait aussi
34:47de la matière
34:47un peu plus qualitative,
34:49donc qui est dupe
34:50de ce type de pratique.
34:52Mais quand même,
34:53ça nous montre
34:54que derrière Anthropie,
34:56derrière Mario Amozzi,
34:57bon,
34:57ce ne sont pas
34:58des entreprises
34:59qui ont l'éthique
35:00cheville au corps.
35:01Ce sont des entreprises
35:03commerciales.
35:04Voilà.
35:04Donc,
35:05très bien,
35:05au moins les pendules
35:06sont remises à l'heure.
35:07Que ça vienne du camp
35:08de l'entreprise
35:09qui a fait tout son marketing
35:10sur le fait
35:11d'être le chevalier blanc
35:11de l'IA.
35:12C'est pour ça que je dis ça.
35:13Parce que ça,
35:13c'est vraiment insupportable.
35:14Ça peut permettre
35:15à ouvrir les yeux
35:16à certaines personnes ?
35:17Exactement.
35:18Donc là,
35:18les choses sont claires.
35:18Et on revient sur les valeurs
35:20et l'éthique.
35:21Open AI n'est pas en reste
35:22parce que,
35:23je ne sais pas
35:23si vous avez lu aujourd'hui,
35:25oui,
35:25Trump et la Maison Blanche
35:26ont donné raison
35:26à Open AI
35:27dans le procès
35:31qu'il opposait
35:32au New York Times.
35:33Au New York Times.
35:34Tu aurais pu prévoir.
35:34Tu aurais pu prévoir.
35:35Ça,
35:36ils ont pris,
35:36oui.
35:37Insupportable.
35:37Alors,
35:38c'est l'heure d'accueillir
35:40notre Jérôme Bouteiller
35:41que vous connaissez tous
35:42qui vient régulièrement
35:43pour nous proposer
35:44une tribune autour
35:45de ce mobile
35:47business.
35:47Il va nous rejoindre
35:48le temps d'un petit jingle.
35:49pour le temps d'accueillir.
35:49pour le temps d'accueillir.
35:49pour le temps d'accueillir.
35:49pour le temps d'accueillir.
35:49pour le temps d'accueillir.