Passer au playerPasser au contenu principal
« L'IA, c'est peut-être la seule chance à mes yeux de concilier des finances publiques qui sont au début d'une crise monstrueuse [...] et le maintien d'un système hospitalier et de santé de qualité. »

Lors de la Soirée des hôpitaux organisée par Le Point, Étienne Gernelle réunit quatre acteurs majeurs de la santé, de la politique et du numérique : Agnès Buzyn (ancienne ministre de la Santé, présidente du think tank Evidences), Yannick Neuder (député, cardiologue et ancien ministre), Sébastien Proto (président exécutif d'Elsan), Jérôme Berger (directeur de la stratégie du Groupe Orange).

Face à une crise budgétaire sans précédent et à l'explosion de la dette publique, l'intelligence artificielle est-elle la bouée de sauvetage de l'hôpital français ou une fausse promesse ? De l'imagerie aux urgences jusqu'au risque de surrégulation européenne qui fait fuir les essais cliniques, les intervenants livrent un diagnostic sans filtre.

§ #santé #sdh2026 #soiréedeshôpitaux #lpt #science #ia #inteligenceartificielle #agnesbuzyn #buzyn #yannickneuder

Suivez-nous sur :
Youtube : https://www.youtube.com/c/lepoint/
Facebook : https://www.facebook.com/lepoint.fr/
Twitter : https://twitter.com/LePoint
Instagram : https://www.instagram.com/lepointfr
Tik Tok : https://www.tiktok.com/@lepointfr
LinkedIn : https://www.linkedin.com/company/le-point/posts/
Bluesky : https://bsky.app/profile/lepoint.fr
Threads : https://www.threads.net/@lepointfr
WhatsApp : https://www.whatsapp.com/channel/0029VaDv82FL2ATwZXFPAK3c
www.lepoint.fr §

Catégorie

🗞
News
Transcription
00:01...
00:09Un truc que j'adore faire au début d'un débat, c'est de dire,
00:12parce que c'est très désagréable pour tous les autres, on va élever le débat.
00:15J'adore faire ça, comme ça tout le monde se sent insulté, c'est formidable.
00:19Merci beaucoup à tous les quatre d'être ici.
00:22Alors on a un temps qui est limité, 45 minutes, c'est très rapide.
00:26Je voudrais, avant de rentrer dans le comment, comment on régule, comment on finance,
00:33et dans les questions de souveraineté, poser l'enjeu.
00:38Et qu'est-ce qu'on en espère, en gros ?
00:41Dans quelle proportion l'IA, le développement de l'IA,
00:46dans quelle mesure ça règle des vrais problèmes,
00:49si on ne croit pas à la pensée magique,
00:51si on ne pense pas que, par exemple, ne pas payer notre contribution à l'Union Européenne,
00:55brûler la dette qui est à la BCE, ça suffit à régler nos problèmes,
00:59et qu'on se dit qu'il faut trouver des solutions plus intelligentes,
01:02est-ce que le développement de l'IA, c'est quelque chose de massif ?
01:05Est-ce que, pour les finances publiques, par exemple,
01:08pour laquelle ils décentent, par exemple,
01:09est-ce qu'à l'échelle macroéconomique, des politiques publiques,
01:12c'est quelque chose de majeur ?
01:14Et je voudrais avoir votre point de vue à tous les quatre,
01:16et je vais commencer par Anis Buzyn.
01:19Bienvenue.
01:20Merci, monsieur le directeur.
01:23Merci aux auditeurs présents.
01:26C'est une excellente question.
01:27En fait, il y a une promesse.
01:29Il est clair qu'il y a une promesse d'efficacité, d'efficience, de qualité.
01:33Il n'y a pas encore la preuve.
01:35Et ce que j'observe, notamment dans le secteur de la santé,
01:38c'est qu'on parle d'IA en mélangeant les IA généralistes
01:44que tout le monde utilise,
01:46et les IA très spécifiques développées dans des secteurs d'activité
01:49où elles ont fait leur preuve.
01:51Je pense notamment sur la lecture de l'imagerie,
01:53imagerie radiologique, anapath,
01:56sur la gestion des flux et des stocks dans les hôpitaux,
02:00sur la logistique.
02:01Il y a maintenant des outils d'IA dédiés à des secteurs particuliers
02:05qui ont démontré la preuve de leur efficacité
02:08et qui améliorent l'efficience, la qualité des soins, etc.
02:12Et puis, il y a les IA généralistes,
02:14celles dont on parle tous,
02:15avec ce qu'on appelle le shadow IT dans les hôpitaux.
02:18C'est-à-dire que tout le monde l'utilise.
02:21Et c'est légitime parce que ça répond à un besoin,
02:23les internes, les médecins.
02:25On a tous un iPhone à la poche.
02:27Et de temps en temps, on a envie de poser une question
02:29à l'une des IA LLM.
02:31Et là, pour le coup,
02:33il y a vraiment un enjeu de régulation dans les hôpitaux.
02:36Je m'arrêterai là.
02:38Parce que la sécurité,
02:40la culture de la preuve,
02:41elle n'est pas encore apportée en médecine
02:43avec ces outils-là.
02:44Alors, on va revenir sur la régulation.
02:46Mais donc, pour vous, c'est quelque chose de massif
02:48qui peut avoir un effet massif sur l'efficacité
02:50et sur les finances publiques
02:51parce que la santé, ça coûte un peu d'argent.
02:54Je pense qu'on aura un atout
02:56sur la qualité des prescriptions.
02:58La médecine, c'est de plus en plus compliqué.
03:00On croise des données multiples.
03:02L'évolution des connaissances est extrêmement rapide.
03:05Et en fait, plus aucun médecin n'a la maîtrise complète
03:08de la prescription, du diagnostic.
03:12C'est très compliqué.
03:13L'IA est un atout considérable
03:15pour la qualité des soins,
03:16pour réduire les actes inutiles,
03:19pour améliorer la pertinence des parcours.
03:21Mais encore, il va falloir le démontrer.
03:24Et on en parlera, j'imagine, tout à l'heure.
03:26Yannick Leder,
03:28un autre ancien ministre.
03:31Je partage ce qui vient d'être dit par Agnès
03:35dans le sens que l'erreur,
03:37c'est que malgré le contexte
03:39que vous avez bien résumé,
03:42clairement, on ne peut pas nier que ça n'existe pas.
03:44On ne peut pas déchirer la dette.
03:46Donc, il faut faire de ce contexte-là.
03:47L'erreur à ne pas faire,
03:49c'est de ne pas investir dans l'IA
03:51parce que le train est en marche.
03:53On voit bien les investissements mondiaux.
03:55Plus de 200 milliards à l'échelon mondial,
03:5750% au niveau des Etats-Unis,
03:59un tiers la Chine.
04:00Et la France doit être leader en Europe sur ce sujet.
04:04Donc, je crois qu'il y a des enjeux de souveraineté sur ce sujet
04:08qui, à mon avis, dépasse l'échelon national.
04:10C'est une question de souveraineté européenne.
04:12On doit former nos soignants de demain à l'IA.
04:15Et ça, c'est un vrai sujet de la formation.
04:16Mais pour vous, il y a un bénéfice global
04:18à en attendre pour la santé publique ?
04:20Il y a un bénéfice sur les termes qui ont été évoqués,
04:24c'est-à-dire que dans le champ de la connaissance
04:25et de l'amélioration des soins.
04:27Et puis, il y a un autre bénéfice, à mon avis,
04:29qui est l'attractivité des métiers à l'hôpital
04:32puisque sur l'attractivité,
04:34on va pouvoir peut-être aussi permettre
04:36dans des formules d'IA
04:38qui sont assez intéressantes à tester,
04:40que je teste moi-même
04:41puisque en reprenant mon activité clinique,
04:43j'ai repris une activité avec de l'IA,
04:45ce qui change complètement les choses.
04:47Et ça rend du temps aux soignants.
04:48Donc, je sais qu'on ne va pas parler forcément de productivité,
04:51mais dans la quête de sens
04:52que tout le monde se pose
04:55dans la vie des structures,
04:56que ce soit médico-social,
04:58que ce soit l'hôpital, public ou privé,
05:00il y a cette vraie quête de sens de nos soignants.
05:02Et le fait de pouvoir utiliser cet IA
05:05qui est aussi de l'IA d'usage,
05:07d'organisation, de répertoring,
05:09va rendre du temps aux soignants.
05:11Et ce qui fait l'attractivité d'un soignant
05:12dans une structure de soins,
05:14dans un hôpital,
05:15c'est de passer aussi du temps avec ces patients.
05:18Et ça, c'est quand même quelque chose
05:20qui va être intéressant.
05:22Jean Berger, quel est l'enjeu ?
05:23Quelle est l'ampleur de l'enjeu ?
05:26Effectivement, je pense qu'il y a déjà
05:27beaucoup de choses qui ont été dites.
05:28Je pense que c'est une adoption,
05:29moi, que je vois comme étant massive,
05:32dès lors qu'on l'a fait de manière responsable.
05:35Je me permets juste un point,
05:36parce que je pense que c'est une question
05:38plus large que l'IA,
05:39c'est le numérique.
05:40Et le numérique, c'est aussi ce qui se passe
05:44en dehors de l'hôpital,
05:46pour désengorger l'hôpital,
05:47justement, en faisant peut-être plus de prévention.
05:50Vous avez aujourd'hui beaucoup de systèmes,
05:52en Asie, par exemple,
05:53où il y a énormément d'applications,
05:55basées sur du numérique,
05:56basées sur de l'IA,
05:57qui permettent de faire de la prévention avancée,
05:59sur de la santé mentale,
06:00la santé physique.
06:01Et je pense que ça, ça peut aussi aider
06:03à désengorger, à fluidifier l'hôpital.
06:05Il y a aussi toutes les applications
06:07qui permettent le maintien des patients
06:10davantage à domicile,
06:11ce qui est quand même aussi un gain de qualité de vie
06:13pour eux et pour leurs proches.
06:14Et tout ça, ça contribue à alléger un peu
06:17le poids et le fardeau global du système de soins.
06:21Et puis, on l'a dit, effectivement,
06:23il y a ce qu'on appelle nous aussi,
06:24d'ailleurs, merci monsieur le ministre,
06:26du temps pour les patients.
06:27C'est le moto de l'une de nos filiales
06:28qui s'appelle Enovacom,
06:30qui traite à peu près les systèmes d'information
06:33de 3 000 hôpitaux en France.
06:35Et donc, on essaye de déployer l'IA responsable.
06:39Ça veut dire une IA sur laquelle
06:41les données sont sécurisées.
06:42Ça veut dire une IA qui est transparente,
06:44qui est explicable,
06:45qui peut être contrôlée par des humains
06:48et contrôlée en particulier par les sachants
06:50et par les soignants
06:50et ne jamais remplacer leur expertise.
06:52Et puis, comme vous l'avez très justement dit,
06:55c'est aussi de laisser du temps
06:57pour garder ce qu'il y a de plus précieux,
06:59c'est-à-dire la relation entre le patient
07:02et le soignant
07:03et que l'IA ne se mette pas en travers de ça.
07:06Sébastien Proutot.
07:08Je pense que c'est une promesse
07:10et déjà une réalité.
07:13Comme Agnès Buzyn le disait en imagerie,
07:17je parle du bénéfice patient,
07:18quand vous arrivez aux urgences aujourd'hui,
07:21on a développé un partenariat avec Incepto,
07:23le taux d'erreur dans la détection d'une fracture,
07:26c'est globalement 20% aux urgences,
07:28c'est beaucoup.
07:29Avec l'IA, vous arrivez quasiment à 0%.
07:31Ce type d'exemple,
07:33ça commence à être très concret.
07:35C'est le bénéfice patient.
07:36Le bénéfice pour les professionnels de santé,
07:40il est là aussi.
07:41Ça va continuer.
07:42C'est très important.
07:44Il y a beaucoup de potentiel.
07:46Mais le troisième bénéfice pour moi,
07:48peut-être aussi important,
07:50voire plus,
07:51c'est que l'IA,
07:52c'est peut-être la seule chance,
07:53à mes yeux,
07:55de concilier des finances publiques
07:57qui sont au début d'une crise monstrueuse
08:01en France,
08:02et dans beaucoup de pays européens,
08:03mais je parle de la France,
08:05donc de concilier cette crise des finances publiques
08:07et le maintien d'un système hospitalier
08:10et de santé plus généralement de qualité.
08:12L'IA, c'est au cœur de ça.
08:14Et dans mon esprit,
08:16une stratégie de l'IA,
08:17ça doit viser trois choses,
08:18mais il faut qu'il y ait les trois.
08:19Le bénéfice patient,
08:21le bénéfice professionnel de santé,
08:24le bénéfice efficience.
08:27L'efficience,
08:28ça ne doit pas être la partie oubliée de l'IA.
08:30On peut faire plein de cas d'usage partout,
08:33dans tous les établissements hospitaliers,
08:35à la fin de la journée,
08:36si ça ne permet pas de soigner à moindre coût,
08:39de faire des économies
08:40pour pouvoir justement financer d'autres choses
08:43et les besoins d'une population qui vieillit,
08:45on n'aura que raté l'IA.
08:48Et dernier message...
08:49Vous dites, c'est-à-dire,
08:49pardon, je vais l'interdire là-dessus,
08:51c'est qu'utiliser l'IA,
08:52c'est ce qui permet de maintenir le modèle social.
08:55C'est ce qui, à mes yeux,
08:57peut permettre de maintenir
08:59une certaine excellence
09:01du système hospitalier français,
09:04avec le public, avec le privé.
09:06Je trouvais votre présentation extraordinairement claire
09:08sur tous ces sujets, monsieur.
09:11Mais on voit bien qu'aujourd'hui,
09:13moi, si on me demandait
09:15de répondre à la question suivante,
09:17comment un pays
09:18qui a 3 300 milliards de dettes,
09:21qui va recréer,
09:22sans bouger,
09:23600 milliards de dettes
09:24dans le prochain quinquennat,
09:26sans bouger, sans rien faire,
09:27est capable de maintenir
09:29la qualité de son système hospitalier,
09:32ça ne sait pas répondre à cette question.
09:34Et l'IA, c'est un moyen,
09:36éventuellement, d'y répondre.
09:38Mais attention, l'IA,
09:39c'est aussi un champ
09:40qui révèle toutes nos faiblesses.
09:42Nous ne maîtrisons pas les modèles,
09:44ils ne sont pas chez nous.
09:45Nous ne maîtrisons pas l'infra,
09:46elle n'est pas chez nous.
09:48Les chercheurs français partent assez vite.
09:51Les startups qui réussissent
09:52ou qui veulent réussir françaises
09:54partent très vite aux Etats-Unis.
09:56Dans cet écosystème
09:57dans lequel nous sommes fragiles et faibles,
10:00comment on réussit
10:00à avoir une stratégie d'IA ?
10:02Alors, merveilleuse transition.
10:03Il y avait un papier de Mario Draghi
10:06la semaine dernière
10:06dans la Financial Times
10:07qui était exceptionnel.
10:09Il racontait que finalement,
10:10notre seule chance en général à nous,
10:11à l'Europe,
10:12de rattraper un petit peu
10:13de la productivité
10:14qu'on a perdue
10:15par rapport aux Etats-Unis notamment,
10:17c'était l'IA.
10:18Et le problème,
10:19c'est qu'effectivement,
10:19on est très en retard
10:20et qu'on n'a pas la maîtrise des modèles.
10:22Maintenant, c'est la question
10:23du financement de tout cela.
10:25Et alors, il y a quand même...
10:27Quand vous lisez la presse américaine,
10:29vous voyez qu'Entropic
10:30et OpenAI,
10:32ils visent,
10:32après leur IPO,
10:33des valorisations
10:34au-delà de 1 000 milliards de dollars,
10:351 200 milliards,
10:37par exemple,
10:37pour OpenAI.
10:40Nos amis de Mistral,
10:42ils sont hyper contents.
10:43Ils sont valorisés
10:44à 21 milliards d'euros
10:46à la suite
10:46de leur dernière levée de fonds.
10:49On n'y est pas, là, non ?
10:50Qu'est-ce que vous en pensez
10:51les uns les autres ?
10:53Sébastien Proto,
10:54c'est un peu votre métier,
10:55ça,
10:55les valorisations au départ, non ?
10:56Ce n'est pas mon métier,
10:57c'est plus longtemps.
10:58Non, mais pour donner,
10:59pour que tout le monde ait en tête
11:00quand même quelques ordres de grandeur,
11:03la valorisation de OpenAI,
11:06d'Entropic et de SpaceX,
11:09ces trois valorisations-là,
11:10ces trois entreprises,
11:11elles valent plus aujourd'hui
11:13que l'ensemble des entreprises
11:14qui se sont introduites en bourse
11:16entre 1980 et 2025.
11:18Ça vous donne un ordre de grandeur.
11:20Ça veut dire qu'il n'y a pas
11:23de cas de figure
11:23dans lequel l'Europe
11:25et la France en particulier
11:26sont capables de rivaliser
11:28sur le besoin de financement.
11:30Mais ce n'est pas pour ça
11:32qu'on n'a pas de capacité
11:34à déployer dans les hôpitaux
11:36une stratégie IA souveraine.
11:39Et je pense qu'il faut
11:39qu'on distingue les choses.
11:41La question qu'on doit appréhender,
11:43aborder,
11:44c'est à quelles conditions
11:46on reste souverains
11:47sur l'essentiel.
11:49La maîtrise de la donnée,
11:52des infrastructures encadrées
11:54et une gouvernance
11:55que nous, nous avons définie.
11:56Et je pense que c'est ça,
11:58même dans cet océan de faiblesse,
12:00qu'on doit arriver
12:00et qu'on peut réussir à faire.
12:02Alors on va passer à la souveraineté,
12:03mais vous allez un poil plus vite
12:05que la musique,
12:06mais c'est bien en même temps.
12:07Mais sur la question du financement,
12:08comment est-ce qu'on fait
12:10pour développer ce genre de choses
12:11sans avoir la maîtrise des outils,
12:13ils ne sont pas chez nous ?
12:14Est-ce que la part
12:14de financement public
12:15la part de financement privé
12:20ou un peu des deux ?
12:24Pour le déploiement,
12:26j'avoue que je suis un petit peu
12:27moins pessimiste
12:28pour plusieurs raisons.
12:30Premièrement,
12:31les gros besoins de financement,
12:33c'est surtout pour l'entraînement
12:34de modèles,
12:35comme on dit,
12:35frontières,
12:36extrêmement avancés,
12:38avec d'ailleurs un ROI financier
12:40sur lequel il faut se poser
12:41un certain nombre de questions,
12:42mais on ne va pas aborder ça ici.
12:44l'enjeu,
12:45c'est plutôt le déploiement,
12:46donc c'est plutôt l'utilisation,
12:47ce qu'on appelle l'inférence.
12:49Et quand on regarde en réalité
12:51ce qui freine le déploiement,
12:53souvent,
12:53et nous on le voit
12:54chez tous nos clients entreprises,
12:55chez Orange,
12:56on en a beaucoup,
12:57et pas que des hôpitaux,
12:58c'est d'abord la capacité
13:00et l'agilité
13:00à modifier les processus.
13:03Les gains,
13:04et tu as raison Sébastien,
13:06les gains qu'on fait
13:09quand on implémente
13:10un processus d'IA,
13:12c'est 10-20% la technologie,
13:14mais c'est 80%
13:15parce qu'on a modifié
13:16le processus
13:17et qu'on a réutilisé
13:18le temps qu'on gagne
13:19ou des choses comme ça.
13:20Et ça c'est très long,
13:21c'est très complexe,
13:22mais ça c'est entre nos mains.
13:24Et après,
13:25j'allais dire,
13:26sur les modèles en tant que tels,
13:28bon,
13:28on a Mistral,
13:30c'est vrai qu'il y a
13:31plein de modèles aujourd'hui
13:32qu'on appelle
13:32open weight,
13:33open source,
13:33qu'on peut utiliser
13:35et qui sont très peu chers,
13:37beaucoup chinois d'ailleurs,
13:38mais bon,
13:38pas que.
13:40Et l'idée,
13:41c'est de se dire,
13:42nous,
13:43chez Orange,
13:43on définit l'IA de confiance,
13:45on dit ces quatre choses,
13:46c'est le contrôle
13:47des infrastructures,
13:48et on a le contrôle
13:49des infrastructures
13:50sur des infrastructures
13:51de confiance,
13:52sur des clouds de confiance.
13:53Oui,
13:53parce qu'en fait,
13:54il y a deux sujets,
13:54il y a l'IA,
13:55les modèles,
13:56et puis où sont les données,
13:57donc ça c'est le cloud,
13:58sur les serveurs.
14:00Ça c'est la cyber,
14:01c'est la localisation
14:01des données,
14:02c'est la sécurité,
14:03donc c'est le contrôle,
14:03c'est le choix,
14:04comme je le disais,
14:05c'est-à-dire le choix
14:05du modèle le plus efficace,
14:06c'est pas forcément
14:07le modèle entraîné
14:08à 500 milliards,
14:09il n'y a pas besoin,
14:11et puis c'est les compétences
14:12et puis la taille critique
14:13des acteurs.
14:13Et je rejoins tout à fait
14:14ce que vous dites,
14:15madame la ministre,
14:15et j'en reste là,
14:16c'est que pour les vraies
14:17applications critiques,
14:19notamment pour la recherche,
14:21pour le diagnostic,
14:23c'est pas les IA généralistes.
14:24Les IA généralistes,
14:25elles peuvent se tromper,
14:26elles font plein de choses
14:26complètement inutiles,
14:27c'est des IA plus petites,
14:29plus spécialisées,
14:30et là-dessus,
14:31beaucoup moins chères,
14:33à part les AlphaFold
14:34de Google
14:35ou des choses comme ça,
14:36mais c'est des exceptions,
14:37et là-dessus,
14:38on n'est pas spécialement
14:38en retard,
14:39et on a des sociétés
14:40et des start-up
14:41qui ont les moyens
14:41de développer ça.
14:42Agnès Muzin.
14:43Je voudrais rebondir là-dessus,
14:45c'est vrai que c'est
14:46beaucoup moins cher
14:47de développer une IA spécifique,
14:49de lecture de radio
14:51ou d'analyse,
14:52d'examen biologique,
14:53mais si on veut être souverain,
14:55et c'est vraiment
14:56l'enjeu aujourd'hui,
14:57je vais vous donner
14:58un exemple,
14:58mais si on veut être souverain,
14:59il y a plein de coûts cachés
15:01qui ne sont absolument
15:02pas couverts
15:03par les investissements
15:04en IA aujourd'hui.
15:05Les coûts cachés,
15:06c'est le coût d'héberger
15:08des bases de données
15:09françaises
15:10avec des données de patients,
15:12c'est le coût
15:13de la donnée elle-même,
15:14la data,
15:16de sa qualité,
15:18d'entretenir
15:19ces bases de données,
15:21de sélectionner
15:22des sources
15:23dans le monde
15:24de la recherche,
15:24dans le monde
15:24de la publication
15:26scientifique.
15:27Tout ça,
15:28en fait,
15:29ça a eu un coût
15:29pour les pouvoirs publics
15:31et ça,
15:32il n'y a pas aujourd'hui
15:33de modèle économique
15:34qui rémunère
15:35cette partie
15:36du coût
15:37d'une IA souveraine.
15:39C'était une des raisons
15:40pour lesquelles
15:40on avait voulu
15:41construire le Health Data Hub
15:42en 2017.
15:43C'était vraiment
15:44pour avoir
15:44des données de santé françaises
15:46sur lesquelles
15:47on pouvait entraîner
15:47des IA souveraines
15:50spécifiques
15:50dans le monde
15:50de la santé.
15:52On a pris beaucoup
15:52de retard pour X raisons
15:53mais c'était ça l'idée,
15:55c'était vraiment
15:55d'être pionnier
15:57dans l'IA souveraine.
15:58Je vais vous dire
15:59pourquoi c'est si important,
16:00je vais vous raconter
16:01une histoire.
16:02Il y a une IA américaine
16:03qui fait du diagnostic,
16:05qui fait de l'aide
16:06à la prescription,
16:07qui a eu un succès
16:08phénoménal
16:08en l'espace de deux ans,
16:09ça s'appelle
16:09Open Evidence.
16:11C'est une IA
16:12qui va chercher
16:13dans les sources
16:15référencées médicales
16:15les grands articles
16:16de journaux américains
16:17la bonne façon
16:19de traiter les malades.
16:20Et donc,
16:21tous les médecins américains
16:22s'équipent
16:23d'Open Evidence
16:24avec une forme
16:25de sécurité
16:25sur l'origine
16:26des données,
16:27c'est des données
16:29de publications
16:30scientifiques
16:31réputées.
16:32Et bien,
16:32même Open Evidence
16:34s'est fait polluer
16:36et c'est ça
16:37qui nous fait peur
16:38en fait dans le manque
16:39de souveraineté.
16:39Elle s'est fait polluer
16:40quand il y a eu
16:41le débat aux Etats-Unis
16:42sur le paracétamol
16:44donnerait l'autisme.
16:45Vous avez la fameuse phrase
16:46de Kennedy Junior
16:48reprise par Trump.
16:49Et bien,
16:50en l'espace de deux jours,
16:51Open Evidence
16:52expliquait,
16:53attention,
16:53le paracétamol
16:54donne l'autisme
16:55qui est une fake news
16:56absolue.
16:57Et comment c'est arrivé ?
16:58Pardon ?
16:58Comment c'est arrivé ?
17:00Je ne suis pas spécialiste
17:01d'Open Evidence,
17:02je ne suis pas allée
17:02voir leurs algorithmes
17:04mais il y a une forme
17:05de mensonge en fait
17:06sur la sécurité
17:07et la qualité
17:08et donc c'est de ça
17:09dont on doit être sûr
17:10aujourd'hui
17:11quand on parle
17:11d'IA souveraine.
17:13C'est quel type
17:14de données,
17:15quelle source,
17:17quelle sécurité
17:17et est-ce que
17:20les entraînements
17:21de ces machines
17:21se font sur des patients
17:23français,
17:24suivis en France,
17:25traités avec les méthodes
17:26françaises
17:26et pas sur des méthodes
17:28chinoises ou indiennes
17:29parce que je peux vous dire
17:29que les pratiques
17:30sont différentes
17:31dans d'autres pays.
17:32Donc on a un enjeu
17:32de qualité des soins,
17:34de rigueur.
17:35C'est pour ça que je dis
17:35que c'est une formidable promesse
17:36mais là aujourd'hui
17:38on a vraiment besoin
17:39d'un niveau de preuve
17:39de qualité.
17:41C'est des sujets aussi
17:43qui évoluent extrêmement vite
17:45et sur lesquels
17:46on doit s'adapter très vite
17:47et on apprend en marchant
17:49sur ces sujets-là.
17:49Sur la question
17:50de la souveraineté
17:51et notamment de nos données,
17:53je pense que d'ici
17:54la fin de l'année,
17:55début d'année,
17:55on aura effectivement
17:56réglé le problème
17:57de la souveraineté
17:58de nos données santé
18:00en France
18:01qui est une vraie opération
18:04de continuité
18:05dans tous les acteurs
18:06qui va permettre aussi
18:07de pouvoir développer
18:08la recherche,
18:09de pouvoir utiliser
18:10ces données.
18:11Donc ça je pense
18:11que ça a un impact
18:12sur notre recherche important.
18:14Après sur le financement
18:15pour reprendre votre question,
18:16je crois qu'il faut quand même
18:18qu'on voit les gains déficients.
18:19Je crois qu'on va pouvoir aussi
18:20grâce à l'IA
18:21être prédictif
18:22dans notre santé.
18:24On va savoir que par exemple
18:25si on arrive à numériser
18:26toutes nos lames
18:27d'anatomopathologie,
18:28les biopsies,
18:29avec la biopsie liquide
18:30demain,
18:30à pouvoir passer
18:32cette phase-là,
18:33on pourra définir
18:34et piloter
18:35finotement notre stratégie.
18:37C'est bien ce qu'on nous reproche,
18:37c'est qu'il n'y a pas
18:38de pilotage.
18:39Eh bien cette stratégie
18:40pour l'IA permettra
18:41de cibler quel patient
18:42du fait de son atomopathologie
18:44peut récidiver ou pas.
18:46Donc ça peut être
18:46de concentrer les moyens
18:47sur cette population
18:49qui va récidiver
18:50et qui va donc entraîner
18:51des moyens
18:52avec un certain héroïde,
18:53des dépenses de soins,
18:55des indemnités journalières,
18:56un défaut de productivité
18:58versus un patient
18:59qui lui n'a pas ces critères-là,
19:00ne va donc pas récidiver.
19:01Ça ne veut pas dire
19:02qu'il ne va pas être
19:03au cœur de nos préoccupations
19:04et de notre soin,
19:05mais il n'aura pas besoin
19:06du même niveau de surveillance.
19:08Je crois surtout
19:09que c'est des innovations
19:11technologiques majeures,
19:12mais si on rate aussi
19:13l'étape de l'innovation d'usage,
19:16on ne pourra jamais
19:17appliquer correctement
19:18cette innovation technologique
19:20parce que tous les grands sauts,
19:23il faut quand même
19:24qu'on ait un accompagnement
19:25et de nos professionnels
19:26de santé de l'usage.
19:28Et moi, je n'ai pas vraiment
19:28de complexe vis-à-vis
19:30de la Chine et les Etats-Unis.
19:32Oui, on ne va pas refaire
19:33rentrer le dentifrice dans le tube,
19:35on n'est pas les Etats-Unis
19:36et la Chine.
19:36Mais en fonction des besoins
19:38que nous en avons
19:39et par rapport à la dynamique
19:41de financement
19:41que nous pourrions y mettre
19:43à l'échelon européen,
19:45il faut livrer la bataille
19:46à mon avis.
19:47Sébastien Proto, vous voulez ?
19:50Oui, puisque vous parliez
19:52du financement,
19:53des coûts,
19:53juste deux, trois remarques.
19:55Bon, l'IA, ça coûte.
19:57On en a parlé tout à l'heure,
19:58je vous avais des chiffres
19:59qui ont été indiqués.
20:01il y a quand même
20:03cette question
20:04de la dette technique.
20:05La dette technique,
20:06c'est en gros
20:07tout ce qui doit être
20:10modernisé,
20:10le mot est un peu faible,
20:12dans les systèmes informatiques,
20:15notamment des hôpitaux,
20:18les serveurs,
20:19les PC,
20:21l'infra,
20:21enfin bon,
20:22la dette technique,
20:23elle est très importante
20:24dans le public,
20:25dans le privé.
20:26Moi, je regarde,
20:26c'est quelque chose
20:27que je regarde en permanence
20:29dans notre groupe.
20:30Et alors, évidemment,
20:31cette dette technique,
20:31elle ne cesse d'augmenter
20:32parce que les hôpitaux publics,
20:34ils ont 3 milliards et demi
20:35de déficit,
20:36les établissements privés,
20:37il y en a un sur deux
20:38qui est en perte.
20:39Et donc, cette dette technique
20:39n'est pas très connue, ça,
20:40on le sait.
20:41Mais alors, pourquoi c'est un problème ?
20:42Parce qu'il y a toujours
20:43cette déconnexion
20:44entre parler de souveraineté,
20:46encadrer par des normes,
20:48réglementer l'accès
20:49à la donnée, etc.
20:50Et puis,
20:51ne pas traiter ce sujet.
20:53Et puis,
20:53vous plaquez dessus
20:54les derniers modèles
20:55dans ce OPIC, etc.
20:57Et là, vous avez, évidemment,
20:58la fragilité du risque de cyber
21:01qui explose.
21:02Et je le dis parce que
21:03la DGFIP,
21:06qui a un accident,
21:07une brèche majeure
21:10de sécurité,
21:12avec une fuite de données
21:13considérable,
21:14la première réponse,
21:15c'est oui,
21:15mais on a une dette technique.
21:17Et donc,
21:18il faut nous donner l'argent
21:19pour régler la dette technique.
21:21Dans le système hospitalier français,
21:22la dette technique,
21:23elle est considérable.
21:24Et donc,
21:25on ne s'en sortira pas
21:26en matière de protection
21:27des données,
21:28uniquement par de la réglementation
21:29et des normes.
21:30Ça, c'est la première chose
21:31que je voulais indiquer.
21:33Deuxièmement,
21:33comme je disais tout à l'heure,
21:34je pense qu'il n'y a pas de magie.
21:36L'IA, ça va coûter.
21:38Moins, en fait,
21:39d'ailleurs,
21:40sur l'IA elle-même
21:40que sur l'accompagnement
21:41au changement,
21:42enfin,
21:42un certain nombre
21:43de compléments.
21:46si on veut dépenser là,
21:49il faut faire différemment ailleurs.
21:51Donc,
21:51je dis,
21:53ça doit être une source
21:53d'efficience et d'économie.
21:55Ça doit être aussi
21:57l'occasion
21:58de repenser des choses.
21:59Je pense que,
21:59par exemple,
22:00aujourd'hui,
22:00en matière de santé,
22:01dans les hôpitaux,
22:02on met trop d'argent
22:03dans l'immobilier.
22:04Beaucoup trop d'argent
22:05dans l'immobilier.
22:06Qu'est-ce que vous direz ?
22:07On construit un peu,
22:09non pas sur l'hôpital
22:11dans 10 ans,
22:12mais l'hôpital
22:13tel qu'il fonctionne aujourd'hui.
22:15Mais cet argent-là,
22:17à un moment donné,
22:18on ne pourra pas tout faire.
22:19On ne peut déjà pas tout faire.
22:21Et donc,
22:21il va falloir,
22:21ça incite à faire des choix
22:23toujours plus sélectifs
22:25sur les priorités.
22:27Mais ça me semble indispensable.
22:28Et troisièmement,
22:29sur le modèle de financement,
22:32quand on aura des actes
22:33vraiment avec un supplément
22:35ou un input,
22:35IA reconnu,
22:38très prononcé,
22:40là,
22:40c'est le système administratif,
22:42la régulation
22:43qui est mis au défi
22:44d'accompagner l'IA.
22:46Alors,
22:46moi,
22:47ça me perturbe un petit peu
22:48parce qu'avant l'IA,
22:49il y a eu,
22:50par exemple,
22:50la robotique.
22:51Et sur la robotique,
22:52on n'a toujours pas
22:54de modèle de financement.
22:55Chirurgie robotique
22:56commence à avoir
22:57vraiment des bénéfices patients.
22:59Vous faites un acte
23:00avec un robot chirurgical
23:01ou un acte sans robot,
23:02on recevait le même financement.
23:04Mais ce n'est pas du tout
23:04le même coût.
23:06Et donc,
23:06on est en retard là-dessus.
23:08Est-ce que c'est la même efficacité ou pas ?
23:09Comment ?
23:10Est-ce que c'est la même efficacité ?
23:11Alors,
23:12c'est une grande question
23:14avec beaucoup de programmes
23:14de recherche clinique en cours.
23:15Je ne vais pas rentrer dans les détails.
23:17Mon sentiment,
23:18c'est que c'est une efficacité
23:19d'abord pour le professionnel de santé
23:21sur sa qualité opératoire.
23:23Et deuxièmement,
23:24il y a des bénéfices patients
23:25qui commencent à être démontrés.
23:26Ce que je veux juste dire,
23:27c'est que pour répondre
23:28à votre question,
23:29il faut intégrer le fait
23:30que la régulation
23:32doit suivre le temps
23:33de l'innovation.
23:34Et quand il y a trop d'écarts,
23:36vous prenez du retard.
23:37Et donc,
23:38derrière la question
23:38de saura-t-on financer
23:40et accompagner les hôpitaux
23:41dans l'IA,
23:42oui,
23:43si la régulation s'adapte
23:44un peu plus vite
23:45qu'elle le fait traditionnellement.
23:48parlons un peu de régulation.
23:50Juste une dernière question
23:51sur la question de l'efficacité.
23:54Agnès Muzin,
23:55vous parliez de la question
23:56des actes inutiles.
24:02L'IA est dans des...
24:04qui sont, d'après vous,
24:06nombreux.
24:07Vous parlez quoi ?
24:07De 20% ?
24:08C'est ça ?
24:0830% ?
24:11L'OCDE dit 20%.
24:12L'OMS,
24:13l'INSEE,
24:14plutôt 30% aujourd'hui.
24:1530% des actes
24:16sont inutiles en France.
24:18C'est à peu près vrai
24:19dans tous les pays.
24:20En réalité,
24:20c'est lié aussi
24:21à la difficulté
24:22de l'exercice de la médecine.
24:23Quand on prescrit un bilan,
24:25on a tendance
24:25à prescrire large.
24:27Quand on prescrit
24:28des médicaments,
24:29on en prescrit beaucoup
24:30dans notre pays.
24:31Quand on prescrit
24:33des coloscopies
24:34pour détecter
24:34un cancer colorectal,
24:36alors que la recommandation,
24:37ce serait de faire
24:38un test immunologique
24:39dans les selles,
24:40c'est un acte qui coûte
24:41et de l'argent qu'on met là,
24:42on ne le met pas ailleurs.
24:43Il y a des millions
24:44d'actes inutiles.
24:46Mais ça,
24:46l'IA sert vraiment
24:47à réduire ça ou pas ?
24:49Je suis absolument persuadée
24:50Ou se mettez le courage
24:51de dire à quelqu'un
24:51qu'on ne va pas le faire ?
24:52Je suis persuadée
24:53que l'IA,
24:55devant des symptômes,
24:56dira un médecin
24:57voilà les diagnostics différentiels,
25:00voilà le bilan biologique
25:01que vous devez prescrire
25:02et que plein d'actes du bilan
25:06que certains médecins
25:07prescrivent aujourd'hui
25:07n'aura plus lieu d'être.
25:09Et donc,
25:10je suis absolument certaine
25:11que ça va améliorer
25:14la pertinence des soins
25:15mais aussi la qualité.
25:16On ira plus vite
25:17au diagnostic,
25:18on se trompera moins,
25:19les prescriptions
25:20seront plus justes.
25:21Je suis vraiment
25:23très optimiste
25:24sur la qualité
25:25de la pratique médicale
25:27grâce à l'IA.
25:27Ça va être un outil,
25:28ça l'est déjà d'ailleurs,
25:29beaucoup de médecins
25:30sont là.
25:30Mais c'est là où je dis
25:31qu'il y a beaucoup
25:32de shadow IT
25:33dans nos hôpitaux.
25:34C'est-à-dire qu'en réalité,
25:35tout le monde utilise l'IA
25:36tous les jours
25:37parce que ce besoin
25:38est évident.
25:39En douce.
25:40Qui que ce soit
25:41à tester l'IA aujourd'hui
25:43ne peut plus s'en passer.
25:44Vous testez une fois Claude
25:45pour rédiger quelque chose,
25:47c'est fini.
25:47Vous savez que vous ne pourrez
25:48plus jamais vous en passer
25:50d'une assistance pareille.
25:51Vous-même, vous utilisez Claude ?
25:53Oui, bien sûr.
25:54Mais c'est parce que je sais
25:56exactement ce que j'attends
25:58de Claude
25:58que je pense que j'utilise
25:59bien Claude.
26:00Le problème, c'est que
26:00quand on va à la pêche
26:02aux informations
26:03et qu'on n'est pas bien formé,
26:04c'est dangereux.
26:06Et ça va être le problème,
26:07d'ailleurs,
26:07je dérive un peu,
26:08mais de la formation
26:10de nos médecins.
26:11C'est-à-dire que
26:12pour bien utiliser une IA,
26:13il faut être bien formé.
26:14Il faut savoir exactement
26:15ce qu'on cherche,
26:17les risques, etc.
26:18Comment on va former
26:19les jeunes à l'ère de l'IA ?
26:20C'est un vrai défi
26:21pour les doyens de médecine.
26:23C'est un vrai défi
26:24pour l'avenir.
26:25Je me suis écartée du sujet.
26:26En tous les cas,
26:27sur l'argent qui manque.
26:30Et c'est vrai,
26:30la dette technique
26:31est considérable.
26:32Et je ne vous dis pas
26:33à quel point
26:34un certain nombre
26:35de décisions
26:35ont été prises
26:37dans la gestion
26:39de l'IT
26:40dans nos hôpitaux
26:41à un moment donné
26:42sans pilotage.
26:44Il a fallu
26:45repiloter,
26:46rien de serré
26:47pour essayer
26:47d'avoir un peu d'efficience.
26:48Et aujourd'hui,
26:51il y a des marges
26:52de manœuvre
26:52qui vont nous être apportées
26:54par l'IA.
26:54Et j'en suis persuadée.
26:56Je dis là,
26:57attention,
26:58parce que pour l'instant,
26:59ces outils-là,
26:59ils commencent à être développés
27:00dans certains hôpitaux.
27:01Mais il n'y a pas
27:02de mutualisation.
27:03Il y a des hôpitaux publics
27:04aujourd'hui
27:04qui développent des IA
27:05sur la base
27:06des publications renommées
27:08pour aider leurs médecins
27:10et répondre à ce besoin
27:11et éviter justement
27:12que des données patients
27:14partent sur chaque GPT.
27:16Mais chacun fait
27:17dans son coin.
27:18Et c'est là
27:19où, pour répondre
27:19à votre question,
27:21il y a une urgence
27:23de pilotage
27:23de l'IA
27:24dans les hôpitaux.
27:25Il faut répondre
27:26à ce besoin
27:26pour éviter...
27:28Il ne faut pas blâmer
27:29les gens
27:29qui s'en servent
27:30aujourd'hui.
27:30Ils n'ont pas de choix
27:31que d'aller sur Open...
27:34IAE.
27:35Mais...
27:36Mais...
27:38Voilà.
27:38Il y a urgence.
27:39Il y a urgence
27:39et un pilotage centralisé.
27:42Jérôme Berger
27:42et Éric Knodeur.
27:43Je me permets juste
27:44de rebondir
27:45parce qu'en fait,
27:45on touche d'ailleurs
27:46à trois sujets
27:47qui sont le financement
27:50et puis la réglementation,
27:51je veux dire,
27:52la régulation de l'IA
27:53au sein des hôpitaux.
27:53Et en fait,
27:54la bonne nouvelle,
27:55c'est qu'il y a des solutions.
27:57Nous, chez Orange,
27:57par exemple,
27:58on a une solution
27:58qui s'appelle
27:58Live Intelligence
27:59qu'on a commencé
28:00par appliquer pour nous
28:02qui est justement
28:03une couche
28:03qui nous permet
28:04d'exposer
28:05pour nos salariés
28:07les modèles,
28:08y compris les modèles frontières.
28:09Donc on peut choisir
28:09d'ailleurs,
28:10on peut choisir Claude,
28:10on peut choisir Ministrant,
28:11on peut choisir ce qu'on veut,
28:12de manière à ce qu'on sécurise
28:15là où vont les données
28:16qui sont mises
28:17quand on fait travailler ces IA.
28:19Moi, je suis directeur
28:19de la stratégie du groupe.
28:21Je n'ai pas le droit
28:21de faire effectivement
28:22passer sur ChatGPT
28:23des présentations confidentielles.
28:25En revanche,
28:26je peux faire passer
28:27sur ChatGPT
28:28des présentations confidentielles
28:29dès lors qu'elles sont
28:30à l'intérieur
28:30de la plateforme
28:31Live Intelligence
28:32qu'on sécurise.
28:33Et c'est quelque chose
28:34qu'on commercialise maintenant.
28:36Nous, on a maintenant
28:3690 000 utilisateurs quotidiens
28:38chez Orange.
28:38C'est vraiment massif.
28:40Et on le commercialise
28:41et on commence à avoir ça
28:42dans les hôpitaux.
28:43C'est des entreprises ?
28:44C'est des hôpitaux ?
28:44C'est des hôpitaux.
28:46On a, par exemple,
28:46le CHU de Reims
28:47qui a pris 15 000 licences
28:48récemment.
28:49Je ne sais pas s'ils sont là.
28:50Donc, il y a des solutions
28:51pour faire ça.
28:51Oui, un CHU,
28:52ça va très vite.
28:52Voilà.
28:53Et pour réguler
28:56le Shadow AI
28:56et l'utilisation de tout ça.
28:59Je rebondis.
29:00C'est fabuleux.
29:01Vous avez un outil
29:01qui sécurise,
29:02effectivement,
29:02et évite que les données
29:03aillent se promener
29:04sur le web.
29:05Mais ce qui me rend folle,
29:09en fait,
29:09c'est que les hôpitaux
29:11de Reims s'équipent.
29:12Tel hôpital va choisir
29:13un autre dispositif.
29:15Personne n'évalue
29:16la qualité relative
29:17de votre dispositif
29:17par rapport à celui
29:18fait maison.
29:19Je ne sais pas quoi.
29:20C'est là où je dis
29:21qu'en termes d'efficience
29:22de l'action publique,
29:24je suis sûre que
29:25dans un groupe
29:25comme Elsan,
29:26vous avez une vision
29:28d'un pilotage
29:29un peu centralisé
29:29pour vos cliniques.
29:30que je ne peux pas imaginer
29:31que chacune
29:31fasse dans son coin.
29:33Il va répondre à ça.
29:34Et donc là,
29:36comment les hôpitaux
29:37publics n'ont pas
29:38une démarche stratégique ?
29:41Alors,
29:41tu l'avais lancé,
29:42Yannick,
29:42tu l'avais lancé
29:43une stratégie.
29:44C'est-à-dire que
29:45je pense que,
29:46quand même,
29:47globalement,
29:47pour se dire ces choses-là
29:48aussi,
29:49on ne va pas revenir
29:49sur les sujets
29:50plus politiciens,
29:51mais je pense que
29:52l'absence de continuité
29:53d'action politique
29:54et publique
29:55ne favorise pas
29:56que les acteurs
29:57aient une ligne
29:58de conduite.
29:59Donc,
30:00effectivement,
30:00tel ministre,
30:01et d'ailleurs,
30:02Agnès le dit souvent,
30:04tel ministre
30:04est dans sa feuille de route,
30:05oublie celle
30:06qui a été faite
30:08par son prédécesseur.
30:09Donc,
30:10moi,
30:10j'ai lancé...
30:10C'est quoi l'espérance
30:11de vie d'un ministre
30:11de la Santé aujourd'hui ?
30:13C'est celle
30:14qu'on lui laisse
30:16et ou qu'il choisit.
30:17Moi,
30:17je suis assez à l'aise
30:18puisque moi,
30:19j'ai choisi d'en partir.
30:20Donc,
30:21chacun voit
30:22comment il veut conduire.
30:23Ça dépend de...
30:24Ce n'est pas tout
30:24d'être ministre,
30:25c'est pour y faire quoi ?
30:26Et quand à un moment,
30:27on pense qu'on ne peut pas
30:28faire la feuille de route
30:29ce pour quoi on s'est engagé,
30:30il vaut mieux,
30:31à mon avis,
30:31reprendre des fonctions hospitalières
30:33ou être au Parlement.
30:34Parfois,
30:34on est plus efficace.
30:35Je ferme la parenthèse.
30:37Ce que je veux dire par là,
30:38c'est que la feuille de route
30:38que j'ai lancée,
30:40effectivement,
30:40je rejoins moi,
30:41Agnès,
30:41dans le sens de l'idée
30:42que naturellement,
30:43ce n'est pas parce que
30:44l'hôpital public
30:45doit définir une stratégie
30:47et c'est vrai
30:47qu'un groupe public
30:48le fera naturellement.
30:50Cependant,
30:50je dis aussi
30:51qu'il ne faut pas non plus
30:52brider les initiatives.
30:53J'en prendrai quelques-unes.
30:54Par exemple,
30:55le CHU de Montpellier,
30:56il y a quand même
30:57des endroits
30:57où les gens sont partis
30:59beaucoup plus vite,
30:59beaucoup plus fort.
31:01Moi,
31:01en région Verde-Rhône-Alpes,
31:02j'avais mis les premières
31:02formations sur l'IA.
31:04Très bien,
31:05je ne savais pas,
31:06pardon.
31:07Mais effectivement,
31:08il y a quand même
31:08des endroits
31:09où ils ont travaillé le sujet,
31:10ils ont envie d'avancer.
31:12Donc,
31:12je pense que le point d'équilibre
31:13est difficile.
31:14C'est-à-dire qu'il ne faut pas
31:15non plus que cette régulation
31:17freine les envies,
31:19les ambitions.
31:20Parce que tout à l'heure,
31:20vous le disiez bien,
31:21nos internes,
31:22il y a bien longtemps
31:22qu'ils ont utilisé
31:24leur smartphone
31:24pour pouvoir communiquer,
31:26s'envoyer des données
31:27en toute insécurité,
31:28en toute inconfidentialité.
31:31Donc,
31:31c'était à nous aussi
31:32de pouvoir apporter un outil.
31:34Mais si cet outil,
31:35le temps qu'on le contrôle,
31:36qu'on le régule,
31:37qu'on le norme,
31:38qu'il arrive 5 ans
31:39après la bataille,
31:40il ne faut pas s'étonner
31:41qu'il y aura
31:41des usages divers.
31:43Donc,
31:43c'est un chemin étroit
31:45entre effectivement
31:46une éthique,
31:47un contrôle,
31:48une évaluation,
31:49mais ne pas brider
31:50l'innovation
31:50parce que l'usage
31:52va aller très vite
31:52et on va courir
31:53après la machine.
31:55Sébastien Proutot,
31:55est-ce que dans le privé,
31:56chez vous,
31:57on a plus de latitude
31:58pour faire ce jour
31:58que dans le public
31:59ou c'est l'inverse
31:59ou c'est pareil ?
32:02Non,
32:03il y a des contraintes
32:05qui sont identiques,
32:06mais il y a aussi
32:06un mode de fonctionnement
32:07qui est un peu différent.
32:08Alors d'abord,
32:09il y a un truc
32:10qui est toujours
32:10très important pour moi,
32:11c'est que nous,
32:11on est un groupe privé,
32:13mais on a un seul client
32:15qui représente 92%
32:16de nos revenus,
32:17c'est l'assurance maladie.
32:18Et la beauté,
32:19c'est que c'est ce client
32:20qui fixe les prix.
32:21Il n'y a pas beaucoup
32:22d'entreprises
32:22qui n'ont qu'un client
32:24et c'est lui
32:24qui fixe les prix.
32:25Donc je le dis
32:25parce qu'évidemment,
32:26ça a des conséquences
32:27sur le modèle économique.
32:29Deuxièmement,
32:29la question qui est posée,
32:30elle est très importante,
32:31c'est jusqu'où on va
32:32dans l'encadrement
32:33et qu'est-ce qu'on veut
32:34encadrer.
32:35Je ne suis pas un adepte
32:37de la centralisation
32:41trop importante
32:43parce qu'on s'y noie,
32:44on s'y perd
32:45et ça devient évidemment
32:46la bureaucratie.
32:47Mais comme le dit Agnès Buzyn,
32:49il faut quand même
32:49un minimum de cadre
32:51et de règles.
32:52Alors qu'est-ce qu'on fait,
32:52nous, chez Elsanne ?
32:53Je vais distinguer les sujets.
32:55D'abord, oui,
32:56il y a un certain foisonnement
32:57parce que les professionnels
32:58de santé, les médecins,
32:59ce sont des libéraux,
33:00donc eux-mêmes,
33:01ils développent leurs initiatives.
33:04On a une direction
33:05de l'innovation
33:07qui développe des partenariats
33:08et les partenariats
33:09peuvent ne pas avoir
33:11la même portée,
33:11le même intérêt
33:12d'un établissement à l'autre
33:13parce qu'il y a
33:14des réalités territoriales
33:15qui peuvent être différentes.
33:17Donc on laisse quand même
33:19cette liberté-là,
33:20mais on l'encadre.
33:22Alors ça veut dire quoi encadrer ?
33:23Je vais prendre quelques exemples.
33:25D'abord,
33:26moi je considère
33:27que quand on fait un pilote
33:28et que le but
33:30c'est quand même
33:30de passer à l'échelle
33:31si ça marche.
33:32Mais si ça ne marche pas
33:33ou si ça n'est pas utilisé,
33:35ce qui est souvent le cas aussi,
33:36on arrête.
33:37Et donc il faut quand même
33:38faire le nettoyage régulier
33:40de ce qu'on fait
33:41parce que sinon
33:42on vous laissez pulluler
33:42plein de choses
33:43qui vous coûtent beaucoup d'argent
33:44mais que personne n'utilise.
33:46Ça c'est le premier point.
33:47Deuxième point,
33:48on donne des outils
33:50mais pas avec la même puissance
33:52pour tout le monde.
33:53On a donné copilote
33:54par exemple
33:54à nos salariés
33:59mais tout le monde
34:00n'a pas,
34:01dans un cadre
34:01comme tu le disais
34:02très normé,
34:04encadré,
34:04c'est un peu notre copilote
34:06à nous
34:06même si c'est l'outil,
34:08mais tout le monde
34:09n'a pas la même puissance
34:09de copilote.
34:11On a vraiment distingué
34:13et on y va petit à petit.
34:15Donc concrètement,
34:16tous les salariés
34:17du groupe Elsan
34:18qui ont copilote,
34:19ça ne coûte pas
34:2020 euros par mois.
34:22Ça dépend.
34:23Parce qu'en réalité,
34:24beaucoup n'ont pas besoin
34:26de la formule
34:27qui coûte 20 euros par mois.
34:29Certains, oui.
34:29Et donc ce qu'il faut comprendre,
34:30c'est qui a besoin de quoi.
34:32Et là,
34:32on est encore
34:32dans cet exercice-là.
34:35Troisièmement,
34:35qu'est-ce que ça veut dire
34:36encadré ?
34:37Moi, je vous livre
34:38une anecdote personnelle.
34:40Il y a quelques mois,
34:41je pars avec
34:41d'autres dirigeants
34:42d'entreprise
34:44à San Francisco.
34:45Justement,
34:46voir Open Air Eye
34:47un saut pic,
34:48Perplexity.
34:48Quand je suis parti,
34:49j'étais assez sceptique
34:50sur le potentiel
34:52de l'IA
34:52sur un certain nombre
34:53de sujets.
34:54Bon,
34:55je dois avouer
34:56en toute humilité
34:57que j'étais assez
34:59estomaqué,
35:01un peu inquiet
35:02de ce que j'ai vu,
35:03notamment chez Open Air Eye,
35:05où on m'a clairement dit
35:06que le but,
35:07c'était
35:08évacué
35:08l'humain
35:10de la plupart
35:11des sujets,
35:12mais quand même
35:13le potentiel
35:13était incroyable.
35:15Et notamment,
35:15j'ai souvenir
35:16d'une présentation
35:17où,
35:18en gros,
35:19ce qu'on m'a montré
35:19comme outil
35:20me permettait
35:20de remplacer
35:21globalement
35:21toute ma direction financière.
35:24Et je suis sorti de là,
35:25mais je ne plaisante pas du tout,
35:26et je suis sorti de là
35:27en me disant,
35:27mais au fond,
35:29pour un groupe
35:30comme celui que je dirige,
35:31qui est dans un environnement
35:32de régulation
35:33et de financement
35:34compliqué,
35:35par où je commence ?
35:38Et par où je commence
35:39vraiment le déploiement
35:40d'une stratégie IA ?
35:42Là,
35:42pas du tout sur le bénéfice praticien
35:43ou le bénéfice patient,
35:45mais l'efficience
35:46qu'on évoquait tout à l'heure.
35:48Et là,
35:48ce n'est pas du tout la même chose.
35:50Là,
35:50il faut être prescriptif,
35:51il faut fixer un cadre,
35:52il faut fixer des attendus,
35:54il faut fixer des exigences
35:56d'efficience,
35:57parce que sinon,
35:58cette partie-là,
36:00elle disparaîtra
36:00corps et bien.
36:01c'est la partie qui coûte
36:03de deux points de vue.
36:05Ça coûte parce que
36:06pour faire les transformations
36:07que permettent l'IA,
36:10ben nécessairement,
36:11vous allez avoir
36:11des enjeux sociaux
36:13et financiers.
36:14Et deuxièmement,
36:15elle coûte
36:16parce qu'il faut convaincre
36:17les équipes
36:18de transformer complètement,
36:20assez drastiquement,
36:22des processus.
36:23Je vous donne un exemple.
36:25le parcours d'un patient
36:27quand il rentrera
36:29à l'hôpital,
36:30quand il rentrera à l'hôpital
36:32dans les années qui viennent,
36:33avec l'IA,
36:34ça ne sera plus celui
36:35qu'on connaît aujourd'hui.
36:37Ce ne sera pas la même chose
36:38quand il arrivera,
36:39mais en fait,
36:40toutes ces formalités administratives,
36:41elles ont déjà été largement faites
36:43à distance,
36:44il aura eu assez peu
36:45d'interactions humaines,
36:47à l'exception,
36:48bien sûr,
36:48de les interactions médicales
36:50et avec les professionnels
36:50paramédicaux.
36:52Mais ça veut dire
36:52que beaucoup de personnes
36:53qui aujourd'hui
36:54sont sur des fonctions
36:54assez administratives,
36:56demain,
36:58seront dans des processus
36:59qui auront été
36:59complètement repensés.
37:01C'est aussi ça l'IA.
37:02Et c'est un bénéfice
37:03qu'il ne faut pas avoir peur
37:04d'adresser
37:04parce que,
37:05comme je le disais tout à l'heure,
37:06on est dans cet océan
37:08de contraintes
37:08et ça permet
37:09de trouver des solutions.
37:10Alors,
37:10je voudrais prononcer
37:11un gros mot
37:12qui a été prononcé ici,
37:13c'est le mot de régulation.
37:15Et la vraie question,
37:17c'est d'abord,
37:18à quelle échelle
37:18elle doit avoir lieu
37:19à la régulation française,
37:21européenne,
37:23et qui doit la faire
37:24et est-on bien armé ?
37:25C'est-à-dire,
37:25a-t-on les décideurs,
37:27je ne sais pas si
37:27dans l'administration
37:28ou en politique,
37:29au niveau français et européen,
37:31je ne veux pas parler
37:32de l'Assemblée nationale
37:33parce qu'en ce moment,
37:33c'est un peu compliqué,
37:36et qui sont assez informés,
37:40assez au fait des choses
37:41pour réguler
37:41de manière intelligente
37:43ce sujet-là
37:44qui n'est pas
37:44complètement simple.
37:46Agnès Buzyn
37:47qui n'a pas envie
37:47de répondre.
37:49J'adore jouer
37:50le rôle
37:51de la régulation.
37:52Je peux rappeler
37:52que je suis médecin
37:53quand même,
37:54donc je ne suis pas
37:55qu'une régulatrice.
37:59D'abord,
38:00moi,
38:01je trouve que l'Europe
38:02avance vite
38:03sur ce sujet-là.
38:04Elle a fait
38:06l'Europe
38:06sur les données
38:08de santé.
38:09C'est un acte,
38:10c'est un règlement
38:11européen
38:11qui s'applique
38:12en 2028
38:13qui est intéressant.
38:14Je trouve qu'ils adressent
38:15un certain nombre
38:16de sujets.
38:17Le problème,
38:18c'est que ça va
38:18tellement vite
38:19qu'il faut en permanence
38:20remettre sur l'établi
38:22les questions
38:22qui se posent,
38:23éthique, déontologique,
38:24pratique, technique.
38:25C'est très compliqué.
38:27Mais je trouve
38:27que l'Europe
38:28quand même s'engage
38:29dans une régulation
38:30intelligente.
38:31Elle vous paraît
38:31intelligente,
38:32la régulation.
38:33Elle me paraît
38:33intelligente aujourd'hui.
38:35En tous les cas,
38:38pas que castratrice,
38:40en fait,
38:40pas que bloquante.
38:43avec l'idée
38:44quand même
38:44qu'on ne va pas
38:45pouvoir faire sans.
38:47Il y a quand même
38:47l'idée
38:48que notre avenir
38:50en dépend.
38:52De ce que j'ai lu,
38:53je trouve ça
38:54plutôt malin.
38:57Il y a quand même
38:57quelque chose
38:58qui pose problème.
39:00Vous l'avez dit,
39:01monsieur,
39:02c'est quand même
39:03l'enjeu
39:03de la transparence.
39:04Quand même,
39:06derrière,
39:07il y a
39:07chez ces grands
39:09industriels
39:11une opacité
39:12sur les algorithmes
39:13qui fait peur.
39:14Et quand on est
39:15scientifique,
39:16on sait que la méthode
39:17scientifique pour montrer
39:18la robustesse
39:19d'un raisonnement,
39:20pour montrer qu'un résultat
39:21est valide,
39:22elle passe sur
39:23le fait de rendre
39:24lisible à tous
39:25la façon dont on a
39:26raisonné la méthode.
39:28Là,
39:29la méthode,
39:29vous ne l'avez pas.
39:31Et ça,
39:32c'est un peu
39:33angoissant quand même.
39:34C'est formidable
39:35comme sujet
39:36parce que ça rejoint
39:37un sujet qui est
39:37d'actualité
39:38qui est dans le journal
39:38cette semaine.
39:38D'ailleurs,
39:39c'est la grande
39:40protestation
39:40des mathématiciens
39:42sur les problèmes
39:44mathématiques
39:44qui ont été
39:44résolus par des IA,
39:46mais sans expliquer
39:46la chaîne
39:47de réflexion.
39:49Je ne sais plus
39:49comment on traduit
39:50les chain of souls.
39:52Et ça perturbe
39:53tout le monde.
39:54C'est-à-dire
39:54qu'il y a la question
39:55dans les régulateurs,
39:57les gens qui réfléchissent
39:58à la régulation,
39:59ils disent
40:00mais oui,
40:00mais il faut,
40:01il y a ce mécanisme
40:03qui est utile
40:04celui de la confession.
40:05C'est-à-dire qu'on confesse
40:06l'IA,
40:06on lui dit
40:07mais t'as fait comment ?
40:08À vous.
40:10À compter qu'elles disent
40:11la vérité.
40:12D'ailleurs,
40:12ce qui n'est pas toujours
40:12le cas,
40:13on l'a vu,
40:14parfois les IA montent.
40:17Et c'est un vrai
40:19énorme sujet.
40:20C'est-à-dire que
40:20quand on a...
40:20Est-ce qu'on est capable
40:21d'expliquer comment
40:22on est arrivé à un résultat ?
40:23Et ça,
40:24ce n'est pas facile.
40:25Et en science,
40:26c'est important.
40:26La démonstration.
40:29Ça ne marche pas ?
40:32La démonstration
40:32pour un modèle mathématique
40:33qui est bien entendu fondamental.
40:35La démonstration est même
40:36plus importante
40:36que le résultat final.
40:38Après,
40:39sur le sujet
40:39de l'Europe,
40:42le grand risque
40:43pour la France,
40:43et on est très spécialiste
40:45là-dessus,
40:45ça serait de transposer
40:47des réglementations
40:48et que cette réglementation,
40:50voyons comment
40:51elle va s'établir,
40:52mais le principe
40:54bien français,
40:55c'est de se dire
40:56on va encore faire mieux
40:57nous et on va encore
40:58plus transposer,
41:00plus réguler.
41:01Donc attention,
41:02parce qu'il y aura
41:02une perte de compétitivité
41:04et d'attractivité
41:05tant pour nos chercheurs
41:06que pour nos industriels
41:08et au final,
41:08c'est le patient
41:09qui sera le perdant
41:10et le soignant
41:11qui ne comprendra pas
41:12vraiment exactement
41:12ce qui se passe.
41:14Et le deuxième sujet,
41:14je pense que ça mène
41:15à un autre sujet,
41:16c'est qu'il va falloir
41:17se poser le sujet
41:18de la désinformation
41:20qui est un véritable sujet.
41:21La lutte contre la désinformation
41:23est quelque chose
41:24de phénoménal.
41:26Moi,
41:27j'ai commandité
41:27une mission là-dessus.
41:29Il va falloir maintenant
41:30que l'on puisse le traduire
41:31dans des actes
41:32pour pouvoir le mesurer,
41:33pour pouvoir le combattre,
41:35pour pouvoir protéger
41:36ces lanceurs d'alerte
41:37sur la désinformation.
41:38Et ça,
41:39c'est quelque chose
41:40qu'il va falloir bien
41:41accélérer la transparence,
41:43préciser les sources,
41:45les citer.
41:45Et puis, pardon,
41:46le fondamental quand même
41:47qu'on oublie un peu,
41:48c'est de développer
41:49l'esprit critique.
41:51Alors,
41:51notamment pour nous tous,
41:53mais surtout de nos jeunes,
41:54et je pense notamment
41:55à nos étudiants,
41:56où quand même,
41:58je ne sais plus
41:58quel est le pourcentage
41:59assez ahurissant
42:00de nos jeunes
42:01qui pensent que la terre
42:02est plate
42:02et que personne
42:03ne vérifie ses sources,
42:04ça,
42:05combiné avec de l'IA,
42:06on peut s'attendre
42:08à des choses dramatiques
42:09quand même.
42:10Jean-Berger.
42:11Peut-être pour rebondir,
42:13je vous rejoins complètement
42:14sur le fait que l'IA
42:15de toute façon
42:16est régulée,
42:16sera régulée.
42:17Et ceux qui prétendent
42:19l'inverse,
42:19je pense le font
42:20en toute hypocrisie.
42:21Donc,
42:21je pense qu'il va falloir
42:22se poser quand même
42:23des questions de fond
42:24et que,
42:24quels que soient les gouvernements,
42:26les zones géographiques,
42:27etc.,
42:27tout ça finira par arriver.
42:29Quand on commence,
42:30c'est un autre sujet,
42:31mais ça finira par arriver.
42:32En revanche,
42:33pour la question
42:33que vous posiez
42:34sur la réglementation,
42:35le frein à l'innovation
42:36plus large,
42:38pardon,
42:38moi,
42:39vu l'extérieur
42:40et côté business,
42:41entre guillemets,
42:43un,
42:43il faut une maille européenne.
42:45Il ne faut même pas
42:46se poser la question.
42:47La question de la régulation française,
42:49je suis désolé,
42:50c'est une question
42:51en soi absurde.
42:52Un.
42:53Deux,
42:54quand vous regardez
42:55ce qui se passe
42:56où, quand même,
42:56vous avez beaucoup
42:57d'essais cliniques,
42:58pour ne pas dire presque tous,
43:00qui switchent en Espagne,
43:02il y avait une grande société
43:03pharmaceutique
43:04que je ne citerai pas
43:05qui m'a dit
43:05je peux faire 100 essais cliniques
43:06par an en France.
43:08Il y a trois ans,
43:09j'en ai fait 100.
43:09L'année dernière,
43:1080.
43:11Cette année,
43:1124.
43:12Je ne citerai pas qui c'est,
43:12mais vous voyez.
43:13L'année prochaine,
43:14probablement zéro.
43:15Et quand même,
43:16bon,
43:17donc,
43:19c'est une grande société
43:21pharmaceutique.
43:22Et donc,
43:24voilà,
43:24parce qu'en Espagne,
43:25la réglementation,
43:26elle est plus souple,
43:27elle est plus numérique friendly,
43:28enfin,
43:28on ne va pas faire
43:29le détail ici.
43:31Et je raconterai
43:32une autre anecdote
43:33extrêmement intéressante aussi.
43:34À VivaTech,
43:35vous avez peut-être vu,
43:37il y avait une grande force
43:38cette année,
43:38pour ceux qui y sont allés,
43:39de la Corée,
43:40du Japon,
43:42qui voulaient montrer
43:43leur technologie,
43:44leurs avancées,
43:44sans doute aussi
43:45pour faire un peu
43:46contrepoids à la montée
43:47de la Chine.
43:48Donc,
43:49je suis allé les voir,
43:50je suis président aussi
43:50d'un accélérateur en e-santé
43:52qui s'appelle Future4Care,
43:53que je vous recommande
43:53d'aller voir si vous ne connaissez pas.
43:55Et on cherche des partenariats
43:56avec les hôpitaux,
43:57donc n'hésitez pas aussi.
43:58C'était la seconde de publicité,
43:59donc j'enchaîne.
44:01Et donc,
44:02je suis allé les voir,
44:02et je leur ai dit,
44:03c'est bizarre,
44:03vous n'avez rien en e-santé.
44:05Rien.
44:06Pourquoi ?
44:07Ah,
44:07ils m'ont dit,
44:08ah mais c'est normal,
44:08on a des tonnes de choses
44:09en e-santé chez nous,
44:10je parlais de la prévention
44:11tout à l'heure,
44:13digitalisation de l'hôpital.
44:14Mais alors,
44:14chez vous,
44:15l'Europe,
44:15c'est tellement compliqué,
44:16on n'amène plus une start-up
44:18parce qu'on ne sait pas transposer
44:19un seul use case chez vous.
44:21Et c'est des pertes de chance
44:22à la fin.
44:23Donc,
44:23il faut quand même
44:23se poser la question
44:25de la compétitivité,
44:26pardon d'employer ce mot,
44:28de notre réglementation
44:29pour justement tout ça,
44:30fluidifier l'hôpital,
44:31amener de la prévention,
44:32amener des solutions numériques,
44:34mais il faut le faire
44:34effectivement de manière
44:36extrêmement responsable,
44:37transparente,
44:38enfin tout ce qu'on a déjà dit,
44:39et ça,
44:40dans la confiance,
44:41mais il faut avoir le courage,
44:42je pense,
44:42de faire des réformes
44:43à l'échelle européenne
44:44pour faire ça.
44:46Tout le monde est d'accord là-dessus ?
44:47À l'échelle européenne ?
44:48Non, non,
44:48juste pour terminer,
44:49moi je pense que
44:50il faut réguler les risques,
44:52il ne faut pas réguler les idées,
44:54il ne faut pas réguler les énergies.
44:55C'est les risques
44:56qu'on doit réguler.
44:57Et donc,
44:58avec des normes
44:59et des faiseurs de normes,
45:01pardon pour l'expression,
45:02qui doivent avoir l'humilité
45:04de considérer
45:04que la tentation naturelle,
45:08c'est de sur-réglementer.
45:10Ça,
45:10c'est la tentation naturelle.
45:12Et donc,
45:13le risque doit être classé
45:15quand même en fonction
45:16de son importance.
45:16C'est le premier point.
45:18Deuxièmement,
45:18ce qui est très important
45:19pour moi aussi,
45:20c'est qu'on ne pense pas
45:21que tout se règle
45:22par la norme
45:22et la réglementation.
45:24Je reprends mon exemple
45:25de la DGFIP.
45:27On a un cadre,
45:28la CNIL,
45:30mais on a quand même
45:31une énorme fuite de données
45:32parce qu'on a d'autres sujets
45:33que les problèmes de normes
45:35qui sont majeurs,
45:37massifs.
45:37Je reprends mon exemple
45:38de la dette technique.
45:39Et ça,
45:39ça doit être mis sur la table.
45:41Où est le risque
45:42ou d'où vient le risque ?
45:43Ce n'est pas toujours
45:44de la norme
45:45ou de l'absence de normes.
45:47Agnès Muzin
45:47avait envie de réagir.
45:48Oui,
45:49je vais réagir
45:49et je vais évidemment
45:50prendre le contre-pied
45:52un peu
45:53parce que
45:54chaque pays
45:55vit avec sa culture.
45:56Et c'est vrai
45:57qu'on a beaucoup de normes,
45:59c'est vrai qu'on a
45:59beaucoup de contraintes,
46:00mais elles sont issues
46:02en fait,
46:02et surtout dans la santé
46:03et dans la médecine,
46:04elles sont issues
46:07de lois
46:09qui ont été votées
46:10après des accidents,
46:12après des scandales.
46:13Et donc,
46:14en fait,
46:14on a régulé
46:15pour répondre
46:16à une demande sociétale.
46:18Il ne faut pas se leurrer,
46:19c'est une construction
46:20de couches
46:21qui n'est pas
46:21que administrative.
46:23Regardez le nombre
46:24de textes de loi
46:25qui régulent
46:26et le code
46:26de la santé publique,
46:28ce n'est pas
46:28que de l'administration,
46:29il y a beaucoup de lois.
46:30Et donc,
46:31notre culture française,
46:33c'est une aversion au risque
46:35et la volonté
46:36systématiquement
46:37de donner
46:37une réponse administrative.
46:39Et moi,
46:40je veux bien
46:40qu'on dérégule tout,
46:41mais à un moment,
46:42il y a des gens...
46:43Non, non, mais
46:44je le livre
46:45comme une petite...
46:46Voilà,
46:46pour qu'on garde
46:46quand même à l'esprit
46:47une petite alarme.
46:50Déréguler
46:51et prendre
46:52un certain nombre
46:53de risques,
46:54c'est aussi mettre
46:55les décideurs publics
46:57et les anciens ministres
46:58que nous avons été
47:00en situation
47:01de gérer
47:02des accidents industriels.
47:03Quand je dis
47:04accidents industriels,
47:05je pense
47:06au Mediator,
47:07des choses
47:08qui ont marqué
47:09l'opinion publique
47:09et le sang contaminé.
47:11Tout ça a créé
47:12en France
47:13une norme
47:13particulièrement lourde
47:15dans le secteur
47:15de la santé.
47:16Et donc,
47:17on peut revenir
47:17en arrière
47:18et on va parler
47:19de l'IA.
47:20On a tous les deux
47:21été anciens ministres.
47:22Quand on est
47:23anciens ministres,
47:24on doit décider,
47:26on doit tout savoir,
47:27on doit arbitrer
47:27tout le temps
47:28et on doit rendre
47:28des comptes.
47:29L'IA,
47:30elle va certainement
47:31tout savoir,
47:31elle va aller très vite,
47:32elle va arbitrer,
47:33mais il y a une chose
47:33qu'elle ne fera pas,
47:34c'est rendre des comptes.
47:35Et donc,
47:36aujourd'hui,
47:37attention quand même
47:38à la responsabilité humaine
47:40derrière tout ça.
47:40Voilà.
47:41merci beaucoup.
47:42Merci.
47:42On peut applaudir
47:43tous les quatre.
47:44Merci.
47:46Merci.
47:52Merci pour votre intelligence
47:54et on terminera là-dessus
47:55pour faire suite
47:57à votre propos,
47:58madame.
47:58Mon proverbe togolais
48:00préféré,
48:01que celui qui n'a pas traversé
48:03ne se moque pas
48:03de celui qui s'est noyé.
48:05c'est pas mal, non ?
48:07Voilà.
48:08Merci beaucoup,
48:09merci infiniment
48:09et merci à vous tous,
48:10merci à tous les participants.
48:13Applaudissements
48:15...
48:18...
48:18...
48:19...
48:19...
48:20...

Recommandations