- il y a 3 semaines
Des millions de données de santé exposées : l’affaire impliquant Cegedim relance brutalement la question de la protection des informations médicales en France. Comment une telle fuite est-elle possible ? Qui est responsable ? Et surtout, que faire pour éviter que cela se reproduise ?
Catégorie
🗞
NewsTranscription
00:03C'est parti pour le grand débrief de la tech, vous nous regardez les 10h45, on est en direct sur
00:08la chaîne Bismarck.
00:09Et aujourd'hui autour de la table pour commenter l'actualité, j'ai le grand plaisir de recevoir Julien.
00:13Julien, pardon, Pio, c'est tellement Julien, évidemment.
00:16Absolument, bonjour.
00:18Bonjour Julien, enseignant-chercheur en économie à l'INSEC.
00:21Et Pascal, Pascal, Pascal Maloti, pareil, grand fidèle, directeur de la stratégie chez Valtech.
00:26Et puis Georgie, Georgie Courtois, avocat en droit des nouvelles technologies.
00:31Bonjour, bienvenue, bienvenue à tous.
00:33On va parler aujourd'hui de cette incroyable fuite de données médicales avec des données très intimes, j'ai envie
00:39de dire très personnelles.
00:41Et on va voir quelles questions ça pose.
00:43On va s'intéresser aussi à la grande confrontation entre Open AI Anthropique et le ministère de la Défense, ou
00:49je devrais dire de la guerre.
00:51Mais on commence par les municipales avec le rôle de l'élu au numérique.
00:54Et oui, quand même, on a envie de s'intéresser au numérique, nous, dans cette campagne.
00:58Et pour lancer la discussion, nous donnons la parole à Mathieu Vidal.
01:01Bonjour Mathieu.
01:03Bonjour à tous.
01:04Vous êtes adjoint au maire de la ville d'Albi et le président bénévole, je précise, de l'association Ville
01:10Internet,
01:11qui porte la voix des collectivités locales sur, justement, cette question de transformation numérique de nos villes.
01:17Vous les aidez aussi dans le déploiement de leurs feuilles de route.
01:20Vous êtes très mobilisé sur cette campagne municipale pour mettre en avant l'importance du numérique.
01:26Mais j'ai l'impression de n'entendre que votre voix, finalement, Mathieu, non ?
01:30Non, pas du tout.
01:32Je représente un collectif, celui de Ville Internet et de l'ensemble des élus qui sont membres de l'association,
01:39évidemment.
01:40C'est vrai.
01:40Mais pourtant, ce thème ne fait pas partie des grands thèmes, aujourd'hui, dans les campagnes, dans les équipes municipales
01:48qui mènent campagne.
01:50Alors oui, effectivement.
01:52Et c'est pour ça que je publie, mais au titre de Ville Internet, quelques tribunes depuis début février,
01:59pour poser une question simple, mais qui nous semble essentielle à l'approche des élections municipales.
02:05C'est quelle place est-ce que nous voulons donner à ce numérique dans l'action publique ?
02:10Parce qu'il y a une idée de départ qui est simple.
02:14Il nous semble que le numérique n'est plus seulement un outil de modernisation administrative.
02:18Il structure véritablement l'accès aux droits, l'organisation des services publics, la gestion des données,
02:25la cybersécurité des collectivités et même les relations, évidemment, entre citoyens et institutions.
02:30Autrement dit, il devient un véritable choix de société.
02:34Et c'est pour ça qu'on plaide à Ville Internet, pour que le numérique sorte de l'ombre
02:39et soit mis au centre des enjeux, et notamment au niveau municipal.
02:45Oui, c'est assez fou, parce que c'est quand même un sujet central.
02:48Aujourd'hui, on l'a bien compris au niveau des enjeux.
02:51Et pourtant, oui, si peu présent dans les campagnes pour les municipales.
02:56Alors vous, vous plaidez, vous le dites, pour la présence systématique d'un élu
03:00qui serait vraiment dédié au numérique dans les équipes municipales.
03:05Ce n'est pas un sujet transverse ? Vous pensez qu'il faut vraiment quelqu'un en charge ?
03:10Et alors justement, c'est parce que c'est un sujet transverse
03:13qu'il nous semble qu'il faut quelqu'un spécifiquement en charge.
03:17et peut-être à partir des communes et des collectivités d'au moins 3500 habitants.
03:25Alors pendant longtemps, le numérique était considéré comme une question surtout technique
03:29qui aurait pu relever des seuls services informatiques.
03:33Pour lui, c'est nul cas.
03:35Les décisions numériques ont des conséquences directes sur, je le disais,
03:39l'accès au droit, la qualité du service public,
03:41sur la sécurité des collectivités locales, sur la gestion des données publiques aussi.
03:47Et dans ce contexte, il nous semble absolument nécessaire
03:50qu'il y ait un responsable politique identifié pour porter ces juillets
03:54parce que ce sont des sujets finalement véritablement politiques.
03:58Et il faut que cette personne soit sensibilisée à l'ensemble des enjeux du numérique,
04:04voire formée, tout comme l'ensemble du conseil municipal.
04:08Alors, vous, vous plaidez pour que ce soit systématique.
04:11Il y en a déjà des élus municipaux en charge du numérique.
04:13Vous avez réalisé une enquête d'ailleurs avec votre casquette d'universitaire
04:18que j'invite d'ailleurs tout le monde à consulter,
04:21qu'on peut trouver sur la plateforme de sciences ouvertes HAL.
04:25Donc ces élus municipaux,
04:27quel est votre, si vous pouvez nous partager peut-être les grandes lignes de votre enquête,
04:32les grandes conclusions ?
04:33Il y a effectivement de plus en plus d'élus au numérique.
04:36Il y en avait déjà au début des années 2000,
04:37mais ça se systématise quasiment désormais dans les communes de plus de 10 000 habitants.
04:44Sans être exhaustif, vous l'avez dit, l'enquête est en ligne.
04:48Le premier résultat est que cette fonction est largement diffusée dans les exécutifs municipaux
04:55avec la présence d'une délégation qui inclut le numérique
04:59qui est devenue relativement courante dans les villes moyennes et grandes.
05:03Alors ça traduit la reconnaissance progressive de ces enjeux dans la gouvernance locale.
05:08Le deuxième résultat, c'est que ça concerne le profil sociologique de ces élus.
05:13Et l'enquête montrait qu'il s'agit très majoritairement de personnes qui sont fortement diplômées.
05:20On a 60% des répondants qui avaient au moins un bac plus 5.
05:24Et puis, on a aussi des cadres et des professions intellectuelles supérieures
05:28qui sont très surreprésentés, puisqu'ils représentent plus des deux tiers des répondants.
05:34Troisième élément intéressant, je fais rapide,
05:36mais beaucoup de ces élus sont des nouveaux élus entrant en politique,
05:41puisque deux tiers des personnes interrogées ont été élus pour la première fois en 2020
05:45et plus de 80% exercés pour la première fois dans une délégation qui incluait le numérique.
05:51Donc, ça montre que les compétences numériques peuvent constituer une porte d'entrée
05:56également pour l'engagement municipal.
06:00Allez, on va utiliser nos cartons rouges, cartons verts.
06:02Est-ce que vous êtes pour ou contre un élu systématiquement en charge du numérique
06:07dans les équipes municipales ?
06:10Pas facile, c'est une nouvelle question qu'on nous pose.
06:13Je vous propose de montrer ce carton devant votre micro, mais vraiment au milieu.
06:18C'est une question nouvelle, donc en fait, c'est vrai que c'est difficile de se positionner.
06:22Allez, Julien, pourquoi cette hésitation ?
06:24Je suis mitigé parce que, par définition, un élu, il est là de façon temporaire.
06:30Il est là de façon temporaire, il peut changer en cours de mandature
06:33ou il peut tout simplement être remplacé si la municipalité, l'équipe municipale
06:36tombe d'une élection à une autre.
06:37Donc je plaiderai davantage pour qu'il y ait un CTO à plein temps,
06:42dans les mairies, notamment les mairies de municipalité
06:43qui comptent un certain nombre d'habitants, peut-être au-delà de 5 ou 10 000 habitants,
06:48qui puissent en fait assurer cette acculturation numérique qui est nécessaire
06:52et cette diffusion des compétences numériques,
06:54notamment en matière de gestion des risques cyber, à plein temps.
06:58Et peu importe la couleur de la municipalité, la couleur politique de la municipalité.
07:02Raison pour laquelle je suis mitigé, parce que d'un côté, je trouve que l'initiative est bonne,
07:06mais je crois que peut-être qu'en passant par des élus,
07:10plutôt que par des employés à plein temps, on se trompe peut-être de terrain, de bataille.
07:14Pourquoi l'hésitation aussi, Pascal ?
07:16Moi, je suis partagé sur le principe, je dis oui,
07:18parce que c'est une couche transverse dans la vie de la cité.
07:21J'utilise le terme grec volontairement,
07:23c'est-à-dire mobilité, urbanisme, commerce, éducation, sécurité.
07:28Et dans le même temps, ça ressemble, ça fait gadget, c'est tout.
07:31C'est-à-dire qu'on a l'impression de revoir l'élu informatique à la fin des années 90,
07:35avant le bug de l'an 2000.
07:39Et s'il est coincé entre le wifi gratuit et l'application mobile
07:43qui recense les nids de poules dans la ville,
07:46c'est un manque de vision.
07:48Carton vert comme moi, c'est-à-dire que vous, vous êtes pour.
07:50Alors moi, je suis favorable parce que je pense qu'en politique,
07:52on est avant tout sur des signaux
07:54et que le fait d'incarner quelqu'un qui va être spécialiste du numérique,
07:59ça permettra d'envoyer un signal,
08:00notamment auprès de la population des électeurs.
08:03Je suis totalement d'accord avec Julien,
08:04il faut une continuité, c'est certain.
08:06Donc je n'oppose pas des SI ou CTO et élus.
08:10Et en revanche, il y a une responsabilité de la municipalité,
08:12compte tenu, on va en parler tout à l'heure,
08:14des fuites de sécurité.
08:15Il y a l'ANSI qui est intervenu sur plus de 200 fuites de sécurité
08:18sur les collectivités territoriales.
08:20Donc c'est un sujet extrêmement important
08:21et je pense que c'est dans l'air du temps de mettre ça en avant
08:24et je pense que politiquement, ça peut être intéressant.
08:27Moi, vraiment, Mathieu Vidal, vous m'avez fait réfléchir à ce sujet.
08:31Donc j'ai mis un carton vert parce que je me dis,
08:33c'est vrai qu'on pense que c'est un sujet transverse
08:35et du coup, c'est un petit peu sous-pourré partout
08:37et on n'a pas de vraie stratégie du numérique,
08:40au-delà de la question technique informatique,
08:43parce qu'aujourd'hui, c'est l'écologie, c'est l'économie, c'est le social.
08:46Et donc, je pense qu'effectivement, c'est une erreur
08:48de ne pas avoir un élu au numérique aujourd'hui dans son équipe.
08:52Merci beaucoup, Mathieu Vidal, d'avoir soulevé ce sujet
08:55avec nous dans Smartech.
08:57On vous laisse retourner aux urgences
08:59parce que quand même, ça s'accélère là sur les municipales.
09:02Et nous, on va enchaîner avec effectivement
09:05le problème des fuites de données,
09:08un problème qu'on n'arrive pas à résoudre visiblement
09:11et j'ai l'impression que c'est de pire en pire.
09:12C'est-à-dire qu'à chaque fois, on se dit,
09:13bon, là, c'est vrai, on a atteint...
09:14Je ne sais même plus quel qualificatif employer
09:16quand je parle d'une fuite de données gigantesque,
09:19titanesque, effrayante, tout ça.
09:22Lunaire.
09:23Scandaleuse aussi.
09:24Scandaleuse.
09:25Là, on s'intéresse...
09:27Donc c'est une enquête de France 2 quand même
09:28qui a révélé ce sujet.
09:30C'est important de le signaler.
09:31Qui a consulté une base de données en libre accès
09:33qui expose, nous dit tout,
09:34entre 11 et 15 millions de personnes.
09:36On trouve des informations vraiment intimes,
09:38en fait, sur les patients,
09:39à travers des annotations que mettent les médecins
09:41dans un logiciel qui leur est fourni
09:44par la société Cégédime.
09:46Alors, on a un peu du mal à savoir
09:48quelle est véritablement l'ampleur
09:50de cette fuite de données.
09:52Mais ce qui est intéressant,
09:53c'est que là, on ne parle pas juste de données,
09:55finalement, d'identité,
09:56mais vraiment de données, je disais, très intimes.
09:59Qu'est-ce que vous inspire cette histoire ?
10:01Comment vous avez réagi
10:01quand vous l'avez découverte, cette fuite ?
10:04C'est carte au verre pour ?
10:05Je n'ai pas posé de questions à ce sujet encore.
10:08Non, parce que d'un mal
10:10peut déboucher beaucoup de biens.
10:11Mais c'est vrai que le terme, moi,
10:13qui me vient à l'esprit
10:13lorsqu'on parle de fuite de données en France,
10:16c'est passoire.
10:17On est une passoire.
10:18Pas que dans le public, d'ailleurs,
10:19parce qu'effectivement, il y a le public,
10:21il y a eu le ministère du Travail,
10:23enfin, France Travail,
10:24il y a eu Cégédime,
10:25il y a eu l'office à l'immigration,
10:28mais on pourrait parler aussi du privé
10:29avec SFR, Free,
10:32on a eu une multiplication,
10:33selon la CNIL,
10:34de 14,
10:35une accélération,
10:36un facteur 14, en fait,
10:37sur l'année dernière,
10:38d'attaques cyber
10:39et de fuites de données
10:40qui s'en suivent.
10:41Ce qui fait qu'aujourd'hui,
10:42en fait, en France,
10:43on estime que chaque citoyen français
10:45a à peu près 29 données,
10:47parmi lesquelles des données très sensibles
10:48qui sont en circulation
10:49sur le Dark Web,
10:50qui veut bien payer
10:51pour ces données-là,
10:52ce qui fait quand même la France,
10:53en proportion de sa population,
10:54le troisième pays le plus ciblé
10:56et le plus touché
10:57par les menaces cyber
10:59qui ne sont plus des menaces,
11:00en fait,
11:00elles sont très tangibles
11:01et, quelque part,
11:02on a toujours une mauvaise approche
11:04parce qu'on continue à penser
11:07qu'un cyberattaquant
11:08est un super génie de l'informatique
11:10qui viole des lignes de code,
11:13en fait,
11:13qui viole des sécurités
11:14derrière un ordinateur
11:15extrêmement puissant,
11:16alors qu'en vérité,
11:17non,
11:17ce n'est pas tant qu'il force des serrures,
11:19c'est qu'on lui donne les clés.
11:20C'est une ingénierie sociale
11:21qui permet, en fait,
11:22d'accéder par le biais
11:24des maillons les plus faibles
11:26qui sont les utilisateurs,
11:27en fait,
11:27en bout de course
11:28de nos systèmes informatiques
11:30aux données les plus sensibles,
11:31en fait,
11:32et derrière,
11:32d'en faire commerce
11:33ou à mauvais usage.
11:34Là, encore une fois,
11:35c'est l'utilisation
11:35d'un compte administrateur
11:36qui a permis de récupérer
11:37ces données, visiblement.
11:38Exactement.
11:38Et pourquoi un carton vert ?
11:40Parce que...
11:41J'ai pas posé de questions encore.
11:42C'est vrai.
11:43Quelle est la question
11:43à laquelle Julien répond
11:44sans qu'on ne l'ait posé ?
11:46Non,
11:47c'est pas vraiment une question,
11:48mais c'est plus un constat.
11:49C'est la première,
11:50c'est qu'il faut qu'on se prenne le mur
11:52de façon assez récurrente
11:54et fréquente
11:55de façon à pouvoir
11:56enfin prendre conscience
11:58du danger,
11:58se rendre compte
11:59que ça n'arrive pas
12:00forcément qu'aux autres
12:00et peut-être commencer
12:01à adopter de bonnes pratiques
12:03sur le plan
12:05de la prévention
12:06des risques cyber.
12:07Ça, c'est la première chose.
12:07Et puis,
12:08sur le plan législatif,
12:09on traîne des pieds
12:11depuis bien trop longtemps
12:12pour transposer
12:13Nice 2, par exemple,
12:15dans le droit français.
12:15Bon, j'avais une discussion
12:17en off hier
12:17avec quelques députés
12:18qui me disaient
12:19que, quelque part,
12:20un problème comme
12:21celui de Cégédime
12:23apporte de l'eau
12:24à leur moulin
12:24pour accélérer
12:25le rythme législatif.
12:27Donc, d'un mal
12:27peut surgir du bien.
12:29On verra
12:29ce qu'il va devenir.
12:31Effectivement,
12:32ça, c'est un sujet
12:33pour Georgie.
12:35Effectivement,
12:35on attend
12:36la transposition
12:37de Nice 2.
12:38Pour l'instant,
12:39on n'a toujours pas de date.
12:40On nous a donné des dates
12:41avant la fin de l'année 2025.
12:43Maintenant,
12:43c'est avant la fin de l'année 2026.
12:44Voilà, donc ça va arriver.
12:46En fait, en plus,
12:47le projet est quasiment prêt.
12:49Tout est là
12:50pour que ce soit mis en œuvre.
12:51Donc, là-dessus,
12:52ça va arriver.
12:53Après, moi,
12:53sur la problématique
12:54de la fuite de données,
12:56la question,
12:57c'est plus si ça va arriver,
12:58c'est qu'on sait
12:59que ça va arriver.
12:59Et la problématique aussi,
13:01pour accompagner
13:01beaucoup de clients là-dedans,
13:02c'est que pourtant,
13:03il y a des moyens
13:04qui sont mis en œuvre
13:05et les sociétés
13:06ont conscience.
13:07Et alors, en l'occurrence,
13:08c'est un titre de logiciel.
13:09Je suis persuadé
13:10qu'ils ont tout fait
13:13pour éviter que ça arrive,
13:14mais maintenant,
13:15ça arrive.
13:16Je ne sais pas,
13:17moi,
13:17c'est la question
13:18que je voulais poser
13:19avec les cartons rouges
13:20et cartons verts.
13:21Est-ce que vous avez
13:22l'impression
13:22ou la connaissance
13:24qu'on fait le nécessaire
13:25aujourd'hui
13:25pour protéger nos données ?
13:28Moi, je dis non,
13:29mais...
13:29Alors,
13:30moi,
13:31je vais être le contrepoint.
13:34J'ai l'impression que oui,
13:36parce qu'encore une fois,
13:36pour accompagner des clients,
13:38on fait de la mise en conformité
13:40sur le RGPD notamment,
13:41sur les problèmes
13:42de cybersécurité,
13:43on fait des audits.
13:44Donc,
13:44les sociétés sont quand même
13:45de plus en plus
13:47encadrées,
13:47accompagnées.
13:48Après,
13:49malgré ça,
13:50c'est sûr,
13:51malgré ça,
13:52les pirates arrivent
13:53à obtenir ces données.
13:54Donc,
13:54c'est là que c'est
13:55extrêmement difficile
13:57et je ne suis pas sûr
13:58qu'on arrivera
13:59dans un monde merveilleux
14:00où il n'y aura plus jamais
14:01de failles de sécurité.
14:02Ça va arriver tout le temps.
14:04Après,
14:04la problématique,
14:05c'est qu'il faut le minimiser
14:06et ce qui s'est passé
14:06en l'occurrence,
14:07c'est surtout parce que
14:08les informations
14:10extrêmement sensibles
14:11ont été rentrées
14:11dans des champs libres
14:12qui n'avaient pas vocation
14:14à recevoir ces informations
14:15de santé extrêmement sensibles.
14:17Les petites notes de médecins
14:18sur notre situation personnelle.
14:20Il faut éduquer
14:21l'intégralité
14:21du système.
14:22ça fait partie
14:23des bonnes pratiques
14:24qui ne sont pas mises en place.
14:25Exactement.
14:26Pascal,
14:27comme moi,
14:27vous êtes quand même
14:28assez remonté,
14:29non,
14:29sur ce sujet de la protection ?
14:31Déjà,
14:31on le découvre
14:32quatre mois
14:33après le problème
14:35soit survenu.
14:36Trois mois dans les médias,
14:38merci à France Télévisions,
14:39ils ont enfin joué
14:40leur rôle de service public.
14:41En fait,
14:42je ne sais pas
14:42ce qui est pire.
14:43Enfin !
14:44Si c'est le fait
14:44de découvrir
14:45que mon fameux
14:46passeport numérique
14:47de santé,
14:47c'est un champ commentaire
14:49en texte libre,
14:50sans classification,
14:51sans structuration
14:51et sans chiffrement spécifique,
14:54dans lequel un médecin
14:55peut écrire
14:55n'importe quoi
14:56sur moi,
14:58sur mes orientations sexuelles,
15:00sur ma religion,
15:01sur des traumatismes passés,
15:03ou bien
15:04si c'est de découvrir
15:05qu'une société éditeur
15:06de logiciels
15:07applique des normes
15:07de sécurité
15:08qui sont dignes
15:09d'une fiche contact
15:10sur un site internet.
15:12Ça,
15:13pour moi,
15:13c'est le vrai problème.
15:14Je suis spécialisé
15:15chez Valtech
15:16dans le retail.
15:17Si un retailer
15:20dévoilait
15:20quatre mois après
15:21à son client
15:22que ses données
15:23de carte bancaire
15:24ont été piratées,
15:26je pense qu'il ferme boutique.
15:27C'est clair.
15:28Oui, moi,
15:29je pense que d'abord,
15:29on a un problème
15:30de politique de sécurité.
15:31Aujourd'hui,
15:32ce n'est pas pris au sérieux,
15:33en tout cas pas à la mesure
15:34des risques.
15:35Et on a un problème
15:36avec les gros fichiers.
15:37Il faut arrêter
15:38de faire des énormes fichiers
15:40parce qu'on sait
15:40qu'aujourd'hui,
15:41ce sont des risques.
15:42Et donc,
15:42je ne peux que,
15:43je change de sujet,
15:44vous allez me dire,
15:45mais me joindre
15:46aux scientifiques,
15:47plus de 300 scientifiques
15:48qui ont demandé un moratoire
15:49sur la vérification de l'âge
15:51parce qu'aujourd'hui,
15:51on ne sait pas protéger
15:52les données.
15:54Voilà.
15:54Alors,
15:54on va enchaîner
15:55parce que le temps passe vite
15:56avec l'affaire,
15:58la dispute,
15:59la discorde,
16:00Open AI versus Anthropik
16:01versus le ministère de la guerre
16:03comme l'appelle Donald Trump.
16:05Au départ,
16:05c'est une opposition
16:05donc d'Anthropik
16:08à répondre aux demandes
16:10du département
16:11de la défense américaine
16:14pour finalement utiliser
16:16son grand modèle de langage
16:18à tout type d'usage
16:19sans limite.
16:20Anthropik aimerait
16:21que ce ne soit pas le cas
16:23pour l'utilisation
16:25pour la surveillance massive
16:26des Américains
16:27et non plus
16:28pour créer des armes
16:29complètement autonomes.
16:31Alors,
16:31qu'est-ce qui s'est passé ?
16:32Open AI au début
16:33a soutenu Anthropik
16:35dans des publications
16:37sur les réseaux sociaux
16:38et puis finalement
16:39a récupéré le budget.
16:41Alors ?
16:42En fait,
16:42il y a quelque chose
16:43qui est extrêmement bizarre
16:44dans ce dossier.
16:45Trump a fait du Trump,
16:47on l'a vu.
16:48Mais en revanche,
16:50Open AI qui a récupéré
16:52tout ça,
16:53s'est engagé
16:54ou prétend
16:55s'être engagé
16:56à justement
16:56ne pas avoir
16:57de surveillance de masse
16:58et à ce que son modèle
17:00de langage
17:00ne soit pas utilisé
17:01pour les armes autonomes.
17:02Est-ce aussi clair que ça ?
17:03Alors que c'était
17:04ce que justement
17:05Anthropik disait,
17:06Anthropik disait
17:06je ne veux pas
17:07que mon modèle
17:08soit utilisé par l'armée
17:09pour la surveillance de masse
17:10et pour les armes autonomes.
17:11Donc il y a quand même
17:11quelque chose de très bizarre.
17:13Après,
17:13c'est la question
17:15de l'éthique,
17:16l'utilisation
17:16des armes autonomes
17:17et ce que dit Anthropik,
17:19le président Anthropik,
17:20c'est qu'il estime
17:21qu'il y a un risque réel
17:23si jamais on met
17:23son système
17:25d'IA autonome
17:26dans ses armes
17:28qu'il y a un manque
17:28de contrôle
17:29et donc c'est ce qu'il ne souhaitait
17:30pas faire.
17:31Donc c'était une position
17:32avant tout éthique.
17:33Après,
17:33Open AI a une position différente.
17:34Qui n'empêchait pas
17:35quand même
17:35Anthropik
17:36d'être un fournisseur assidu
17:38justement
17:39de ce département
17:40de la défense
17:41et à accepter
17:42tout type d'utilisation,
17:43Pascal ?
17:45Anthropik a mis
17:45ses lignes rouges
17:46dans un contrat.
17:48Open AI l'a fait
17:48dans un communiqué de presse,
17:50ça a fait toute la différence.
17:51C'est ça le sujet de fond.
17:53Anthropik
17:53a mis l'éthique
17:54de l'IA
17:55dans son produit
17:56et pas un principe.
17:59Donc ce contrat...
18:01C'est une éthique
18:01quand même très restreinte.
18:03Moi,
18:03quand j'entends ça,
18:05je me dis
18:06que les limites
18:06que pose Anthropik
18:07sont...
18:08Je vous rappelle
18:09quand même
18:09qu'Anthropik
18:10pourrait être un peu plus élevée.
18:10Ce sont des anciens
18:11d'Open AI
18:12qui ont quitté Open AI
18:13parce qu'ils pensaient
18:14que la roadmap stratégique
18:15de la marque
18:16pouvait remettre
18:16en cause
18:18la société humaine.
18:19Donc il y avait déjà...
18:20Oui, mais ce que je veux dire,
18:21c'est que ces limites
18:21ne sont pas très élevées
18:23aujourd'hui
18:24sur les usages
18:25de l'IA.
18:26Vous, vous trouvez ça bien
18:27qu'on se dise
18:28ok, on ne doit pas
18:28s'en servir
18:29pour faire la surveillance
18:29de masse
18:30ni pour des armes autonomes
18:32mais on peut peut-être
18:32s'arrêter encore plus tôt
18:33que ça, je veux dire.
18:34Anthropik voulait l'intégrer
18:36dans des clauses exclusives
18:37du contrat
18:37et c'est ce que finalement
18:38Open AI a accepté de faire.
18:41On parle d'un qui a cédé
18:42là où l'autre n'a pas cédé.
18:44D'accord, mais ils ont cédé
18:44sur d'autres choses.
18:46Aujourd'hui, l'IA est utilisé
18:48déjà pour de la surveillance
18:49et déjà pour de la défense.
18:51On est d'accord.
18:52Les plateformes sociales
18:52sont déjà utilisées
18:54pour faire de la surveillance.
18:55Donc, il n'y a rien de nouveau
18:56là-dessus.
18:57On est totalement d'accord.
18:58Et Dario Amodei,
18:59le patron d'Anthropik,
19:00a dit qu'il n'irait jamais
19:01chercher des financements
19:02au Moyen-Orient
19:03et il l'a fait l'année dernière.
19:04Bon, quand même Pascal,
19:06on est d'accord ?
19:07Julien, votre analyse
19:08de cette affaire.
19:08Effectivement, Pascal,
19:09il y a une dose d'hypocrisie
19:10dans l'affaire.
19:11Sur le plan éthique,
19:12il y a une autre question
19:13que ça pose en creux finalement
19:14qui est une divergence
19:17entre les patrons
19:18des deux sociétés
19:18dont on parle,
19:19Anthropik d'un côté
19:20et Open AI de l'autre.
19:21C'est du côté
19:25de sécurité nationale,
19:26ce n'est pas un dirigeant
19:28d'une société
19:28de se substituer
19:29à un gouvernement
19:30qui a été démocratiquement élu.
19:32Et donc, quelque part,
19:33il faut se plier
19:33aux injonctions du gouvernement.
19:35Maintenant, moi,
19:36je ne vais pas donner mon opinion
19:38parce que je pense
19:39à chacun de se positionner
19:40vis-à-vis de cette problématique-là.
19:43Mais je vais redescendre d'un cran
19:44et aller sur des considerations
19:46peut-être plus terre-à-terre
19:47qui intéressent l'économique.
19:48C'est la question économique.
19:49C'est que finalement,
19:51Open AI est dans une situation
19:52aujourd'hui où ils ont besoin
19:53de cash,
19:54de sécuriser du cash
19:55et quelque part,
19:57pouvoir sécuriser le cash
19:58qui vient des contrats
19:59du Pentagone,
20:00le ministère de la guerre,
20:01désormais,
20:02c'est quelque chose
20:03qui était peut-être
20:04davantage vital
20:04pour Open AI
20:05que ça ne l'était
20:07pour Anthropik.
20:09Et puis, autre chose,
20:09c'est que sur le plan
20:11de la communication,
20:12on voit les ravages
20:14que la décision
20:15d'Open AI
20:16commence à provoquer.
20:18On verra si c'est durable
20:19ou si c'est juste ponctuel.
20:20Mais toujours est-il
20:20que si on prend
20:22les données
20:23de certains fournisseurs
20:24de données,
20:25notamment Tower Sensor
20:27ou SimmerWeb,
20:28on se rend compte
20:29qu'il y a un pic
20:30de désinstallation
20:32d'Open AI
20:32sur les téléphones mobiles
20:34fois 4
20:34en l'espace d'une seule journée
20:36sur la journée
20:36de samedi dernier,
20:38que le nombre
20:39de mauvais commentaires
20:40et de mauvaises notes
20:41liées à Open AI
20:42et à ChatGPT
20:44pullule aujourd'hui
20:45sur les magasins d'application
20:46et que peut-être
20:47que Open AI
20:47est en train de gagner
20:50une partie de la guerre
20:51sur le plan purement économique
20:52de court terme
20:53mais en train peut-être
20:54d'obérer ses chances
20:55de la gagner
20:55sur le long terme
20:56surtout si ça se traduit
20:57par une augmentation
20:58de l'utilisation
20:59des services de ces rivaux.
21:00Ça reste à voir
21:01mais c'est vrai que
21:02s'ils avaient fait front ensemble
21:05véritablement,
21:05peut-être que
21:06ça aurait pu
21:07changer la donne
21:09et...
21:09C'est Google
21:10qui y sera allé.
21:11C'est le troisième impétrant
21:12potentiellement
21:12donc de toute façon
21:13dans cet oligopole
21:15à la fin.
21:16Non, ce qui est assez triste
21:17c'est que
21:18Pete Exek,
21:19vous savez celui
21:20qui lutte contre l'obésité
21:21dans l'armée
21:22a déclaré
21:23qu'Enthropique
21:25pardon
21:25c'était un risque
21:27pour la chaîne
21:28d'approvisionnement
21:28c'est-à-dire
21:29qu'on traite
21:30Enthropique
21:30une pépite
21:31technologique américaine
21:32comme Huawei
21:33a été traité à son époque
21:35quand ils ont été interdits
21:35sur le marché américain
21:36et c'est vrai
21:37j'en ai raison
21:38en fait
21:39aujourd'hui
21:40les utilisateurs
21:41votent avec leur pouce
21:42il y a plus de téléchargements
21:43sur iOS
21:45de Claude
21:46que de Tchad GPT.
21:47Oui mais moi
21:48je me souviens
21:48de l'époque
21:49du
21:50je vais dire
21:51backlash
21:51je ne sais plus
21:52comment dire en français
21:53du retour de bâton
21:55pour Facebook
21:56au moment des
21:57Facebook Files
21:58tout le monde
21:58appelait à quitter Facebook
21:59avec les révélations
22:01de Frances Ogan
22:01et puis finalement
22:02Facebook est toujours là
22:03On est d'accord
22:04mais Apple a gagné
22:05la bataille du smartphone
22:06le jour où ils ont déclaré
22:07que la donnée personnelle
22:09était un droit intangible
22:10de l'être humain
22:10face à Android
22:11qui est une passoire à données
22:13Après
22:14une question plus générale
22:15que ça pose aussi
22:16c'est l'utilisation de l'IA
22:18dans les armes autonomes
22:19il faut se rendre compte
22:21qu'il n'y a pas de moratoire
22:23il n'y a pas de loi
22:23il n'y a pas de guide
22:25il n'y a aucun cadre
22:25et donc là on est au cœur du sujet
22:28c'est-à-dire qu'on est sur
22:29le sujet démocratique ou pas
22:31comment se fait-il
22:32qu'une société privée
22:33va pouvoir
22:35potentiellement
22:35décider ou pas
22:36de mettre des freins éthiques
22:39ou pas
22:39sur ce type d'armement
22:41et là on arrive
22:42sur les fantasmes
22:45à la Terminator
22:45mais il y a une vraie réalité là-dessus
22:47il n'y a pas de consensus
22:48international là-dessus
22:49et donc on est au cœur du sujet
22:52et on voit que
22:53les Américains
22:54ont effectivement
22:55avec ces systèmes
22:57de langage
22:58LLM
22:59beaucoup d'avance là-dessus
23:01donc voilà
23:01ça interroge aussi
23:03la capacité européenne
23:05à se positionner
23:07sur ce genre de questions
23:07Alors tout à l'heure
23:08on a félicité France 2
23:10maintenant je vais féliciter
23:11Euractive
23:11je suis avec mes confrères
23:15qui pointe un truc intéressant
23:17c'est que
23:17dans les limites
23:18qui sont imposées
23:20enfin que souhaitaient
23:21imposer en tropique
23:22ça concernait
23:23la surveillance de masse
23:24des Américains
23:25donc ça ne pose visiblement
23:27aucun problème quand même
23:28à ces compagnies
23:29la surveillance de masse
23:30des non-américains
23:31ça ça doit quand même aussi
23:33nous faire réfléchir
23:34parce que
23:34utiliser ces grands modèles
23:36de langage
23:37ça veut dire
23:37que ça a un impact
23:38véritablement
23:39c'est juste
23:39pas du tout
23:40anodin pour nous
23:42Européens
23:42je veux dire
23:42il y a un moment
23:43il faut qu'on entende
23:43quand même
23:44tous ces messages
23:45tous ces signaux
23:47je le répète
23:48à longueur d'année
23:49sur ce plateau
23:51ces entreprises-là
23:52vivent littéralement
23:54de notre surveillance
23:55de réaction politique
23:56là-dessus
23:56c'est-à-dire qu'on parle
23:58de la surveillance de masse
23:59ok on parle des armes autonomes
24:01mais nous en Europe
24:02on est les premiers concernés
24:03par ces menaces
24:05est-ce qu'on est les premiers
24:06concernés ?
24:06je ne sais pas
24:06on est extrêmement concernés
24:11ça c'est sûr
24:25l'opinion
24:26prenne massivement conscience
24:27de la valeur
24:28de ces données
24:29de la valeur
24:30de sa vie privée
24:31pour commencer
24:32à se poser
24:33des questions
24:33qui peuvent les amener
24:35à voter avec leur pouce
24:37en vérité
24:37et peut-être
24:38se détourner
24:39de certains services
24:40qui sont extrêmement
24:41discutables
24:42sur le plan éthique
24:42mais parce que
24:43Georgie le disait
24:44et très justement
24:46lorsque l'opinion
24:48prend conscience
24:49que l'IA
24:50peut aussi servir
24:51à des fins
24:53de
24:55des fins militaires
24:56mais pas uniquement
24:57des fins défensives
24:58mais aussi des fins
24:58de surveillance de masse
25:00des fins également
25:01de frappe
25:02téléguidée
25:04est-ce que l'opinion
25:05sera majoritairement
25:06favorable
25:07à ce type d'usage
25:09ou pas ?
25:10déjà
25:10le fait qu'elle en prenne
25:12conscience
25:12c'est peut-être
25:13le point de départ
25:14d'une réflexion
25:15plus profonde
25:16qui permettra peut-être
25:17que l'opinion
25:18questionne ses usages
25:19et à travers
25:20la question des usages
25:21questionne les entreprises
25:22qui fournissent
25:23les logiciels en question
25:23peut-être juste
25:24un dernier point
25:25il faut aussi se rappeler
25:27que c'était très critiqué
25:29mais en Europe
25:29on a l'AI Act
25:31qui est justement
25:32ce règlement européen
25:33qui vient encadrer
25:35l'utilisation de l'IA
25:36mais sur un volet
25:37essentiellement éthique
25:39ce règlement
25:41a un volet éthique
25:41donc en fait
25:42on a une vision européenne
25:43qui est poussée
25:44donc l'humanisme européen
25:45et cette protection éthique
25:46qui n'est pas développée
25:48aux Etats-Unis
25:49qui n'est pas développée
25:50en Chine par exemple
25:51donc on est dans
25:52une position particulière
25:53que si jamais
25:55ces systèmes
25:56devaient être utilisés
25:57à terme
25:57pour essayer
25:58de faire du contrôle
26:00de masse
26:01on aurait en principe
26:03en théorie
26:03les outils
26:05qu'après effectivement
26:06qu'elle est dans la pratique
26:08mais on a quand même
26:08un cadre juridique
26:09qui vise justement
26:10à se protéger
26:11contre ça
26:12la meilleure protection
26:13ce serait quand même
26:14d'utiliser des modèles
26:15qui respectent
26:16by design
26:17Mistral
26:18qui est le modèle
26:18France-là
26:19c'est correct par exemple
26:21non
26:21deux éléments
26:22alors un
26:23je vais revenir
26:23sur l'aspect économique
26:24parce qu'en effet
26:24un Etat
26:25qui de manière arbitraire
26:27décide des boîtes
26:28avec lesquelles elle bosse
26:28ça s'appelle
26:29c'est un Etat communiste
26:30donc mais avec Trump
26:31on n'en est pas
26:32une contradiction
26:33c'est le meilleur
26:33et le pire
26:34le deuxième élément
26:35ça voudrait dire
26:36que potentiellement
26:36l'Union Européenne
26:38ou les Etats Européens
26:39seraient plus vertueux
26:40que les Etats Américains
26:41moi je n'y crois pas
26:42un seul instant
26:43quand les intérêts
26:45sont présents
26:46et qu'on doit défendre
26:47nos intérêts
26:47je ne suis pas certain
26:48qu'on se comporte
26:49de la manière
26:49la plus vertueuse aussi
26:50c'est pas la DMA
26:52on a moins d'outils
26:53pour le faire
26:53ah bah oui
26:54ça c'est un autre problème
26:55c'est un problème
26:56qui date de trois décennies
26:57maintenant
26:57et on ne rattrapera jamais
26:59les trains qui sont passés
27:01enfin
27:01je pense que sur l'opinion publique
27:03et l'IA
27:04si on continue à produire
27:06comme si Trini
27:06la semaine dernière
27:07des blog post
27:08qui annoncent la fin de l'humanité
27:09à peu près tous les 15 jours
27:10et qui font tomber
27:10d'ailleurs les cours de bourse
27:11je pense que très rapidement
27:13les opinions publiques
27:13vont se retourner contre l'IA
27:14ça va devenir vraiment
27:15très impopulaire
27:17merci beaucoup
27:17à tous les trois
27:18pour ce grand débris
27:19de la tutech
27:20ensemble
27:20comme tous les jeudis
27:21à 10h45
27:22en direct sur la chaîne
27:22Bsmart
27:23voilà donc on se retrouve
27:24évidemment lundi
27:26sur Bsmart
27:27pour d'autres discussions
27:27sur la tech
27:28avec Smartech
27:29et puis jeudi prochain
27:30à 10h45
27:31merci beaucoup
27:32à tous les trois
27:32merci à tous de nous suivre
27:33merci bien
27:34– Sous-titrage ST' 501
27:39– Sous-titrage ST' 501
27:41Sous-titrage Société Radio-Canada
Commentaires