- il y a 3 minutes
Ce mercredi 16 septembre, François Sorel a reçu Damien Douani, responsable de l'innovation de l'école Narratiiv et fondateur de Topos, Christophe Aulnette, senior advisor chez Seven2 et ancien président de Microsoft Asie du Sud et France, ainsi que Stéphane Zibi, consultant spécialiste en transformation numérique et en IA. Ils se sont penchés sur la riposte européenne face aux risques des réseaux sociaux pour les mineurs, à l'appel européen à l’encadrement des modèles de pointe de l’IA, ainsi qu'à l'appel des géants de l’IA à la création d’un gendarme, dans l'émission Tech & Co, la quotidienne, sur BFM Business. Retrouvez l'émission du lundi au jeudi et réécoutez la en podcast.
Catégorie
📺
TVTranscription
00:01Tech&Co, la quotidienne, le débrief de la tech.
00:06Alors évidemment, vous avez bien compris que sort-mère, c'est un mot qui n'existe pas.
00:10Mais ça arrive, ça arrive de temps en temps de déraper.
00:13Voilà, petit clin d'œil à Léa Benahim qui me fait remarquer dans mon oreillette,
00:17« Ah, sort-mère, ça n'existe pas. »
00:19Mais non, mais je sais bien que ça n'existe pas.
00:22On verra tout à l'heure pour son tech flash tout à l'heure,
00:24s'il n'y a pas des petits dérapages aussi.
00:26Hein, voilà.
00:28Petite pression au passage.
00:30Pour débriefer l'actu ce soir, nous avons Christophe Holdet.
00:33Salut Christophe.
00:34Bonsoir François.
00:35Merci d'être avec nous Christophe.
00:36Christophe qui est senior advisor chez 7to,
00:38ancien président de Microsoft Asie du Sud, d'Est, du Sud et France.
00:42Voilà, c'est ça.
00:43Damien Douani qui est avec nous aussi.
00:45Salut mon cher Damien.
00:46Mais oui, il est là.
00:47Oui, je ne sais pas, écoutez.
00:48Mais qu'est-ce qui t'arrive ?
00:50Non, mais parce que Damien Stéphane, je barbu tous les deux.
00:53Voilà, c'est...
00:54Lunettes, pas de lunettes.
00:55Voilà, c'est ça.
00:56Dis-toi ça, t'as vu.
00:58Damien, responsable de l'innovation de l'école narrative
01:00et fondateur de Topos.
01:02Et Stéphane Zibi donc.
01:03Salut Stéphane.
01:04Bonsoir François.
01:05Ravi de te retrouver aussi, consultant spécialiste en transformation numérique et en IA.
01:10Avec, vous l'avez vu, un petit aperçu assez dense de l'actualité tech ce soir.
01:15Et on va commencer par les réseaux sociaux.
01:18Et lors de son discours sur l'état de l'Union aujourd'hui,
01:21la présidente de la Commission européenne a largement parlé de la tech,
01:24de ses opportunités, de ses risques aussi.
01:27Ursula von der Leyen a donné les grands actes de son projet de loi européen Kids Act
01:31pour protéger les mineurs de la dépendance et des dérives des réseaux sociaux.
01:35Les explications de Nathan Coquimpo.
01:38Et après, évidemment, on revient sur tout cela avec nos débriefeurs.
01:43Pas de réseaux sociaux avant 13 ans.
01:45Puis, une approche graduelle selon l'âge.
01:48Ursula von der Leyen propose d'interdire les comptes personnels sur Instagram, Snapchat, etc.
01:52Entre 13 et 15 ans, avec une autorisation parentale ou du tuteur,
01:56il sera seulement possible d'obtenir un mini-compte bridé.
01:59Les ados n'auront alors que des fonctionnalités limitées,
02:02comme l'absence de défilement de vidéos à l'infini par exemple,
02:05avec une limite de temps d'une heure par jour.
02:09Nous renversons la charge de la preuve.
02:11Les plateformes devront prouver qu'elles sont sûres.
02:14Parce que le problème n'est pas que nos mineurs aient accès aux réseaux sociaux,
02:17c'est de définir le moment et la manière dont nous permettons aux réseaux sociaux d'accéder aux mineurs.
02:23L'Europe a le pouvoir d'agir.
02:25Nous dictons nos propres règles, pas les géants de la tech.
02:30Seront concernés aussi les chatbots IA.
02:32D'ailleurs, Ursula von der Leyen prend les inquiétudes des géants de la tech très au sérieux.
02:37Anthropik, OpenAI, Elon Musk,
02:38ils veulent ralentir le développement de l'intelligence artificielle.
02:41L'Europe les aidera, dit-elle.
02:43Ursula von der Leyen souhaite inviter les principaux laboratoires pour les accompagner.
02:47Mais, et c'est tout le paradoxe, sans pour autant rester à la traîne.
02:51L'Europe doit continuer d'augmenter massivement ses capacités informatiques,
02:55investir largement dans les startups prometteuses pour préserver l'indépendance européenne.
02:59Selon elle, les Européens n'ont pas forcément besoin de développer la technologie de pointe
03:03pour être ceux qui en tirent la plus grande valeur.
03:05L'essentiel est de créer la valeur que l'IA n'a pas encore apportée.
03:09Voilà, donc une espèce de round-up des gros sujets tech chauds du moment
03:15qui ont été mis en avant par la présidente de la Commission européenne aujourd'hui,
03:20avec notamment le AU Kids Act, qui devrait être présenté demain.
03:27C'est le 17 septembre.
03:29Mais on peut d'ores et déjà en parler, parce qu'il y a quand même des informations un peu
03:32punchline,
03:33j'allais dire, assez fortes, concernant ce fameux seuil de 13 ans.
03:39En gros, pour résumer, Nathan nous l'a dit, mais pour qu'on comprenne bien,
03:43parce que c'est quand même assez important, parce que ça va tous nous concerner,
03:46forcément cette histoire-là.
03:47On est tous parents, on connaît tous des enfants, forcément ça va avoir un impact.
03:51Donc, moins de 13 ans, pas de réseaux sociaux, ce qui est déjà le cas.
03:54Mais bon, le truc c'est que vous avez moins de 13 ans,
03:57il suffit de changer la date de naissance en vous inscrivant sur Instagram ou sur Facebook,
04:02et puis vous êtes sur Instagram et Facebook.
04:04De 13 à 15 ans, pas de compte personnel classique,
04:07mais des mini-comptes créés et supervisés par les parents,
04:10avec fonction et temps d'utilisation limité.
04:12En gros, il y a une espèce de surveillance des comptes.
04:15De 15 à 18, là, c'est les plateformes qui devront proposer
04:19une conception spécifiquement sécurisée.
04:22Et ce qui est intéressant aussi, c'est que c'est finalement maintenant
04:25les plateformes qui devront démontrer qu'elles sont sûres pour les mineurs.
04:29On inverse en fait la vapeur.
04:31C'est ça qui est très intéressant.
04:33Damien.
04:34Oui, ce que tu disais, c'est la notion d'inversion de preuve,
04:37qui permet d'essayer de gagner du temps, d'être plus flexible.
04:40Puisqu'en fait, les dispositifs, on va dire répressifs,
04:44étaient vraiment déjà dans le DSA notamment,
04:47mais en fait, c'était lent.
04:48Et là, l'idée, c'est d'inverser le truc.
04:50En gros, on fait du safe by design.
04:52Vous devez prouver que votre produit, il est bon,
04:55ou il est sûr, un peu comme certains produits qu'on met sur le marché.
04:58Quelque part, vous devez vérifier que si une voiture,
05:00elle sort sur le marché, a priori, c'est pour ne pas tuer ses conducteurs.
05:03Enfin, vous savez, c'est passager.
05:04Donc, a priori, elle a été testée.
05:05Donc, il y a ce principe-là que je trouve assez intéressant d'inverser.
05:09Parce que ça donne une responsabilité aux éditeurs de ces deux.
05:11Voilà.
05:12Quelque part, ça les oblige.
05:14Ce qui était le moyen toujours, depuis des années,
05:16de se retrancher derrière le fait de dire,
05:18mais nous, on est juste un éditeur.
05:19Ça pose juste deux choses.
05:20La première, c'est que ces plateformes-là et leurs algorithmes ne sont pas neutres.
05:23Et puis, je rappelle quand même que Meta a payé plusieurs milliards
05:26pour ne pas aller devant un tribunal américain.
05:3016 milliards.
05:31Voilà.
05:31C'est ça.
05:31Donc, preuve que c'est le prix pour ne pas dévoiler que leurs algorithmes sont nocifs.
05:36Et le deuxième élément intéressant, c'est de se demander
05:39quel va être le moyen quand même de prouver son âge.
05:42Parce que tu disais tout à l'heure, on change le truc, on change la règle, l'âge.
05:46Est-ce que maintenant, il va falloir...
05:47Comment va se faire le jeu du chat et de la souris ?
05:48Et qui va gérer ce truc-là ?
05:50Et c'était un éternel problème de suspicion de surveillance généralisée.
05:54Comment vérifier l'âge ?
05:55Parce qu'on est d'accord que c'est là-dessus que...
05:58Il faut dire, le nerf de la guerre, ce n'est pas l'âge, c'est la preuve de l
06:01'âge.
06:01C'est la preuve de l'âge.
06:02C'est la preuve de l'âge.
06:03Et qu'en fait, le problème, c'est qu'il y a eu des tentatives.
06:07En Australie, ils ont dit, on va mettre la responsabilité sur les plateformes.
06:10Bon, ils ont essayé.
06:11Il y a eu 85% des gosses qui ont continué à être sur les réseaux sans aucun problème.
06:17Bon, moi, je vais parler d'un garçon que je connais bien,
06:20parce que c'est mon dernier fils qui a 11 ans.
06:22Il a voulu aller sur TikTok.
06:23Il s'est inscrit sur TikTok.
06:24Il a un peu trafiqué la date pour s'inscrire.
06:27Mais finalement, comme ils ont reconnu que c'était un enfant de moins de 13 ans,
06:30il s'est fait retoquer par TikTok.
06:31Et comment ils l'ont reconnu ?
06:32Dans le fonctionnement.
06:35Le flux dans les contenus.
06:37Il a vu le contenu qu'il regardait, etc.
06:39Et à la fin, il a été profilé.
06:42C'est pour vous montrer la puissance quand même de ces algorithmes.
06:45Simplement, en scrollant du contenu, ils arrivent à détecter l'âge.
06:48C'est fou.
06:48François, je vais te raconter juste un truc.
06:51Un truc tout simple.
06:52Comment ça se fait qu'avec les outils publicitaires,
06:55ils arrivent à détecter que Damien, il adore les lunettes à écailles comme ça,
07:00ou toi, t'as bien tes lunettes noires ?
07:02Comment ils arrivent à profiler pour la publicité ?
07:04Et ce qu'ils arrivent à faire pour la pub, ils pourront sans aucun problème,
07:07mais c'est même encore plus facile, trouver quel serait l'âge de la...
07:11Donc, en gros, quand on reporte la responsabilité sur les plateformes,
07:17on s'évacue quelque chose quand même.
07:19Et ce qui s'est passé, là, dernièrement,
07:22parce que moi, dans une émission que j'anime sur une radio,
07:25j'ai reçu Serge Ciceron.
07:26Et en fait, Serge Ciceron, le psychiatre, disait
07:29« Moi, je ne sais pas si interdire est la bonne chose. »
07:33Par contre, ce qui a été fait comme mesure suite aux 12 milliards,
07:37qui pourraient devenir 16, que Meta devra payer,
07:40il y aura un blocage de deux heures Facebook et Instagram cumulés.
07:47Il y aura, de mémoire, des alertes sur le feed
07:50quand les personnes seront en train de scroller toutes les 15 minutes.
07:53Il y aura quand même un rappel disant que ça y est, c'est fini.
07:56En tout cas, il y a des règles et des garde-fous qui sont imposées
07:59par la justice américaine à Meta, et Meta doit l'appliquer.
08:05Pourquoi on n'applique pas ça à nous ?
08:06On est obligé de créer encore un Kids Act, après un IA Act,
08:09après un DSA, un DMA, après un RGPD, ça suffit.
08:12Ça suffit.
08:14C'est déjà bien qu'il y ait une mobilisation à l'échelle de l'Europe,
08:17parce qu'on pourrait avoir encore pire,
08:19c'est que chaque pays définit ses problèmes.
08:20Moi, c'est 14 ans, moi, c'est 15.
08:22Bon, au moins là, je trouve que c'est pas mal de dire
08:27interdit en dessous de 13, entre 13 et 15,
08:29une version un peu dégradée, au-delà.
08:32Après, c'est peut-être pas parfait,
08:33c'est peut-être pas ce qu'on aurait voulu,
08:35mais au moins, ça a la valeur d'exister,
08:36et la bonne échelle pour pouvoir avoir la puissance,
08:38pour pouvoir l'implémenter, c'est l'échelle européenne.
08:41Bon, voilà.
08:41Après, effectivement, je partage ton point de vue,
08:44c'est que Meta a quand même implicitement reconnu
08:47la nocivité de ces plateformes
08:50en acceptant une transaction de l'ordre de 15 milliards
08:53pour mettre en place.
08:55Déjà, effectivement, à la limite,
08:58prenons cette victoire-là
08:59et demandons à ce que ce soit mis en œuvre en Europe,
09:03mais pas seulement pour Meta,
09:05pour toutes les plateformes.
09:06Donc peut-être qu'ils peuvent, effectivement,
09:09s'inspirer de ça.
09:11J'ai regardé aussi l'exemple australien,
09:14parce qu'effectivement, il y a cette puissance algorithmique
09:19à laquelle tu fais référence
09:20qui permet de détecter au bout de quelques interactions
09:22l'âge de la personne.
09:23Comme tu le dis, on fait aujourd'hui
09:24de l'hyper-segmentation marketing,
09:26donc on est capable de déterminer à qui on a affaire.
09:29Et donc il y a un peu de mauvaise volonté.
09:30Donc il faut vraiment créer et mettre cette responsabilité
09:32du côté des plateformes.
09:34Parce que ce n'est pas ce qui se passe, effectivement,
09:36en Australie.
09:36Et comme tu le dis aujourd'hui,
09:3880% des jeunes,
09:40il y a la 20% qui ont arrêté,
09:42c'est déjà une première étape,
09:43mais 80% continuent avec le VPN
09:45ou juste avec une photo
09:47qu'on montre à l'écran, à sa place.
09:49Donc tout ça, on sait très bien qu'aujourd'hui,
09:51il y a des technologies,
09:52y compris les heures de reconnaissance faciale,
09:54qui permettent de vérifier que ce n'est pas une photo.
09:57Oui, que c'est un vrai visage.
09:58Un vrai visage, ça existe.
10:00Et l'estimation faciale,
10:02ce n'est pas parfait,
10:03mais ça permettrait aussi d'avoir...
10:05Il y a quand même un ensemble de technologies
10:08qui permettent de ne pas être sûr à 100%.
10:10Oui, mais de limiter quand même
10:12l'accessibilité facile,
10:13c'est ça le truc.
10:15Et donc ce renversement
10:17de l'obligation vers les plateformes
10:19me paraît très positif,
10:20et ils ont les moyens de le faire.
10:21Le seul truc que je peux dire,
10:22je vais être très très bref,
10:23c'est que le fait d'interdire,
10:26ça va permettre aux parents de dire
10:27c'est interdit.
10:28Parce que l'enfant lui disait,
10:30mais tout le monde y est.
10:30Absolument.
10:31Et donc le fait de dire c'est interdit,
10:32c'est comme l'alcool qui était vendu,
10:34qui est interdit en vente
10:35pour les mineurs.
10:36Voilà, c'est pas possible.
10:38Le fait que ce soit interdit,
10:39les parents,
10:40ils auront un levier.
10:41Ah oui, voilà.
10:42Alors les parents peuvent avoir un levier.
10:43Après, tu dis sur l'alcool
10:44ou les cigarettes,
10:45c'est le buraliste
10:46ou celui qui te vend l'alcool
10:47qui va te dire,
10:48je n'ai pas le droit.
10:49Il y en a qui passent à travers les choses.
10:50Oui, bien sûr.
10:50Mais globalement,
10:51la responsabilité est sur celui qui y vend.
10:52Là, effectivement,
10:53tu as raison,
10:53c'est que ça répond certainement
10:55aussi à un besoin implicite
10:57qui est le désarroi
10:58de beaucoup de parents
10:58face au fait
10:59qu'ils ne peuvent pas
11:01arrêter
11:01le fait que
11:02leur gamin va y aller dessus
11:04parce que,
11:04bah oui,
11:04mes copains y sont
11:05parce que machin,
11:06etc.
11:08C'est compliqué,
11:09effectivement,
11:09d'expliquer.
11:10C'est de la pédagogie,
11:11c'est de la culture numérique,
11:12c'est très compliqué
11:13quand tout le monde y est
11:14de dire,
11:14ah bah mais j'ai mes potes dessus
11:15donc tu comprends,
11:16Snap c'est cool quoi.
11:17Oui, mais non,
11:17mais parce que voilà quoi.
11:19Donc,
11:19ça va donner effectivement
11:21ce levier là.
11:21Après,
11:22on aurait pu aller plus loin
11:23ou il y aurait une volonté
11:24d'aller plus loin
11:24sur les contenus peut-être aussi
11:25ou sur le fait de dire,
11:26bah oui,
11:27c'est des contenus
11:27qui sont réservés,
11:28etc.
11:28Comme il y a un YouTube Kids par exemple
11:34que l'Europe s'y met maintenant,
11:36elle a juste quelques années
11:37de retard,
11:38mais surtout,
11:39c'est le fait
11:39qu'on est arrivé
11:40à maturité
11:41sur tous ces outils-là.
11:43Est-ce que c'est pas
11:44un peu trop tard non plus
11:44quand même ?
11:45Je sais pas,
11:46parce qu'aujourd'hui,
11:47il y a quand même
11:47beaucoup de gamins
11:47qui utilisent ça aussi
11:48de manière très utile,
11:49on va dire.
11:49Et puis n'oublions pas
11:50un dernier point,
11:50c'est qu'on parle là
11:51d'Insta ou autre,
11:53WhatsApp aujourd'hui,
11:54c'est le nouveau réseau social.
11:55Est-ce que WhatsApp
11:55tombera là-dedans ?
11:56Je sais pas,
11:56ça sera sous...
11:58J'ai pas l'impression.
11:59Non, non, non.
12:00J'ai pas l'impression.
12:01En revanche,
12:02on pourrait tomber
12:02sur des plateformes
12:03s'ils rebloquent,
12:04des choses comme ça,
12:05voire même certains agents
12:07d'IA
12:08qui pourraient être interdits.
12:09Justement,
12:09parce qu'elle parle
12:10des chatbots.
12:11Elle parle des chatbots.
12:12Justement,
12:13je vous encourage
12:14à regarder l'émission
12:15qu'on a faite
12:16avec Cerchiseron.
12:16Cerchiseron disait
12:17que c'était plus dangereux
12:18l'IA que les réseaux sociaux.
12:19C'était dague,
12:20parce qu'en fait,
12:21eux,
12:21ils prennent les IA
12:23comme des compagnons
12:24qui se substituent
12:26aux amis et aux parents.
12:27Et comme ils sont empathiques,
12:29ils répondent 24-24,
12:30ils sont jamais méchants,
12:31ils les engueulent jamais.
12:32Donc, en gros,
12:32il y a une fracture
12:33qui est en train de se glisser
12:34et il y a quelque chose
12:35qui est en train de se passer
12:36de façon manifeste
12:38avec les jeunes.
12:39Je pense qu'il faudrait
12:40quand même,
12:41malgré tout,
12:41ne pas exonérer
12:42les parents de leur rôle.
12:43Non.
12:43Je mets ça en regard.
12:46Du résultat PISA,
12:47si tu veux,
12:48où tu as quand même
12:4934% des élèves seulement
12:50qui disent que leurs parents
12:52ont une discussion avec eux
12:53sur leur travail scolaire.
12:55une fois par semaine
12:56sur comment ça se passe
12:58à l'école.
12:59Une fois par semaine.
13:00C'est-à-dire que 66%
13:03des élèves
13:03n'ont pas de discussion
13:04une fois par semaine
13:05sur leur activité scolaire.
13:07C'est dingue.
13:08Et déjà,
13:08une fois par semaine,
13:09c'est vraiment le minimum.
13:11C'est pas beaucoup.
13:13C'est un chiffre
13:14qui s'est totalement effondré
13:15en 5 ans.
13:17Moi, je me souviens
13:17quand j'étais petit,
13:19mon père,
13:19c'était pas une fois par semaine
13:20qui me demandait
13:21que ça allait bien.
13:22Parce que les parents
13:22sont aussi dans les bulles algoriques.
13:25Ils sont même absorbés
13:26par l'écran.
13:27Ce qui est intéressant,
13:29Christophe,
13:29c'est ce que tu poses en creux.
13:30C'est la question
13:31de la culture numérique
13:33au sens de l'éducation numérique.
13:34Au numérique.
13:35Et le fait de comprendre
13:37que même nous,
13:38parents,
13:38on peut être absorbés
13:39par ces bulles-là
13:40et on peut tomber dedans.
13:41On peut, un,
13:41donner mauvais exemple,
13:42deux,
13:42ne pas avoir de temps disponible.
13:44Des fois,
13:44mes filles me disent
13:45papa a le téléphone.
13:46Ah oui, c'est vrai.
13:47Mais c'est vrai.
13:48Même moi,
13:48je ne me rends même pas compte.
13:49Mais bien sûr.
13:53C'est difficile de donner
13:54le bon exemple.
13:55Et c'est très difficile.
13:56C'est très difficile.
13:57Mais on l'évoquait
13:59dans Tech & Co
13:59cette semaine-là.
14:00Pourquoi pas donner
14:02une heure par semaine
14:03aux jeunes enfants
14:06à partir du CP
14:07sur la manière
14:08dont il faut utiliser
14:09les réseaux sociaux ?
14:10Tu vois,
14:11ouvrir les yeux,
14:11expliquer comment ça marche,
14:13expliquer les algorithmes,
14:14expliquer aussi la volonté
14:16et les fins commerciales
14:18aussi de toutes ces sociétés-là.
14:19Apprendre comment ça marche.
14:20Voilà,
14:20apprendre comment ça marche
14:21et, tu vois,
14:23bousculer un petit peu
14:24les jeunes.
14:24Le danger du chatbot confident
14:26est terrible.
14:27C'est une réalité.
14:28Sans aussi imaginer
14:29ce que ça peut créer
14:30en termes de manipulation.
14:31Évidemment.
14:32C'est une réalité
14:32parce que en plus,
14:33c'est des manipulations
14:33qui viennent,
14:34en général,
14:35ils utilisent
14:35des chatbots américains.
14:37Donc en gros,
14:37c'est des réponses américaines
14:38avec un point de vue américain
14:40sur plein de choses.
14:41Donc en gros,
14:42c'est parfois éloigné
14:43de la culture européenne
14:45ou en tout cas occidentale.
14:46qu'il y a un enjeu culturel.
14:47T'as raison.
14:48Ah non,
14:48mais moi,
14:48franchement,
14:49c'est dingue.
14:50Deuxième acte,
14:51évidemment,
14:52Ursula von der Leyen
14:53a évoqué aussi l'IA
14:55avec cette volonté
14:57de ralentir l'IA,
15:00mais pas toute l'IA en fait.
15:01Elle aimerait bien
15:02inviter les principaux laboratoires
15:04donc OpenAI,
15:04Anthropik,
15:05Google DeepMind,
15:06etc.,
15:07à discuter d'un moyen
15:08pour ralentir la course,
15:11mais en fait,
15:12ne pas stopper l'IA.
15:13Donc c'est compliqué,
15:15toujours ces sujets-là,
15:16mais on a l'impression
15:19que c'est presque une réponse
15:20à une actualité finalement
15:21qu'à une vraie,
15:22comment dirais-je,
15:23une vraie prise de conscience.
15:25Moi,
15:25c'est ce que j'ai ressenti.
15:26Alors,
15:26je le trompe peut-être.
15:28Quel est notre pouvoir
15:31pour peser là-dedans ?
15:33À mon avis,
15:33il est relativement faible.
15:34Des normes,
15:35monsieur,
15:35des normes,
15:35des règles.
15:36Oui,
15:37bien sûr,
15:37alors on peut apporter
15:38un savoir-faire
15:38en termes de normalisation.
15:39ça va être très bon là.
15:40Donc effectivement,
15:41on sait faire,
15:42mais ce qui est certain,
15:44c'est que cette régulation,
15:45si elle a lieu,
15:46à mon avis,
15:47elle aura lieu,
15:47et si elle a lieu,
15:48il faut qu'elle ait lieu
15:49entre la Chine
15:50et les États-Unis,
15:50parce que s'il n'y a pas
15:51un équilibre à ce niveau-là,
15:52c'est assez illusoire
15:54de penser qu'il y a une régulation.
15:56Mais ceci étant,
15:57c'est vrai qu'il y a besoin
15:58d'encadrement.
16:00Il y avait toujours,
16:02il y avait cette petite musique
16:04de destruction du travail,
16:06etc.
16:06Mais depuis une semaine,
16:07on parle de destruction
16:08de l'humanité.
16:09Et on se rend compte
16:10qu'en fait,
16:10la manipulation d'opinion,
16:12les attaques cyber
16:13à grande ampleur,
16:15je ne sais pas si vous avez lu
16:16le document d'Enthropique
16:17sur des gens qui essayent
16:17de développer des nouveaux virus,
16:19par exemple,
16:19pour faire muter le chikungunya
16:21pour qu'il soit beaucoup plus
16:22agressif,
16:24où il y a quand même
16:25des tentatives
16:26d'utiliser cette puissance
16:27de calcul.
16:28C'était des bactériophages
16:29qui n'étaient pas dangereux
16:30pour l'homme
16:30et pour les animaux.
16:31Il y a eu aussi un truc sur...
16:33Ils ont lui montré
16:34qu'ils étaient capables.
16:35Il y aura toujours
16:36un illuminé
16:37qui voudra faire un truc
16:38qu'il ne faut pas faire.
16:39C'est ça le problème.
16:40On voit bien quand même
16:41que ce risque-là,
16:42il existe.
16:43Il existe.
16:43Donc il va bien falloir
16:44à un moment donné
16:45se mettre autour de la table
16:45et défiler une forme
16:47d'encadrement.
16:47Mais à mon avis,
16:49ça n'aura lieu
16:49que quand
16:52les Américains
16:53ne penseront pas
16:54qu'ils vont définitivement
16:55dépasser la Chine
16:56et qu'ils seront obligés
16:57de dire
16:57qu'il faut qu'on se mette d'accord
16:58parce qu'ils continuera
17:00à faire des développements
17:01mais un peu comme ce qu'on a
17:03avec l'IEA
17:04et les armes atomiques
17:05de dire
17:05qu'il y a une autre sorte
17:06d'équilibre de la terre.
17:07C'est exactement ça.
17:08S'il n'y a pas
17:08une sorte d'IEA
17:10de l'IA,
17:11je pense qu'on aura
17:12un sacré problème
17:13et que la régulation
17:14elle devra être internationale
17:16et quand il y a
17:16des contrôleurs
17:17sur des centrales
17:18dans tel ou tel pays
17:19en Iran par exemple,
17:20il faut que ça fasse
17:23autorité.
17:23Il y a un truc intéressant
17:24c'est Roland Lescure
17:25qui est le ministre français
17:26de l'économie et des finances
17:27qui a dit ceci
17:28tout à l'heure
17:29il a dit que
17:30en fait cette volonté
17:31de tout arrêter
17:32venait de ceux
17:33qui étaient déjà
17:33en tête de classe
17:34et pouvaient servir
17:35leurs intérêts
17:36en empêchant les autres
17:36de les rattraper.
17:37C'est vrai qu'ils ont
17:38une telle avance
17:39et puis ils disent
17:39on stoppe
17:42ils gardent en fait
17:43leur leadership.
17:45On en parlera peut-être après
17:46c'est facile
17:47effectivement
17:48de jouer aux pompiers pyromanes.
17:49le truc c'est que
17:50par rapport à ce que je trouve
17:51intéressant c'est la fenêtre
17:52qui essaie de prendre l'Europe.
17:53L'Europe ne pèse pas sur l'IA
17:54elle est inexistante.
17:56Donc là il y a une volonté
17:58pour plein de raisons
17:59de faire appel à
18:00ce serait bien qu'on se régule
18:01ok on verra pourquoi
18:03mais il y a une fenêtre
18:05possible de se dire
18:05ok vous voulez réguler
18:06et bien tant mieux
18:07on sait très bien faire ça
18:08en Europe.
18:08Donc par conséquent
18:10on va jouer avec vous.
18:11Donc vous voulez qu'on régule
18:12notre marché est grand
18:13donc allons-y
18:14voyons ce que ça veut dire
18:15pour vous réguler.
18:17Après ça n'enlève pas
18:18le fait que l'Europe
18:18essaie de gérer
18:19ou essaie d'exister
18:20de manière législative
18:21on va dire
18:21ou par des règles
18:22mais ça n'empêche pas
18:23le fait que
18:24est-ce qu'elle arrive
18:24à faire émerger des champions
18:26il ne faut pas gagner
18:27sur l'histoire.
18:28Donc il y a cette question-là
18:29qui pose qu'il ne faut pas
18:30non plus tirer une balle
18:31dans le pied
18:31en empêchant de faire émerger
18:33ou de ralentir ça encore
18:34les quelques champions
18:37qu'on pourrait avoir
18:38et qui pourraient potentiellement
18:39essayer d'être
18:40peut-être pas en concurrence
18:42avec les Frontier Lab
18:42mais tout au moins
18:43qu'ils soient dans la course
18:44et ça c'est un vrai sujet
18:45toujours avec cette notion
18:46d'inversion de preuves
18:47ça c'est quand même
18:47assez intéressant
18:48je trouve que c'est
18:48la grande innovation
18:49de cette discussion
18:52mais la fenêtre est difficile
18:53mais elle est jouable.
18:55Alors autre sujet
18:56lié à tout cela
18:56c'est cette musique aussi
18:59qui commence à être
19:01de plus en plus forte
19:02aux Etats-Unis
19:02faut-il un gendarme
19:03pour surveiller
19:04l'intelligence artificielle
19:05et face aux inquiétudes
19:07autour des dangers de l'IA
19:07il y a trois géants
19:08du secteur Open AI
19:09Anthropique et Google
19:10qui travaillent à la création
19:11d'un organe chargé
19:12de tester la dangerosité
19:14des nouveaux modèles
19:15une manière de mettre en fin
19:16des freins
19:17la course à l'IA
19:18Anthony Morel
19:19nous expliquait tout ça
19:20dans Good Morning Business
19:23C'est une idée
19:23qui vient de Demi Sassabis
19:25à l'origine
19:25c'est le patron
19:26de Google DeepMind
19:27et face à tous les incidents
19:29de sécurité
19:29dont on a beaucoup parlé
19:30ces IA qui contournent
19:32les règles de manière inquiétante
19:33les discours aussi
19:34de certains chercheurs
19:35qui parlent d'un risque existentiel
19:37sur la survie de l'humanité
19:38et bien l'idée
19:39ce serait d'instaurer
19:40un organe de contrôle
19:42de la dangerosité
19:43de l'intelligence artificielle
19:44une structure
19:44qui serait financée
19:46par les entreprises du secteur
19:47qui serait composée
19:48notamment d'experts indépendants
19:50chargés d'évaluer
19:51les modèles
19:51les plus avancés
19:52en termes de sécurité
19:53avant qu'ils ne puissent
19:54être mis sur le marché
19:55donc c'est un début de réponse
19:57qui est déjà critiqué
19:58par certains observateurs
19:59et politiques
20:00qui accusent
20:00les géants de la tech
20:01de vouloir définir
20:02leur propre régulation
20:04d'une certaine manière
20:04c'est un peu comme si
20:05vous aviez Pepsi et Coca
20:06qui disaient
20:07on va créer une autorité
20:08de régulation
20:09des boissons sucrées
20:09est-ce qu'ils peuvent
20:10vraiment créer
20:11un gendarme
20:12pour les réguler
20:13eux-mêmes
20:13c'est une vraie question
20:14alors ce qui est intéressant
20:15c'est qu'on commence
20:16à voir deux camps
20:17se former sur cette question
20:18du ralentissement
20:19et de la régulation
20:20face à ceux
20:21qui réclament plus de contrôle
20:22on a par exemple
20:23le français Mistral
20:24qui reconnaît
20:25alors le risque technique
20:26que représentent les IA
20:28auxquels on donne
20:28une certaine liberté
20:29d'exécution
20:30mais ils accusent
20:31leurs concurrents américains
20:32alors je les cite
20:33de profiter de cette période
20:34pour renforcer
20:36leur position de marché
20:36en plaidant
20:37pour des réglementations
20:38conçues pour les favoriser
20:40au détriment
20:40de leurs concurrents
20:41on peut aussi citer
20:42Mark Zuckerberg
20:43il dit
20:44on n'a pas besoin
20:44de ralentir
20:45on doit laisser faire
20:46le marché
20:47les entreprises
20:47ont déjà intérêt
20:49à créer des IA
20:50qui soient sûres
20:50parce que personne
20:51ne veut utiliser
20:52une IA dangereuse
20:53et que les entreprises
20:54qui les créent
20:54risquent déjà
20:55des poursuites judiciaires
20:56en cas d'accident
20:57et puis on a
20:57Jensen Hwang
20:58aussi le patron d'Nvidia
20:59qui juge les scénarios
21:00de fin du monde
21:01infondés scientifiquement
21:02on a eu une scène
21:03assez surréaliste
21:04c'était avant-hier
21:05où Jensen Hwang
21:06est sur scène
21:07à l'occasion d'un podcast
21:08qui est filmé publiquement
21:09il reçoit un appel
21:10de Donald Trump
21:11il prend l'appel
21:12il le met sur haut-parleur
21:13et il écoute
21:15Donald Trump
21:16dire que
21:17les craintes autour de l'IA
21:18sont un canular
21:19qu'il ne faut surtout
21:20pas ralentir face à la Chine
21:21et Jensen Hwang
21:22acquiesce à tout ce qu'il dit
21:24vous avez raison
21:24dit-il
21:25on ne laissera pas ça arriver
21:26donc on a une vraie fracture
21:27entre ceux qui considèrent
21:29l'IA suffisamment dangereuse
21:30pour qu'il faille mettre en place
21:31des garde-fous réglementaires
21:32et puis ceux qui répondent
21:33que le danger
21:34ce serait surtout de freiner
21:35quand la Chine
21:36elle continue d'accélérer
21:38voilà
21:38évidemment
21:39très intéressant tout cela
21:41il y a un absent
21:42dans cette
21:43dans cette coalition
21:45des gendarmes
21:45c'est Meta
21:47Zuckerberg
21:47qui a justement déclaré
21:49que les laboratoires
21:49avaient déjà suffisamment
21:51d'incitation à développer l'IA
21:52de manière sûre
21:54et donc
21:54il ne fait pas partie
21:55de cette volonté
21:57de créer un gendarme d'IA
21:58mais la question
21:59et Anthony l'a souligné
22:01et je vais vous la poser
22:03parce que c'est vraiment
22:04une bonne idée
22:04de demander
22:05à ceux qui font l'IA
22:06les plus puissants
22:07de devenir en même temps
22:08leur propre gendarme
22:09en fait
22:10et l'exemple de Coca-Cola
22:11et de Pepsi
22:12était tout à fait exact
22:15son exemple était top
22:16mais simplement
22:16qu'ils soient à l'initiative
22:17et qu'ils le disent
22:18ouais mais que ce soit
22:19les opérateurs
22:19non
22:20voilà
22:20s'il y a des gens indépendants
22:22qui serait dedans
22:23on met Christophe
22:24tiens c'est une bonne idée
22:25ça serait pas mal
22:26ils sont
22:28peut-être
22:28ils sont extrêmement sincères
22:29dans leur volonté
22:30mais c'est sûr
22:31qu'il y a quand même
22:31un soupçon
22:32très fort
22:36de coalitions
22:37de personnes
22:38qui cherchent à
22:39qui ont pris de l'avance
22:40sur un certain nombre
22:41de sujets
22:41et qui veulent pouvoir
22:43réguler
22:43il y a aussi le fait
22:44qu'on ne peut pas
22:46leur faire confiance
22:46bien sûr
22:47mais on ne peut pas
22:49être jugé parti
22:49ça fait partie
22:50des bases
22:51de l'éthique
22:51même si aux US
22:52ces choses-là
22:53sont parfois
22:53un peu bouleversées
22:55en ce moment
22:55et les règles changent
22:56mais enfin pour nous
22:57effectivement
22:57s'ils veulent être régulés
22:58il faut quand même
22:59qu'il y ait une tierce partie
23:00un organisme indépendant
23:01un conseil
23:02quelque chose
23:03et idéalement
23:05multilatéral
23:05et global
23:06donc moi ce que je crois
23:08c'est que ça
23:09ça signifie chez eux
23:10le fait qu'ils se disent
23:11il va y avoir forcément
23:12un encadrement
23:13on a intérêt à prendre
23:14les devants
23:14et proposer nos règles
23:15et faire en sorte
23:16que ça bloque
23:17éventuellement
23:17les règles
23:18je ne sais pas
23:18c'est comme mettre
23:19un renard devant un poulailler
23:23dormez braves gens
23:24tout va bien se passer
23:24c'est bon
23:25on a des gens
23:26qui nous surveillent
23:27ils n'ont même pas donné
23:28l'idée
23:29que pourrait être
23:29l'élément coercitif
23:31de ce truc
23:33de gendarme
23:35on ne sait pas
23:35est-ce que c'est consultatif
23:36est-ce qu'ils communiqueront
23:39au grand public
23:39les enquêtes
23:41et les résultats
23:41de tout cela
23:42on n'a aucune information
23:44pour l'instant
23:44il n'y a rien du tout
23:46mais ce qui est intéressant
23:46dans qui est pour
23:47qui est contre
23:48quel est le niveau
23:49de transparence
23:49de tout ça
23:50on ne sait pas
23:51dans ce qui est pour
23:51qui est contre
23:52ce qui est intéressant
23:52c'est de voir quand même
23:53qu'on a
23:54OpenEye Anthropik
23:55et Google
23:55qui défendent
23:56des LLM propriétaires
23:58et d'un autre côté
23:58il y a Meta
24:00qui est plus orienté
24:00sur les aspects
24:01open source
24:02de la même façon
24:02Nvidia
24:03donc des gens
24:04qui ont intérêt
24:04à commoditiser
24:05les LLM
24:06donc moi ce que je vois
24:06aussi là-dedans
24:07il y a une certaine
24:08fébrilité aujourd'hui
24:09parce que
24:10c'est pas comme
24:10l'ère du PC
24:12où il y avait
24:13Wintel
24:13Windows
24:15Microsoft
24:15Intel
24:16à l'ère de l'Internet
24:17il y avait Google
24:18qui faisait le search
24:18Facebook
24:19les réseaux
24:19Amazon le commerce
24:20chacun était dans
24:21ce couleur de nage
24:22aujourd'hui
24:23tout le monde fait tout
24:24parce que personne ne sait
24:25comment la valeur va évoluer
24:26et il y a des milliards
24:27qui ont été investis
24:28donc il va bien falloir
24:29à un moment donné
24:30les rentabiliser
24:31donc il faut
24:31je pense qu'il y a
24:32beaucoup d'inquiétudes
24:33et d'incertitudes
24:34sur l'évolution
24:35de la chaîne de valeur
24:36et les acteurs
24:37voient aussi
24:37dans cette opportunité
24:38le fait de pouvoir
24:40sécuriser un peu
24:41de leur valeur ajoutée
24:42sur l'aspect LLM
24:44je peux dire rapidement
24:45François
24:45c'est qu'en fait
24:46l'État
24:46globalement
24:47les États sont lents
24:47et la techno
24:48ultra rapide
24:49et en fait
24:50faire ça
24:50c'est au moins
24:51réguler un minima
24:52avant qu'il y ait
24:53une catastrophe
24:54et qu'on doit
24:55réagir
24:56de façon
24:57quasiment
24:59brutale
25:00voilà
25:00donc c'est ça
25:01un peu
25:01qu'il y a
25:02et qu'on soit
25:02obligé de réguler
25:03de façon quasiment
25:05préventoire
25:05et trop rapide
25:06mais je pense
25:07c'est un peu ça
25:07j'ose espérer
25:09que c'est ça
25:09leur intention
25:10mais bon
25:10on ne sait jamais avec
25:11moi je suis un peu
25:13dubitatif
25:13sur cette logique
25:14de pompier pyromane
25:15tous les 4 matins
25:17à Modéi
25:17c'est la catastrophe
25:18mon dieu
25:19on va tous mourir
25:19mais on continue
25:20très très vite
25:20notre nouveau modèle
25:22il est génial
25:23il est tellement génial
25:24qu'on a fait des trucs
25:25qu'on ne maîtrise pas
25:26voilà
25:27il y a ce côté
25:28ce marketing de la peur
25:29qui marche aussi
25:30et copié par les chinois
25:31une semaine après
25:32il marche
25:33mais qui joue vraiment
25:35avec le feu
25:35c'est pour ça que je dis
25:36pompier pyromane
25:37il y a vraiment
25:37cette notion là
25:38de on veut faire un truc
25:39à la fois
25:40on est subjugué
25:41par ce qu'on fait
25:42je pense qu'il y a
25:43derrière ça
25:44il y a certainement
25:44effectivement une volonté
25:45d'essayer de
25:46on va dire
25:46de verrouiller le marché
25:47très clairement
25:48il y a quelque chose
25:48qui se joue
25:49après comme dit
25:50d'ailleurs Zuckerberg
25:51Zuckerberg lui-même
25:52dit mais bon
25:52si on veut aller
25:53moins vite sur l'IA
25:53ils n'ont qu'à lever le pied
25:54sur les développements
25:55puis voilà c'est plié
25:56il n'y a pas besoin
25:56de mettre en place
25:58une quelconque entité
25:59de régulation
26:00on veut aller moins vite
26:01on lève le pied
26:02moi je ne le ferai pas
26:03voilà en gros
26:04c'est ce qu'il dit
26:05il n'a pas tort
26:05pour une fois
26:06tiens
26:06je n'aime pas
26:07spécialement Zuckerberg
26:08pardon ?
26:09il est un petit peu
26:09en retard aussi
26:10oui mais bon
26:11il a pris une posture
26:13on va dire
26:13qui est un peu
26:14différente des autres
26:14et puis est-ce que
26:15vous pensez
26:15que la Chine
26:16va arrêter en même temps
26:16ça n'arrivera pas
26:18puisqu'ils ne peuvent pas
26:19se permettre
26:20de laisser la Chine devant
26:21bien sûr que non
26:21après le message
26:22qui est envoyé aussi
26:23c'est typiquement
26:24sur tout l'écosystème
26:26qui est mis en place
26:27avec les puces
26:28les Nvidia
26:29et les acteurs
26:29tout ça
26:30il ne faut pas oublier
26:31qu'aujourd'hui
26:31ça fonctionne
26:32mais c'est un cercle fermé
26:33qui pourrait devenir
26:33une pyramide de Ponzi
26:34si le système s'arrête
26:36donc très clairement
26:37je pense que ça montre
26:38plus une certaine
26:40fébrilité
26:40comme on le disait
26:41de la machine
26:42est peut-être en train
26:42de s'emballer
26:43pas seulement technologiquement
26:45mais d'un point de vue financier
26:46d'un point de vue
26:47je lisais récemment
26:48une étude
26:48qui disait que
26:48sur les modèles
26:49par exemple
26:49même à 200 dollars
26:50par exemple
26:50les abonnements à 200 dollars
26:51qu'on peut avoir
26:52sur Anthropik
26:53en fait la réalité serait
26:54que en gros
26:55l'équivalent
26:56du nombre de tokens
26:58brûlés
26:58serait aux alentours
26:59de 20 000 à 50 000 dollars
27:00par utilisateur
27:01en gros
27:01tous les acteurs
27:03du marché actuellement
27:04sont en train de financer
27:05de subventionner
27:06les usages
27:07comme à l'époque
27:08on a subventionné
27:08les téléphones
27:09pour développer les usages
27:10mais c'est à une échelle
27:11de dingue
27:12et donc il y a un moment
27:13où il y a un truc
27:15qui va se passer
27:15et donc je pense
27:16qu'il y a un moyen aussi
27:17cette notion là
27:18juste pour financer
27:18sécurité
27:18c'est peut-être aussi
27:19un moyen de dire
27:20on va lever le pied
27:21avant qu'effectivement
27:21on se prenne le mur
27:22financier aussi
27:23c'est clair
27:24et là le mur financier
27:25ça va faire mal
27:25parce que là
27:26tout le monde va être inquiet
27:27ah bah là
27:27c'est parti
27:27c'est parti
27:27– Sous-titrage FR 2021
Commentaires