Chaque voix compte - L'IA menace-t-elle l'humanité ? - Vidéo Dailymotion

LCP Assemblée nationale

À LA UNE / L'IA menace-t-elle l'humanité ? Alors que l'IA fait désormais partie du quotidien des Français, des inquiétudes concernant ses dérives émergent. Comment trouver du travail lorsque l'IA est capable de réaliser des tâches de plus en plus complexes en un temps record ? Comment, face à son évolution drastique, garder le contrôle sur celle-ci ? Graphistes, comptables, avocats, mathématiciens ou même mannequins... de nombreux métiers dans tous les secteurs sont menacés par la concurrence de l'intelligence artificielle. Les sondages témoignent d'une méfiance massive : 42 % des Français souhaitent ralentir fortement le développement de l'IA ou la mettre en pause. Aux États-Unis, 73 % des citoyens réclament une réglementation stricte et 64 % refusent le développement d'une IA surhumaine tant que sa sécurité n'est pas prouvée. Ces données révèlent une inquiétude profonde : et si le progrès que nous créons aujourd'hui devenait la menace de demain ? Invités : - Sandro Gozi, député européen « Renew » - Nicolas Bonnet, député « écologiste et social » du Puy-de-Dôme - Laurence Devillers, professeure en IA et chercheuse au CNRS « Chaque Voix compte », votre rendez-vous quotidien qui prend le pouls de la société : un débat, animé par Adeline François, en prise directe avec l'actualité politique, parlementaire, sociale ou économique. Un carrefour d'opinions où ministres, députés, élus locaux, experts et personnalités de la société civile font entendre leur voix.

Transcript

00:00:02Générique

00:00:04Générique

00:00:13Générique

00:00:17Générique

00:00:24Bonsoir à tous et bienvenue dans Chaque Voix Compte sur LCP.

00:00:27Je suis ravie de vous retrouver pour une heure de débat en direct de l'Assemblée Nationale.

00:00:30Et puisque c'est vendredi et que Chaque Voix Compte,

00:00:33et bien c'est à vous que nous donnons la parole pour une émission consacrée ce soir à l'intelligence

00:00:38artificielle

00:00:39au moment où les alertes mais aussi les appels à la réguler se multiplient.

00:00:44Comment garder le contrôle ?

00:00:45Comment ralentir un progrès qui semble aujourd'hui dépasser l'humain dans de multiples domaines ?

00:00:50Comment vivre avec l'IA sans la laisser nous dévorer ?

00:00:53Et bien on en parle ce soir avec vous Nicolas Bonnet.

00:00:56Bonsoir.

00:00:57Vous êtes député écologiste du Puy-de-Dôme, ingénieur informatique de formation.

00:01:01Et vous avez notamment produit cette année un rapport sur les usages de l'intelligence artificielle

00:01:06au sein de l'Assemblée Nationale.

00:01:07Vous travaillez aussi beaucoup sur l'IA au sein du Palais Bourbon.

00:01:11Merci d'être là aux côtés de Sandro Gauthier.

00:01:14Bonsoir.

00:01:15Bonsoir.

00:01:15Merci d'être là député européen Renew.

00:01:17Vous êtes un des grands spécialistes de l'IA au sein du Parlement européen.

00:01:20Vous avez d'ailleurs déposé et fait adopter il y a quelques jours un amendement sur la

00:01:25non-prolifération de l'IA.

00:01:27Ça alors, vous nous direz ce dont il s'agit.

00:01:29Et puis bonsoir Laurence Devillers.

00:01:50Bonsoir.

00:01:50Beaucoup d'intelligence naturelle qui ont vu l'IA débouler dans leur métier ou dans

00:01:55leur futur métier sans crier gare.

00:01:57Quel usage en faites-vous ? Quelle barrière attendez-vous ? C'est de tout cela dont on

00:02:01va parler mais aussi de plein d'autres choses puisque c'est vous qui décidez, c'est votre

00:02:06émission, c'est vous qui allez la faire.

00:02:07Je compte sur vous.

00:02:08Et chez vous, installez-vous confortablement parce que chaque voix compte.

00:02:11C'est parti.

00:02:20C'est vrai que plus un jour ne passe sans que l'intelligence artificielle ne démontre

00:02:24ses capacités extraordinaires.

00:02:26Il y a une semaine, l'entreprise OpenAI a annoncé la résolution de plus de 700 problèmes

00:02:32majeurs en mathématiques.

00:02:34Là, ce matin, on a appris que l'IA avait permis de percer le secret d'une lettre codée

00:02:39de Napoléon aux armées françaises sur laquelle les historiens se cassaient les dents

00:02:42depuis 200 ans.

00:02:43Bon oui, l'intelligence artificielle nous épate mais elle commence aussi sérieusement

00:02:47à nous effrayer.

00:02:48Thibaut Henoch.

00:02:55Pas un jour sans une déclaration qui la concerne.

00:03:01Qu'on l'aime, qu'on la déteste, qu'on en ait peur, l'IA est bien là.

00:03:05Elle est en passe de devenir un facteur déterminant de la prospérité mondiale.

00:03:11Enthousiasmante pour les uns, je crois que ce sera l'outil le plus extraordinaire et

00:03:16le plus bénéfique jamais créé.

00:03:18Dangereuse pour les autres.

00:03:20Une utilisation abusive de l'IA pourrait concerner les armes biologiques.

00:03:24Ces risques sont bien réels.

00:03:27Des cris d'alarme qui se multiplient, décrivant l'IA comme une menace.

00:03:32Début septembre, le chercheur Jacob Coxon quittait l'industrie à grand bruit.

00:03:36Les gens qui construisent l'IA croient sincèrement qu'elles pourraient tous nous tuer d'ici la fin de la

00:03:42décennie.

00:03:42Des propos chocs après un incident majeur survenu cet été.

00:03:46Le 21 juillet, OpenAI révélait que deux de ces IA, agissant de façon autonome et sans autorisation,

00:03:54avaient piraté la plateforme Hugging Face.

00:03:56Dans une lettre ouverte publiée le 14 octobre, 225 chercheurs mondiaux alertent à leur tour.

00:04:03Sans changement immédiat, de tels incidents vont se reproduire et ceux qui viendront seront bien plus dommageables.

00:04:10Un discours face auquel un homme fait la sourde oreille, Donald Trump.

00:04:14Le président américain ne veut pas entendre parler de régulation du secteur.

00:04:18Les géants de l'IA sont appelés à s'autodiscipliner.

00:04:22Une absurdité du propre aveu du président de Microsoft.

00:04:25« Il existe plus de règles de sécurité pour une brique de lait que pour l'IA.

00:04:29Si nous pensons qu'il s'agit de la technologie la plus puissante jamais créée,

00:04:33nous devons dire, aucune entreprise ou technologie ne devrait être au-dessus des lois. »

00:04:38Des débats sur la régulation mais aussi sur l'emploi.

00:04:40À mesure que l'IA pénètre le monde du travail, ces effets se font déjà sentir.

00:04:45D'après une récente étude de la Banque de France,

00:04:47l'IA a déjà commencé à freiner les embauches, en particulier chez les jeunes.

00:04:53L'IA a déjà commencé à freiner les embauches.

00:04:56Je voudrais d'abord donner la parole à François.

00:04:58Bonsoir François, enfin bonsoir maître, puisque vous êtes avocat au barreau de Montpellier

00:05:03et vous présidez aussi la commission prospective et innovation au Conseil.

00:05:08Je voudrais d'abord vous entendre sur ce qu'on vient d'entendre dans le reportage.

00:05:11Il y a plus de sécurité pour une brique de lait que pour l'intelligence artificielle.

00:05:15Vous, en tant qu'avocat, ça résonne cette phrase en vous ?

00:05:19Oui et non. Dans le sens où, en effet, il y a une réglementation qui existe au niveau européen.

00:05:24On a cette chance-là, au niveau européen, d'avoir eu une réglementation avec l'IA Acte qui est entrée

00:05:29en vigueur.

00:05:30On a la chance d'avoir des députés européens ici.

00:05:32À l'inverse, aux États-Unis, c'est vraiment la course à l'innovation.

00:05:35Il ne faut pas freiner l'innovation.

00:05:36En Europe, on a vraiment une vision différente, c'est-à-dire qu'il faut quand même réguler.

00:05:41Il faut avoir une vision, à mon avis, également de souveraineté,

00:05:45parce que dans le cadre des débats et dans le cadre de la politique internationale actuelle que l'on voit,

00:05:51il faut impérativement que l'Europe ait une vision d'une IA souveraine et autonome,

00:05:56et encore plus au sein des professions libérales comme les avocats.

00:06:00Concrètement, vous, dans votre cabinet d'avocats, vous vous servez de l'IA de quelle façon aujourd'hui ?

00:06:05J'ai la chance de faire partie d'un cabinet fidèle qui est au niveau national,

00:06:09qui a quelques antennes aussi à l'international,

00:06:11mais surtout, on est 1 200 avocats, près de 2 000 collaborateurs sur 87 bureaux.

00:06:16Donc, on a cette chance-là d'avoir pu développer notre propre IA maison,

00:06:21en circuit fermé et avec une garantie, une autonomie,

00:06:25qui nous permet d'avoir en vase clos, j'ai envie de dire, le respect de nos secrets professionnels.

00:06:31À l'inverse, dans le cadre de mes fonctions au Conseil national de développement,

00:06:34j'ai pu voir que parmi les 80 000 avocats de France,

00:06:37tout le monde n'a pas cette possibilité d'investir massivement dans la sécurité des données.

00:06:42Et donc, il y a un vrai sujet pour éviter une fracture au sein des avocats,

00:06:47et plus généralement au niveau de l'accès au droit pour les justiciables,

00:06:50parce que c'est important d'avoir des IA sécuris.

00:06:52Ça, c'est intéressant, mais pour un profane comme moi, qui n'est pas fait de droit,

00:06:57l'IA vous sert à quoi ?

00:06:59Alors, l'IA, matériellement, ça nous permet d'aller plus vite sur des tâches à faible valeur ajoutée,

00:07:04comme on le disait avant, par exemple, de la revue documentaire,

00:07:08de la comparaison de version 1, version 2, version 3, de la traduction.

00:07:13Tous ces éléments-là qui, avant, nous prenaient un peu de temps,

00:07:16va nous permettre d'avoir plus d'efficacité sur des documents de synthèse plus rapidement.

00:07:21Est-ce que ça vous sert à trouver les jurisprudences, par exemple,

00:07:23quand vous avez un client qui arrive dans votre cabinet ?

00:07:26Alors, c'est un cas d'usage qui a été notamment développé par les éditeurs juridiques.

00:07:31Ils sont nombreux sur la place.

00:07:32Et donc, oui, les éditeurs ont développé également des surcouches d'IA

00:07:36qui permettent, en fait, c'est plus des ragues, pour ne pas rentrer dans le détail technique,

00:07:40mais c'est plus des moteurs de recherche améliorés, pour simplifier,

00:07:44qui vont permettre d'aller chercher plus rapidement la jurisprudence.

00:07:47C'est un autre cas d'usage.

00:07:48Est-ce que vous vous fixez des lignes rouges en tant qu'avocat ?

00:07:51Je pense naturellement au moment où vous écrivez votre plaidoirie.

00:07:55Alors, j'ai envie de dire, le travail se fait surtout en amont,

00:07:57dans le cadre de la recherche, des écritures,

00:07:59plus qu'au niveau de la plaidoirie, bien sûr, mais là, c'est l'humain.

00:08:01Et c'est là où vraiment l'avocat reprend toute sa place, c'est évident.

00:08:06Mais les lignes rouges qu'on peut se fixer,

00:08:08c'est dans le cadre des travaux qu'on a en amont,

00:08:10puisque c'est important de respecter un élément fondamental,

00:08:14c'est notre secret professionnel.

00:08:15C'est vraiment ce qui est un pilier, j'ai envie de dire,

00:08:17d'une société démocratique, c'est d'avoir des avocats

00:08:20qui ont un secret professionnel sûr et certain,

00:08:23et qu'il ne va pas y avoir de fuite de données.

00:08:25Et donc, le respect de ce secret professionnel,

00:08:28il est fondamental, et cette ligne rouge que vous évoquez,

00:08:31c'est de ne pas porter atteinte au secret professionnel.

00:08:34D'où la nécessité d'avoir des intelligences artificielles sécurisées,

00:08:37qui respectent le secret professionnel.

00:08:38Et là, tous les avocats en non-conscient,

00:08:41ou vous avez vu, dans votre poste au barreau,

00:08:46vous avez vu des avocats, justement,

00:08:48interroger des intelligences artificielles

00:08:50en fournissant des données personnelles de clients ?

00:08:52Alors, c'est toujours pareil.

00:08:53Il y a des personnes qui respectent plus ou moins,

00:08:55j'ai envie de dire, les lignes rouges.

00:08:58Et oui, malheureusement, il y a certains avocats

00:09:00qui ont franchi certaines lignes, mais tout comme...

00:09:03Par méconnaissance ?

00:09:04Par méconnaissance, ou par, on va dire,

00:09:07soucis économiques, également,

00:09:09puisque avoir des IA souveraines, sécurisées,

00:09:12qui respectent le secret professionnel,

00:09:13ça a un coût.

00:09:14Et donc, il y a sur le marché des solutions

00:09:16qui sont non souveraines, gratuites,

00:09:19et qui portent atteinte potentiellement à ce secret.

00:09:21Et certains confrères, malheureusement,

00:09:23ont pu tomber dans la facilité

00:09:25de mettre des informations dessus.

00:09:27Est-ce que, quand même, ça a supprimé des postes

00:09:29au sein de votre cabinet ?

00:09:32Ou est-ce que ça en menace, en tout cas ?

00:09:35Au niveau de mon cabinet,

00:09:37je sais qu'on a une politique qui, à l'inverse,

00:09:40est d'équiper l'ensemble des collaborateurs

00:09:42des outils d'IA, de les former,

00:09:43pour, au contraire, les augmenter.

00:09:44C'est-à-dire que, nous, ce qu'on veut,

00:09:46c'est des avocats qui ne sont plus que avocats,

00:09:49mais qui ont également des compétences

00:09:51en matière d'IA.

00:09:52Et de l'autre côté, au niveau plus national,

00:09:55au Conseil national des barreaux,

00:09:56ce qu'on a constaté, c'est une réalité,

00:09:59et on y travaille, le 4 novembre prochain,

00:10:00on va y travailler avec des jeunes.

00:10:02C'est justement qu'il y a eu un gel,

00:10:03un peu, des recrutements.

00:10:04C'est une réalité.

00:10:05Il ne faut pas se mentir.

00:10:07Par contre, à mon sens,

00:10:08c'est un gel temporaire,

00:10:10le temps que, justement,

00:10:12les cabinets sachent où aller,

00:10:14et surtout d'avoir des jeunes collaborants

00:10:17qui soient formés avec les compétences à ce titre.

00:10:20Vous avez face à vous deux élus

00:10:22et une très grande experte.

00:10:24Quelle question vous aviez envie

00:10:25de leur poser ce soir ?

00:10:27Alors, dans le cadre de la préparation,

00:10:28en effet, une question qui pouvait être soulevée,

00:10:31à mon sens,

00:10:31et on parlait tout à l'heure

00:10:32des débats budgétaires,

00:10:33on sait notamment que l'accès au droit

00:10:35est un élément fondamental dans une démocratie.

00:10:37Ça, c'est un postulat de base.

00:10:39On sait également que cet accès au droit

00:10:42potentiellement peut être attaqué

00:10:45par défaut de moyens.

00:10:47Plusieurs leviers sont identifiés,

00:10:48notamment par les institutions représentatives.

00:10:51Pourquoi pas une baisse de la TVA

00:10:52à 5,5 au lieu de 20 %,

00:10:53ça permettrait de faciliter pour les particuliers.

00:10:56Pourquoi pas un crédit d'impôt ?

00:10:57Alors, je sais que ce n'est pas la tendance actuellement,

00:11:00mais c'est un point à envisager.

00:11:01Mais au-delà de ça, pourquoi pas,

00:11:03et c'est sur la base du rapport

00:11:04qui a été établi par le Sénat,

00:11:06envisager des expérimentations

00:11:08avec les commissions d'accès au droit

00:11:11au niveau départemental

00:11:12et permettre justement aux justiciables

00:11:14d'interroger par l'intermédiaire

00:11:16d'une intelligence artificielle,

00:11:18mais en bout de course,

00:11:19d'avoir des avocats qui interviennent.

00:11:20Ce qui garantirait un meilleur accès au droit,

00:11:24l'utilisation des nouvelles technologies,

00:11:26tout en garantissant une expertise

00:11:27et un conseil, celui de l'avocat.

00:11:30Donc, quid d'une éventuelle expérimentation

00:11:32en ce sens,

00:11:33ou d'éventuelles aides en matière budgétaire.

00:11:37C'est bien,

00:11:38parce qu'à l'heure de l'intelligence artificielle,

00:11:39ils étaient tous les trois

00:11:40à prendre beaucoup de notes

00:11:41pendant que vous parliez.

00:11:42Peut-être d'abord Nicolas Bonnet,

00:11:43puisqu'il est question de Parlement,

00:11:45français,

00:11:46puisqu'il parlait du Sénat.

00:11:47Qu'est-ce que vous pouvez répondre à...

00:11:50Alors, l'idée d'avoir un RAG,

00:11:52je vais reprendre le terme que vous employez,

00:11:53c'est-à-dire un espace, en tout cas,

00:11:55d'IA générative,

00:11:57parce que c'est vrai que j'aime bien souvent

00:11:58préciser quand on parle du terme IA,

00:12:00la plupart du temps,

00:12:01on parle de ces grands modèles de langage

00:12:02qui sont liés à la générative,

00:12:04mais il y a plein d'autres applications liées à l'IA,

00:12:06donc c'est important d'être précis.

00:12:07Donc, on parle en tout cas d'IA générative.

00:12:09Et quand on parle de RAG,

00:12:10c'est parce qu'on maîtrise les documents

00:12:12qu'on lui a fournis.

00:12:13Effectivement, si on lui fournit, par exemple,

00:12:14toute la loi française,

00:12:16mais pas Wikipédia et pas plein d'autres choses,

00:12:19on peut avoir une confiance renforcée dans la réponse

00:12:22et on a beaucoup plus de chances

00:12:23que l'IA générative soit capable de sourcer

00:12:26aussi d'où viennent, en fait,

00:12:27les éléments dont elle nous...

00:12:30de sourcer les réponses qu'elle nous apporte.

00:12:32Donc, mettre au point un RAG public

00:12:34pour plus facilement être capable

00:12:38de comprendre le droit,

00:12:39de comprendre à quoi on a droit

00:12:41ou au contraire à quoi on n'a pas droit,

00:12:42avant d'aller voir un avocat,

00:12:44ça paraît quelque chose de très intéressant.

00:12:46Après, je n'ai pas entendu parler

00:12:48d'un tel projet pour l'instant,

00:12:50mais porter ce projet,

00:12:51en parler avec le ministère de la Justice,

00:12:54en tout cas, au sens large,

00:12:55ce serait quelque chose d'intéressant,

00:12:57effectivement, pour favoriser l'accès au droit

00:12:58parce que je suis d'accord

00:12:59avec ce que vous avez dit.

00:13:00Aujourd'hui, on a une justice

00:13:02qui est souvent trop lente

00:13:03et on a de plus en plus de personnes

00:13:06qui se plaignent d'avoir du mal

00:13:07à accéder à leurs droits.

00:13:10On l'a vu récemment encore

00:13:11avec les violences sexuelles et sexistes

00:13:12où beaucoup de personnes disent

00:13:13« Moi, j'ai déposé, ça ne débouche sur rien

00:13:16alors que j'amène beaucoup d'éléments, par exemple. »

00:13:18Donc, des fois, c'est peut-être

00:13:21que manquant de maîtrise de la loi,

00:13:22les personnes n'en arrivent pas aussi

00:13:24à porter les éléments attendus

00:13:25qui permettent d'avoir un traitement derrière.

00:13:28Donc, en tout cas, oui,

00:13:29moi, je trouve ça intéressant

00:13:30comme ça fait partie des bons usages, clairement,

00:13:33quand il y a des données publiques

00:13:34telles que la loi.

00:13:35Vous faites sourire, Laurence,

00:13:35favoriser l'accès,

00:13:38favoriser l'intelligibilité,

00:13:39en tout cas, de la loi

00:13:41me paraître un bon usage

00:13:42de l'IA générative.

00:13:44Pourquoi ça vous fait sourire, Laurence ?

00:13:46Non, mais pourquoi on ne met pas ça en place

00:13:47assez vite, là ?

00:13:48Parce qu'en fait...

00:13:49Je ne suis pas ministre de la Justice.

00:13:50On pourrait le faire.

00:13:52Il y a beaucoup d'endroits

00:13:53où on pourrait utiliser l'IA

00:13:55à bon escient.

00:13:56Bon, on le voit pour la santé,

00:13:58ça s'accélère,

00:13:58mais pour l'administration,

00:14:00il faut aussi accélérer les propos

00:14:01avec, évidemment,

00:14:02des garde-fous

00:14:03et des gens qui vont vérifier

00:14:04tout ce qui se passe

00:14:05et des audits,

00:14:05c'est-à-dire, en fait,

00:14:06une surveillance continue.

00:14:08Sandro Gozzi ?

00:14:09Je reprends les points de François

00:14:11parce qu'ils étaient fort intéressants

00:14:13et je les partage.

00:14:14Tout d'abord,

00:14:15il a rappelé une chose

00:14:16en général sur l'intelligence artificielle

00:14:18quand on a travaillé

00:14:19au niveau européen

00:14:20et c'est le bon niveau.

00:14:22C'est qu'on ne peut pas

00:14:24appréhender la question

00:14:25de mettre l'IA au service

00:14:27de nos intérêts et nos valeurs

00:14:28si on travaille uniquement

00:14:30au niveau national.

00:14:31On s'est fait critiquer,

00:14:32on a dit que l'Europe

00:14:33ne fait que des règles.

00:14:35Ce qu'on fait au niveau européen

00:14:36est d'essayer de développer

00:14:37un modèle qui soit alternatif

00:14:39à celui américain

00:14:39et celui chinois.

00:14:40Celui américain,

00:14:41tout est privé,

00:14:42les big tech font tout

00:14:43et le contraire de tout.

00:14:44Il faut ce qu'ils veulent.

00:14:45Ils utilisent nos données personnelles,

00:14:47etc.

00:14:48Et le modèle chinois

00:14:49qui est l'autre grande puissance

00:14:51de l'IA

00:14:51où tout est contrôlé

00:14:52de façon verticale

00:14:54par l'État

00:14:55où on fait de la notation sociale

00:14:56où c'est un algorithme

00:14:57qui décide

00:14:58si on est un bon citoyen.

00:14:59Nous, au niveau européen,

00:15:01on a essayé

00:15:01de développer

00:15:02une troisième voie.

00:15:03Une troisième voie

00:15:04qui, d'un côté,

00:15:06veut promouvoir au maximum

00:15:07et combler les retards

00:15:08qu'on a accumulés

00:15:09parce que dans l'innovation

00:15:10liée à l'intelligence artificielle

00:15:12au sens large

00:15:12et n'en parlons pas

00:15:14pour les langages

00:15:15et les modèles de langage,

00:15:16on a accumulé

00:15:16un retard énorme

00:15:17par rapport aux Américains et Chinois

00:15:19donc on doit rattraper

00:15:20ces retards

00:15:21mais aussi

00:15:21on doit travailler

00:15:22sur la gestion

00:15:24de cette transition.

00:15:26On est dans une nouvelle époque

00:15:29avec l'IA

00:15:30et au niveau européen,

00:15:31on veut travailler

00:15:32beaucoup sur la formation

00:15:34parce que c'est la seule réponse

00:15:36pour éviter

00:15:38au niveau du marché du travail

00:15:39les côtés négatifs

00:15:40de l'IA

00:15:41à savoir

00:15:41les risques

00:15:44de perdre

00:15:45des emplois.

00:15:46Après, vous l'avez dit

00:15:47et ça vaut pour les droits,

00:15:49ça vaut pour les mathématiques.

00:15:51On va en parler de ça.

00:15:51Finalement,

00:15:52les bons modèles européens

00:15:54veulent assurer

00:15:54qu'il y ait une vérification humaine.

00:15:56C'est ça.

00:15:57Et c'est autour

00:15:59du contrôle

00:16:00de la vérification humaine

00:16:01qu'on doit travailler.

00:16:03C'est pour cela

00:16:03qu'il faut former.

00:16:04Moi aussi,

00:16:05j'utilise l'IA

00:16:05pour mon travail

00:16:07mais je ne demande jamais

00:16:08à l'IA

00:16:09explique-moi une loi.

00:16:10Je dis, écoute,

00:16:11je dois légiférer

00:16:12dans le domaine

00:16:13du marché durable

00:16:15de l'environnement.

00:16:17Tu peux me dire

00:16:17quelles sont les lois existantes

00:16:19au niveau national

00:16:19mais j'ai une compétence.

00:16:21Je ne peux pas méfier

00:16:22complètement à l'algorithme.

00:16:24C'est là-dessus

00:16:25qu'on doit travailler.

00:16:26Je voudrais entendre Elias.

00:16:29Elias,

00:16:30bonsoir Elias.

00:16:31Elias,

00:16:31vous avez 19 ans,

00:16:32vous êtes étudiant

00:16:32en classe prépa à Paris.

00:16:34S'il vous plaît,

00:16:34je voudrais que vous nous racontiez

00:16:35d'abord comment vous êtes arrivé

00:16:36jusqu'à ce plateau.

00:16:38Tout à fait.

00:16:39C'est avec l'intelligence artificielle

00:16:41que je suis venu ici

00:16:41parce que j'avais vu

00:16:43plusieurs émissions

00:16:43de ce type

00:16:45avec des débats

00:16:46et je me suis dit

00:16:47pourquoi pas candidater

00:16:48à mon tour

00:16:49pour participer au débat

00:16:50parce qu'en tant que citoyen

00:16:51c'est important

00:16:52de participer au débat,

00:16:53de dire ce qu'on a à dire,

00:16:54de dire ce qu'on pense

00:16:55et ChatGPT,

00:16:58ce modèle-là,

00:16:59m'a proposé

00:17:00plusieurs émissions

00:17:01de type débat

00:17:02citoyen

00:17:03et après avoir

00:17:05vu plusieurs extraits,

00:17:07j'ai décidé

00:17:07de candidater

00:17:08à cette émission

00:17:09pour ce cadre.

00:17:10Vous êtes tombé

00:17:10sur chaque voix compte

00:17:11sur ChatGPT ?

00:17:12Oui,

00:17:12il l'a proposé

00:17:13parmi plusieurs options

00:17:14et j'ai regardé

00:17:15chaque option attentivement

00:17:16et voilà.

00:17:18Le reste du temps,

00:17:19comment est-ce que vous,

00:17:20vous vous servez

00:17:21de l'intelligence artificielle ?

00:17:22Vous êtes étudiant

00:17:23en classe prépa ?

00:17:24Oui, tout à fait.

00:17:25Moi, je me sers

00:17:26de l'intelligence artificielle

00:17:27dans le cadre

00:17:28de mes études.

00:17:29C'est très utile...

00:17:30Classe prépa de quoi ?

00:17:31Pour les écoles de commerce

00:17:33CPGE, ECG.

00:17:35C'est très utile

00:17:36pour ficher ses cours,

00:17:38notamment,

00:17:38c'est très utile

00:17:39pour faire des graphiques

00:17:40qui permettent

00:17:41de mieux comprendre

00:17:42les leçons.

00:17:43Évidemment,

00:17:43ça ne remplace pas

00:17:44l'apprentissage humain

00:17:45naturellement,

00:17:46mais c'est un outil

00:17:47comme un autre

00:17:48et comme chaque outil

00:17:49doit être utilisé

00:17:49intelligemment

00:17:50et à bon escient.

00:17:52Il y a des choses

00:17:52que vous vous empêchez

00:17:53de faire ?

00:17:54Oui, quand même.

00:17:56C'est-à-dire que

00:17:57je ne vais pas déléguer

00:17:58tout mon travail

00:17:59à ChatGPT.

00:18:01si, par exemple,

00:18:02il y a quelque chose

00:18:02que je ne comprends pas,

00:18:03j'essaie d'abord

00:18:04de le comprendre

00:18:05par moi-même

00:18:05et puis si jamais

00:18:06je vois vraiment

00:18:07qu'après toute une séquence

00:18:09de réflexion,

00:18:09je n'y arrive pas,

00:18:10je lui demande de l'aide

00:18:11sans jamais lui demander

00:18:13directement la solution

00:18:14parce que ça ne fait pas réfléchir.

00:18:16Et en même temps,

00:18:16si vous êtes là,

00:18:17c'est parce que l'IA

00:18:18vous interroge aussi

00:18:19sur votre propre avenir ?

00:18:21Oui, tout à fait.

00:18:22J'imagine qu'on aura

00:18:23l'occasion d'y revenir

00:18:24mais l'intelligence artificielle

00:18:25c'est aussi un défi

00:18:27pour les jeunes aujourd'hui,

00:18:28pour le marché du travail

00:18:30on sait que l'intelligence artificielle

00:18:32elle va transformer

00:18:34durablement

00:18:34le marché du travail,

00:18:35elle va créer

00:18:35de nouveaux emplois

00:18:36mais elle va en détruire

00:18:37ou en menacer certains

00:18:38donc évidemment

00:18:39ça nous interroge

00:18:40en tant que jeunes.

00:18:41Est-ce que vous,

00:18:41vous avez l'impression

00:18:42que dans la filière

00:18:43vers laquelle vous vous dirigez

00:18:44il y a déjà des portes

00:18:45qui se ferment

00:18:45et d'autres qui s'ouvrent

00:18:47par ailleurs

00:18:47mais est-ce qu'il y a

00:18:48des débouchés

00:18:49où vous vous dites

00:18:49là il ne faut plus y aller ?

00:18:51Non, j'avoue que je reste optimiste

00:18:54je suis bien conscient

00:18:55de toute la transformation

00:18:56que l'IA va apporter

00:18:58mais enfin je demeure optimiste

00:19:00quant aux perspectives professionnelles

00:19:03des jeunes en France

00:19:05j'espère en tout cas

00:19:06que l'intelligence artificielle

00:19:09ne va pas faire disparaître

00:19:10tous les emplois

00:19:11je ne pense pas à vrai dire.

00:19:12Quelle question vous vouliez poser

00:19:13à nos invités ?

00:19:14Oui alors tout à fait

00:19:15je voulais poser

00:19:16la question suivante

00:19:17en fait on parle beaucoup

00:19:18de régulation

00:19:18et à juste titre

00:19:19mais on parle de réguler

00:19:21une technologie

00:19:22qu'on ne maîtrise pas en Europe

00:19:23qu'on n'est pas souverain

00:19:25et en fait ce que je crains

00:19:27en centrant le débat

00:19:28sur la régulation

00:19:29c'est de se retrouver

00:19:30dans une situation

00:19:31comme avec les GAFAM

00:19:32où on est obligé

00:19:33de réguler des entreprises

00:19:34qui ne sont pas européennes

00:19:36et qui pourront entamer

00:19:37un bras de fer

00:19:38avec les démocraties européennes

00:19:40c'est pour ça qu'à mon avis

00:19:41il faut se concentrer

00:19:42sur comment créer

00:19:43les conditions

00:19:44pour faire émerger

00:19:45des champions

00:19:46et là je m'adresse

00:19:47particulièrement

00:19:48aux députés européens

00:19:49que vous êtes

00:19:51en fait parce qu'aujourd'hui

00:19:52comme l'a rappelé

00:19:53Ursula von der Leyen

00:19:55il y a de l'épargne

00:19:56qui n'est pas utilisée

00:19:57en Europe

00:19:58qui n'est pas valorisée

00:19:59pour permettre aux entreprises

00:20:00de l'innovation

00:20:02de trouver des fonds

00:20:03pour investir

00:20:05et c'est justement

00:20:06on parle aussi ça

00:20:07au niveau français

00:20:08avec des retraites

00:20:09qui ne sont pas capitalisées

00:20:10par exemple

00:20:11qui ne vont donc pas

00:20:12servir à des fonds de pension

00:20:13pour investir

00:20:14dans des intelligences artificielles

00:20:15et donc moi

00:20:16ce que je voulais savoir

00:20:17c'était au niveau européen

00:20:19comment est-ce qu'on fait

00:20:20pour créer justement

00:20:21cet écosystème financier

00:20:23favorable à l'émergence

00:20:25de grands champions

00:20:25de l'intelligence artificielle européenne

00:20:28Je suis tout à fait d'accord

00:20:29avec vous

00:20:30après il y a un débat

00:20:32qui est un peu superficiel

00:20:33et qui tend à dire

00:20:35que les retards de l'Europe

00:20:37c'est à cause de la régulation

00:20:38c'est pas ça

00:20:38parce qu'on a introduit

00:20:40la régulation sur l'EIA

00:20:41il y a deux ans

00:20:42et on a accumulé un retard

00:20:44dans les derniers 20 ans

00:20:44Oui c'est-à-dire

00:20:45on a mis des freins

00:20:46avant d'installer le moteur ?

00:20:47Non, non

00:20:47ça veut dire que

00:20:48les retards européens

00:20:49ce n'est pas

00:20:51à cause de la régulation

00:20:52c'est à cause de ce que

00:20:54votre nom ?

00:20:55Elias

00:20:55C'est ce que Elias nous disait

00:20:56c'est dans l'investissement

00:20:58dans le soutien économique

00:21:00et financier

00:21:00l'innovation

00:21:01qu'on a eu un problème

00:21:01quand on dit

00:21:03ah bah

00:21:04le retard européen

00:21:05est dû à la régulation

00:21:06non, la régulation est nécessaire

00:21:07mais

00:21:08on doit aussi

00:21:10créer

00:21:11notamment

00:21:11un marché

00:21:12privé

00:21:13financier

00:21:14qui puisse être intéressant

00:21:15et attractif

00:21:16en Europe

00:21:17pour financer

00:21:18des projets

00:21:18dans les IA

00:21:19les start-up

00:21:20etc

00:21:20parce qu'on a beaucoup

00:21:21de start-up

00:21:21on a beaucoup

00:21:22de petites entreprises

00:21:23dans le domaine

00:21:23de l'IA

00:21:24qui font un bon travail

00:21:25du moment où

00:21:26ils demandent un financement

00:21:27ils ne trouvent pas

00:21:27un marché financier

00:21:30qui soit intéressant

00:21:31en Europe

00:21:32ils vont chercher

00:21:33l'argent en Californie

00:21:34Comment vous expliquez

00:21:35qu'ils ne trouvent pas ?

00:21:36On ne le trouve pas

00:21:37parce que les marchés financiers

00:21:38sont trop fragmentés

00:21:39et la proposition

00:21:40de la commission

00:21:41que nous soutenons

00:21:42c'est de créer

00:21:42un marché

00:21:43des investissements

00:21:44et des épargnes

00:21:45européens

00:21:46intégrés

00:21:47pour

00:21:48justement

00:21:50trouver

00:21:51la liquidité

00:21:52est là

00:21:52seulement

00:21:52qu'elle n'investit

00:21:53pas dans des projets

00:21:54européens

00:21:55parce qu'il n'y a pas

00:21:55un marché suffisamment

00:21:56efficace

00:21:56il n'y a pas

00:21:57un marché unique

00:21:57il n'y a pas

00:21:58un marché unique

00:21:59des investissements

00:21:59de l'IA

00:22:00et c'est ça

00:22:00que nous devons créer

00:22:01il y a encore

00:22:02trop de barrières

00:22:03il faut éliminer

00:22:04les barrières

00:22:04mais j'insiste

00:22:05le problème

00:22:06c'est le manque

00:22:07d'investissement

00:22:08par la présence

00:22:10des régulations

00:22:11Si vous avez lu hier

00:22:12la tribune d'Arthur Mench

00:22:13le patron de Mistral

00:22:14c'était dans le journal

00:22:15Le Monde

00:22:16laisser les modèles d'IA

00:22:17aux américains

00:22:18et aux chinois

00:22:18placerait l'Europe

00:22:19dans une dépendance

00:22:21sans équivalent

00:22:21dans l'histoire

00:22:22des civilisations

00:22:23et alors

00:22:24c'est intéressant

00:22:25parce qu'Arthur Mench

00:22:25il compare l'erreur

00:22:26que l'Europe

00:22:27est en train de faire

00:22:29à celle

00:22:30qu'elle a déjà faite

00:22:30avec internet

00:22:31quand elle a développé

00:22:32les usages

00:22:32tout en laissant

00:22:33les plateformes

00:22:34aux autres

00:22:34c'est comme ça

00:22:35que les GAFA

00:22:35ne sont pas européennes

00:22:36d'ailleurs il y a aussi

00:22:37plus de 50 milliards

00:22:39programmés dans les budgets

00:22:40européens publics

00:22:42pour travailler

00:22:43sur l'iCloud européen

00:22:44sur les infrastructures

00:22:45européennes

00:22:45donc nous devons

00:22:46travailler sur un double régime

00:22:48d'un côté

00:22:48investissement public

00:22:50pour un iCloud européen

00:22:51pour des infrastructures

00:22:52stratégiques

00:22:53pour la cybersécurité

00:22:54et créer un marché

00:22:56qui puisse financer

00:22:57un marché des capitaux privés

00:22:59qui puisse financer

00:23:00des projets en Europe

00:23:01au lieu de laisser

00:23:02partir outre-océan

00:23:04aux Etats-Unis

00:23:04et c'est ça

00:23:05qu'on est en train

00:23:05de négocier

00:23:06Nicolas Bonnet

00:23:06on est en pleine

00:23:07discussion budgétaire

00:23:08en ce moment

00:23:09à l'Assemblée nationale

00:23:11ça parle aux députés

00:23:12en ce moment

00:23:12cette question

00:23:13des investissements

00:23:14dans l'intelligence artificielle

00:23:16c'est pas

00:23:17le budget d'Etat

00:23:18qui investit directement

00:23:19dans l'entreprise

00:23:19pas plus d'ailleurs

00:23:20qu'aux Etats-Unis

00:23:21c'est effectivement

00:23:22parce qu'il y a

00:23:22de l'investissement privé

00:23:23qui décide de se tourner

00:23:24vers certaines entreprises

00:23:25en faisant visiblement

00:23:25suffisamment confiance

00:23:26à cet investissement

00:23:29au fait d'aller

00:23:30dans ce type d'investissement

00:23:31pourtant il me semble

00:23:32qu'au niveau Etats-Unis

00:23:33c'est quand même

00:23:33assez risqué

00:23:34parce qu'il y a

00:23:34une importante bulle

00:23:36autour de l'IA

00:23:36qui pourrait quand même

00:23:37éclater un jour

00:23:37parce que pour l'instant

00:23:38les grandes entreprises

00:23:39qui font de l'IA

00:23:40sont déficitaires

00:23:41elles ont investi massivement

00:23:42dans de très grands

00:23:43data centers

00:23:43et aujourd'hui

00:23:44c'est absolument pas rentable

00:23:45moi j'ai l'impression

00:23:46qu'elles misent beaucoup

00:23:46sur le fait aussi

00:23:47progressivement

00:23:48de nous rendre

00:23:48assez dépendants

00:23:49de leur système

00:23:50et progressivement

00:23:51de nous faire payer

00:23:51du coup de plus en plus cher

00:23:52pour y accéder

00:23:53parce qu'il faudra bien

00:23:53rembourser les gros investissements

00:23:54qu'ils ont fait aux Etats-Unis

00:23:55là-dessus

00:23:56alors nous c'est sûr

00:23:57qu'on a du retard

00:23:58pour l'instant

00:23:59sur ce domaine là

00:24:00qui a déjà été

00:24:01il y a toujours un avantage

00:24:02à celui qui a réussi

00:24:02à sortir en premier

00:24:03c'est pour ça d'ailleurs

00:24:04que sur le moteur de recherche

00:24:05Google est leader

00:24:06c'est pour ça

00:24:07que sur les systèmes

00:24:08d'exploitation

00:24:08Microsoft est leader

00:24:09ils sont sortis en premier

00:24:10ils ont réussi

00:24:11à envahir le marché

00:24:12nous ça va être difficile

00:24:13de rattraper à mon avis

00:24:14le retard

00:24:14si on décide de dire

00:24:16qu'il faut faire exactement

00:24:16comme ont fait les américains

00:24:18donc on a aussi

00:24:19à mon avis

00:24:19un autre modèle à inventer

00:24:20peut-être un peu moins coûteux

00:24:22mais avec un ratio

00:24:24plus intéressant

00:24:24en termes de coûts financiers

00:24:26de coûts environnementaux

00:24:27et de performance

00:24:28ce sera peut-être

00:24:30peut-être pas exactement

00:24:31en chat de GPT

00:24:31mais je pense qu'il faut

00:24:32qu'on trouve autre chose

00:24:32pour aller aussi

00:24:33sur un autre créneau

00:24:33je ne suis pas sûr

00:24:34que si on essaie

00:24:35de faire un exactement

00:24:35comme chat de GPT

00:24:37on arrive vraiment

00:24:38à le distancier aujourd'hui

00:24:39en dites-vous Laurence

00:24:41oui je pense que

00:24:41ça fait plusieurs moments

00:24:43où on discute

00:24:44de ces systèmes 3

00:24:45qui seraient européens

00:24:46et qui seraient effectivement

00:24:47des systèmes plus petits

00:24:48par exemple

00:24:48ou adaptés à des tâches

00:24:50plus réduites

00:24:51je pense qu'il faut aussi

00:24:52comprendre qu'on a besoin

00:24:53d'éduquer énormément

00:24:54il ne suffit pas

00:24:54de trouver des budgets

00:24:55il faut trouver un marché

00:24:56de gens qui sont prêts

00:24:57à faire confiance

00:24:58à ces systèmes

00:24:59et vous pensez

00:24:59qu'il n'existe pas

00:25:00en Europe pour le moment ?

00:25:01on voit des tensions

00:25:02comme c'est en train

00:25:03de monter aux Etats-Unis

00:25:04d'ailleurs

00:25:05sur l'utilisation de l'IA

00:25:07parce qu'on envoie

00:25:08des aspects délétères

00:25:09on a des discours

00:25:10qui sont extrêmement délétères

00:25:11sur les conditions

00:25:13d'utilisation

00:25:14de contrôle

00:25:14je me permets

00:25:15de vous interrompre

00:25:16mais est-ce que vous notez

00:25:17que c'est quelque chose

00:25:18d'assez récent

00:25:19dans ce basculement

00:25:20vers un récit

00:25:20un peu négatif

00:25:22de l'intelligence artificielle

00:25:23je pense qu'on a basculé

00:25:25d'un enthousiasme

00:25:26un peu fou

00:25:26à une réalité

00:25:27c'est-à-dire comprendre

00:25:28qu'effectivement

00:25:29on n'a pas de grand

00:25:30à part Mistral

00:25:31sur l'Europe

00:25:32qu'on n'a pas encore

00:25:34cette puissance de financement

00:25:35et qu'on n'a pas éduqué

00:25:37les gens

00:25:38les citoyens

00:25:39devraient être plus éduqués

00:25:40sur l'IA

00:25:40ça fait 10 ans

00:25:41ou 11 ans

00:25:41chacun c'est un peu

00:25:42auto-formé non ?

00:25:43mais ça n'a rien à voir

00:25:44c'est pas parce que

00:25:44vous utilisez l'IA

00:25:45que vous êtes formé

00:25:45il faut ouvrir le capot

00:25:47et par ailleurs

00:25:47l'auto-formation

00:25:48justement

00:25:48ça fait que

00:25:49on ouvre le capot

00:25:50de la voiture

00:25:50soi-même

00:25:51et elle roule

00:25:51n'importe comment

00:25:52non non non

00:25:52mais vous l'utilisez

00:25:53sans comprendre

00:25:54les rouages

00:25:55qui sont dessous

00:25:55et pourtant

00:25:56il y a des concepts

00:25:57qu'on peut amener

00:25:58assez facilement

00:25:58moi je lutte

00:25:59pour que l'école

00:26:00par exemple

00:26:00des CM1

00:26:02CM2

00:26:03on ait en fait

00:26:04une démystification

00:26:06des usages

00:26:07pour les enfants

00:26:08très jeunes

00:26:08qui comprennent

00:26:09que c'est à la fois

00:26:10des talents

00:26:10qu'on fera demain

00:26:11qu'on va former

00:26:11parce qu'ils seront curieux

00:26:12et puis avoir

00:26:13l'esprit critique

00:26:14par rapport à ces machines

00:26:15et pas tout gober

00:26:15on fait ça à l'université

00:26:17j'ai des cours entiers

00:26:18sur l'épistémologie

00:26:19tout ça

00:26:19c'est à comprendre

00:26:20de façon technique

00:26:21mais aussi surtout

00:26:22philosophique aussi

00:26:23quelles sont les contraintes

00:26:24quels sont les enjeux éthiques

00:26:26et ça c'est quelque chose

00:26:27qu'on doit faire partout

00:26:28ne serait-ce que

00:26:28comment écrire un prompt

00:26:29correctement

00:26:30non

00:26:31mais moi je vous le dis

00:26:32en tant que parent

00:26:33quand vous discutez

00:26:34avec des enseignants aussi

00:26:35aujourd'hui

00:26:36il y a une population

00:26:37qui est divisée en deux parties

00:26:37c'est à dire

00:26:38il y a ceux qui savent

00:26:38très bien s'en servir

00:26:39et il y a ceux

00:26:40qui sont encore en train

00:26:41de balbutier

00:26:41je suis désolée

00:26:42c'est pas écrire un prompt

00:26:44correctement

00:26:44ça c'est vraiment pas le sujet

00:26:45c'est savoir que

00:26:46si je fais un prompt

00:26:48de telle façon

00:26:48et je fais son inverse

00:26:49j'aurai des réponses

00:26:50qui vont me surprendre

00:26:51c'est challenger il y a

00:26:53c'est pas savoir

00:26:54le faire correctement

00:26:55il n'y a pas de correctement

00:26:56c'est challenger

00:26:57et si on se comprend

00:26:59ce que c'est que

00:26:59la température

00:27:00des facteurs

00:27:01qu'on a mis à l'intérieur

00:27:02qui font que ça crée

00:27:03ou plus ou moins

00:27:03ou si on fait

00:27:05si on comprend mieux

00:27:06les différentes IA

00:27:07l'IA prédictive

00:27:08l'IA générative

00:27:09l'IA gentil

00:27:10je vais vous raconter

00:27:10une petite histoire

00:27:11sur l'IA gentil

00:27:11si vous voulez bien

00:27:12on a parlé de tous ces IA

00:27:14qui sont capables

00:27:15d'aller chez une guine face

00:27:18trouver des solutions

00:27:19donc s'échapper

00:27:20de leur terrain de jeu

00:27:21etc

00:27:22on anthropomorphise

00:27:23ces machines

00:27:23en fait elles optimisent

00:27:24la tâche qu'on leur a donnée

00:27:26alors je prends l'exemple

00:27:27d'un Australien

00:27:28qui a besoin

00:27:28qui a un agent

00:27:29qui l'utilise lui

00:27:30pour ses tâches personnelles

00:27:32gérer ses mails

00:27:33etc

00:27:33et lui demande

00:27:34de réserver un cours de sport

00:27:36alors l'IA va chercher

00:27:37à travers les réseaux

00:27:38à trouver le cours de sport

00:27:40or il n'y a pas de place

00:27:41l'IA va optimiser

00:27:42elle va trouver une faille

00:27:43elle en trouve une

00:27:44dans ce système

00:27:45qui est qu'on peut

00:27:46désinscrire les gens

00:27:47elle en désinscrit un

00:27:48et elle met

00:27:49son propriétaire

00:27:50à la place

00:27:51donc les failles

00:27:52existent pas

00:27:52l'IA n'a pas de morale

00:27:53l'IA n'a pas de morale

00:27:55n'a pas d'intention

00:27:55n'a pas d'intuition

00:27:57elle n'est pas alignée à nous

00:27:58mais sauf qu'il aurait fallu

00:27:59que quand il lui demande

00:28:00de réserver un cours de sport

00:28:01il aurait fallu lui dire

00:28:02évidemment tu ne piques pas

00:28:03la place de quelqu'un

00:28:04respect

00:28:05mais en fait

00:28:06on confond tout

00:28:07parce qu'en ce moment

00:28:08on voit arriver

00:28:08avec les mathématiques

00:28:09ces sujets énormes

00:28:10de l'IA

00:28:11très fort

00:28:12parce que ce sont

00:28:13des cadres particuliers

00:28:14merci pour la transition

00:28:15Laurence

00:28:16merci pour la transition

00:28:17parce que ce dont vous parlez

00:28:19c'est ce que dit

00:28:20Hugo du mini le copain

00:28:21qui a été récompensé

00:28:22de la médaille Fields

00:28:23en 2022

00:28:24le prix Nobel de maths

00:28:25depuis une semaine

00:28:26il est anéanti

00:28:27parce qu'il raconte même

00:28:29qu'il a pleuré

00:28:29toute une nuit

00:28:30quand il a appris

00:28:31que l'intelligence artificielle

00:28:32venait de résoudre

00:28:33700 problèmes de maths

00:28:35dont plusieurs

00:28:36sur lesquels il travaillait

00:28:37depuis des années

00:28:37bon ben il est arrivé

00:28:38en quelques heures

00:28:39et écoutez-le

00:28:40il en parle ce soir

00:28:41à Maïté Frémont

00:28:42pour LCP

00:28:42écoutez-le

00:28:43parce qu'il a aussi

00:28:43une question à vous poser

00:28:45ben c'était une partie

00:28:46de mon monde

00:28:47qui s'écroulait

00:28:48c'est sûr que c'est

00:28:48un bouleversement

00:28:49très intense

00:28:50moi c'est des problèmes

00:28:51sur lesquels

00:28:52j'ai travaillé

00:28:53pendant presque 20 ans

00:28:55c'était presque

00:28:56devenu des amis

00:28:57j'avais une relation

00:28:58avec ces problèmes

00:28:59c'était tout un cheminement

00:29:00vers ces choses-là

00:29:02et donc ce bouleversement

00:29:04intense

00:29:05ça a été en fait

00:29:06un choc

00:29:08pour beaucoup d'entre nous

00:29:09même si on savait

00:29:10qu'il allait arriver

00:29:11et dans mon cas

00:29:11en plus ça a été extrême

00:29:12parce que quasiment

00:29:13tous les problèmes

00:29:14de mon domaine

00:29:14ont été résolus

00:29:16je pense qu'on avait

00:29:16bien préparé le terrain

00:29:17et donc du coup

00:29:19l'intelligence artificielle

00:29:20a su regrouper les choses

00:29:22pour résoudre

00:29:24quasiment tous les problèmes

00:29:25sur lesquels je travaillais

00:29:26donc le lendemain

00:29:28était le surlendemain

00:29:29pour moi

00:29:29les représentants

00:29:31de la république

00:29:32et les représentantes

00:29:33quel est

00:29:34à vos yeux

00:29:35le rôle

00:29:36qu'on veut laisser

00:29:37à l'humain

00:29:38dans le contrôle

00:29:39de cette technologie

00:29:40parce qu'il faut faire

00:29:41bien attention

00:29:42que si par exemple

00:29:43on décrète

00:29:44que les sciences

00:29:45deviennent une boîte noire

00:29:47qui nous produit

00:29:48juste des réponses

00:29:49mais sur lesquelles

00:29:50on n'a aucune compréhension

00:29:51le jour où il y a un problème

00:29:53il n'y aura personne

00:29:55pour prendre la responsabilité

00:29:57d'expliquer

00:29:58et de savoir

00:30:01comment réagir

00:30:02à ce problème

00:30:03les maths

00:30:04c'est aussi de la philo

00:30:05Sandro-Body

00:30:05je peux répondre ?

00:30:06bien sûr

00:30:07grâce à des gens comme lui

00:30:08moi je n'aurais jamais compris

00:30:10que l'intelligence artificielle

00:30:13avait résolu

00:30:14700 modèles mathématiques

00:30:16lui

00:30:17il a les compétences

00:30:18pour vérifier

00:30:18donc tout d'abord

00:30:19il faut continuer à travailler

00:30:21sur les compétences humaines

00:30:22parce qu'il faut assurer

00:30:24qu'il y ait une vérification humaine

00:30:25c'est un nouveau job ça

00:30:27parce que pour l'instant

00:30:27c'est gratuit

00:30:28oui mais attendez

00:30:30donc il faut travailler

00:30:31parce que

00:30:32ce matin et hier

00:30:33il y avait

00:30:34un grand mathématicien italien

00:30:36et un autre

00:30:36que vous connaissez

00:30:37en France

00:30:38le premier

00:30:38cédric Villani

00:30:39le deuxième cédric Villani

00:30:41qui disait exactement

00:30:42les mêmes choses

00:30:42ils disent en ce moment

00:30:44chez les mathématiciens

00:30:44c'est apocalypse now

00:30:46oui ça c'est cédric

00:30:47qui disait ça

00:30:48Battiston disait

00:30:49la vérification

00:30:50reste centrale

00:30:51pourquoi ?

00:30:51parce que nous voulons

00:30:52une EIA humaine

00:30:53nous avons une approche

00:30:54humaniste à l'EIA

00:30:55nous ne pouvons pas

00:30:56tout déléguer

00:30:57c'est pour cela

00:30:57que l'EIA

00:30:58que nous voulons en Europe

00:30:59ne sera jamais

00:31:00une boîte noire

00:31:00ne peut pas être

00:31:01une boîte noire

00:31:02ça va être une boîte

00:31:03qui peut être éclairée

00:31:03par les compétences

00:31:04c'est là qu'il faut travailler

00:31:05et aussi

00:31:06vous disiez

00:31:08de cet algorithme

00:31:09qui a éliminé

00:31:10de la piscine

00:31:12monsieur Dupont

00:31:13c'est parce que c'était

00:31:13la piscine ou le tennis

00:31:14monsieur Dupont

00:31:16il faut aussi voir

00:31:17quels sont les éléments

00:31:18qu'on donne

00:31:19pour entraîner l'algorithme

00:31:20et ça ça vaut

00:31:21pour

00:31:22les cours de tennis

00:31:25mais ça vaut aussi

00:31:26pour la géopolitique

00:31:27ça vaut aussi

00:31:28pour la diplomatie

00:31:28c'est pour cela

00:31:29qui entraîne aujourd'hui

00:31:30les algorithmes

00:31:31quand on doit

00:31:32analyser

00:31:33des grandes questions

00:31:33géopolitiques

00:31:34si on laisse faire ça

00:31:36aux chinois

00:31:37aux américains

00:31:37l'algorithme

00:31:38donnera des réponses

00:31:39compatibles

00:31:40avec les valeurs

00:31:41et les intérêts

00:31:41chinois américains

00:31:42et pas européens

00:31:42c'est ça le travail

00:31:43que nous devons faire

00:31:44c'est en ça

00:31:45où il faut

00:31:45beaucoup plus de recherche

00:31:47nous on a des thèses entières

00:31:48pour aller regarder

00:31:49si les systèmes sont contaminés

00:31:50c'est à dire en fait

00:31:51est-ce qu'ils connaissent

00:31:52par coeur les réponses

00:31:53et donc quand on les évalue

00:31:54c'est tout à fait

00:31:56non vrai

00:31:57c'est à dire qu'ils savent

00:31:58par coeur en fait

00:31:58comment répondre

00:31:59et il y a des tricheries partout

00:32:01tant qu'on n'aura pas

00:32:02ce savoir-faire dans les mains

00:32:03tant qu'on ne saura pas

00:32:04obliger aussi

00:32:05les géants numériques

00:32:06à nous mettre

00:32:06nous donner de façon

00:32:07plus transparente

00:32:08les méthodes

00:32:09qu'ils ont utilisées

00:32:10pour les mathématiques

00:32:10par exemple

00:32:11on ne saura pas

00:32:12vraiment ce qui se passe

00:32:13en recherche

00:32:13on n'a pas les mêmes capacités

00:32:15de calcul

00:32:15pour arriver au même résultat

00:32:17ça vous parle

00:32:18Elie

00:32:18je ne sais pas

00:32:19alors par ailleurs

00:32:20je n'ai pas mis mes lunettes

00:32:21donc

00:32:21voilà Elie est là-bas

00:32:22Elie bonsoir

00:32:24alors Elie vous êtes mathématicien

00:32:25je vous souhaite

00:32:26une médaille Fields

00:32:27un jour

00:32:28je lis sur votre fiche

00:32:29que vous êtes un ancien

00:32:31chercheur en intelligence

00:32:32artificielle

00:32:33je peux dire

00:32:33dans quelle entreprise

00:32:34oui bah

00:32:35chercheur en IA de confiance

00:32:36chez Thalès

00:32:37et vous êtes aussi membre

00:32:39du collectif Pose IA

00:32:40de quoi s'agit-il ?

00:32:41oui donc effectivement

00:32:43merci pour l'invitation

00:32:45je travaille

00:32:46et moi chez Thalès

00:32:46je faisais de la recherche

00:32:47en IA de confiance

00:32:48et donc j'ai quitté l'entreprise

00:32:50pour plusieurs raisons

00:32:51liées aux problématiques

00:32:52que pose l'IA

00:32:52et aussi pour des raisons personnelles

00:32:54liées aux militaires

00:32:56donc moi aujourd'hui

00:32:57je vais recentrer le débat

00:32:58plutôt sur ce qui est

00:32:59d'ailleurs en grand titre

00:33:00encore sur l'écran ici

00:33:01l'écran d'avant

00:33:02excusez-moi

00:33:04c'était les problèmes existentiels

00:33:06liés à la perte de contrôle

00:33:07des IA

00:33:08donc Pose IA

00:33:09c'est une association

00:33:10dont je fais partie bénévolement

00:33:12qui alerte

00:33:13et qui en tout cas

00:33:13essaye d'alerter

00:33:14les citoyennes

00:33:15les citoyens

00:33:16les décideurs

00:33:16et décideuses politiques

00:33:18sur l'urgence à agir

00:33:20vis-à-vis de cette question

00:33:22et l'association

00:33:23qui en fait fait partie

00:33:24d'une confédération

00:33:24d'associations internationales

00:33:26n'a qu'une seule revendication

00:33:27elle est très claire

00:33:29c'est l'obtention

00:33:30d'un moratoire

00:33:31à l'échelle internationale

00:33:32sur le développement

00:33:33des IA les plus avancées

00:33:34au moins jusqu'à ce qu'on arrive

00:33:36à apporter des preuves

00:33:38scientifiques raisonnables

00:33:39de la sûreté du développement

00:33:40Ah oui vous voulez même pas

00:33:41qu'on freine

00:33:41vous voulez qu'on arrête là

00:33:42Exactement

00:33:42sur les IA de pointe

00:33:43donc là attention

00:33:44c'est très distinct

00:33:46donc l'assaut n'est pas du tout

00:33:47anti-IA

00:33:48c'est-à-dire qu'elle ne se prononce pas

00:33:49sur ce qu'on doit faire

00:33:50des autres IA

00:33:51on parle beaucoup de Tchad GPT

00:33:52c'est très loin

00:33:52de ce qui est à la pointe

00:33:53aujourd'hui dans les labos

00:33:56d'entropique et d'open AI

00:33:58en interne

00:33:58ils utilisent des dizaines

00:34:00des centaines

00:34:00des milliers d'agents

00:34:01qui sont

00:34:02beaucoup plus avancés

00:34:03que Tchad GPT

00:34:03même en version payante

00:34:05qui mène une grande partie

00:34:06de la recherche

00:34:07pour donner suite

00:34:08aux générations suivantes

00:34:09de ces modèles

00:34:10et en fait

00:34:11on est proche d'un point

00:34:12qu'on appelle

00:34:13l'auto-amélioration récursive

00:34:14c'est-à-dire à partir duquel

00:34:15les IA elles-mêmes

00:34:16en autonomie

00:34:17vont pouvoir générer

00:34:19leurs successeurs

00:34:21de là en fait

00:34:21découlent

00:34:22des conséquences

00:34:23assez catastrophiques

00:34:24plutôt rapidement

00:34:24potentiellement

00:34:25c'est-à-dire

00:34:26d'une part

00:34:27une explosion des capacités

00:34:28parce que en fait

00:34:28si l'IA en autonomie

00:34:29est capable

00:34:30de générer son successeur

00:34:31si on fait tourner ça

00:34:32en parallèle

00:34:33sur tous les serveurs

00:34:34sachant comme on l'a déjà

00:34:34beaucoup dit ici

00:34:35qu'on est aujourd'hui

00:34:35incapable de comprendre

00:34:36réellement ce qui se passe

00:34:38à l'intérieur

00:34:38de nos réseaux de neurones

00:34:40et bien on va être face

00:34:41à une explosion de capacités

00:34:43à une étape

00:34:43où aujourd'hui déjà

00:34:45les IA de pointe

00:34:45démontrent des capacités

00:34:46de hacking

00:34:47de ingénierie sociale

00:34:49de résolution de problèmes

00:34:50biologiques

00:34:50etc.

00:34:51extrêmement avancées

00:34:52on ne sait pas

00:34:52jusqu'où ça peut aller

00:34:54et de là

00:34:55potentiellement

00:34:55c'est un saut dans l'inconnu

00:34:56c'est une perte de contrôle

00:34:57et c'est pour ça

00:34:57que le directeur du MI5

00:34:59donc l'équivalent

00:35:00de la DGSI britannique

00:35:02a dit que ça posait

00:35:03effectivement la semaine dernière

00:35:04et donc vous l'avez mis

00:35:05en extrait au début

00:35:06que c'était un risque grave

00:35:09potentiellement

00:35:09d'extinction de la race humaine

00:35:11Nicolas Bonnet

00:35:12peut-être

00:35:12est-ce que vous voulez répondre

00:35:14comment faire

00:35:15pour éviter l'extinction

00:35:16de la race humaine

00:35:16non alors je peux

00:35:16éventuellement

00:35:18articuler une question

00:35:18sur laquelle il pourrait agir

00:35:19éventuellement

00:35:21ma question plus précisément

00:35:22effectivement pour le parlementaire

00:35:23que vous êtes en France

00:35:23ce serait d'abord

00:35:24d'essayer d'envoyer un signal

00:35:26en portant par exemple

00:35:27une proposition de loi

00:35:28visant à interdire

00:35:29ou en tout cas

00:35:30empêcher mécaniquement

00:35:31l'émergence de superintelligence

00:35:33donc ça

00:35:33on a des leviers

00:35:35ce sont des leviers

00:35:36d'abord physiques

00:35:36parce que l'IA

00:35:37a une empreinte physique

00:35:38que ce soit

00:35:38le besoin en puces

00:35:40le besoin en énergie

00:35:41le besoin en infrastructure

00:35:43mais aussi

00:35:44via des mécanismes

00:35:45de transparence

00:35:46on en a un peu parlé

00:35:47des audits

00:35:47éventuellement croisés

00:35:48etc

00:35:49donc seriez-vous prêt

00:35:50à porter ça ?

00:35:50alors moi je serais prêt

00:35:51à porter ça

00:35:52il n'y a pas de problème

00:35:52parce qu'effectivement

00:35:53je considère que les IA

00:35:54notamment agentiques

00:35:55qui sont capables

00:35:56de se comporter

00:35:56en fait un peu

00:35:57comme un être humain

00:35:58devant un ordinateur

00:35:59donc potentiellement

00:36:00pour peu qu'elles aient

00:36:01des connaissances en hacking

00:36:02et elles sont capables

00:36:03de plus en plus d'en avoir

00:36:04à aller faire à peu près

00:36:05tout et n'importe quoi

00:36:06et donc c'est vrai

00:36:08que c'est potentiellement

00:36:08assez dangereux

00:36:09c'est beaucoup plus dangereux

00:36:10que quelqu'un

00:36:11qui interroge un LLM

00:36:13comme on a pu l'évoquer avant

00:36:14où il y a des risques

00:36:15plutôt psychosociaux

00:36:16de se dire du coup

00:36:18est-ce qu'on a des pertes

00:36:19de connaissances

00:36:19parce qu'on n'est plus capable

00:36:20au bout d'un moment

00:36:20d'avoir un regard critique

00:36:21sur ce qui est généré

00:36:22donc ça c'est ce qu'on a

00:36:23un peu évoqué avant

00:36:24et sur long terme d'ailleurs

00:36:29sur les sujets

00:36:30qu'il y a en train

00:36:31de faire à notre place

00:36:32donc on a encore

00:36:32ce regard critique

00:36:33mais dans 10, 20, 30 ans

00:36:34il y aura peut-être

00:36:35de moins en moins de personnes

00:36:36qui auront eu ces formations

00:36:37parce que de plus en plus

00:36:38auront été formées directement

00:36:39avec ces outils

00:36:40et ces outils

00:36:40n'auront pas appris à le faire

00:36:41mais sur votre sujet en tout cas

00:36:43oui moi je suis complètement

00:36:43prêt à le porter

00:36:44après je ne sais pas exact

00:36:45ce n'est pas évident à formuler

00:36:46parce que les enjeux

00:36:47que vous décrivez

00:36:48qui sont des enjeux déjà

00:36:49de l'ordre du matériel

00:36:50parce qu'évidemment

00:36:50c'est une grosse empreinte matérielle

00:36:51qui est d'ailleurs aussi

00:36:52un problématique écologique

00:36:53pas uniquement en termes

00:36:54de ce qu'elle est capable

00:36:56de faire elle-même

00:36:57ensuite une super intelligence

00:36:59mais c'est du matériel

00:37:00qui est un peu dématérialisé

00:37:02dans le sens où

00:37:02il peut être finalement

00:37:03n'importe où

00:37:04que le data center

00:37:04par exemple

00:37:05qui héberge cette super intelligence

00:37:06soit en France

00:37:07ou en Allemagne

00:37:08ou aux Émirats Arabes Unis

00:37:09voilà que ça

00:37:10dans tous les cas

00:37:11de n'importe où dans le monde

00:37:12on peut accéder là

00:37:13et faire tourner des choses

00:37:14donc la régulation

00:37:16elle est complexe

00:37:17c'est pour ça

00:37:17que c'est plus un enjeu

00:37:18presque monde

00:37:19d'ailleurs

00:37:19qu'un enjeu

00:37:20qui peut se gérer

00:37:21au niveau France

00:37:22je pense qu'on serait déjà

00:37:23plus armé

00:37:23pour une démarche

00:37:24comme ça au niveau Europe

00:37:25et encore plus

00:37:26si on arrivait au niveau

00:37:27C'est l'initiative

00:37:27que j'ai prise

00:37:28c'est l'initiative

00:37:28à laquelle vous faisiez référence

00:37:29justement

00:37:30c'est votre amendement

00:37:31sur la non-prolifération

00:37:32qui va être approuvée

00:37:33et ça va devenir

00:37:34la proposition du Parlement

00:37:35européen au niveau global

00:37:36de faire une sorte

00:37:37de convention internationale

00:37:39sur la non-prolifération

00:37:40de l'EIA

00:37:41à trop haut risque

00:37:42ou alors des armes

00:37:44biologiques etc

00:37:45auxquelles aussi

00:37:46les directeurs

00:37:47de Microsoft

00:37:47faisaient référence

00:37:48et ma position

00:37:50et la position

00:37:51rappelez pour ceux

00:37:51qui auraient raté

00:37:52cet épisode

00:37:52mais il expliquait

00:37:53qu'une intelligence

00:37:54artificielle

00:37:55à qui on avait demandé

00:37:55comment fabriquer

00:37:57une arme chimique

00:37:58il répond

00:37:59exactement

00:37:59et nous voulons

00:38:00interdire au niveau global

00:38:02la prolifération

00:38:03de ce type

00:38:04d'intelligence artificielle

00:38:05et j'en ai parlé

00:38:07aussi aux représentants

00:38:08des Nations Unies

00:38:08en juillet

00:38:09quand j'étais là

00:38:10pour le Parlement européen

00:38:10et il y a de plus en plus

00:38:12la sensibilité

00:38:13de ce sujet

00:38:14mais comme vous disiez

00:38:15justement

00:38:15c'est un sujet

00:38:16qui se traite

00:38:17un minimum

00:38:18au niveau européen

00:38:18mais en réalité

00:38:19au niveau global

00:38:20comme on a fait

00:38:20avec les armes nucléaires

00:38:21on a fait un traité

00:38:22de non prolifération

00:38:24des armes nucléaires

00:38:25ça a marché

00:38:26pas toujours

00:38:27mais ça a marché

00:38:27pour les 80% des cas

00:38:29et je crois

00:38:29que c'est un bon modèle

00:38:30à suivre aussi

00:38:32pour les problèmes

00:38:34que vous

00:38:34très justement

00:38:35vous indiquiez

00:38:36après si j'ai bien compris

00:38:37le problème qui était

00:38:38mis en avant

00:38:38c'était l'autonomie

00:38:39d'une IA

00:38:40c'est qu'au bout d'un moment

00:38:40une IA

00:38:41une super intelligence

00:38:41devienne autonome

00:38:43qui s'est passé cet été

00:38:44au-delà de la criticité

00:38:46des infos qu'elle peut nous donner

00:38:47comme des infos sur des armes chimiques

00:38:48c'est sûr que c'est très dangereux

00:38:49mais c'est aussi

00:38:50que carrément

00:38:50elle fasse

00:38:51ce qu'elle veut

00:38:52elle fait ce qu'elle veut

00:38:52elle trouve des failles

00:38:53et on devrait obliger

00:38:54les géants numériques

00:38:55déjà à travailler

00:38:56autant en cybersécurité

00:38:57qu'en IA

00:38:59pourquoi est-ce que

00:39:00à chaque fois

00:39:00je ne sais pas

00:39:01si vous pouvez rajouter ça

00:39:02dans vos préoccupations

00:39:03mais en tout cas

00:39:04il me semblerait sain

00:39:05qu'on avance sur les IA

00:39:07et on avance sur les garde-fous

00:39:09en même temps

00:39:10ça demande de la technologie

00:39:11c'est pas à nous

00:39:12en laboratoire

00:39:12le problème c'est qu'on a déjà

00:39:13beaucoup plus avancé

00:39:14dans le développement des IA

00:39:15que dans la sécurité

00:39:16oui mais on pourrait obliger

00:39:17le problème de l'alignement

00:39:17aujourd'hui les meilleurs chercheurs

00:39:19sont unanimes

00:39:19sur le fait qu'on n'a pas d'idée

00:39:20de comment le résoudre

00:39:21donc on est en retard

00:39:22sur ces sujets

00:39:22donc la seule solution raisonnable

00:39:24ça va être de poser ça

00:39:25ça c'est la conséquence

00:39:26d'un modèle

00:39:27sur lequel moi j'ai masqué en faux

00:39:29que c'est le modèle américain

00:39:30dans lequel on a laissé

00:39:31tout faire

00:39:32tous les contrats de tout

00:39:33au secteur privé

00:39:34au big tech

00:39:35et les big tech

00:39:36attaquent notre législation

00:39:37parce qu'en Europe

00:39:38on a interdit

00:39:39les activités

00:39:40des IA

00:39:41de l'AI

00:39:42à très haut risque

00:39:42c'est vraiment

00:39:43des modèles différents

00:39:45et maintenant

00:39:45il faut travailler

00:39:46c'est un bras de fer

00:39:47qu'on doit faire

00:39:48et Laurent

00:39:48il est encore temps

00:39:49ou c'est déjà trop tard ?

00:39:50oui il est encore temps

00:39:50parce que d'abord

00:39:51il faut raisonner au niveau mondial

00:39:53on est quand même

00:39:53en Europe plus

00:39:54avec beaucoup d'alliés

00:39:55des démocraties

00:39:56au Japon

00:39:57où on va au Canada

00:39:59moi je reviens du Canada

00:40:00où il y a beaucoup d'acteurs

00:40:01en fait

00:40:01qui pensent la même chose

00:40:02donc si on arrive

00:40:03concrètement

00:40:04à mettre cette force là

00:40:05on est à un marché énorme

00:40:06tout à fait

00:40:07parce que ceux qui pensent ça

00:40:08par exemple

00:40:09il y a eu cette alerte

00:40:10de Jacob Coxon

00:40:11cet été

00:40:11ceux qui pensent ça

00:40:12ils s'en vont

00:40:13de chez Anthropix

00:40:13par exemple

00:40:14non non non

00:40:14c'est beaucoup plus pondéré

00:40:16ces histoires là

00:40:19je pense qu'il ne faut pas

00:40:20rester sur

00:40:21juste ce côté là

00:40:22c'est un cas particulier

00:40:22mais de toute façon

00:40:23c'est beaucoup plus large que ça

00:40:24et le monde académique

00:40:25s'est prononcé bien avant

00:40:26sur ce sujet

00:40:26et puis c'est vrai

00:40:27que dans le monde académique

00:40:28tout le monde n'est pas d'accord

00:40:29ils ont fait des sondages

00:40:30sur tous les gens

00:40:30qui étaient dans les meilleures

00:40:31conférences en IA

00:40:32on est à 50-50

00:40:34il y a des gens qui disent

00:40:3510% de 5%

00:40:36oui alors sur le pourcentage

00:40:38sur la probabilité

00:40:39de fin du monde

00:40:39maintenant si on met un avion

00:40:41dans lequel on met

00:40:42toute l'humanité

00:40:42et qu'il a 10% de chance

00:40:43de s'écraser

00:40:44à priori

00:40:44c'est pas raisonnable

00:40:46il faut comprendre aussi

00:40:47qu'il n'y a pas de mesure

00:40:48scientifique derrière tout ça

00:40:49ses propos

00:40:50ils sont anxiogènes

00:40:51mais on ne sait pas dire

00:40:52ce que c'est

00:40:53qu'une super intelligence

00:40:54on ne sait pas dire

00:40:55ce que c'est que l'IA général

00:40:56on ne sait pas dire

00:40:57à quoi correspond

00:40:58ces 10%

00:40:58donc on manipule

00:40:59à chaque fois

00:41:00de façon très sophiste

00:41:01en fait

00:41:02des choses qui ne sont pas avérées

00:41:03c'est un discours dangereux

00:41:05c'est un discours très dangereux

00:41:06là je m'inscris en faux

00:41:07parce qu'on ne sait pas

00:41:08effectivement

00:41:09quand Jacob Coxon

00:41:10évoque un 10%

00:41:11effectivement on peut

00:41:11remettre en question

00:41:12le chiffre

00:41:12mais un peu de la même façon

00:41:14que si moi je vous demandais

00:41:14quelle est la probabilité

00:41:15que le dixième décimal de pi

00:41:17soit 12

00:41:17vous me diriez peut-être

00:41:18que c'est 10% de chance

00:41:19que ce soit 1

00:41:20alors que dans les faits

00:41:20il existe la réponse

00:41:24la reconnaissance du modèle

00:41:26connaissance parfaite

00:41:28des probas

00:41:29en fait ne veut pas dire

00:41:30qu'on ne peut rien en dire

00:41:31mais de toute façon

00:41:32ce n'est pas très important

00:41:33ce qui compte

00:41:34c'est que le consensus scientifique

00:41:36il évolue

00:41:37et il évolue vers le constat

00:41:38qu'on est en train

00:41:39de perdre le contrôle

00:41:40sur ces choses-là

00:41:40y compris des gens

00:41:41qui n'ont aucun lien

00:41:42avec les entreprises

00:41:44big tech

00:41:44qui fournissent ces IA

00:41:45l'institut britannique de l'IA

00:41:47a reproduit

00:41:48les mêmes pertes de contrôle

00:41:49un peu malgré elle

00:41:50elle alerte

00:41:50elle tire la sonnette d'alarme

00:41:51le MI5 d'ailleurs

00:41:52a emboîté le pas

00:41:55je vais reprendre

00:41:56la métaphore de la voiture

00:41:57mais vous

00:41:57ça fait des années

00:41:58que vous essayez de comprendre

00:41:58ce qu'il y a sous le capot

00:42:00et en fait

00:42:01on est beaucoup

00:42:01à essayer de comprendre

00:42:03comment on peut aligner

00:42:04une IA

00:42:04et comprendre

00:42:05comment les mécanismes

00:42:06dans les couches cachées

00:42:07jouent

00:42:07donc on avance

00:42:08petit à petit

00:42:08on parle de J-Space

00:42:09on parle de plein de choses

00:42:10en ce moment

00:42:11de l'amélioration

00:42:12de ces systèmes

00:42:12à chaque fois

00:42:13il faut retrouver

00:42:13des images

00:42:14où les citoyens

00:42:15puissent comprendre

00:42:16ce qui est en train

00:42:17de se passer

00:42:17avec AlphaGo

00:42:18par exemple

00:42:18si je reviens

00:42:19à ce jeu de Go

00:42:20c'était un jeu

00:42:21qui était cadré

00:42:22c'est-à-dire

00:42:22même s'il y avait

00:42:23un énorme possible

00:42:24de probabilité immense

00:42:25c'était cadré

00:42:26c'est-à-dire que

00:42:27les pièces de ton

00:42:27avaient un rôle

00:42:28très simple

00:42:29et c'était sur un cadran

00:42:30avec un nombre de positions

00:42:31les mathématiques

00:42:32sont quelque chose

00:42:33de très formel

00:42:34et par exemple

00:42:34les gens pensent

00:42:35que là

00:42:35on a atteint

00:42:36une intelligence super

00:42:38parce que ça résout

00:42:40des problèmes

00:42:40de mathématiques

00:42:40très formalisés

00:42:41c'est plus facile

00:42:43d'aligner sur les mathématiques

00:42:44que d'aligner

00:42:45sur un humain

00:42:45et ses décisions

00:42:46donc on a besoin

00:42:48de travailler

00:42:48sur les vraies

00:42:50pertes de contrôle

00:42:51et je suis tout à fait

00:42:52d'accord avec vous

00:42:53pour ça

00:42:53je pense que

00:42:54pour alerter vraiment

00:42:55il faut que les citoyens

00:42:56soient capables

00:42:57de comprendre le discours

00:42:58et le discours

00:42:59c'est en ça que je voulais

00:42:59juste dire

00:43:00critiquer en fait

00:43:01les effets comme ça

00:43:02de storytelling

00:43:03de tout le monde

00:43:03on a besoin

00:43:05de clarifier

00:43:05de simplifier

00:43:06et d'embarquer

00:43:07dans une formation

00:43:09à peu près tout le monde

00:43:10sur ces niveaux

00:43:10oui mais là

00:43:11il y a une évolution

00:43:12parce qu'aux Etats-Unis

00:43:13ils ont passé des années

00:43:15à nous critiquer

00:43:16parce que c'est

00:43:18parlementaire européen

00:43:19ils veulent tout réguler

00:43:19mais c'est catastrophiste

00:43:21maintenant

00:43:22tout le monde

00:43:22à Washington

00:43:23même les républicains

00:43:24part des gardes fous

00:43:26il faut mettre des gardes fous

00:43:27justement au problème

00:43:29que vous vous signalez

00:43:30donc il y a un travail

00:43:31à faire

00:43:31mais il y a une prise

00:43:33de conscience

00:43:33qui commence à se faire

00:43:35il y a encore deux personnes

00:43:36qui doivent s'exprimer

00:43:37je voudrais vraiment

00:43:37les entendre ce soir

00:43:39sur ce sujet

00:43:40il existe une IA alliance

00:43:41aussi entre tous

00:43:42les grands géants du numérique

00:43:43avec Yann Lequin

00:43:44qui pilote sur les stratégies

00:43:45donc il faudrait

00:43:46rabouter toutes ces bonnes

00:43:48volontés

00:43:48Yann Lequin qui est un sceptique

00:43:49vis-à-vis des risques

00:43:50de l'IA

00:43:51entre autres

00:43:51il a levé un milliard d'euros

00:43:52l'an dernier

00:43:53pour démarrer son entreprise

00:43:54donc à nouveau

00:43:55les procès d'intention

00:43:57qu'on fait aux grandes boîtes

00:43:58on peut l'appliquer à Lequin

00:43:59je pense sans grand problème

00:44:01parmi les métiers

00:44:02qui sont bouleversés

00:44:02par l'intelligence artificielle

00:44:03on va redescendre

00:44:04de la sphère des mathématiques

00:44:05pour aller vers le graphisme

00:44:08Bonsoir Charline

00:44:10Bonsoir

00:44:10Charline

00:44:11vous êtes graphiste

00:44:12vous avez 32 ans

00:44:13vous dirigez votre propre

00:44:14studio de graphisme

00:44:15quel est aujourd'hui

00:44:16votre rapport à l'IA ?

00:44:17Alors moi je dirige

00:44:18un studio de photographie

00:44:20et c'est vrai que mon rapport

00:44:21à l'IA me permet

00:44:22aujourd'hui

00:44:22d'automatiser

00:44:24certaines tâches

00:44:25il y a des logiciels

00:44:26maintenant qui sont

00:44:26mis en place

00:44:27pour pouvoir retoucher

00:44:29de manière un peu

00:44:30plus automatisée

00:44:30mais je trouve

00:44:32qu'il faut garder

00:44:33quand même une grande part

00:44:34de l'humain

00:44:34et d'intelligence

00:44:36émotionnelle

00:44:37et de créativité

00:44:39dans mon métier

00:44:40Parce que le moins

00:44:40qu'on puisse dire

00:44:41c'est que votre métier

00:44:41il fait partie de ceux

00:44:42qui ont vraiment été

00:44:43bouleversés par l'arrivée

00:44:44de l'IA

00:44:44et ça nous a sans doute

00:44:46tous un peu sauté aux yeux

00:44:47cet été

00:44:47quand on a découvert

00:44:48que toutes les affiches

00:44:49des fêtes de village

00:44:50où on se promenait

00:44:50où tous les vides greniers

00:44:52étaient devenus

00:44:53à peu près

00:44:54les mêmes

00:44:55je ne sais pas si on peut

00:44:55le voir

00:44:56on le voit à l'antenne

00:44:58il y a une espèce

00:44:59de calque

00:45:00qui s'est créée

00:45:03une espèce

00:45:03de standardisation artistique

00:45:05et c'est là

00:45:07en fait

00:45:07que vous parlez

00:45:08d'humain

00:45:08je pense que

00:45:09dans la photographie

00:45:10il y a aussi

00:45:11beaucoup d'intelligence

00:45:12artificielle

00:45:13de photos

00:45:16qui sont reprises

00:45:17pour faire

00:45:17de la communication

00:45:18avec des faux visages

00:45:19des fausses personnes

00:45:21et ça

00:45:21je trouve ça

00:45:22vraiment dommage

00:45:23justement

00:45:23d'enlever

00:45:24ce côté-là

00:45:25humain

00:45:26et émotionnel

00:45:27dans la photographie

00:45:29par exemple

00:45:29vous avez constaté

00:45:30vraiment une baisse

00:45:31de vos carnets de commandes

00:45:33non

00:45:33vous arrivez à vous maintenir

00:45:35oui parce que

00:45:37vraiment dans ma communication

00:45:38justement

00:45:38j'ai rajouté l'humain

00:45:39j'ai compensé l'IA

00:45:40avec ma communication

00:45:42qui est beaucoup plus basée

00:45:43sur l'humain

00:45:44sur le fait

00:45:44de proposer

00:45:47une expérience humaine

00:45:48avant tout

00:45:49de partager des moments

00:45:50avec mes clients

00:45:51de voilà

00:45:52je suis vraiment restée

00:45:53j'ai compensé

00:45:54l'intelligence artificielle

00:45:56avec l'humain

00:45:56vous avez des questions

00:45:58à poser

00:45:59à nos invités

00:46:00quelles seraient

00:46:00les mesures

00:46:01qui pourraient être prises

00:46:02pour protéger

00:46:02justement

00:46:03tout ce qui est

00:46:07les oeuvres visuelles

00:46:09et artistiques

00:46:10des artistes

00:46:12il y a déjà

00:46:13des choses

00:46:13qui ont été faites

00:46:14par exemple

00:46:15pour les personnes

00:46:16qui font du doublage

00:46:16c'est vrai que

00:46:17certains ont commencé

00:46:18à avoir la démarche

00:46:18de se dire

00:46:19il faut que je dépose

00:46:20en quelque sorte

00:46:21ma voix

00:46:21pour que ma voix

00:46:22puisse pas être réutilisée

00:46:24abusivement

00:46:24parce qu'il y a

00:46:26générer des propos

00:46:27avec ma voix

00:46:28ça ça a été fait

00:46:29c'est bon

00:46:32quelques personnes

00:46:32l'ont fait

00:46:33mais tout le monde

00:46:34ne l'a pas fait

00:46:34et ce qui est sûr

00:46:35c'est que c'est pas

00:46:35une démarche

00:46:36qui serait généralisable

00:46:37à l'ensemble

00:46:37de la population

00:46:38par contre

00:46:38évidemment

00:46:39quand on épreuve

00:46:39quand son métier

00:46:40est tourné autour

00:46:41de sa voix

00:46:42là faire cette démarche

00:46:43c'est sûr

00:46:43que ça paraît

00:46:44beaucoup plus important

00:46:46même indispensable

00:46:47effectivement aujourd'hui

00:46:47après il y a la question

00:46:48des oeuvres aussi

00:46:49évidemment

00:46:49qui ont été chargées

00:46:50c'est vrai que

00:46:51quand on voit

00:46:51les affiches

00:46:52qui étaient montrées là

00:46:52c'est pas évident

00:46:53de savoir

00:46:54finalement quelle oeuvre

00:46:56l'IA générative

00:46:57qui a fait ça

00:46:57a utilisé

00:46:58pour produire ce résultat

00:47:00donc c'est très difficile

00:47:01derrière

00:47:02c'est des vraies affiches

00:47:02qu'on vous a mises là

00:47:03c'est dans des communes

00:47:05cet été

00:47:06on les reconnaît

00:47:07assez facilement

00:47:07à la Jarnie

00:47:08à la Fertémassée

00:47:09on les voit partout

00:47:10maintenant ce type d'affiches

00:47:12en fait avant

00:47:12c'était des choses

00:47:13du coup

00:47:14on faisait la même chose

00:47:14en beaucoup moins

00:47:15en jolie

00:47:16où des fois d'ailleurs

00:47:16il n'y avait pas de visuel

00:47:17il y avait juste du texte

00:47:18sur les réseaux etc

00:47:19quand il y avait un événement

00:47:20mais maintenant

00:47:21on voit qu'on a toujours

00:47:21des très belles images

00:47:22et on se rend tout de suite compte

00:47:23que c'est fait par

00:47:24par exemple

00:47:24je suis le comité des fêtes

00:47:25de la Fertémassée

00:47:26je me dis

00:47:26j'aimerais bien pas avoir

00:47:27la même affiche que les autres

00:47:28ça veut dire qu'à un moment

00:47:29dans mon intelligence artificielle

00:47:30il faut que je lui dise

00:47:32ne fais pas la même affiche

00:47:35que les autres

00:47:35c'est peut-être le plus simple

00:47:36mais par contre

00:47:38ce qu'il faudrait

00:47:39c'est surtout qu'on arrive

00:47:41d'une façon ou d'autre

00:47:41à ce que les oeuvres

00:47:43qui sont chargées

00:47:44dans un modèle

00:47:45soient déclarées

00:47:46et qu'il puisse y avoir

00:47:47un peu comme ce qu'on évoquait

00:47:49à une époque

00:47:49pour les oeuvres cinématographiques

00:47:51quand il y avait

00:47:52beaucoup de piratage

00:47:53qu'il y ait une rémunération

00:47:54qui soit faite

00:47:57un dédommagement

00:47:57auprès de toutes ces oeuvres

00:47:58c'est un peu ce qu'on a

00:47:58avec l'Assassin

00:48:00d'ailleurs pour la musique

00:48:00aujourd'hui

00:48:01mais qu'il puisse y avoir

00:48:02en gros ce qu'on charge

00:48:03les données qu'on charge

00:48:04dans un modèle

00:48:04on soit obligé

00:48:05de les déclarer

00:48:06et qu'on mette ensuite

00:48:07en place un système

00:48:08de coût de rémunération

00:48:10d'administration

00:48:10Ce que vous demandez

00:48:11trouve une partie

00:48:13en réponse

00:48:13sur la loi

00:48:14sur l'intelligence artificielle

00:48:16européenne

00:48:16parce qu'on a imposé

00:48:18aux big tech

00:48:19aux plateformes

00:48:20qui utilisent justement

00:48:21des oeuvres couvertes

00:48:22par les droits d'auteur

00:48:23pour entraîner l'algorithme

00:48:24de publier régulièrement

00:48:26des sommaires

00:48:27de tous les éléments

00:48:29qui ont utilisé

00:48:30et donc un auteur

00:48:31a la possibilité

00:48:32de vérifier

00:48:32si son ouvrage

00:48:33a été utilisé

00:48:34et demander

00:48:35ce qui lui est dû

00:48:37suivant les droits d'auteur

00:48:38mais nous voulons

00:48:39aller plus loin

00:48:40ça c'est un premier pas

00:48:41nous voulons aller

00:48:42dans la direction

00:48:43dans laquelle un auteur

00:48:44peut enlever son ouvrage

00:48:46dire mon ouvrage

00:48:47ne peut pas être utilisé

00:48:48par entraîner un algorithme

00:48:50ou alors donner un consensus

00:48:52mais déjà

00:48:52on a commencé

00:48:53à aborder cette question

00:48:54qui est fondamentale

00:48:55parce que d'un côté

00:48:57vous ne savez pas

00:48:58parce qu'on vient

00:48:58d'aller mettre en oeuvre

00:48:59non je veux dire

00:49:00techniquement parlant

00:49:01par exemple dans votre cas

00:49:02non mais vous savez

00:49:04mieux que moi

00:49:04que les plateformes

00:49:06ont tous les mécanismes

00:49:07pour vérifier

00:49:08s'ils ont utilisé

00:49:09un ouvrage couvert

00:49:10par les droits d'autoroupa

00:49:11ça vous est arrivé

00:49:11de voir certaines

00:49:12de vos créations

00:49:15reproduites

00:49:16par l'intelligence artificielle

00:49:17ça ne m'est pas arrivé

00:49:18personnellement

00:49:19mais c'est vrai que

00:49:19par exemple

00:49:20quand je mets un copyright

00:49:21sur mes photos

00:49:22il peut être enlevé

00:49:23par l'intelligence artificielle

00:49:24et ça j'en ai conscience

00:49:25donc bon

00:49:26il y a des choses

00:49:26pour pallier à ça

00:49:28mais c'est vrai

00:49:29qu'il est facile

00:49:30de reproduire une oeuvre

00:49:32aujourd'hui

00:49:34en mettant deux photos

00:49:36c'est un sujet fondamental

00:49:37c'est un sujet fondamental

00:49:38pour lequel l'Europe

00:49:39a proposé

00:49:39de mettre des filigrames

00:49:40dans les photos

00:49:41vidéos

00:49:42signatures de voix

00:49:43etc

00:49:43sauf que

00:49:44comment on fait

00:49:45pour maintenir la signature

00:49:46alors que c'est réutilisé

00:49:47par des outils

00:49:48qui ne sont pas prêts

00:49:50à l'utiliser en fait

00:49:51non mais

00:49:52j'ai dit qu'on a ouvert

00:49:53une brèche

00:49:54pour un domaine

00:49:55que vous saviez bien

00:49:56était le faroès total

00:49:58et les droits

00:49:59et toutes les associations

00:50:00je ne vais pas dire

00:50:01que c'est fini

00:50:01mais je dis que

00:50:02toutes les associations

00:50:03des auteurs

00:50:03nous disent

00:50:04c'est un pas en avant

00:50:05c'est un pas en avant

00:50:06parce que les plateformes

00:50:06ont la possibilité

00:50:08de montrer

00:50:09ce qu'ils ont utilisé

00:50:10pour entraîner

00:50:11après il faut aller

00:50:12bien sûr

00:50:13plus loin

00:50:13parce qu'on est vraiment

00:50:14à l'année zéro

00:50:15de cette question

00:50:16c'est pour ça que je dis

00:50:16que c'est de la recherche

00:50:17oui absolument

00:50:18parce que dans notre secteur

00:50:19en fait il y a plein

00:50:20de publications

00:50:20sur ces sujets là

00:50:21donc c'est pas encore

00:50:22assez mature

00:50:23et donc on est dans

00:50:24cette course effrénée

00:50:25où l'IA avance

00:50:26et les chercheurs

00:50:27sont toujours en train

00:50:28de trouver des astuces

00:50:30ils n'ont pas

00:50:31les mêmes pouvoirs

00:50:31de calcul

00:50:32et c'est absolument

00:50:33anormal

00:50:34qu'il n'y ait pas

00:50:34de la recherche académique

00:50:35qui soit au courant

00:50:37de ce qui se passe

00:50:38notamment pour les mathématiques

00:50:39je reviens là-dessus

00:50:39je veux dire

00:50:40c'est 28 médailles

00:50:42dans le monde

00:50:43qui expliquent

00:50:44on a gâché

00:50:44leur terrain de jeu

00:50:45et je comprends

00:50:46très bien aussi

00:50:47ce qui leur arrive

00:50:47c'est horrible

00:50:48mais qui n'ont même

00:50:49pas de preuves

00:50:49et d'éléments suffisants

00:50:51pour aller regarder

00:50:52comment ils ont fait

00:50:53parce qu'il faut apprendre

00:50:54du chemin

00:50:54le chemin c'est le plus important

00:50:55là pour l'instant

00:50:56il faut qu'ils dépassent

00:50:56peut-être leur sidération aussi

00:50:58non non mais c'est pas que ça

00:50:58il faudrait qu'ils puissent

00:50:59avoir accès aussi

00:51:00à finalement

00:51:01la façon dont ces systèmes

00:51:02ont été mis en oeuvre

00:51:03à partir de quelles données

00:51:05etc

00:51:06et c'est d'ailleurs

00:51:06ce qu'explique aussi

00:51:07très bien Cédric Villani

00:51:09ce matin dans le futur

00:51:09où il dit

00:51:10le problème c'est qu'aujourd'hui

00:51:11il faut bien comprendre

00:51:12que les mathématiques

00:51:13c'est pas seulement le résultat

00:51:14c'est d'abord le chemin

00:51:14par lequel on est parvenu

00:51:16à ce résultat

00:51:17et ça

00:51:18jusqu'à preuve du contraire

00:51:19c'est encore

00:51:20la tâche des mathématiciens

00:51:21c'est ce que je disais

00:51:22c'est la vérité

00:51:22ça vaut aussi pour les créateurs

00:51:24pour être compétitifs

00:51:26et élimer

00:51:27de sa créativité de l'humain

00:51:29si on continue à produire

00:51:30pour les fêtes

00:51:33dans les villages

00:51:34des affiches toutes pareilles

00:51:36il y aura quelqu'un

00:51:37qui utilise sa créativité

00:51:38qui va être beaucoup plus compétitive

00:51:40par rapport à ce qu'il produit

00:51:41dans l'intelligence artificielle

00:51:42on est dans une phase

00:51:43de transition épocale

00:51:44c'est vrai qu'il y a

00:51:45beaucoup de choses à faire

00:51:46par exemple

00:51:46on se demande

00:51:47justement pour aller

00:51:48dans votre sens

00:51:49au niveau européen

00:51:49on doit refaire complètement

00:51:51les lois sur les droits d'auteur

00:51:52on doit voir

00:51:53comment on les adapte

00:51:54pour être efficace

00:51:55ça c'est une grande question

00:51:56il y a des débats

00:51:57il y a des positions

00:51:58d'un côté et de l'autre

00:51:59Merci de m'apporter

00:52:00cette transition

00:52:01Sandro Ghodzi

00:52:02parce que je vais me tourner

00:52:02maintenant vers Martin

00:52:04Martin où êtes-vous ?

00:52:05Bonsoir Martin

00:52:06Martin vous avez 21 ans

00:52:07vous êtes étudiant en journalisme

00:52:09Tout à fait

00:52:10D'abord elle est où

00:52:11la frontière pour vous

00:52:11entre l'IA qui vous aide

00:52:13et l'IA qui bosse à votre place ?

00:52:15Elle est assez proche

00:52:18aujourd'hui

00:52:19on le voit très bien

00:52:21l'IA elle réadige

00:52:22des articles

00:52:23qui sont tout à fait corrects

00:52:24et on aurait du mal

00:52:25vraiment à différencier

00:52:27avec un article

00:52:28rédigé par un journaliste

00:52:31et on peut se poser

00:52:33la question du danger

00:52:34est-ce que l'IA

00:52:34va nous remplacer

00:52:35en tant que journaliste

00:52:36notamment sur cette question

00:52:37de la presse écrite

00:52:38qui est déjà elle-même

00:52:39en perte de vitesse

00:52:40et avec l'IA

00:52:41qui est vraiment encore

00:52:43plus en perte de vitesse

00:52:44vous parlez de perte de vitesse

00:52:47c'est des chiffres

00:52:47qui ont été publiés

00:52:48le week-end dernier

00:52:48je ne sais pas si vous les avez

00:52:49vus passer

00:52:49au mois de septembre

00:52:51la désertion des sites internet

00:52:53d'information en France

00:52:54au profit sans doute

00:52:55de l'intelligence artificielle

00:52:56mais vous allez nous le dire

00:52:57moins 43,5%

00:52:59pour le journal Le Parisien

00:53:00et son site internet

00:53:01moins 32,5%

00:53:03pour le site de Libération

00:53:04moins 28%

00:53:05pour celui de BFM

00:53:05moins 21,7%

00:53:07pour le Figaro

00:53:07moins 19,6%

00:53:08pour Le Monde

00:53:10ça forcément

00:53:11ça vous inquiète

00:53:11parce que vous vous dites

00:53:13journaliste web

00:53:13je vais peut-être

00:53:14me diriger ailleurs

00:53:15mais déjà que la presse écrite

00:53:16n'est déjà plus là

00:53:17on avait remplacé par le web

00:53:19toujours là la presse écrite

00:53:19attention

00:53:20oui elle existe

00:53:21mais malheureusement

00:53:22elle est en perte de vitesse

00:53:23et il n'y a encore

00:53:24que deux journaux aujourd'hui

00:53:25qui sont rentables

00:53:25avec la presse écrite

00:53:27et qui sont Le Monde

00:53:28et Le Figaro

00:53:29et sinon les autres

00:53:30ne sont pas tous rentables

00:53:33en web

00:53:34on en pensait

00:53:35que ça allait pouvoir

00:53:36redynamiser

00:53:37et en fait

00:53:37l'IA maintenant

00:53:38vole les données

00:53:39de tous les journaux

00:53:40et en fait

00:53:40si on veut demander

00:53:41une information

00:53:42d'actualité

00:53:43on ne va plus chercher

00:53:44dans un journal

00:53:45et on va se diriger

00:53:47vers l'IA

00:53:48qui va nous proposer

00:53:49l'information

00:53:49sans les pubs

00:53:50et c'est ça

00:53:51qui va mettre

00:53:51en péril

00:53:53les journaux

00:53:54c'est qu'on ne voit plus

00:53:55les pubs

00:53:55qui permettent

00:53:56de rémunérer

00:53:56les journaux

00:53:57donc il y a une frontière

00:53:59qui a été dépassée

00:54:01déjà par l'IA

00:54:02qui est celle

00:54:03du vol de données

00:54:04mais outre ça

00:54:06même nous

00:54:07en tant qu'étudiants

00:54:07on va arriver

00:54:08avec notre master

00:54:10de journalisme

00:54:11il va nous rester

00:54:12pas grand chose

00:54:15comme job

00:54:16qui vont nous être proposés

00:54:17parce que

00:54:18ce qu'on nous propose

00:54:19en début de carrière

00:54:20comme junior

00:54:21c'est des choses

00:54:24que font déjà

00:54:25beaucoup mieux l'IA

00:54:26beaucoup plus rapidement

00:54:27et c'est beaucoup moins cher

00:54:27alors comment est-ce

00:54:29qu'on va nous protéger

00:54:30de l'IA

00:54:35il y a deux choses

00:54:38différentes dans ce que

00:54:39vous avez dit

00:54:39il y a d'abord

00:54:40comment est-ce qu'on

00:54:41fabrique l'information

00:54:42et c'est vrai

00:54:42qu'il y a la capacité

00:54:44à la fois de faire

00:54:45potentiellement gagner

00:54:46du temps aux journalistes

00:54:46dans la rédaction

00:54:47donc peut-être

00:54:48de faire autant

00:54:49de publications

00:54:50avec moins de journalistes

00:54:51donc c'est vrai

00:54:51que c'est un danger

00:54:52potentiel pour le journalisme

00:54:53mais on peut aussi se dire

00:54:54qu'il y aurait peut-être

00:54:55moyen qu'un nombre

00:54:57de journalistes équivalents

00:54:57vous arriviez à produire

00:54:59davantage de contenus

00:55:00ou des contenus peut-être

00:55:01d'une qualité un peu supérieure

00:55:02donc là il pourrait y avoir

00:55:03un rôle positif

00:55:04en tout cas moi j'ai rencontré

00:55:05des journalistes

00:55:06qui sur ce rôle-là

00:55:07n'étaient pas mécontents

00:55:08par contre il y a d'autres

00:55:09choses que ça induit

00:55:10c'est qu'aussi

00:55:11des gens qui ne sont pas

00:55:12journalistes

00:55:12parce que ça c'est pas

00:55:13un phénomène nouveau

00:55:14qu'aujourd'hui

00:55:14avec les réseaux sociaux

00:55:15il y a tellement de façons

00:55:16de diffuser de l'information

00:55:17aujourd'hui d'ailleurs

00:55:17qu'on est saturé d'informations

00:55:18et justement une IA

00:55:20peut permettre de générer

00:55:21quelque chose

00:55:22qui donne l'impression

00:55:23d'être une information

00:55:24qualitative

00:55:24parce que ça va être

00:55:25bien rédigé

00:55:26parce qu'on aura peut-être

00:55:27des images d'ailleurs

00:55:27artificielles fabriquées

00:55:29et vu qu'en général

00:55:31ce sera gratuit d'accès

00:55:31parce que ça n'aura pas

00:55:32coûté grand chose à faire

00:55:33de plus en plus de personnes

00:55:34par manque d'information

00:55:36par manque de formation

00:55:37à ce qu'est l'information

00:55:38et là où on peut

00:55:39faire confiance

00:55:40parce que ça a été travaillé

00:55:41par des professionnels

00:55:41par des journalistes

00:55:42et là où au contraire

00:55:43c'est quand même

00:55:44beaucoup moins fiable

00:55:44par manque de formation

00:55:45du citoyen

00:55:46sur où aller chercher

00:55:47l'information

00:55:48ce qui s'était déjà passé

00:55:50c'est-à-dire le fait

00:55:50d'aller chercher l'info

00:55:51non plus

00:55:53auprès de médias

00:55:54de professionnels

00:55:55journalistes écrits

00:55:56télé, radio

00:55:57et d'aller plutôt

00:55:58vers ce qu'on trouve

00:55:59sur les réseaux sociaux

00:56:00quelle que soit la source

00:56:01sans se poser cette question-là

00:56:02c'est vrai que l'IA

00:56:03accentue ça

00:56:03plus après

00:56:04l'autre problématique

00:56:05que vous disiez

00:56:06qui est celle

00:56:07de le fait

00:56:08que s'il y a

00:56:09dans ses moteurs de recherche

00:56:10arrive à capter l'info

00:56:11qui normalement

00:56:12était payante

00:56:13et la restitue gratuitement

00:56:14là il y a un gros enjeu

00:56:15à légiférer là-dessus

00:56:16parce qu'évidemment

00:56:16c'est purement

00:56:17et simplement du vol

00:56:18et d'ailleurs

00:56:19avant même que l'IA

00:56:21facilite ça

00:56:21il y avait déjà eu

00:56:23cette plainte

00:56:23auprès de moteurs de recherche

00:56:24qui récupérait déjà

00:56:25d'ailleurs des informations

00:56:27publiées sur des sites payants

00:56:28et en les mettant

00:56:29en ligne gratuitement

00:56:30donc ça c'est pas non plus nouveau

00:56:31mais c'est vrai que c'est encore

00:56:32favorisé par l'IA générative

00:56:34moi ce que je vois souvent

00:56:36c'est les mêmes articles

00:56:37donc la presse pour moi

00:56:38c'est différentes idées

00:56:39différentes façons

00:56:40de voir le monde

00:56:41et donc ça challenge

00:56:42ce qu'on vit dans la société

00:56:44avec des cultures différentes

00:56:45or de plus en plus

00:56:46c'est comme pour les images

00:56:47qu'on a vues avant

00:56:48c'est du copier-coller

00:56:49les faits ne sont pas vérifiés

00:56:50donc on a un besoin urgent

00:56:52que les journalistes

00:56:53restent en place

00:56:54alors peut-être que demain

00:56:55ils seront aidés par la société

00:56:57pour rester en tant que vérificateur

00:56:59mais on a besoin urgent

00:57:00de diversifier

00:57:01et de garder cela

00:57:02je suis d'accord avec vous

00:57:03mais c'est vrai qu'aujourd'hui

00:57:04on voit que

00:57:05ne serait-ce qu'avec une dépêche

00:57:06AFP

00:57:07en fait on a juste à la rentrée

00:57:09dans l'IA

00:57:09et en fait ça nous sera un article

00:57:10c'est pour ça

00:57:11je suis d'accord avec vous

00:57:12sur le fait qu'on a

00:57:12des articles qui se ressemblent

00:57:14de partout

00:57:14c'est là où il faut rester vivant

00:57:16et puis les jeunes

00:57:16parce que vous avez parlé plusieurs fois

00:57:18du problème des jeunes

00:57:19devaient être embarqués

00:57:19dans cette histoire

00:57:20moi je vais vous donner

00:57:21un autre exemple

00:57:22qui n'a rien à voir

00:57:22sur la médecine

00:57:23sur la détection

00:57:24de cancers précoces

00:57:26en 2016

00:57:26donc un autre prix Turing

00:57:28qui s'appelle

00:57:29Geoffroy Hinton

00:57:29avait dit

00:57:29le métier va disparaître

00:57:31parce que

00:57:31le deep learning

00:57:33a plus de performance

00:57:36qu'un médecin

00:57:37pour regarder

00:57:38le départ d'un cancer

00:57:39sur une radio

00:57:40bon c'est faux

00:57:41aujourd'hui

00:57:4110 ans après

00:57:42il y a un manque

00:57:43de radiologues

00:57:44à New York

00:57:45par exemple

00:57:45parce que ce métier

00:57:47il a été dévasté

00:57:48par cette idée

00:57:48qu'ils allaient être remplacés

00:57:49et en fait

00:57:50ils se sont débrouillés

00:57:51pour intégrer

00:57:52cet outil intelligent

00:57:53qu'il y a

00:57:54dans leur métier

00:57:55ça n'a pas supprimé

00:57:56des radiologues

00:57:56ça a fait des radiologues

00:57:57augmentés

00:57:57exactement

00:57:58donc sur ce métier là

00:57:59ils ont réussi à le faire

00:58:00et c'est un des

00:58:01moteurs pour moi

00:58:02de comprendre

00:58:03comment on fait

00:58:04cette transition

00:58:04comment on fait

00:58:05que le journaliste

00:58:06demain soit augmenté

00:58:07de cette capacité

00:58:07d'aller travailler

00:58:08sur plein d'informations

00:58:09qui arrivent

00:58:10mais qu'il soit capable

00:58:10aussi d'avoir

00:58:11sa raison propre

00:58:12son propre esprit critique

00:58:13et ça pour moi

00:58:14c'est l'éducation

00:58:15et sa plume

00:58:15Sandro Gozzi

00:58:16il y a un aspect

00:58:18qui a

00:58:21votre prénom

00:58:21que Martin a soulevé

00:58:23je suis d'accord

00:58:24avec ce qu'il a dit

00:58:25après il y a la question

00:58:26encore une fois

00:58:27des droits d'auteur

00:58:27et des droits

00:58:29et là

00:58:30jusqu'à ce stade

00:58:32on a une régulation européenne

00:58:33qui commence à aborder la question

00:58:35et il y a eu des négociations

00:58:36entre les associations

00:58:37des éditeurs

00:58:38et les grandes plateformes

00:58:39il y en a eu en Australie

00:58:40il y en a eu en Italie

00:58:40il y en a eu en France

00:58:41là selon moi

00:58:43nous devons faire

00:58:43beaucoup plus

00:58:44pour soutenir

00:58:45les associations

00:58:46des éditeurs

00:58:47dans ces travails

00:58:48des négociations

00:58:48parce qu'il est clair

00:58:49que les rapports

00:58:51des forces

00:58:51selon moi

00:58:52sont encore

00:58:52trop inégales

00:58:53et donc

00:58:53c'est là

00:58:54que l'autorité publique

00:58:55d'intervenir

00:58:56on soutient

00:58:57des associations

00:58:58des éditeurs

00:58:58qui prétendent

00:58:59être rémunérées

00:58:59pour la partie

00:59:00de l'article

00:59:01que l'algorithme

00:59:02a utilisé

00:59:03pour en produire

00:59:04un autre

00:59:04mais c'est un thème

00:59:05qui est objet

00:59:07des négociations

00:59:08et des travails législatifs

00:59:09très importants

00:59:10je vous avais dit

00:59:10que ça passait très vite

00:59:11une heure

00:59:11notre temps est expiré

00:59:13ça y est

00:59:14je voudrais vous remercier

00:59:15d'abord d'être venus

00:59:15tous avec votre intelligence

00:59:17naturelle ce soir

00:59:18sur le plateau

00:59:19de chaque voix compte

00:59:20cette émission est rediffusée

00:59:21ce soir à 23h30

00:59:22et puis vous la retrouvez

00:59:23à tout moment

00:59:24sur lcp.fr

00:59:26je vous donne un rendez-vous

00:59:27ce soir à 21h sur LCP

00:59:28ne manquez pas

00:59:29en immersion

00:59:30grand reportage

00:59:31consacré ce soir

00:59:32à la mobilisation lycéenne

00:59:33de Toulouse à la Bretagne

00:59:34en passant par

00:59:35la Seine-Saint-Denis

00:59:36un magazine qui sera suivi

00:59:37d'un débat

00:59:38présenté par Elsa

00:59:39Mondingava

00:59:39merci Laurence De Villers

00:59:40d'être venue ce soir

00:59:41votre livre

00:59:42savoir vivre avec l'IA

00:59:44aux éditions de Noël

00:59:45c'est pas un algorithme

00:59:47garanti

00:59:49on passera la moulinette

00:59:51pour voir si c'est

00:59:52je vous remercie tous les trois

00:59:53je vous remercie tous les trois

00:59:55sincèrement aussi

00:59:55d'être venu ce soir

00:59:58dans chaque voix compte

00:59:59merci infiniment

01:00:00et je vous souhaite

01:00:00à vous une très belle

01:00:01fin de semaine

01:00:02sur LCP

01:00:02bye bye

01:00:09je vous remercie tous les deux

01:00:12je vous remercie tous les deux

01:00:16je vous remercie tous les deux

Chaque voix compte - L'IA menace-t-elle l'humanité ?

Catégorie

Transcription

Recommandations