- il y a 3 semaines
(R)évolutions IA Faut-il avoir peur du progrès
Catégorie
🤖
TechnologieTranscription
00:00Bonjour à toutes et à tous, ravi de vous retrouver pour cette session consacrée à l'IA, IA mode d
00:05'emploi.
00:06On en parle à l'occasion de ces 90 prochaines minutes, une table ronde dans quelques instants,
00:11mais aussi une keynote et une masterclass durant ces 90 prochaines minutes.
00:17Ravi d'être avec vous, merci Laura, Siboni, Gilles Babinet et Jeanne Lepayet d'être à nos côtés.
00:21Bonjour à tous les trois.
00:23Bonjour.
00:24On parle d'IA tout de suite, on parle d'IA.
00:26Maintenant, l'intelligence artificielle générative est une technologie en plein essor
00:31qui bouleverse les codes du travail, les codes de l'apprentissage et bien sûr notre vie quotidienne.
00:37Comment la technologie de l'IA fonctionne-t-elle concrètement ?
00:40Quelles sont les implications éthiques ?
00:41On en parle avec vous trois.
00:43Selon un sondage de l'Institut Via Voice réalisé en avril 2024,
00:488 Français sur 10 ignorent l'intérêt de l'intelligence artificielle,
00:51la peur de la désinformation, de la déshumanisation et de la dépendance arrive en tête pour 83% des personnes
00:58interrogées.
00:59La France doit investir 5 milliards d'euros si elle souhaite être dans la même course,
01:04au même niveau que les Etats-Unis et la Chine.
01:09Microsoft, IBM ou encore Amazon ont récemment investi des milliards d'euros,
01:14très précisément 6 milliards d'euros à l'occasion de la 7e édition du sommet Chouse France.
01:20Le président de la République a également annoncé cette semaine injecter 400 millions d'euros
01:26dans le cadre du programme France Relance 2030.
01:29Mais concrètement, l'IA est-elle une réalité ?
01:32On en parle avec vous trois.
01:33Laura, on démarre avec vous si vous le voulez bien.
01:36L'intelligence artificielle, on l'associe comme le titre de cette conférence à une révolution,
01:41car l'intelligence artificielle, ce sont des données pléthoriques,
01:45ce sont des algorithmes et des modèles, ce sont des puissances de calcul
01:48qui concernent et qui, finalement, s'adressent à tous les secteurs de l'économie,
01:52finance, santé, économie, éducation.
01:56Dans votre livre Fantasia, paru aux éditions Grasset,
01:59vous démystifiez le rapport que l'on doit avoir vis-à-vis de la technologie.
02:03Vous parlez, entre autres, de l'histoire fascinante du turc mécanique
02:07dans le nom inspiré Amazon.
02:09Question directe, l'IA, Laura, est-ce la grande révolution du 21e siècle ?
02:14Merci, Pierre.
02:15Moi, je pense que l'IA, c'est une révolution surtout des usages.
02:20L'IA, beaucoup de jeunes connaissent le terme depuis un an et demi,
02:24depuis la sortie de Tchad GPT.
02:26Le terme existe depuis 1956.
02:28À l'origine, l'intelligence artificielle, c'est un champ de recherche scientifique
02:33qui vise à comprendre les facultés cognitives de l'homme
02:36en les simulant sur des machines.
02:38Et vous avez mentionné l'histoire du turc mécanique.
02:42Je la trouve très éclairante là-dessus.
02:44Le turc mécanique, au siècle des Lumières,
02:47c'est un automate qui va jouer aux échecs.
02:51Évidemment, c'est une supercherie.
02:53Ce n'est pas un véritable automate.
02:54Il y a un système, un jeu de miroir à l'intérieur,
02:57un nain qui se cache dans le turc mécanique pour jouer aux échecs.
03:02Aujourd'hui, le turc mécanique, Mechanical Turk,
03:05c'est le nom de la plateforme d'Amazon
03:06qui veut utiliser des petites mains pour labelliser des données,
03:10pour faire des prototypes.
03:11Et je trouve que cette évolution de l'intelligence artificielle,
03:16de la capacité d'abord à vouloir comprendre les facultés de l'homme
03:19en les simulant sur des machines,
03:21quelque part de robotiser l'esprit humain.
03:24Jusqu'à aujourd'hui, utiliser l'homme pour faire ces tâches-là,
03:29utiliser nos données pour pouvoir automatiser une bonne partie des tâches.
03:34Je trouve que c'est surtout ça la révolution,
03:36surtout une révolution des usages.
03:38Vous parlez finalement d'évolution et non pas peut-être de révolution.
03:40Mais on va continuer avec vous, Eugène Le Payser,
03:42puisque vous êtes une scientifique née dans une famille d'artistes.
03:46C'est un peu l'esprit justement de votre solution Beying.
03:48Vous en êtes la fondatrice, vous êtes docteur en biotechnologie.
03:52Vous avez imaginé une solution avec la promesse, je cite,
03:56de proposer un outil qui devine les idées pour les exprimer sur papier.
04:00C'est fantastique.
04:01On vous a vu effectivement il y a quelques mois de cela
04:04dans une émission très célèbre qui veut être mon associé.
04:08Votre solution Beying, c'est une innovation de rupture,
04:10la vélise et ditech.
04:11En quelques mots et concrètement, Beying, c'est quoi, Jeanne ?
04:15Merci pour l'invitation aujourd'hui.
04:17Beying, c'est la promesse de permettre à chacun
04:20qu'il y a des idées, des choses à partager, des concepts,
04:23de pouvoir les partager à d'autres, les communiquer,
04:26se faire comprendre et surtout de pouvoir avoir la capacité
04:29de visualiser ce qu'on a en tête.
04:30Parfois, ce n'est pas toujours très clair
04:32et de faire évoluer ces visuels à la vitesse de notre pensée.
04:35Au moment où on voit une idée qu'on avait,
04:38on se pose des milliards d'autres questions.
04:40On a envie d'avancer dans notre raisonnement,
04:42on a envie de se remettre à griffonner.
04:44Or, on est tous capables de gribouiller,
04:47peu importe notre niveau.
04:48Et c'est Beying qui a justement cette volonté
04:51de transformer ces gribouillis en visuels exploitables.
04:54Alors, comment vous avez vu cette idée
04:56de développer une telle solution ?
04:58Moi, je n'ai jamais voulu développer particulièrement une solution.
05:03Je ne suis pas née en me disant,
05:04tiens, plus tard, je voudrais développer des trucs.
05:06Non, pas du tout.
05:07C'est une histoire de vie, c'est un parcours de vie.
05:09Le dessin, ça a toujours été pour moi
05:11un moyen de réflexion, de communication,
05:14un moyen aussi de créer des mondes alternatifs.
05:18Et comme mon parcours est très scientifique,
05:20ingénieur, docteur,
05:22j'ai beaucoup été sollicitée par des entreprises,
05:25des laboratoires,
05:25pour mettre en image des idées
05:27et des inventions des uns et des autres.
05:29Et donc, je me suis dit, mais c'est trop bête,
05:31parce que quand je leur présente ce que j'ai créé,
05:33ce qu'ils m'ont demandé,
05:34c'est là où les gens ont plein d'autres idées.
05:36Ils ont envie de faire évoluer le truc.
05:38Et assez naïvement, au départ,
05:39je me suis dit, écoute,
05:41ça ne doit pas être très compliqué.
05:42Je vais créer un logiciel
05:43qui permette à tous ces gens-là
05:45de visualiser par eux-mêmes,
05:47d'être autonomes aussi dans cette création-là,
05:50de pouvoir communiquer eux-mêmes
05:51ce qu'ils ont en tête.
05:52Et ça a démarré comme ça.
05:53Gilles Babinet, on ne vous présente plus,
05:55mais je vais vous présenter tout de même.
05:57Vous êtes coprésident du Conseil national du numérique
05:59depuis 2021.
06:00Vous êtes, avant cela,
06:01serial entrepreneur.
06:02Vous avez été lundi pionnier de la musique mobile
06:05dans les années 2000.
06:06Vous avez créé plus de 8 sociétés.
06:08Vous êtes digital champion depuis 2012,
06:10nommé par la ministre
06:11de l'économie numérique en 2012,
06:14Fleur Pellerin.
06:15En France, on compte 502 start-up,
06:1880 en laboratoire.
06:20Ça représente environ 13 500 personnes
06:22qui gravitent et travaillent
06:23dans le secteur de l'intelligence artificielle.
06:25Le gouvernement, depuis 2017,
06:27a développé une stratégie nationale sur l'EA.
06:30Je vous propose peut-être de démarrer par un état des lieux.
06:33La France est-elle, comme elle le prétend,
06:35au niveau du rendez-vous sur la question
06:38du développement technologique autour de l'IA ?
06:40Merci de m'inviter dans cette conférence.
06:43C'est une question qu'on me pose extrêmement fréquemment
06:47et la réponse est assez difficile.
06:50C'est-à-dire que, suivant les classements,
06:52la France se situe factuellement
06:53entre la 6e et la 8e place aujourd'hui.
06:57Les Etats-Unis en grand leader.
06:59La Chine, probablement pas très loin derrière.
07:02On a du mal à mesurer ce qui se passe en Chine
07:04parce que c'est en chinois
07:06et donc c'est difficile de savoir.
07:07Le 3e pays, c'est une surprise
07:09pour beaucoup d'entre vous et d'entre nous.
07:11C'est le Royaume-Uni,
07:13vraiment qui est historiquement
07:14un pays très très fort dans cet univers.
07:18Puis après, le classement se complique un petit peu.
07:22Il y a des pays comme la Russie, le Canada, Israël
07:27et d'autres, l'Inde, qui peuvent rentrer dedans.
07:31Mais vraisemblablement,
07:33la France est en perspective d'accélérer assez fort.
07:37C'est-à-dire que quand on voit l'évolution, par exemple,
07:39du nombre de citations des travaux de recherche,
07:42qui est un critère assez important,
07:44on s'aperçoit que la France,
07:45qui était presque invisible il y a seulement 5 ou 6 ans,
07:49est en train de prendre la 4e place.
07:52Donc il y a une volonté politique
07:54qui se traduit sur le terrain concrètement,
07:56aussi par le nombre de start-up
07:58qui sont financées dans ce domaine.
08:00Mais je crois que ce qui fait que ces pays
08:02sont dans ces positions-là,
08:04Chine, Etats-Unis, Royaume-Uni,
08:06c'est surtout la continuité,
08:08et je dirais la continuité transpartisane.
08:11C'est-à-dire que quand il y a un changement de gouvernement,
08:12on continue.
08:13Et on voit d'ailleurs à cet égard l'importance
08:16finalement de l'appui des politiques publiques
08:19pour réussir dans ce domaine.
08:20Alors justement, sur ce sujet-là,
08:22on parlait en préambule de Chogs France,
08:25de ses annonces, de ses milliards d'euros,
08:26et le développement de l'IA est souvent associé
08:28par un financement pléthorique en milliards de dollars.
08:31Sur les investissements privés publics massifs,
08:34est-ce qu'on peut déjà deviner,
08:35dessiner des résultats à moyen, court terme ?
08:40Oui, alors vous parlez en France ou en général ?
08:43En France et même en général.
08:44En général, les Etats-Unis étaient les leaders
08:48de l'économie numérique.
08:49Ils seront, et c'est une nouvelle pour personne,
08:53les leaders de l'intelligence artificielle,
08:55notamment parce qu'ils ont ce qu'on appelle le touchpoint,
08:59c'est-à-dire qu'ils accèdent,
09:00ils parlent directement à des milliards de personnes.
09:03Et il y a peu de pays qui réussissent à faire ça.
09:05Le deuxième pays qui peut potentiellement faire ça,
09:06c'est la Chine, mais surtout avec des Chinois.
09:09Alors que les Etats-Unis, c'est avec des citoyens du monde
09:12au sens large.
09:14Les autres pays doivent avoir des stratégies de spécialisation.
09:19Moi, je milite, par exemple, pour que la France
09:21se spécialise sur les métiers de l'environnement.
09:24Pourquoi ? Parce que, finalement,
09:26on a des leaders mondiaux dans l'environnement,
09:28aussi bien dans l'électricité que dans ce qu'on appelle
09:30les services utilities, des SOR, des Veolia, des Suez, etc.
09:34et que ces entreprises, soit elles sont capables
09:37d'accroître leur productivité de façon très forte
09:39et de faire des services à l'environnement
09:41qui sont très coûteux à faire à coût marginal,
09:44soit je pense qu'elles se feront des intermédiaires un jour.
09:48Et donc, cette opportunité, elle nous tend les bras.
09:50C'est vraiment de dire, on va utiliser l'IA
09:53comme un facteur de décarbonation,
09:55de restauration de la biodiversité, etc.
09:58Et c'est un besoin qui est un besoin mondial.
10:00Donc, c'est vraiment l'occasion de remettre la France
10:04sur la carte, notamment de l'exportation,
10:07au travers de cette technologie.
10:08Et on a toutes les raisons de réussir dans ce domaine
10:11parce que c'est juste en train de commencer.
10:13Ce qui va se passer dans l'IA,
10:15ce qu'on voit actuellement,
10:17c'est probablement moins de 5% de ce que l'on verra demain.
10:19Donc, vous préconisez un retour un peu à la chumpeterienne,
10:22spécialisation par Grappes,
10:23et notamment, comme vous nous le disiez,
10:25justement, militant de l'IA dans l'environnement
10:28pour ce qui est, en tout cas, de l'évolution de l'IA en France.
10:32Je viens de le payer.
10:33Le développement de l'IA interroge.
10:36Parlons des scénaristes américains
10:37qui, en 2023, ont mené une grève de 5 mois
10:39pour justement manifester leur crainte
10:42et surtout leur crainte d'être remplacée par l'IA.
10:45Ce sentiment de crainte,
10:47il nous renvoie finalement à ce phénomène
10:49en économie de destruction, création.
10:51Comment a été accueilli votre solution
10:54par l'écosystème artistique ?
10:57Alors déjà, la volonté de faire de l'IA,
11:00ce n'était pas une volonté que j'avais.
11:02Quand j'ai imaginé le concept de ce logiciel-là,
11:05on était en janvier 2021,
11:06c'était avant le gros boom d'IA,
11:08et moi, l'IA, ce n'était pas ma spécialité.
11:09Donc, je n'y ai pas pensé de moi-même
11:11à me lancer là-dedans.
11:13En en discutant de ce concept-là,
11:15j'ai eu deux teams.
11:17Ceux qui m'ont dit,
11:18mais Jeanne, ce que tu veux faire, c'est impossible.
11:20Et puis ceux qui m'ont dit,
11:21mais si tu veux créer cette solution-là,
11:23il faut que tu travailles sur l'IA générative.
11:25Et les gens qui m'ont dit ça,
11:26c'était des chercheurs en IA générative.
11:29Donc, dès le début de la genèse de cet outil-là,
11:31l'IA, pour moi, n'était qu'un outil,
11:33un moyen de permettre aux gens d'acquérir
11:35ce que je voulais leur permettre d'acquérir,
11:37et pas une volonté de travailler dans l'IA en général.
11:42Ça, c'est un premier point.
11:43J'ai été assez stressée de l'accueil de ça par le grand public,
11:47parce que le grand public, pour beaucoup,
11:49en fait, ont découvert ça à la télé via M6,
11:52où les choses, parfois, sont assez expliquées,
11:56un peu plus simplement, je dirais.
11:58Et donc, parfois, en simplifiant,
11:59on enlève un certain nombre de nuances qui sont importantes.
12:02J'ai eu un accueil hyper positif,
12:05notamment de personnes qui travaillent dans les milieux artistiques
12:09depuis des dizaines d'années,
12:10et qui m'ont écrit, des personnes que je ne connais pas,
12:12et qui m'ont écrit.
12:13Mais moi, l'IA, pour moi, c'était le diable.
12:15Je voulais à part en entendre parler.
12:17Et puis, quand j'ai découvert votre solution,
12:19j'ai compris que c'était un outil,
12:21j'ai compris votre approche,
12:22et j'ai compris que je pouvais garder en main le stylo.
12:25Et ça, cette approche, je pense aussi
12:27que c'est une façon d'incarner ce parcours-là.
12:30Je suis née dans une famille d'artistes.
12:32Je trouve que mes parents ont un esprit créatif
12:35absolument génial et dingo.
12:37Et cette volonté de créer un langage universel
12:39par le dessin, c'est aussi permettre à ces gens-là
12:42de faire bénéficier leur créativité
12:44à d'autres secteurs, notamment les scientifiques,
12:46et inversement.
12:47Vous voyez mes parents dans la salle,
12:48c'est les deux personnes les plus stylées
12:50au milieu de la pièce.
12:51Et on les salue, ils sont parmi nous.
12:52Alors, vous convoquez,
12:53vous convoquez,
12:55L'IA en tant que...
12:56Alors, tout le monde regarde dans la salle.
13:01Vous convoquez, L'IA en tant que...
13:09Au fil de notre échange, vous convoquez L'IA en tant qu'outil.
13:13Vous nous l'avez dit et évoqué.
13:15Dans la phase de conception de votre solution,
13:17est-ce que vous pensez déjà aux biais
13:19que peut provoquer et que peut occasionner
13:22cet outil qu'est l'IA ?
13:24Les biais, on y pense de fait.
13:28C'est-à-dire, moi, mon parcours est très dans la génétique
13:30et il y a un biais énorme en génétique.
13:32C'est que toutes les solutions de médecine
13:36basées sur des connaissances de génétique
13:38ont été basées sur le génome humain.
13:41Et pour ceux qui ne le savent pas,
13:42le génome humain, c'est un scientifique
13:45qui a voulu lire le génome humain.
13:47Et ce gars-là, il s'est dit,
13:48qui de mieux que mon corps
13:50pour pouvoir lire mon propre génome ?
13:52Donc, ce qui se passe,
13:52c'est que tous les médicaments
13:54qui ont été créés à ce moment-là
13:55ont été créés à partir d'un génome humain,
13:58d'une personne qui se trouve être un homme blanc.
14:01Donc, quand on bosse en génétique,
14:02on est déjà dans le biais
14:04de quelque chose qui n'est représenté
14:08que par un tout petit nombre de personnes.
14:10Quand on bosse en IA générative,
14:12et là, maintenant qu'on a sorti notre premier modèle,
14:14on travaille à fond sur des choses
14:16qui sont plus inclusives,
14:18c'est difficile, c'est difficile
14:19parce qu'il faut de la donner.
14:21Quand on invite les femmes et les personnes,
14:23issues des minorités à aller dans la tech,
14:26ce n'est pas pour pousser les gens
14:27à faire des métiers qu'ils n'ont pas envie de faire,
14:29c'est pour permettre aux gens
14:30de donner de la diversité à la tech.
14:32Et ça, c'est hyper important.
14:33Sans vous, sans votre diversité,
14:36il n'y a pas de techno qui sera divers
14:37et qui sera inclusive.
14:39Qu'importe le sujet, dès que ça tombe
14:40entre guillemets dans les mains d'êtres humains,
14:41il y a un biais tout naturel avec une vision,
14:43bien sûr, qui n'est pas forcément représentative,
14:45mais qui reste très naturel, oui.
14:46On l'a compris.
14:47Gilles Babine, vous considérez que l'intelligence artificielle
14:49doit aussi, bien sûr, dans sa dimension sociétale,
14:53être développée avec celles et ceux qui sont ici parmi nous.
14:56Et pour cette raison, on développe un tel sujet
14:58ici à l'occasion de Vivatec.
14:59La commission de l'intelligence artificielle,
15:02dont vous êtes membre, a remis au président de la République
15:04le 13 mars 2024,
15:06un rapport comprenant 25 recommandations
15:09pour faire de la France un acteur majeur
15:11de la révolution technologique de l'intelligence artificielle.
15:14Et dans l'une des premières recommandations de ce rapport,
15:16il est recommandé la mise en place
15:18d'une grande consultation civile
15:20avec la société civile autour du débat intitulé
15:24Le café pour IA.
15:25Alors pourquoi justement organiser ?
15:27Pourquoi en fait il faut peut-être faire
15:28comment on le fait là aujourd'hui
15:29et comme il faut le faire peut-être prochainement,
15:31organiser un grand débat de société autour de l'IA ?
15:34Pourquoi est-ce qu'il est nécessaire que cela, finalement ?
15:35On ne l'a pas fait avec les autres technologies, finalement.
15:37Pourquoi l'IA ?
15:38Oui, oui.
15:39Merci d'évoquer ça.
15:40C'est vraiment quelque chose qui nous est cher.
15:42Au sein du Conseil national du numérique,
15:44on s'est battu pendant deux ans
15:46pour arriver à ce qui s'est passé mardi,
15:48c'est-à-dire l'annonce par le président de la République
15:49que cette idée de café IA que l'on porte
15:53soit mise en oeuvre, effectivement.
15:54Ce que l'on dit, c'est que l'IA et les technologies numériques en général
16:01sont assez élitistes.
16:02On se souvient du fait qu'il y a quelques années,
16:05on avait critiqué le président de la République
16:06pour avoir évoqué ceux qui ne sont rien à Station F.
16:11qui avaient été très durement ressentis,
16:14et je pense à juste titre.
16:16Et l'idée, c'est de dire que ces technologies
16:19ne seront réellement des technologies de progrès
16:22si ce sont les nôtres.
16:24Et je crois que le narratif dominant qui s'est installé aujourd'hui,
16:27c'est que finalement, à juste titre,
16:29ce sont des technologies qui sont mercantilistes,
16:32qui sont des technologies de captation de notre cognition,
16:36c'est-à-dire qui nous abrutissent, en d'autres termes.
16:38Et ce narratif, il semble naturel.
16:42C'est-à-dire, on se dit, en fait,
16:43c'est le propre des technologies de faire ça.
16:45Et c'est totalement faux.
16:47C'est-à-dire qu'on peut très bien écrire
16:49une histoire de la technologie qui est la nôtre,
16:52qui est celle des Européens,
16:54qui est celle des Français,
16:55et qui dit, en fait, plutôt que d'en faire
16:56des technologies de privation, de contrôle,
16:59on va faire des technologies d'épanouissement,
17:02comme Jeanne le raconte,
17:04et finalement d'autonomisation.
17:06Alors pourquoi le faire pour l'IA,
17:07alors qu'on ne l'a pas fait pour Internet
17:08et pour d'autres technologies ?
17:10Mais en fait, c'était au début de l'Internet,
17:12malheureusement, moi, j'ai quelques cheveux blancs,
17:13j'ai tout à fait le souvenir de ça.
17:15On était tous convaincus qu'on allait amener
17:18la santé, l'éducation, au plus grand nombre,
17:22ce qu'on appelle aujourd'hui le sud global.
17:24Et en fait, ça a été une escroquerie,
17:26c'est-à-dire que ça ne s'est pas passé.
17:28Et on a eu des amoncellements de piles de cash
17:31qui se sont formées, surtout dans la Silicon Valley.
17:33Et donc, il faut reprendre...
17:36Alors, c'est un peu un discours d'extrême droite,
17:39mais ce n'est pas du tout le mien.
17:40Mais il faut reprendre le narratif,
17:42il faut le reconstruire.
17:43Il faut dire, OK, on va faire de ces technologies,
17:46les nôtres, on va se les approprier
17:48et on va dessiner un futur différent.
17:50Mais pour ce faire,
17:52il faut faire un grand débat national sur ce sujet.
17:54Nous, au sein du Conseil national du numérique,
17:56on a été rencontrés à 105 entreprises
17:59dans tous les territoires des gens.
18:01Et moi, j'ai été totalement décontenancé
18:03de voir que le premier truc que les gens nous disaient,
18:05c'est ce que vous disiez à l'instant,
18:06c'est en fait, ça va me piquer mon job
18:08et ça va me faire du mal.
18:10Et pourquoi ?
18:11Parce que les gens se créent des fantasmes à cet égard.
18:14Donc, la robotisation, c'est arrivé massivement.
18:17Dans tous les pays où c'est arrivé,
18:19ça a plutôt créé du plein emploi.
18:21Ce n'est pas moi qui le dis,
18:21c'est les statistiques de l'OCDE.
18:23Et bien, c'est probablement la même chose
18:25à l'égard de ces technologies,
18:26à condition de les comprendre.
18:28De les comprendre,
18:29et plutôt que d'en être victime,
18:31de les mettre en œuvre.
18:32Et si on veut qu'on les mette en œuvre
18:34à l'égard de tous,
18:35c'est-à-dire des cols bleus,
18:37des cols blancs, des décideurs, etc.,
18:39il faut qu'on les comprenne collectivement
18:41et qu'on écrive ensemble ce qu'on veut en faire.
18:44Ça, c'est vraiment très, très important.
18:46On voit ici, à l'occasion de cet échange,
18:47on voit que la salle est pleine à craquer.
18:49Ça l'a été pour bien sûr les autres sessions,
18:50mais il y a même plus de place assise.
18:52Et moi, je suis hyper content d'être là
18:53sur ce débat qui est le débat de ce sujet
18:55parce que c'est vraiment mon discours
18:57et qu'en plus, c'est le mandat
18:58que le président de la République,
18:59entre guillemets, m'a donné.
19:02Il m'a dit, vous reprenez le prochain CENUM
19:04et c'est ça qu'il faut faire.
19:06Laura Siboni, vous dites avoir personnellement
19:08découvert l'intelligence artificielle
19:10par Google Art & Culture
19:12et ses 8 millions d'œuvres numérisées.
19:15L'intelligence artificielle est partout.
19:17On retrouve dans votre livre
19:18des histoires sur l'IA et l'art,
19:20sur l'IA et l'information,
19:22l'IA et la maladie.
19:23Vous dites que l'IA, c'est un outil
19:25capable du meilleur comme du pire.
19:28Quels sont les grands usages, Laura,
19:30de l'IA qui bouleversent déjà
19:32notre quotidien ?
19:34Merci.
19:34Moi, je ne pourrais pas être plus d'accord
19:36avec Gilles Balbinet.
19:38Il faut écrire l'IA et c'est justement
19:40en l'écrivant, à travers ces histoires,
19:43à travers ces grands usages que vous mentionnez,
19:46qu'on va transformer le fantasme,
19:49l'angoisse vague autour de l'intelligence artificielle
19:52en peur concrète et que là, on peut adresser.
19:56Et donc, c'est pour ça que j'ai voulu écrire l'IA
19:58alors que je n'ai pas un parcours d'ingénieur.
20:01À l'origine, je faisais une thèse professionnelle
20:03sur la recommandation en littérature.
20:05Vous voyez que ça part de loin.
20:07Je m'intéressais à la question de
20:09comment est-ce qu'on peut recommander un livre
20:11à quelqu'un qui ne l'a pas lu ?
20:13Comment est-ce qu'on saura que ça lui plaira ?
20:14Et donc, je me suis intéressée au matching
20:16par similarité.
20:17J'ai commencé à travailler à Google Arréculture,
20:21qui est un département de Google
20:22qui a numérisé 8 millions d'oeuvres
20:24et qui utilise l'intelligence artificielle
20:26pour les rendre plus accessibles.
20:28Et je suis aussi tout à fait en phase avec vous,
20:31Jeanne Le Payer,
20:32puisque c'est à travers
20:35ce que l'intelligence artificielle apporte
20:37au monde de l'art,
20:39que je vais souvent l'expliquer,
20:41l'enseigner,
20:42en montrant,
20:43on comprend beaucoup mieux une similarité
20:45quand on a vu le lien
20:46qu'il peut y avoir entre deux tableaux.
20:48Je dis souvent,
20:49c'est Botticelli qui m'a fait comprendre
20:51ce qu'était l'intelligence artificielle.
20:53C'est aussi un très bon moyen
20:55de rendre visible
20:57ce que fait l'intelligence artificielle.
20:59parce que l'intelligence artificielle,
21:01à l'origine,
21:02et c'est aussi pour ça
21:03qu'on a besoin de se l'approprier,
21:06c'est nous.
21:07À l'origine,
21:08ça fonctionne grâce à des données
21:09et ces données, c'est nous,
21:10c'est nos visages,
21:11c'est nos préférences,
21:13c'est ce qu'on produit,
21:17ce sont nos contenus,
21:17c'est ce qu'on dessine.
21:18Et donc,
21:19les usages de l'intelligence artificielle
21:22sont extrêmement variés
21:23puisqu'ils s'adressent
21:23à tous les domaines
21:24dans lesquels
21:25on va produire de la donnée.
21:27C'est pour ça que j'ai voulu
21:28le raconter par facettes.
21:31Évidemment,
21:31ce n'est pas exhaustif
21:32et ça ne peut pas l'être,
21:34mais j'ai choisi
21:34quelques éclairages
21:36parce que je ne voulais pas
21:38expliquer l'intelligence artificielle,
21:39je ne voulais pas la juger,
21:41je voulais d'abord
21:42commencer par la raconter.
21:43Donc là,
21:43si je dois résumer
21:44un peu vos propos,
21:44ce que vous dites,
21:45c'est qu'on utilise
21:46un peu inconsciemment
21:47l'intelligence artificielle
21:47dans notre quotidien
21:48et ce,
21:49par des biais divers et revayés,
21:50dont peut-être
21:51le téléphone portable déjà.
21:52Oui.
21:54Évidemment,
21:55maintenant,
21:55lorsqu'on parle
21:55d'intelligence artificielle
21:57depuis un an et demi,
21:58tout le monde imagine
21:59ChatGPT,
22:00mais les IA,
22:01c'est aussi
22:01ce qui va optimiser
22:02la batterie
22:03de notre portable,
22:03c'est aussi
22:04ce qui va sécuriser
22:06notre compte bancaire,
22:07c'est aussi
22:08ce qui va sélectionner
22:09l'information qu'on voit
22:10sur les réseaux sociaux
22:12et l'importance
22:13de faire des cafés IA,
22:14de faire un grand débat
22:15autour de l'IA
22:16ou de le raconter,
22:17de l'écrire,
22:18c'est aussi
22:18de pouvoir s'adresser
22:20à ces gens
22:21qui utilisent l'IA
22:22au quotidien
22:23sans s'en rendre compte
22:23parce que ça,
22:25c'est un danger
22:26d'être influencé
22:27par l'IA,
22:28c'est-à-dire de recevoir
22:29une certaine information
22:31plutôt qu'une autre,
22:32donc d'être influencé
22:33par l'IA
22:33sans savoir
22:34déjà qu'on l'utilise.
22:36Faut-il avoir peur
22:37du progrès ?
22:37Faut-il avoir peur
22:38de l'IA ?
22:39C'est le grand sujet
22:39de notre conférence.
22:41On poursuit avec vous,
22:42Jean-Lepayé,
22:42on parlait justement
22:43de capacités cognitives
22:44avec vous tout à l'heure,
22:45Gilles Babinet,
22:46on a délégué des compétences
22:47finalement à la technologie
22:49bien avant l'IA,
22:50les compétences en orientation
22:51par exemple avec le GPS,
22:53les compétences en mémorisation
22:54par l'usage de la carte mémoire
22:56pour ne citer que ces exemples.
22:58Jean-Lepayé,
22:58l'IA est un outil,
23:00vous l'avez dit,
23:01quid des facultés cognitives,
23:03des capacités cognitives ?
23:04L'IA ne libère-t-elle
23:05des contraintes réflexives ?
23:06Va-t-on vers un appauvrissement
23:11du cerveau humain ?
23:12Alors moi,
23:13je ne crois pas du tout
23:15qu'on doive se libérer
23:17de nos contraintes réflexives
23:19parce que je ne crois pas
23:20que ce soit des contraintes.
23:22Je pense que la réflexion,
23:23c'est quelque chose
23:24qui est à la fois...
23:26C'est un procédé très satisfaisant,
23:29c'est un procédé très inclusif aussi
23:32quand on réfléchit.
23:33Souvent, on amène d'autres personnes
23:34à réfléchir avec nous.
23:36Donc je pense qu'à l'inverse,
23:37il ne faut pas du tout
23:38se décharger de ça
23:40et le voir comme une contrainte.
23:41Et c'est pourtant
23:41toute la promesse de la technologie.
23:43Et la promesse de la technologie,
23:45c'est se libérer de choses
23:46qui n'apportent pas de valeur.
23:47Exemple, avec Bing, par exemple,
23:50gribouiller, c'est là où on réfléchit,
23:52c'est là où on communique,
23:53c'est là où on fait avancer nos idées.
23:55Par contre,
23:56transformer ces gribouillis
23:57en visuels propres,
23:59et c'est là qu'on y passe
24:01350 heures à faire des carrés,
24:02des flèches,
24:03alors qu'au brouillon,
24:04ça passait tout seul.
24:05Là, il y a une perte de temps.
24:06Et là, c'est chouette
24:07de pouvoir être accéléré là-dessus.
24:10Donc, je pense vraiment
24:10qu'à l'inverse,
24:11il faut créer des outils
24:13qui décuplent nos manières
24:14de réfléchir.
24:15C'est pour ça que dans l'équipe,
24:16on a des docteurs
24:17en neurosciences
24:18et en cognition,
24:18parce que justement,
24:19on a envie que ce soit
24:20un outil qui fasse exploser
24:22à l'inverse nos idées
24:24et notre capacité à réfléchir.
24:26Donc, des outils inclusifs
24:27qui créent des dialogues,
24:28des dialogues entre nous
24:29et les autres,
24:30des dialogues entre nous
24:31et la machine.
24:31C'est là qu'on pourra
24:34vraiment décupler nos facultés.
24:36Et surtout,
24:36je pense qu'il faut réfléchir
24:37à la technologie,
24:38pas comme un remplacement,
24:40parce qu'on est des êtres
24:41absolument assez fabuleux.
24:44On a des cerveaux
24:45un peu incroyables.
24:46Il ne faut pas l'imaginer
24:47comme un remplacement,
24:48mais comme un catalyseur
24:49de tout un tas de choses.
24:50Et puis, l'IA,
24:51on en parle beaucoup
24:52comme quelque chose
24:53qui va remplacer,
24:55des créatifs, etc.
24:56Mais on oublie pas mal
24:57sur quoi sont entraînées
24:58ces IA
24:59et elles sont entraînées
25:00sur des gens qui créent
25:01et qui créent des données,
25:02qui créent des visuels,
25:03qui créent des textes.
25:05Et ces gens-là,
25:05il faut qu'ils continuent
25:07à exister et à créer.
25:08L'IA est associée
25:09à la désinformation.
25:11Les deepfakes
25:11sont des continus audio,
25:13vidéo,
25:13détournés,
25:14capables de propager
25:15de fausses informations.
25:17Ce sont des tentatives
25:18de déstabilisation
25:19de l'opinion
25:20et donc un danger
25:21pour nos démocraties.
25:23On parlait de régulation
25:24tout à l'heure,
25:25plus globalement.
25:25Comment lutter collectivement
25:27contre les deepfakes ?
25:28On commence avec vous,
25:29Gilles Babinet.
25:31Oui, alors,
25:32il ne faut pas nier
25:32qu'il y a des enjeux
25:34et des problèmes structurels
25:36qui sont liés
25:37à l'émergence
25:37de l'intelligence artificielle.
25:39À mon avis,
25:39il y en a trois.
25:40Il y a trois catégories.
25:41Il y a ce que moi,
25:42j'appellerais
25:43les risques personnels.
25:45Donc, vous êtes
25:48attaqué par quelque chose
25:50qui essaye
25:50de vous estorquer de l'argent.
25:52Moi, mes parents,
25:53à plusieurs reprises,
25:54ils ont donné de l'argent
25:55par Internet.
25:56Heureusement,
25:57c'est des petits montants.
25:57Alors, pour le moment,
25:59c'est fait manuellement,
25:59mais demain,
26:00ça peut être industrialisé
26:01avec de l'intelligence artificielle.
26:03Vous avez tout un tas
26:04d'histoires,
26:04plus ou moins
26:06abracadabrantes
26:06que l'on trouve
26:08sur Internet,
26:08sur ce genre de choses.
26:09Il y a ce que j'appellerais
26:11les risques politiques.
26:12Le fait de coordonner
26:15sur les réseaux sociaux
26:16une armée
26:17de faux comptes
26:18qui vont créer
26:19des narratifs
26:20qui sont faux.
26:21Ce qui se passe actuellement,
26:22d'ailleurs,
26:22en Nouvelle-Calédonie,
26:23c'est évidemment
26:25extrêmement dangereux.
26:26On voit les conséquences
26:27que ça peut avoir.
26:28Et puis,
26:28les risques cyber,
26:30qui sont les risques anciens,
26:32qui sont amplifiés
26:33par l'émergence
26:34de nouvelles formes
26:34d'intelligence artificielle.
26:36Voilà.
26:37Ce qu'il faut bien comprendre
26:38à cet égard,
26:39c'est que,
26:40pour le faire
26:41de façon assez manichéenne,
26:43les gentils ont toujours
26:44un avantage sur les méchants.
26:45Parce que les gentils
26:46partagent leurs informations,
26:47alors que les méchants
26:48ont tendance à être
26:49dans une logique,
26:50évidemment,
26:50de secret
26:52qui leur donne
26:53un désavantage compétitif
26:54structurel à cet égard.
26:56Pour autant,
26:57on le voit bien,
26:57ils sont capables
26:58de faire un certain nombre
26:59de dégâts.
27:00Mais,
27:01moi,
27:01c'est ce que je dis
27:02à chaque fois
27:02que je suis confronté à ça,
27:04c'est aller penser
27:05que ces machines
27:06sont arrivées
27:07à un niveau d'autonomie
27:08où elles sont capables
27:09de se répliquer elles-mêmes
27:10et finalement
27:12de mettre en oeuvre
27:13un scénario
27:14de science-fiction
27:14des plus dystopiques.
27:17Ça,
27:17ça n'existe pas.
27:18Et les plus grands scientifiques
27:20aujourd'hui
27:21ont dépassé le débat
27:22qui existait il y a un an
27:23qui ont cité à dire
27:24qu'il faut quand même
27:25probablement faire assez attention
27:27parce que ça peut arriver.
27:28Il y a un consensus
27:29qui apparaît à cet égard
27:30sur le fait que
27:31ça n'est pas prêt
27:32de survenir
27:33et qu'on a,
27:34d'un point de vue systémique,
27:36aujourd'hui,
27:36des outils
27:37pour éviter ce genre de choses.
27:38En revanche,
27:39ce qui est vraiment important,
27:41c'est de créer
27:41une culture collective
27:42à cet égard,
27:43de savoir ce que c'est
27:44qu'un deepfake,
27:45de comprendre
27:46pourquoi ça peut dévoyer
27:49des éléments
27:50de compréhension
27:51de la réalité.
27:53Il y a toujours
27:54ce problème
27:54de voir
27:56des sortes
27:57de grands mythes collectifs
27:58qui commencent
27:58à s'inscrire
28:00dans une sorte
28:00de mythologie commune
28:02et pour laquelle
28:03il faut lutter.
28:04Je ne sais pas
28:05si c'est vrai
28:05que 10% des gens
28:06pensent que la Terre
28:07est plate,
28:08mais en tout cas,
28:09c'est assez...
28:10Ça cristallise
28:11l'un des problèmes
28:12auxquels on doit faire face,
28:13c'est-à-dire
28:14d'une nouvelle forme
28:15d'épistémologie,
28:17c'est-à-dire que
28:17comment on crée
28:18la définition
28:19de ce qui est communément
28:20admis
28:21et de ce qui est opposable.
28:23Ça, c'est vraiment
28:24quelque chose d'important.
28:25Ça ne veut pas dire
28:26qu'on va faire
28:27écrouler notre société.
28:29Quand, finalement,
28:30la radio a commencé
28:31à arriver,
28:32ça a créé
28:33des nouveaux problèmes,
28:34des nouvelles formes
28:35de rapport
28:36à la réalité
28:37et on a réussi
28:39à traiter
28:39ce genre de choses.
28:40C'est la même chose
28:41d'aujourd'hui.
28:41Et je pense que
28:42l'une des réponses,
28:43désolé d'être un peu long,
28:44c'est vraiment
28:45de faire en sorte
28:46que là où les technologies
28:48de réseaux sociaux
28:49nous ont un peu
28:49enfermés chez nous,
28:50on ressorte
28:51et on se remette
28:52à débattre.
28:53Ça, c'est fondamental.
28:55C'est important
28:56pour la démocratie.
28:57C'est important
28:58pour notre bien-être personnel.
29:02et finalement,
29:04c'est important aussi
29:06pour la définition
29:07de ce que peuvent être
29:10des réalités
29:11communément admises.
29:12On l'a compris,
29:12avoir une meilleure compréhension,
29:14bien sûr,
29:14de l'IA,
29:15c'est aussi un véritable enjeu.
29:17Laura Siboni,
29:18comment lutter
29:19collectivement
29:19contre les deepfakes ?
29:21Vous avez bien défini
29:22les risques des deepfakes
29:24qui sont un risque cyber,
29:26un risque politique,
29:27un risque personnel.
29:28Je pense que la réponse,
29:29elle est sur ces trois aspects.
29:30Oui, il y a une réponse cyber
29:32de sécurisation.
29:33Il y a une réponse politique
29:34de régulation,
29:35de watermarking,
29:36par exemple,
29:37des productions de l'IA,
29:38mais aussi,
29:39il y a une réponse personnelle.
29:41Et les deepfakes,
29:42je pense que beaucoup de gens
29:43ont vraiment compris
29:45quels étaient leurs impacts.
29:46Là, récemment,
29:47dans les derniers mois,
29:48quand il y a eu les deepfakes
29:49de Taylor Swift
29:50et qu'on s'est dit
29:51que ce n'est pas seulement
29:52quelque chose
29:53dont on parle
29:53et qui est dangereux,
29:54mais ça pourrait m'arriver
29:55à moi.
29:56Ça pourrait être
29:57des détournements
29:58de ma propre image.
29:59Ça pourrait arriver
30:00à ma mère,
30:00à ma soeur.
30:01C'est lorsqu'on a commencé
30:03à voir quel était
30:04le risque personnel
30:05de ces deepfakes
30:07qu'on a mesuré aussi
30:08qu'elle pouvait être
30:10son impact.
30:11Et je pense que la réponse
30:12est aussi sous cet aspect-là,
30:14aussi par le fait,
30:15en effet,
30:16de débattre,
30:17de raconter,
30:18de comprendre,
30:19non pas seulement
30:19de manière très technique
30:22ce qu'est l'intelligence artificielle
30:24et le comment elle fonctionne,
30:25mais aussi ce que c'est
30:26et ce que ça n'est pas,
30:27les promesses que ça fait
30:29et puis les promesses
30:30que ça ne pourra jamais tenir.
30:31Laura Siboni,
30:32Gilles Babinet,
30:33Jeanne Le Payé,
30:34merci infiniment
30:35de vos contributions,
30:36de nos échanges.
30:38On espère que cette conférence
30:39a été éclairante.
30:41Restez bien avec nous,
30:42car dans quelques instants,
30:43nous aurons le plaisir
30:44de vous retrouver
30:45une nouvelle fois
30:46sur cette scène
30:46avec une keynote.
30:48L'humain est-il vraiment
30:49plus intelligent
30:50que la machine ?
30:52Cet échange-là,
30:52nous l'aurons autour
30:53d'une keynote
30:54avec Daniel Handler,
30:55philosophe et mathématicien
30:57VivaTech.
30:58On continue,
30:58on se retrouve
30:59dans quelques instants.
30:59A tout de suite.
Commentaires