- il y a 7 minutes
Ce mardi 15 septembre, François Sorel a reçu Luc Julia, expert en produits connectés, Cédric Ingrand, directeur général de Heavyweight Studio, et Frédéric Simottel, journaliste BFM Business. Ils se sont penchés sur la peur des créateurs de l'IA face à l'avancée de leur machine, dans l'émission Tech & Co, la quotidienne, sur BFM Business. Retrouvez l'émission du lundi au jeudi et réécoutez la en podcast.
Catégorie
📺
TVTranscription
00:00Tech & Co, la quotidienne, le débrief de la tech.
00:06Tech & Co, la quotidienne, avec ce soir pour débriefer l'actu du beau monde, mesdames, messieurs.
00:11On s'est offert les meilleurs, rien que pour vous.
00:14Cédric Ingrand est là, salut Cédric !
00:16Salut François.
00:17Ça vient du cœur en plus, tu le sais.
00:18Je le sais.
00:19C'est même pas, tu vois, la flagornerie comme on dit.
00:22Tu es directeur général de Heavyweight Studio et tu as été journaliste pour LCI et TF1
00:29pendant de très nombreuses années et ta spécialité c'était la tech.
00:32Et forcément tu t'intéresses toujours à ça et forcément tu as toujours le nez dedans comme nous tous.
00:36Je ne peux pas arrêter d'être journaliste, c'est plus une nature qu'un métier.
00:40Et quand t'aimes la tech ?
00:40Et la tech est un truc qui, moi j'ai 8 ans donc ça risque de ne pas changer.
00:45Nous avons aussi Luc Julia qui est là en visio.
00:47Salut mon Luc !
00:48Bonjour messieurs.
00:50Ravi de te voir Luc et merci d'être là pour cette rentrée.
00:54Luc Julia, expert en produits connectés, l'un des co-créateurs de Siri.
00:59Il a travaillé chez Apple, il a travaillé chez Samsung, il a travaillé chez Renault
01:02et il a une vraie connaissance de tous ces sujets.
01:06Eh bien on va débattre là-dessus avec toi Luc.
01:08Et puis Frédéric Simotel, bien entendu, notre fidèle, on va dire, je veux dire, faire de la tech.
01:16Moi tu peux flagorner sans cesse.
01:18Oui, oui, oui, c'est vrai.
01:19J'adore ça.
01:20Lui il est payé.
01:21Oui, oui.
01:22Il est payé.
01:23Je pensais qu'il était bénévole.
01:25Frédéric Simotel, journaliste donc à BFM Business.
01:29Bon, bah écoutez, voilà, du beau monde pour parler d'un sujet qu'on a évoqué hier longuement
01:35mais on avait envie d'y revenir parce que c'est vrai que depuis quelques jours,
01:39il y a cette petite musique qui monte concernant la dangerosité de l'IA,
01:44la fin de l'humanité si on va, on va dire, dans les extrêmes.
01:4810% de chance pour que ça tourne mal si on revient un peu au milieu.
01:54Et puis après, il y a ceux qui disent que ce n'est pas la peine de s'exciter.
01:57Il ne faut pas paniquer.
01:58Tout va bien se passer.
02:00Il faudrait peut-être aussi que les politiques prennent aussi en compte tout cela.
02:03D'ailleurs, c'est amusant parce qu'on se rend compte que finalement, il y a deux camps,
02:07Fred.
02:07Il y a le camp des Altman, des Amodei, des Musk qui, eux, disent qu'il faut faire attention.
02:14Ils nous mettent en garde.
02:15Et puis, de l'autre côté, vous avez ceux qui sont, on va dire, plus tempérés,
02:20notamment pas mal de Français.
02:21Yann Lequin, Laurence Devilliers qui a pris la parole il n'y a pas longtemps sur ce sujet.
02:26Et puis, on s'emballe un peu vite pour dramatiser tout ça.
02:28Alors qu'on voit, il y a le côté un peu pompier-pyroman, dramatiser à tout prix le danger de
02:34leurs propres produits
02:37pour montrer à leurs investisseurs, regardez, nos produits sont tellement puissants
02:40qu'ils pourraient détruire le monde.
02:42Donc là, on est un peu...
02:43Et puis, on assiste quand même à des scènes incroyables.
02:46Si vous n'avez pas eu l'occasion de voir ça, allez sur YouTube.
02:49Alors, après l'émission, regardez, Jensen Wang, Donald Trump.
02:52Jensen Wang est sur une conférence et tout d'un coup,
02:55quelqu'un, il est en train de dire, oui, on fait attention, on ralentit l'IA.
02:58Un coup de téléphone, on lui ramène son téléphone, il le met sur haut-parleur.
03:02C'est Trump qui l'appelle, qui lui dit, mais non, il faut foncer.
03:04Ouais.
03:06Non, mais c'est quand même incroyable.
03:07Bon alors, c'est donc, j'imagine qu'il y a plein de choses à dire,
03:09mais on va peut-être donner la parole pour débuter à Luc.
03:13Parce que je crois connaître un petit peu la vision de Luc sur ce sujet.
03:18Vu comme tu es tranquille sur ton canapé, tu n'as pas l'air d'être hyper paniqué, Luc.
03:22Ça va, non ? J'ai l'impression.
03:23Ouais, ça va aller. Je pense que ça va bien se passer.
03:26Ça ne veut pas dire que ce qu'on peut faire avec des IA n'est pas dangereux.
03:30Mais c'est nous, c'est notre faute.
03:32Tout ce qu'on peut faire avec des IA, c'est notre faute.
03:34Ce n'est pas la faute de l'IA.
03:35L'IA elle-même n'a pas de conscience, rien.
03:36Enfin, elle, elle n'y peut rien.
03:38Donc, c'est qu'un outil.
03:39Et l'outil, ça dépend comment on l'utilise.
03:41Là, ce qui me fait marrer avec cet épisode aujourd'hui,
03:43c'est que c'est encore un éternel recommencement.
03:45C'est-à-dire que c'est exactement ce qui s'est passé en février 2019.
03:48Alors, en 2019, ce n'était pas la mode encore, les IA génératifs.
03:51Mais si vous vous rappelez, et peut-être vous vous en rappelez,
03:53en février 2019, OpenAI ne sortait pas justement de chez IPT 2.0
03:58parce qu'il disait, on a fait un truc, c'est trop dangereux,
04:01on ne va jamais release parce que c'est trop dangereux pour l'humanité.
04:04Évidemment, quelques mois plus tard, ils l'ont sorti.
04:07Et puis, ça vous rappelle aussi certainement ce qui s'est passé en mars 2023.
04:12Donc ça, cette fois-ci, c'était Musk qui disait,
04:14oh là là, il faut faire une pause, il faut s'arrêter parce que,
04:17là là, c'était parce que lui, il fallait qu'il rattrape les autres.
04:21Là, on est un peu dans le même schéma.
04:23C'est-à-dire qu'on a nos quatre grands qui dominent le monde
04:27ou qui croient qu'ils dominent le monde
04:28ou qui pensent qu'ils sont en train peut-être de se faire rattraper par les chinois.
04:31Et donc, ils disent, les gars, ça serait bien de faire une petite pause
04:35tant qu'on est les meilleurs là.
04:37Et donc, comme vient de dire Frédéric, on est les meilleurs, on est les plus forts.
04:42Regardez, vous pouvez investir chez nous.
04:44Et en plus de ça, c'est la période des IPOs,
04:46les offres publiques, les introductions publiques,
04:50je ne sais pas comment dire en français.
04:51Bon, bref.
04:51Oui, les entrées en bourse.
04:53Les entrées en bourse.
04:54Et ces entrées en bourse, évidemment, Altman s'est précipité sur le fait
04:58qu'on allait faire une petite pause là pour dire,
05:01ah bah oui, on va faire une pause.
05:02Du coup, je vais aussi poser mon IPO parce qu'en fait, il n'a pas le choix.
05:05Il n'a pas de business model.
05:06Il ne fait pas d'argent.
05:07Donc, il vaut mieux qu'il la pose son IPO.
05:09Sinon, ça va être un gros échec.
05:10Oui, mais quand même, jouer sur l'extinction de l'humanité,
05:13sur ces 10% de probabilité que ça tourne mal,
05:17quand même, est-ce que ce n'est pas dangereux de la part de ces,
05:20on va dire, ces personnalités de la tech, d'avoir ce discours-là ?
05:24C'est très anxiogène quand même.
05:26Ça ne veut rien dire.
05:2710% déjà, ça sort doux.
05:28Il y a des trucs aux doigts mouillés.
05:29Ça ne veut strictement rien dire.
05:31Ils ont envoyé deux gars à Coxon et puis un autre gars après pour faire des pompiers
05:36et puis Romane pour dire, oh là là, attention, comme Hinton a été envoyé il y a quelques temps
05:41pour dire, attention, ils y ont une conscience.
05:44Voilà.
05:44Bon, de temps en temps, on a des gars qui sont envoyés comme ça pour montrer.
05:48Encore une fois, comme l'a dit Frédéric, on est les plus forts, on est les meilleurs.
05:50Regardez ce qu'on fait, c'est incroyable.
05:52Ça peut tout faire, même jusqu'à détruire l'humanité.
05:55Bon, voilà, il faut se calmer.
05:57Cédric.
05:58Alors, moi, c'est intéressant parce que je me suis pendant tout le week-end demandé,
06:01mais de quel côté de la controverse, je pense.
06:05Évidemment, on sait que de toute façon, quand particulièrement Saint-Alpin n'ouvre
06:09la bouche, c'est un truc qu'il est en train de dire, soit pour plaire à la personne
06:13à qui il est en train de parler, soit dans son propre intérêt pur.
06:17Et en fait, j'ai fini le week-end en me disant peut-être que, finalement,
06:22il faut qu'on soit un peu multitâche et que les deux réalités peuvent exister parallèlement.
06:26C'est-à-dire qu'évidemment, quand ils disent, regardez, nos outils sont tellement
06:29puissants qu'on pourrait détruire l'humanité, c'est un peu comme un boxeur qui te dit
06:32mes poings sont des armes, tu vois ce que je veux dire.
06:34C'est quand même un peu du marketing.
06:37Mais dans le même temps, vous parliez hier sur ce plateau de, comment il s'appelle,
06:40ce jeune ingénieur qui a passé six semaines chez Anthropique.
06:44Et tu as raison de dire, jeune ingénieur, parce que tout le monde dit ce chercheur.
06:47Il a 27 ans.
06:48Il a 27 ans, il n'a jamais rien publié, il n'est pas chercheur.
06:50C'est un ingénieur, voilà.
06:51Et un peu comme je disais hier, un peu le côté exalté de certains jeunes.
06:54On va dire qu'il a plus d'exaltation peut-être que d'expérience, mais peu importe.
06:57Et là, quand même, on voit des choses qui viennent de gens qui sont plus accomplis,
07:01qui travaillent là-dessus depuis 15 ans, chez Microsoft, puis chez OpenAIA, etc.
07:05Et qui te disent quand même des choses intéressantes sur le fait qu'on va laisser
07:10s'échapper la capacité à évaluer ses propres modèles.
07:14D'ailleurs, au fur et à mesure où on va laisser l'IA l'éco-développer, finalement.
07:18Parce qu'il y a tout à parier que GPT-9 aura été fait avec GPT-8.
07:22Tu vois ce que je veux dire ?
07:23Donc, il y a quand même une question de ce qu'ils appellent tous l'alignement.
07:28Après, je ne suis pas sûr que quelqu'un ait vraiment la solution.
07:30Parce qu'en fait, pendant ce temps-là, et c'est là que l'autre bout du débat peut être
07:35vrai aussi.
07:35C'est-à-dire que leur intérêt aujourd'hui, c'est d'appuyer sur pause.
07:38D'abord pour des raisons financières.
07:40Et Lucas a raison parce que le moment n'est pas forcément le plus idéal pour se lancer en bourse.
07:45Et puis, parce qu'évidemment, ils voient la concurrence, assez terrible pour eux,
07:51des modèles open-way chinois, qui sont parfois un peu moins bien, mais surtout largement moins chers.
07:57Donc, il y a un problème de logique économique.
08:00Et l'écart entre les modèles américains et chinois se réduit de mois en mois.
08:04Absolument. Et donc là, cette pause, elle pourrait servir aussi à ce que Yann Lequin, par exemple,
08:09appelle faire un peu de capture réglementaire pour arriver à mettre des bâtons réglementaires
08:15dans les roues de cette concurrence.
08:17Parce que la réglementation, ce n'est jamais un problème quand tu vaux 500 milliards.
08:20C'est un problème quand tu n'en vaux qu'un.
08:23Et là, c'est intéressant parce que tout à coup, à qui est-ce que ça nuit ?
08:27Eh bien, à Jensen Wang. Parce que Jensen Wang, lui, il faut se souvenir qu'il a lâché quoi ?
08:3110 ou 15% des bénéfices de ces dernières puces
08:35pour que Trump lui permette de les exporter en Asie en général et en Chine en particulier.
08:41Enfin, c'est quand même très compliqué.
08:43Parce que tu parles de Jensen Wang, il ne fait pas que des puces.
08:45Jensen Wang, c'est devenu l'argentier, c'est devenu la bande centrale de l'IA.
08:48Donc, c'est lui qui distribue de l'argent à des gens qui vont lui racheter ses puces.
08:52Ou des crédits de cartes, des crédits de GPU, quoi.
08:57Exactement. Et donc, on voit qu'on est sur un débat assez compliqué
09:00et qui, en tout cas, les mobilise.
09:01Parce qu'on a vu, de fait, tu vois, Trump qui appelle Jensen Wang sur scène d'une conférence.
09:06On a vu que Sam Altman était allé voir Trump.
09:08Un truc qui est monté toute pièce.
09:10Oui, bien sûr.
09:10On n'en sait rien parce que Trump, il répond au téléphone, mais il appelle aussi.
09:15Mais comme par hasard, ça arrivait quand Jensen était sur scène.
09:19Il le met directement, sans savoir ce que va lui dire l'autre,
09:21il le met directement sur son micro.
09:23Tu vois, ça devait dire, je vais appeler, je vais dire ça.
09:26Ok, allez, vas-y, appelle-nous.
09:26Oui, ça doit, mais dans le même temps, on a vu Sam Altman aller voir Trump en backstage
09:30dans l'espèce de simili convention républicaine à Dallas.
09:33C'est quand même, on sent que ça les mobilise.
09:36Alors, pour quelles raisons intrinsèques ?
09:38Ça, c'est un petit peu plus compliqué.
09:40Mais je pense que les deux réalités peuvent cohabiter.
09:42Mais est-ce que malgré tout, Luc, après Fred, évidemment, tu prendras la parole,
09:46mais est-ce que malgré tout, Luc, tout ça est un petit peu comme une espèce de séisme
09:51qui doit quand même ouvrir les yeux un peu à tout le monde,
09:54peut-être ralentir sur certains modèles ou même réguler et essayer de fixer des garde-fous ?
10:01C'est d'ailleurs ce qu'a proposé Satya Nadella chez Microsoft.
10:06Oui, il a dit un code de bonne conduite.
10:07Un code de bonne conduite, c'est ça.
10:10Bon, ce qui est sûr, c'est qu'enfin, on ouvre les yeux sur les capacités extraordinaires de ces outils.
10:16C'est-à-dire que ces outils ont des capacités extraordinaires
10:18et nous pouvons, nous, parce qu'on tient le manche des outils,
10:22faire des choses absolument très bonnes ou très mauvaises avec ces outils.
10:25Et donc, on s'ouvre les yeux, on est en train de s'ouvrir les yeux.
10:28Donc ça, c'est très bien.
10:29Par contre, la régulation, c'est une super idée.
10:33Et évidemment qu'il faut réguler à un moment ces IA,
10:34parce qu'évidemment qu'on peut les utiliser à bon et à mauvais escient.
10:37Le problème de la régulation et de la pause en particulier,
10:40c'est que la pause ne peut pas marcher,
10:42parce qu'il y aura toujours quelqu'un à quelque part qui ne pose pas.
10:45Ça, il faut bien en être persuadé.
10:46Oui, bien sûr.
10:47Les Chinois, les Nord-Coréens ou je ne sais qui ne feront pas la pause.
10:51D'accord ?
10:51Donc, par contre, la régulation, elle va arriver quand on commence à comprendre.
10:54Et là, on commence juste à comprendre que les IA sont puissantes.
10:58On nous a raconté des balis d'herbe beaucoup pendant longtemps.
11:01On nous a raconté que ça faisait papa, maman, etc.
11:03Très bien.
11:04Bon, on s'est rendu compte que ce n'est pas si facile que ça.
11:06Mais maintenant, on se rend compte que quand c'est bien utilisé
11:09et qu'on s'est utilisé correctement,
11:10quand c'est utilisé, je veux dire, d'une manière dont on les comprend,
11:14on peut à ce moment-là faire des trucs super bien et des trucs super mal.
11:18Et donc, effectivement, ça va amener à un moment donné de la régulation.
11:21– Alors, toi qui baignes là-dedans, ce qu'on dit, c'est totalement de la science-fiction,
11:27l'extinction de l'humanité à cause de l'IA.
11:29Est-ce que c'est quelque chose qui pourrait arriver un jour, à ton avis ?
11:32Ou est-ce que c'est véritablement…
11:35Voilà, on est dans un film.
11:37– Tu peux imaginer de programmer des IA pour aller dire, d'aller éteindre,
11:42d'aller couper ou polluer toutes les eaux du monde,
11:45aller faire en sorte qu'on n'ait plus d'énergie.
11:48On peut imaginer plein de trucs qui vont casser des systèmes.
11:51Et ça, on le voit très bien aujourd'hui en cybersécurité,
11:53on est capable de casser des systèmes.
11:55Donc évidemment, les IA nous permettent de faire ça,
11:57parce que les IA nous permettent de faire les choses plus vite
11:59par rapport à ce qu'on faisait avant.
12:01Parce que la cybersécurité, c'est une course.
12:05Et évidemment, quand j'ai l'outil IA avec moi,
12:07je peux faire plus pour me défendre,
12:09je peux faire plus aussi pour attaquer.
12:12Donc évidemment, si tu veux par ricochet
12:15ou par des coups à trois bandes de billard,
12:18je peux certainement éteindre l'humanité.
12:21Mais ça veut dire simplement que je peux faire des grosses bêtises
12:23en coupant encore une fois l'énergie ou je ne sais quoi,
12:26pour faire en sorte…
12:27Mais on ne peut pas imaginer le scénario à la Terminator
12:30où on va avoir des robots ou des machines
12:34qui vont se mettre à prendre des mitraillettes
12:36et qui vont se mettre à tuer les gens.
12:38D'accord ?
12:38Enfin, encore ça, c'est possible avec des drones
12:40et des choses comme ça.
12:41Mais, enfin, je veux dire, il faut mettre un tout petit peu
12:45et remettre les pieds sur Terre
12:47et ne pas être dans la science-fiction.
12:49D'accord ?
12:50C'est possible de faire des grosses bêtises.
12:51On peut certainement, si on veut vraiment tuer l'humanité,
12:56guetterie de l'humanité, je ne sais plus comment on dit,
12:59mais il y aura des gens aussi qui vont empêcher d'appuyer sur les boutons.
13:03Parce que, ce qui est intéressant et ce que disent, en fait,
13:06tous ces patrons de l'IA aujourd'hui,
13:08c'est qu'ils ont peur que ça leur échappe
13:10et que finalement, l'IA, dans une espèce de, comment dirais-je,
13:14de volonté, de perfection, en se disant,
13:17finalement, l'humain n'est qu'un petit détritu qui ne sert à rien,
13:20pourrait prendre l'initiative d'éteindre la race humaine.
13:26Mais quand tu dis tout ce que tu viens de dire,
13:29ça serait une décision humaine,
13:30ça ne serait pas l'IA, en fait, qui prendrait cette décision.
13:33L'IA est une autre image.
13:34Les IA, aujourd'hui, se sont basées sur des modèles.
13:37Ces modèles, ce sont des datas, des données qui existent,
13:39des données de l'humanité.
13:41D'accord ?
13:41Et donc, ces IA sont aussi imparfaites que nous.
13:45D'accord ?
13:45Donc, elles sont biaisées, elles sont tout ce qu'on veut.
13:47Et évidemment, on peut prendre des sous-ensembles
13:49qui sont encore plus biaisées, etc.
13:50C'est ce qu'on voit avec Grock et avec d'autres.
13:51Donc, ces IA, elles sont imparfaites
13:54et on peut les détourner.
13:55Par exemple, l'histoire de ce qui s'est passé au mois de juillet
13:57et de l'attaque de OpenAI de GIMFACE,
14:04à la fin de la fin,
14:06on s'est rendu compte que,
14:07quand c'est sorti le carcan dans lequel c'est censé être,
14:10c'était une erreur humaine.
14:12Mais c'était une erreur humaine qui était
14:13dans le modèle
14:17qui était fait par les humains.
14:19Parce qu'encore une fois,
14:20les modèles ne sont que la réflexion de l'humanité,
14:23de nous-mêmes.
14:24Et donc, évidemment,
14:26on a toujours l'opportunité d'appuyer sur le bouton.
14:30L'IA ne va pas décider à un moment de faire quelque chose toute seule.
14:33L'IA ne décide de rien.
14:34Il y a quelque part dans la chaîne un début.
14:37Et le début, c'est nous.
14:38Alors oui, avec des idéages antiques,
14:40ça peut être difficile de trouver exactement où est l'humain.
14:42Enfin, la première, la genèse.
14:45Oui, on va dire le point de départ.
14:48Le point de départ, c'est peut-être un peu difficile de trouver
14:50parce qu'on peut orchestrer plein d'agents
14:52qui vont faire plein de choses
14:53et qui s'alimentent eux-mêmes.
14:55Mais au début,
14:56tous ces agents ont été créés par des humains
14:58avec des données qui viennent des humains.
15:00Et il y a quelqu'un qui a dit
15:02« Je veux que mon orchestration se passe comme ça. »
15:05Et on peut faire du random aussi.
15:07Et faire du random,
15:08ce serait la plus grosse bêtise qu'on peut faire du hasard.
15:11On dit « Fais ce que tu veux. »
15:13Et là, « Fais ce que tu veux. »
15:14Là, on est débile, ils ont fait ça.
15:15Mais on peut le faire.
15:17Yann Lequin, qui a une très bonne expression,
15:19il dit « C'est comme si on avait dit à un pilote automatique d'un avion
15:22« Écoute, va écraser l'avion. »
15:24Et puis en même temps,
15:24on débranche les systèmes de sécurité anti-crash.
15:28Il dit « C'est exactement ça. »
15:29Et juste deux choses.
15:31La première, quand on revient sur « L'humanité va disparaître »,
15:34on voit, il y a beaucoup de gens qui aiment bien donner une échéance
15:38à 2040, l'humanité,
15:39mais sans aucune rigueur scientifique derrière.
15:41Et là, il n'y a aucune rigueur scientifique derrière.
15:43Deuxième chose, quand on parlait de régulation,
15:46pour moi, aussi, ce qui se passe avec OpenAi et tout ça,
15:49c'est pour dire « Regardez, nous, on est irremplaçable aujourd'hui.
15:53On sera les seuls capables de maîtriser tout ça.
15:56Et donc, il faut faire une régulation.
15:58Mais attention à notre taille. »
16:01Exactement.
16:01Et tu sais ce qu'a dit Coxon ?
16:03Excuse-moi.
16:04Oui, je suis en prie.
16:04Ce qu'a dit Coxon, c'est très intéressant,
16:06parce qu'il a dit « Il faut réguler, il faut avoir une régulation. »
16:09C'est ce qu'a dit après le gars qui l'a repris au bon
16:11et qui a dit la même chose.
16:12Mais il a dit aussi « Mais ça va être du temps
16:14à mettre en place la structure de régulation.
16:17Et donc, en attendant,
16:18il faudrait que ce soit nous quatre, les gros, qui régulons. »
16:24Et ça serait pratique.
16:25Oui, c'est pratique.
16:26Mais avant tout, tu l'as dit à un moment,
16:29c'est aussi, enfin avant tout,
16:30parmi les arguments,
16:31c'est aussi pour écarter les modèles chinois
16:34qui sont en train d'avancer.
16:36On voit beaucoup d'entreprises
16:37qui commencent à les trouver hyper intéressants,
16:39qui les mettent, GingFace.
16:40Et pour l'histoire,
16:41je reviens juste un instant sur l'histoire de GingFace,
16:42parce que c'est très intéressant.
16:44Toute l'attaque d'OpenAI,
16:46enfin d'OpenAI,
16:46ce n'était pas OpenAI qui voulait attaquer GingFace,
16:48mais de ces agents qui se sont un peu échappés
16:50de leur bac à sable pour les surging GingFace.
16:52Tout ça est très documenté.
16:53Et on voit qu'en fait,
16:54si les ingénieurs qui avaient un peu lancé tout ça
16:57avaient mieux contrôlé,
16:58avaient suivi les travaux qu'ils avaient eux-mêmes lancés,
17:01ils auraient vu que les agents
17:03étaient en train de bifurquer,
17:04de faire des bêtises.
17:05Donc, ils l'auraient arrêté.
17:06Donc, ils ne l'ont pas fait de façon...
17:08Enfin voilà, il y a eu ce manque,
17:11quand même ce manque criant de contrôle.
17:14Oui, mais il y a eu quand même une initiative
17:15de la part des initiatives,
17:16de la part de ces IA, visiblement,
17:18qui se sont concertées.
17:20Je ne sais pas si tu...
17:21Et après, on donnera la parole à Cédric.
17:23Ces initiatives dont tu parles,
17:24elles sont intrinsèquement dans les modèles.
17:26Parce qu'on a demandé à ces IA
17:28d'utiliser des modèles de piratage.
17:31D'accord ?
17:31Et donc, elles ont utilisé des trucs,
17:32des méthodes qu'on avait déjà utilisées dans le passé.
17:35Et elles ont utilisé,
17:36elles peuvent en essayer plein en même temps.
17:37Et puis, elles vont se disséminer à une vitesse folle.
17:40Et donc, elles peuvent utiliser,
17:42effectivement, ces méthodes à l'infini.
17:44Oui, donc c'est des initiatives,
17:46mais pilotées par l'humain, finalement.
17:47En tout cas, elles étaient dans une espèce de carcan.
17:51Au départ, tu pilotes.
17:53Il y a quelqu'un qui appuie sur le bouton.
17:54C'est obligé.
17:55Cédric.
17:56Ce qui est intéressant, c'est quand même que
17:58c'est la paix des braves, tout à coup.
18:00C'est-à-dire que tu as Sam Altman,
18:01Dario Amodei et Elon Musk
18:02qui, tout à coup, sont d'accord sur quelque chose.
18:04C'est signe, quand même,
18:05qu'on est à un moment charlière.
18:06Oui, il y a un truc bizarre.
18:07Il n'y a pas un moment charlière
18:08dans la marge de l'humanité.
18:09Il ne sera que de bonne conduite,
18:10mais qu'il se met légèrement,
18:11et qu'il fait un pas de côté par rapport à eux.
18:13Oui, enfin, il s'envoie même des messages
18:15pour dire je suis d'accord avec ça et ça.
18:17Déjà, c'est quand même énorme.
18:18Mais après, il faut quand même arriver
18:20à gagner en cohérence
18:21parce que le même Sam Altman
18:23qui demande tout à coup
18:24qu'il y ait de la régulation,
18:26le même, il fait du lobbying à Bruxelles
18:28pour arriver à doucir
18:29l'AI Act européen.
18:30Donc, il y a une question
18:33de cohérence de discours, déjà.
18:34Silence assourdissant
18:35des acteurs européens,
18:37enfin, de l'Europe.
18:38Alors, Mistral a lancé un petit message
18:39à ce qu'on disait tout à l'heure
18:40en disant, écoutez,
18:42laissez-nous travailler,
18:42tout ça, c'est un peu
18:43tout ce qu'on dit là.
18:44C'est un peu ce bullshit américain.
18:46Sur la régulation,
18:48je vous invite à regarder aussi un article.
18:49C'est Lina Khan, vous savez,
18:50c'est l'ex-présidente de la FTC
18:52qui a dit,
18:53elle a rappelé que les autorités
18:54disposent déjà des outils
18:55des outils juridiques nécessaires
18:57pour poursuivre les entreprises
18:59et leurs PDG
19:00en cas de mise sur le marché
19:02de produits dangereux.
19:03Elle dit, ça existe déjà, ça.
19:04C'est même quelque chose
19:05qu'elle a utilisé en 1934
19:07contre un fabricant
19:08qui lui-même utilisait
19:10des outils de concurrence déloyale
19:13qui faisaient des démarches
19:14à la limite de la légalité.
19:16Elle dit, aujourd'hui,
19:17lorsqu'on force ses concurrents
19:19à adopter des méthodes
19:20qui réprouvent moralement
19:21pour ne pas être distancés,
19:22cette logique s'applique
19:24parfaitement à tout ça.
19:25Je suis d'accord avec Lina Khan.
19:27Le meilleur moyen
19:27de réguler quoi que ce soit
19:30dans le numérique,
19:30que ce soit de l'IA,
19:31que ce soit les réseaux sociaux aussi,
19:33c'est tout à coup
19:33qu'il y ait un CEO
19:34qui sort avec des menottes au poignet.
19:36Parce que là, tout à coup,
19:37parce que pour l'instant,
19:38on n'a que des pénalités
19:39qui sont financières.
19:41Alors, tu dis, voilà,
19:42on a pris 500 millions à Meta.
19:44OK.
19:45Le lendemain, c'est oublié.
19:46Enfin, c'était l'argent
19:47qui était dans les coups
19:48sans du canapé quand même.
19:50Et donc, je suis d'accord
19:51à Lina Khan là-dessus.
19:52Après, dire qu'on peut avoir
19:54un levier réglementaire de 1934.
19:58Non, mais...
19:58Je comprends le truc,
19:59mais surtout,
20:00c'est pas comme ça
20:00que ça fonctionne.
20:01Dans le procédé de jurisprudence,
20:02ça marche comme ça.
20:03Après, je pense,
20:04et je reviens sur ce que disait Luc
20:05dès le départ,
20:06ça ne veut pas dire qu'il faut pas...
20:07Enfin, tout ça,
20:09c'est plutôt pas mal aussi.
20:10Ça va faire avancer le débat
20:11sur la régulation.
20:12Tout le monde va s'y intéresser
20:13un peu plus.
20:14Les entreprises,
20:15quand elles vont voir
20:17ces acteurs-là,
20:17vont dire, attendez,
20:18moi, il faut que ce soit
20:19bien délimité.
20:20Il faut que tout ça
20:21soit bien clair.
20:24Donc là, c'est bien.
20:25Ça va amener ça.
20:26Maintenant, le faire comme ça
20:27en tirant son aide d'alarme
20:28et en disant,
20:28si on ne fait rien,
20:29ils vont tous nous dire...
20:30Enfin, on est dans
20:31Terminator, Matrix,
20:32tout ce que l'on veut.
20:33Voilà, c'est un peu...
20:34Après, voilà,
20:35on en parle, quoi.
20:36La question, c'est de savoir
20:38comment tu régules.
20:39Quand tu regardes
20:40de grands marchés
20:40qui peuvent avoir
20:41de grands effets,
20:41je pense à l'automobile,
20:42par exemple.
20:43Évidemment, au début,
20:44tu avais un marché
20:45foisonnant de l'automobile,
20:46tout le monde faisait
20:46des voitures,
20:47il y avait des accidents,
20:48bon, c'était regrettable.
20:49Et puis un jour,
20:49on s'est mis à réguler
20:51comment...
20:51On s'est mis à imposer
20:52aux constructeurs
20:53de faire des crash-tests,
20:54de suivre des normes,
20:56etc.
20:57La question, c'est
20:57quelle voie de régulation
20:58on va ?
20:59Est-ce que c'est juste
20:59une régulation
21:00de la responsabilité
21:01où on dit à ces labos
21:02que vous sortez des trucs,
21:03s'ils font des trucs
21:04qui partent de travers,
21:06passez pour vous ?
21:06C'est compliqué
21:07en termes de responsabilité.
21:08Ou alors,
21:09est-ce qu'on régule a priori ?
21:10Il y a beaucoup de gens
21:10qui, on l'a vu même
21:11pour les moteurs de recherche,
21:13pour les réseaux sociaux,
21:14demandent à ce qu'on valide
21:15le code au fur et à mesure.
21:16Et ça, on sait.
21:17Je vois Luc qui se coulent la tête.
21:19Ben oui,
21:19on sait que ça,
21:20ça ne marche pas.
21:21On ne peut pas.
21:21Tu ne peux pas dire...
21:23Enfin,
21:24même le code
21:25de ton moteur
21:25de recherche favori,
21:26il a changé cinq fois
21:27depuis hier.
21:28On ne peut pas faire
21:29des barrières réglementaires
21:30comme on le faisait
21:31pour des produits industriels
21:32qui ont,
21:33si tu veux,
21:34un temps entre la conception,
21:35la fabrication, etc.
21:36Où là,
21:37tu peux prévoir ce temps-là.
21:38Ce temps-là,
21:38il n'existe pas en technologie.
21:40Luc,
21:40est-ce que tu es inquiet
21:41concernant l'avenir ?
21:42On a bien compris
21:43que tu...
21:44Voilà,
21:44on ne va pas être...
21:45L'humanité ne va pas
21:46s'éteindre tout de suite.
21:47Mais malgré tout,
21:48est-ce qu'il y a des signes
21:49qui t'inquiètent ?
21:51Tu sais,
21:51moi,
21:56je ne suis pas inquiet,
21:57moi,
21:58je suis plus inquiet
21:58par le fait
21:59que l'humain
22:00ne s'éduque pas
22:01à l'utilisation
22:02de ces outils
22:04que de l'outil lui-même.
22:06D'accord ?
22:07Je pense qu'il y a
22:08un minimum d'éducation
22:09qui nous permet justement
22:10de faire
22:11les bons choix
22:12de réglementation,
22:14par exemple,
22:15de régulation.
22:16Eh bien,
22:16il faut être éduqué
22:17pour réguler.
22:18Et le problème
22:19qu'on a aujourd'hui,
22:19c'est que ces IA
22:20étant super faciles
22:21d'utilisation,
22:22étant donné qu'il n'y a
22:22pas d'interface,
22:23globalement,
22:24puisque,
22:25ces IA génératives,
22:26je leur parle
22:26et tout le monde
22:28peut les utiliser.
22:29Et donc,
22:29le fait que tout le monde
22:30puisse les utiliser,
22:31ça veut dire
22:31qu'elles sont trop accessibles
22:33et du coup,
22:34elles sont accessibles
22:34sans aucune éducation.
22:35Et ça,
22:36c'est mon problème.
22:36Mon problème,
22:37c'est un problème d'éducation,
22:38ce n'est pas un problème
22:38de l'IA
22:39ou des autres outils
22:40technologiques.
22:41Et puis,
22:41peut-être aussi,
22:42il faudrait avoir
22:43quand même
22:44des initiatives politiques
22:45sur ce sujet
22:46parce que c'est vrai
22:46que les politiques
22:47sont complètement,
22:49je trouve,
22:50moins la traîne
22:51sur ces sujets-là.
22:52Ce n'est pas
22:52une grande nouveauté
22:53de dire que des politiques
22:54sont à la traîne
22:54de la technologie.
22:56C'est arrangé
22:57avec le temps.
22:58Mais je te rappelle
22:58que le président
23:00qui est aujourd'hui
23:01président de la France
23:02est le premier président
23:03qui a eu un PC
23:03sur son bureau en France.
23:04Oui, c'est clair.
23:06On avance.
23:08Bon,
23:08voilà ce qu'on pouvait dire
23:09en tout cas
23:09sur cette saga
23:11qui se poursuit.
23:12Mais c'est vrai
23:13que le message
23:13a un petit peu changé
23:14par rapport à hier,
23:15si vous étiez avec nous hier.
23:19On le mançait déjà
23:20un peu hier,
23:20mais on lui voit.
23:21Mais on voit quand même
23:22tout le stratagème
23:23qui a été mis en place,
23:25même si, Cédric,
23:26voilà,
23:27t'en perds tout cela.
23:27Non,
23:28mais le fait que la peur
23:28serve les intérêts
23:29de Sam Altman
23:30ne veut pas dire
23:30qu'il ne faut pas avoir peur.
23:31Non, non, non,
23:32c'est clair.
23:32C'est sûr.
Commentaires