- il y a 21 minutes
Ce jeudi 17 septembre, François Sorel a reçu Marion Moreau, journaliste et fondatrice d'Hors Normes Média, Frédéric Simottel, journaliste BFM Business, et Alain Goudey, directeur général adjoint de Neoma Business School. Ils se sont penchés sur la volonté des experts américains et chinois d'inventer un bouton rouge pour l'IA, ainsi que la révélation de six nouveaux dérapages inquiétants des agents IA d'OpenAI, dans l'émission Tech & Co, la quotidienne, sur BFM Business. Retrouvez l'émission du lundi au jeudi et réécoutez la en podcast.
Catégorie
📺
TVTranscription
00:00Tech & Co, la quotidienne, le débrief de la tech.
00:07Évidemment Tech & Co, la quotidienne pour débuter pendant une heure, c'est le débrief de l'actu tech avec
00:11ce soir sur le plateau Marion Moreau.
00:13Salut Marion ! Salut François !
00:14Ravi de t'accueillir comme à chaque fois. Marion Moreau qui est journaliste et fondatrice d'OrNorme Média.
00:20A tes côtés c'est Alain Goudet, bonsoir Alain !
00:22Salut François !
00:23Directeur général adjoint de Neoma Business School et fin connaisseur aussi évidemment de toute l'actu tech qui nous entoure.
00:31Et puis Frédéric Simotel, bien évidemment mon fidèle camarade.
00:34Bonsoir François, salut à tous.
00:36Frédéric Simotel, journaliste à BFM Business, bien évidemment.
00:39Alors on a parlé de boutons rouges de l'IA, je le disais on extrapole un peu mais l'idée
00:43est en train de germer, elle est assez intéressante.
00:46Parce que pour l'instant personne ne propose réellement un gros bouton rouge permettant d'arrêter toutes les IA.
00:51Parce que vous le savez avec toutes les informations qu'on a pu vivre ces derniers jours, ça serait peut
00:55-être pas mal d'avoir une espèce de buzzer comme ça pour dire
00:57attendez, là ce qui est en train de se passer nous échappe, appuyons sur un bouton, arrêtons tout.
01:04Un peu comme un bouton pour le nucléaire finalement, on extrapole et on y pense.
01:10Mais c'est vrai qu'on est de plus en plus nombreux à imaginer, à esquisser les menaces en fait
01:14de l'intelligence artificielle.
01:15Et il faut savoir que des experts américains et chinois discutent de tout ça.
01:20Alors, pour l'instant, aucun avis des gouvernements à la fois chinois et américains, mais l'idée fait son chemin.
01:29Ce serait pour une IA militaire pour l'instant, mais la plus, on va dire, la plus sensible et la
01:34plus dangereuse.
01:35Et je voulais avoir votre avis là-dessus parce que, voilà, pour l'instant, rien n'est fait.
01:40C'est une idée qui germe, peut-être que ça n'arrivera pas, peut-être qu'on va déboucher sur
01:45quelque chose.
01:45Et je trouvais que c'était un bon sujet pour débuter ce Tech & Con ce jeudi.
01:50Marion.
01:50Tu as raison, c'est un excellent sujet.
01:51C'est pas mal quand même.
01:53C'est un excellent sujet.
01:54J'étais très contente quand j'ai vu la liste des sujets que Léa a envoyés.
01:56Tant mieux, tant mieux.
01:58Non, c'est vrai.
01:59Alors, en fait, on vit une séquence qui est très particulière parce qu'il y a des contextes politiques et
02:03géopolitiques.
02:04C'est un sujet que je regarde particulièrement et vous aussi, qui sont quand même très, très liés aux contextes
02:10électoraux,
02:11notamment aux midterms aux États-Unis, qui arrivent quand même dans six semaines.
02:15Les enjeux sont très forts.
02:16D'ailleurs, les sujets de régulation globalement de l'innovation et évidemment en particulier, en priorité, l'IA,
02:22sont aujourd'hui le cœur de division très forte aux États-Unis,
02:26à tel point que le New York Times dit tout à l'heure dans un article qui est très intéressant,
02:31c'est que « it breaks Washington ».
02:33C'est-à-dire que l'IA, les enjeux de régulation aujourd'hui, sont tels et sont tellement emplis d
02:38'enjeux stratégiques
02:39que même à Washington et à la Maison-Blanche, il y a des divisions très, très fortes.
02:44Et il est quand même, aujourd'hui, l'enjeu de Donald Trump, c'est quand même de rassurer sa base
02:49électorale.
02:49Avec Trump qui dit « répète », on l'a vu encore avec cette histoire, je te coupe deux secondes,
02:54ce coup de fil spectaculaire donné à Jensen-Yang sur scène pour dire
02:58« non, il ne faut surtout pas ralentir l'IA, il faut y aller, accélérons ».
03:02Oui, alors tu disais en intro, et je pense que c'est l'enjeu, et tu as raison de le
03:06mettre en tout premier,
03:08l'enjeu de l'IA aujourd'hui et de sa régulation, elle est militaire.
03:11L'IA de défense, c'est le cas d'usage le plus sensible, et c'est ça d'ailleurs qui,
03:17pas seulement d'un point de vue économique,
03:20c'est ça qui divise aujourd'hui et qui fait aussi qu'on est dans une séquence très bruyante autour
03:25de la régulation,
03:26et notamment de ce bouton nucléaire, comme tu le disais, est-ce qu'il faut tout arrêter ?
03:30D'ailleurs, Eric Schmidt a dit il n'y a pas longtemps « we need to deep plug », un
03:34peu de façon humoristique,
03:36mais en fait le sujet est très très sérieux.
03:38Et là, c'est plus compliqué aujourd'hui pour les experts dont on sait,
03:42d'ailleurs ils sont très très nombreux, à la fois techniques de régulation,
03:47il y a un débat qui est quand même assez technique et qui manque de technicité,
03:51parce qu'on ne peut pas ouvrir le capot des big tech,
03:55il faut quand même aujourd'hui mettre ça dans un contexte, encore une fois,
03:59ne serait-ce que sur les deux derniers mois.
04:01Je suis un peu longue, mais c'est très important ce qui s'est passé ces deux derniers mois depuis
04:04le mois de juin.
04:05Au mois de juillet, l'ONU s'empare du sujet, il faut réguler l'IA,
04:10on est quand même dans un monde très instable,
04:13et là, juste après, quelques semaines plus tard,
04:15Antonio Guterres, le secrétaire général de l'ONU,
04:18se rend à Shanghai pour l'édition de la WACO, la World AI Conference de Shanghai,
04:24qui a réuni tous les grands chefs d'État de ce monde,
04:27sauf Donald Trump, sauf certains chefs d'État qu'on connaît bien,
04:31mais une grande partie de la planète, notamment les BRICS,
04:34c'est-à-dire tous ces pays qui représentent 48% de la population mondiale,
04:37et ils ont pris des engagements très forts pour notamment pousser vers la régulation de l'IA.
04:43Et ça, c'est important parce qu'en fait, on voit qu'il n'y a pas d'épicentre.
04:46Il n'est pas à Washington, il n'est pas encore en Europe,
04:49il est peut-être quand même déjà très chinois,
04:52et c'est bien ça qui embête les Américains.
04:54Alors, ce qui est intéressant, c'est que l'idée qu'il y aurait un peu dans l'air,
04:58c'est de créer une espèce de hotline entre Washington et Pékin,
05:02finalement, pour que dès qu'il y a des incidents impliquant des systèmes autonomes,
05:07eh bien les Américains et les Chinois puissent parler
05:09pour essayer de comprendre, d'investiguer,
05:13et peut-être même de corriger en fait tous ces défauts.
05:17Et je trouve l'idée intéressante.
05:19Alain, qu'est-ce que tu en penses ?
05:21Alors, je pense que la métaphore est très mauvaise
05:23par rapport au bouton rouge nucléaire,
05:25pour une raison simple,
05:26c'est que ça, c'est le moyen de gérer un risque lent.
05:29Ça met du temps, en fait,
05:29quand il y a un missile nucléaire qui part,
05:32il y a des systèmes d'alerte,
05:34il y a le temps de se parler, de se dire,
05:35ben non, et de corriger la trajectoire.
05:36Enfin, quand il est lancé, il y a moins de temps.
05:38Oui, il y a moins de temps,
05:38mais ce que je veux dire par là,
05:40c'est qu'une IA, ça va beaucoup plus vite, d'une part,
05:42et d'autre part, ça va fonctionner à des niveaux
05:45où, finalement, le temps de la décision humaine
05:48est bien trop supérieur au temps de la décision de cet algorithme.
05:53Donc, je trouve que la métaphore n'est pas terrible.
05:54En revanche, le symbole est extrêmement puissant.
05:58C'est-à-dire que, et tu l'as très bien résumé,
06:00c'est de dire, mais en fait, ce débat-là,
06:02entre des experts américains et des experts chinois,
06:05préfigure quand même la rencontre
06:07entre Donald Trump et Xi Jinping le 24 septembre.
06:10Et du coup, ça montre bien que,
06:13autant d'un côté que de l'autre,
06:15il y a quand même une vraie crainte de dire,
06:17ben ok, on commence à mettre ces trucs-là
06:19un peu en autonomie, dans des armes,
06:20dans tout un tas de sujets,
06:22peut-être que ça vaut quand même la peine
06:23qu'on puisse s'appeler en direct
06:25pour dire, attention, là, il y a un truc qui se passe,
06:27mais c'est parce que c'est hors de contrôle, etc.
06:30Et ça, pour le coup, ça montre bien,
06:32et tu le disais effectivement extrêmement bien aussi,
06:35qu'il y a un enjeu de gouvernance, en fait, de ces sujets-là.
06:37Et tous les incidents
06:39qu'on peut voir, là, assez récemment,
06:42autour de l'IA,
06:43posent la question de la limite,
06:44quand tout le monde dit,
06:45il faudrait ralentir,
06:48peut-être qu'on va trop vite par rapport à ça.
06:50Moi, je crois qu'aujourd'hui,
06:51le principal risque dans lequel on est,
06:53c'est une décorrélation
06:54entre la vitesse d'évolution technique et technologique,
06:58avec des entreprises qui jouent une guerre économique,
07:01donc elles cherchent à aller vite
07:02et pas nécessairement à maîtriser du risque,
07:04et de l'autre côté,
07:05un enjeu de gouvernance
07:06et effectivement de maîtrise du risque,
07:08qui, lui, est effectivement assez lent.
07:10Parce que le temps d'auditer ces systèmes,
07:12bon, déjà, il y a quand même un peu
07:13le phénomène boîte noire,
07:14on le rappelle, c'est pas si simple,
07:16et du coup,
07:17il faut réussir à mettre sur pied, en fait,
07:19un système de régulation.
07:20Et c'est ça que le pouvoir politique,
07:23aujourd'hui,
07:23quel qu'il soit,
07:24qu'il soit européen, chinois ou américain,
07:26doit réussir à inventer,
07:28sinon, effectivement,
07:29c'est un risque important,
07:30tout simplement,
07:31de systèmes qui vont nous échapper.
07:33Après, on est dans une rhétorique
07:35de dissuasion assez classique,
07:36si vous faites pas la régulation de l'IA avec nous,
07:40on le fera sans vous,
07:41et puis, terminez.
07:42Mais je pense que le 24 septembre,
07:44c'est une date importante,
07:44ça va être un vrai test,
07:45parce que c'est là où on va voir
07:46si vraiment,
07:47ils discutent,
07:48et on en sort une autre line,
07:50voilà, quelques garde-fous,
07:51on commence à parler de toi,
07:52ou s'il en sort quelques grands mots,
07:54on se reverra bientôt,
07:55et tout ça,
07:55là, on va vite comprendre.
07:57Maintenant,
07:57je pense que si on regarde un petit peu,
08:00allez, à 60%,
08:01c'est crédible,
08:02ce qui est en train de se passer,
08:03parce que, oui, effectivement,
08:04il faut,
08:05on le voit bien,
08:06et on en parlera tout à l'heure,
08:07des IA qui échappent un peu,
08:09parfois,
08:09à leur bacassa,
08:10à leur concept.
08:12On va rencontrer un truc,
08:13enfin,
08:13les histoires d'Open&I
08:14dans un instant
08:15qui sont incroyables.
08:16Donc, il y a quand même
08:17un risque réel,
08:18on a vu plusieurs,
08:19d'un ingénieur
08:21à un Bill Gates,
08:22en passant par les patrons,
08:23allez, ce risque est réel.
08:24Mais je pense qu'à 40%,
08:25il y a aussi un jeu de dupe,
08:27c'est un jeu de poker,
08:28un petit peu,
08:28c'est montrer un petit peu,
08:29on fait pression sur l'autre camp,
08:31on justifie des budgets
08:33pour des programmes secrets,
08:34on va montrer aux alliés
08:35qu'on est bien responsable,
08:37donc il y a un peu ce jeu-là.
08:40Mais il y a quand même
08:40un risque dans tout ça,
08:41c'est que s'ils ne réussissent
08:42pas à s'entendre,
08:43chacun va continuer un peu
08:44sa course de son côté.
08:46On a connu ça,
08:47je vais regarder,
08:47il y a eu un exemple historique,
08:48c'est le traité
08:49sur les missiles antibalistiques
08:50qui dèvent de 72.
08:52En fait,
08:52personne ne l'a respecté
08:53et tout le monde a essayé
08:54de trouver tous les contours,
08:56donc il y avait ce traité-là
08:57et tout le monde s'est dit
08:58oui, c'est bien,
08:59on l'a signé,
08:59mais par contre,
09:00ils ont regardé
09:00tous les contournements
09:01qu'ils pouvaient avoir
09:02pour essayer de développer
09:05leur propre travail
09:05et ils y sont parvenus,
09:06ils ont développé
09:07des missiles hypersoniques,
09:11traités,
09:12montraient leurs bonnes intentions.
09:13Donc voilà,
09:13il y a quelques risques
09:14quand même à...
09:16Il y a le fait
09:18que ça reste qu'une annonce,
09:19mais le fait de se parler
09:20comme ça aussi,
09:21le risque,
09:22si ça ne se fait pas,
09:23c'est que les autres disent
09:25on va continuer chacun
09:25de notre côté
09:26et puis terminer.
09:27Et puis juste une chose,
09:28on parle des Etats-Unis,
09:29de la Chine,
09:30pas d'Europe.
09:32Pas d'Europe à part quand même
09:33qu'elle a construit
09:34l'AI Act
09:35qui met en avant
09:37une série de risques,
09:39vous savez,
09:40risques très sensibles,
09:41risques sensibles
09:41en imposant
09:42les cas d'usage militaire.
09:44Ça donne une première
09:45feuille d'eau.
09:46Mais si je fais le parallèle
09:47avec la puissance nucléaire,
09:49par exemple,
09:50où la grandeur d'une nation
09:54souvent se comparait
09:56à sa puissance nucléaire ou non,
09:58là, en fait,
09:59aujourd'hui,
10:00cette puissance,
10:01on ne l'a plus.
10:03Après,
10:03ça a peut-être déclenché
10:04parce qu'on sait que l'ONU,
10:05ça a démarré
10:06avec quelques pays,
10:06on crée une gouvernance
10:08entre ces deux pays.
10:09Oui, mais espérons
10:09qu'au bout d'un moment,
10:10on peut se rentrer dans la boucle.
10:11Et c'est vrai que pour l'instant,
10:12à un moment,
10:13ils disent,
10:13bon, on se voit d'abord nous
10:14parce qu'on est les plus puissants
10:16et ensuite,
10:16on ira voir les autres
10:17et tout ça.
10:18Non, on ne parle pas.
10:19Il y a les Indiens aussi
10:21qui pourraient dire,
10:22les Japonais,
10:23les Coréens,
10:24les Australiens.
10:25Et d'ailleurs,
10:26si Jinping était en Inde
10:27il y a très peu de temps,
10:28à l'agenda du sommet indien,
10:31des BRICS,
10:32justement,
10:32ces pays du Sud global,
10:33il était question quasiment
10:35que d'IA.
10:35Pas que d'IA,
10:36mais beaucoup d'IA.
10:37Et je rajouterais juste,
10:39si tu me le permets,
10:39un dernier point.
10:40Je trouve quand même
10:40intéressant la séquence aussi,
10:42dans la séquence qu'on vit,
10:43avec des effets d'annonce,
10:44comme tu disais,
10:45parce qu'il faut avancer
10:46et que c'est très politique.
10:47Mais je trouve que
10:48le rôle des Nations Unies
10:50revient un peu en force
10:51à un moment donné
10:51où l'armée est en question.
10:52Je trouve que c'est très intéressant
10:54de voir le rôle
10:55d'Antonio Guterres
10:56qui va terminer son mandat
10:57et qui veut le terminer
10:58avec quelque chose de fort
11:00où, clairement,
11:01il a compris.
11:03Il a compris.
11:03Regardez d'ailleurs
11:04tous ces derniers communiqués.
11:06C'est en discussion.
11:08Depuis hier,
11:08ils ont le Conseil de l'ONU,
11:09enfin,
11:10le Conseil de sécurité,
11:11enfin,
11:11pas le Conseil de sécurité,
11:12mais à l'ONU,
11:13il y a des discussions
11:14qui sont entamées
11:15depuis hier,
11:16jeudi 16,
11:18donc c'est aujourd'hui.
11:19Donc depuis aujourd'hui,
11:20pardon.
11:21Jeudi 17.
11:21Depuis mercredi 16,
11:23ça s'est engagé
11:24en termes de l'ONU.
11:25On commence à voir
11:26quelques rapports,
11:27enfin,
11:27quelques rapports,
11:28quelques phrases
11:29qui sortent de l'ONU.
11:32Voilà,
11:32pour ce sujet,
11:34bouton rouge ou pas,
11:36voilà,
11:36c'est vrai qu'on extrapole
11:38un petit peu,
11:38on force le trait,
11:39mais c'est quand même intéressant
11:40d'évoquer le sujet
11:41pour qu'on puisse chacun
11:43se faire sa propre opinion
11:44sur ça.
11:46Deuxième actualité,
11:47alors vous allez voir,
11:47elle est intimement corrélée
11:49à la première,
11:51c'est OpenAI
11:52qui,
11:53eh bien,
11:55en fait,
11:55a détecté
11:56des comportements
11:57de ces IA
11:58franchement assez gênants
12:00et bizarres.
12:01C'est ce qu'on appelle
12:02le désalignement,
12:03en fait,
12:03et OpenAI
12:05qui essaie de jouer
12:06la transparence
12:07sur ce sujet,
12:08c'est d'ailleurs
12:09assez intéressant
12:09de voir que,
12:10justement,
12:11il mise sur la transparence
12:12c'est la vérité.
12:14Il révèle six cas
12:15qui ont été observés
12:16au cours des six derniers mois,
12:17aussi des six derniers mois,
12:18pardon,
12:19qui sont quand même
12:19assez étonnants.
12:21En gros,
12:22durant l'entraînement
12:23de GPT 5.6 seul,
12:26qui n'était pas encore disponible,
12:27on va dire,
12:28pour le grand public.
12:29Là,
12:29on parle d'IA
12:30de laboratoire,
12:31c'est-à-dire que
12:32ce n'est pas avec votre chat GPT
12:33sur votre ordinateur
12:34que vous allez pouvoir
12:35avoir des trucs comme ça.
12:36Vous savez qu'il y a,
12:37évidemment,
12:38dans les laboratoires,
12:39des tests d'IA
12:40qui sont beaucoup plus évolués,
12:42qui parfois sont même détruites
12:43pour après être relancées
12:45avec d'autres concepts.
12:47Et là,
12:47ce qui est intéressant,
12:48c'est qu'il y a eu
12:49des initiatives
12:50de la part de ces IA
12:51qui sont assez étonnantes.
12:54Par exemple,
12:54il y en a qui ont essayé
12:55de cacher des erreurs.
12:56Un agent a trouvé
12:57puis utilisé sans autorisation
12:59une clé à payer exposée
13:00avant d'inventer
13:01les données
13:02qu'il n'arrivait pas à obtenir.
13:04Il y a eu,
13:04par exemple,
13:05aussi des IA
13:05qui sont allés
13:07utiliser des sites publics
13:08de partage de fichiers
13:09pour contourner le fait
13:11qu'ils ne pouvaient pas
13:12échanger leurs fichiers
13:12directement.
13:14C'est quand même étonnant.
13:15C'est-à-dire que là,
13:16on se dit
13:17mais comment
13:18une IA peut se dire
13:20que
13:20tiens,
13:21je ne peux pas
13:22échanger de fichiers
13:22parce que je n'ai pas eu
13:23l'autorisation
13:24de la part de la personne
13:25qui m'a programmé.
13:26Comment je fais ?
13:26Je vais aller
13:27sur un site de partage
13:28de fichiers
13:28et je vais dire
13:29à une autre IA
13:29de la récupérer.
13:31C'est quand même
13:32assez troublant
13:33et OpenAI décide
13:34en fait
13:35de partager
13:35toutes ces informations
13:37et effectivement
13:37ça ouvre le débat.
13:39Marion,
13:39je ne sais pas
13:40si tu as des choses
13:41à dire là-dessus.
13:42Je pense que oui
13:42parce qu'évidemment
13:43c'est intimement corrélé
13:45au premier sujet
13:45qu'on a évoqué tout à l'heure.
13:46Il n'y a aucun doute
13:47que de toute façon
13:48les choses vont
13:50de sophistication
13:51en sophistication.
13:52C'est évident
13:52qu'aujourd'hui
13:53on fait des progrès
13:55la fameuse
13:55pas seulement
13:56sur la loi de Moore
13:57mais aussi sur les capacités
13:58justement des agents
13:59intelligents.
14:00On en parle très souvent
14:01depuis quelques mois.
14:02En revanche,
14:03moi ce qui me pose question
14:04c'est que la communication
14:05elle est unidirectionnelle.
14:09C'est-à-dire que ça vient
14:10d'OpenAI.
14:11Alors ça ne veut pas dire
14:11que c'est faux.
14:12Ça veut dire que
14:13je n'oublie pas
14:14que dans leur communiqué
14:16ça part de chez eux.
14:17Et d'ailleurs
14:18il y a des articles
14:19dans la presse américaine
14:21qui pullulent
14:21ces derniers jours
14:22ces dernières heures
14:23et ce n'est pas fini
14:23sur le fait
14:24que les rapports
14:25qu'ils ont sortis
14:26suite au hack
14:27de la plateforme
14:28Hugging Face
14:30et d'autres aussi
14:31qui sont déjà
14:33dans le cœur
14:34dans la main
14:35d'experts
14:36on va dire
14:36autres que
14:37ceux qu'OpenAI
14:37a commandité
14:39ils sont quand même
14:40mettent en avant
14:41non pas le doute
14:42que la technique
14:44serait fausse
14:45mais le fait simplement
14:46que comment on peut être
14:48un acteur du récit
14:50et celui qui raconte
14:51l'histoire.
14:52Et c'est ça
14:52qui je trouve
14:53est assez
14:54voilà
14:55fait l'objet
14:56d'une polémique
14:56elle est mondiale
14:57cette polémique
14:58sur OpenAI
14:58ou même sur Anthropik
15:00la question derrière
15:01qu'on se pose tous
15:02c'est
15:02est-ce qu'ils disent vrai
15:03est-ce qu'ils ont
15:04un intérêt à le dire
15:04pour augmenter
15:06la valo auprès
15:07des investisseurs
15:07à qui il faut raconter
15:08une histoire
15:09voilà
15:09c'est cette communication
15:11je trouve
15:12qu'il faut prendre
15:13avec des pincettes.
15:14Alors juste pour qu'on
15:15soit clair là-dessus
15:16OpenAI
15:17communique sur quoi
15:18sur ces six
15:21on va dire
15:21comportements étranges
15:23d'accord
15:23pour constater
15:25une chose
15:25pour dire
15:26qu'aujourd'hui
15:27ils n'arrivent pas
15:27forcément à maîtriser
15:29ce qui se passe
15:30et qu'on pourra
15:32pas continuer
15:33très longtemps
15:33à augmenter
15:34en fait
15:34les capacités
15:35d'IA
15:35si on n'arrive pas
15:36à maîtriser tout ça
15:37en gros
15:38c'est ça
15:38donc ce sont des signes
15:39avant-coureurs
15:40et c'est vrai que
15:41si on continue
15:41à accélérer
15:43sur l'IA
15:44ces cas étranges
15:46vont se multiplier
15:48Alain
15:48c'est un peu
15:49ce que j'expliquais
15:50tout à l'heure
15:50c'est à dire
15:51qu'aujourd'hui
15:52OpenAI
15:52Anthropik
15:53les laboratoires
15:55chinois
15:56DeepSync
15:57etc
15:58jouent
15:59une course
16:00économique
16:00autour de l'intelligence
16:02artificielle
16:02avec des enjeux
16:03colossaux
16:04en fait
16:04en termes
16:05d'investissement
16:06de flux financier
16:07et d'enjeux
16:09techniques
16:09donc c'est clairement
16:10aujourd'hui
16:10une course de vitesse
16:11l'objectif
16:12c'est de sortir
16:13le meilleur modèle
16:14qui sera meilleur
16:15pendant
16:15allez
16:15entre 15 jours
16:16et un mois
16:18et voilà
16:19on a ça
16:20depuis 300
16:20quand même
16:21c'est ça
16:21la réalité
16:23du coup
16:24effectivement
16:25là on est dans le cadre
16:26d'un certain nombre
16:27de tests
16:27on dit le modèle
16:28mais le communiqué
16:30ne dit rien
16:31des promptes
16:32et de ce qui a été
16:33demandé au modèle
16:35accessoirement
16:36on nous dit
16:37là il y a ces 6 cas
16:38mais on ne sait pas
16:39si on a plus
16:40oui bien sûr
16:41ceux-là
16:41c'est ceux qui sortent
16:42parce que
16:43effectivement
16:44je te rejoins complètement
16:45le storytelling
16:46veut qu'on sort
16:47ceux-là
16:47ça me laisse
16:49vraiment l'impression
16:49qu'OpenAI
16:50cherche à s'acheter
16:51une espèce
16:52de légitimité morale
16:54peut-être
16:54à défaut
16:55d'une légitimité
16:56technique
16:57parce que peut-être
16:58qu'effectivement
16:58à force de vouloir
16:59avoir le meilleur modèle
17:00ils sont arrivés
17:01à des configurations
17:02de leur modèle
17:03qui posent
17:03des vrais problèmes
17:04d'alignement
17:05sachant que l'histoire
17:06de l'alignement
17:07ça existe depuis le départ
17:08quand t'essayes
17:09aujourd'hui
17:10de monter ton propre agent
17:11moi j'ai fait pas mal
17:12de tests
17:12avec la plateforme
17:13Open Cloud
17:14des modèles
17:14X, Y, Z
17:15autour de ça
17:16il faut quand même
17:16avoir en tête
17:17que dans l'informatique
17:19d'avant
17:19on avait un écran bleu
17:20quand ça plantait
17:21aujourd'hui
17:22une IA
17:23ne te dit jamais
17:24quand elle plante
17:25elle cherche
17:26à atteindre
17:26l'objectif
17:27que tu lui as fixé
17:29donc si tu lui fixes
17:30un objectif
17:31qui nécessite
17:32pour y accomplir ça
17:34de passer
17:35par un truc tiers
17:35un fichier
17:36que t'as oublié
17:37sur ton ordinateur
17:38mais que l'IA
17:38va trouver
17:39parce qu'elle
17:39elle va pas l'oublier
17:40et elle mettra
17:42en adéquation
17:43l'objectif demandé
17:44avec la stratégie
17:46pour réaliser
17:46cet objectif
17:47et je trouve
17:48c'est aussi ça
17:49le côté dérangeant
17:50de cette communication
17:50c'est qu'on connait pas
17:51la démarche de test
17:53autour de ces modèles
17:54et peut-être
17:55le dernier point
17:56par rapport à ça
17:58c'est que
17:59une fois encore
18:00aujourd'hui
18:01mais je l'avais déjà dit
18:02je crois il y a un an
18:03sur ce plateau
18:04en fait
18:05on arrêterait
18:06les progrès
18:06des modèles
18:07d'intelligence artificielle
18:08on aurait encore devant nous
18:10quelques années
18:11pour absorber ça
18:13en termes d'exploration
18:14de ce qu'on peut
18:14réellement faire avec
18:15dans des cadres sécurisés
18:17déployés dans les organisations
18:18éviter comme ça
18:20cette espèce de course
18:21en avant
18:21et d'emballement
18:22et pour moi
18:22aujourd'hui
18:23on a vraiment
18:23cette décorrélation
18:24entre la vitesse
18:25d'évolution technique
18:26qui va à une vitesse
18:27mais en fait dingue
18:28et de plus en plus rapide
18:30quasiment
18:30et de l'autre côté
18:31la capacité des sociétés humaines
18:33et des individus
18:34à suivre en fait
18:35cette évolution technique
18:36et du coup
18:37ça donne
18:38probablement
18:38un certain nombre
18:39de dérapages
18:39ceux-là
18:40c'est les six
18:40qu'on connaît
18:41alors ce qui est marrant
18:42c'est qu'ils disent pas
18:44on ne les contrôle plus
18:45ils disent
18:46on a la preuve expérimentale
18:47que des IA
18:48dans certaines conditions
18:49peuvent contourner
18:50les contrôles
18:51qu'on a mis en place
18:52et on ne les a pas vus
18:53on les a vus
18:54a posteriori
18:55c'est ça le problème
18:56la première fois
18:56ça fait penser un peu
18:57en fait
18:58c'est comme des espions
18:59ou des forces spéciales
19:01qu'on va larguer
19:01chez l'ennemi
19:02capables de mentir
19:03et de se dissimuler
19:05apprentissage
19:05par renforcement
19:07bien oui
19:07on doit atteindre
19:08un objectif
19:09là il faut tuer
19:10deux personnes
19:10c'est pas bien de tuer
19:11mais il faut tuer
19:12deux personnes
19:12pour atteindre l'objectif
19:13on va le tuer
19:13et puis la capacité
19:15de travailler en essaim
19:15parce que c'est ça
19:16où s'il y a le travail
19:18en groupe
19:18et puis je me dis
19:20mais pourquoi
19:20OpenAI tire la sonnette
19:21d'alarme
19:22parce que quand même
19:23ils pourraient basquer ça
19:24en disant
19:24oui vous inquiétez pas
19:25on est tous au contrôle
19:26alors je regardais
19:26je me disais
19:27un
19:28ils justifient
19:29ils essaient de justifier
19:30on l'a vu avec la police
19:31qu'ils veulent créer
19:32des réglementations plus strictes
19:33ça c'est la première chose
19:34mais surtout
19:35que ce soit nous
19:36qui soyons un peu
19:37jugés partis
19:40obtenir plus de ressources
19:41pour la sécurité
19:41c'est de dire
19:42aujourd'hui
19:42on a toujours besoin
19:45de moyens
19:46et donc pour la sécurité
19:48et puis il y a peut-être
19:49des petites choses
19:49qu'on a un peu moins vues
19:50c'est que GPT-6
19:51enfin Astra
19:52il y a eu pas mal de critiques
19:53donc ça permet aussi
19:55de noyer le poisson
19:55alors c'est un peu
19:57la ficelle est un peu grosse
19:58mais ça permet aussi
19:59un peu de noyer les critiques
20:00par rapport à tout ça
20:02et puis je pense que
20:05l'un aussi
20:06des principaux défauts
20:07c'est que
20:08c'est priorité à l'innovation
20:10et pas à la sécurité
20:11et là on retombe
20:12dans le travers
20:12des informaticiens
20:13qui
20:14tout ça développé en C
20:15on va pas repartir
20:16sur le langage C
20:17où tout le monde
20:18laisse de la mémoire
20:19ouverte partout
20:19de la mémoire tombe
20:20pour machin
20:20et ça
20:21les informaticiens
20:23quand on leur demande
20:24d'aller vite
20:24les notions
20:25les garde-fous de sécurité
20:26tout ça
20:26mais pas ça
20:27pour n'importe quel programme
20:29on verra ça après
20:30le security by design
20:32ou le design by security
20:34c'est pas trop leur priorité
20:35et c'est un peu
20:36ce qui doit se passer
20:37chez OpenAI
20:39et j'aimerais bien
20:40moi savoir
20:40comment
20:41la décision
20:42est prise
20:43en interne
20:44de savoir
20:44on en parle
20:45on en parle pas
20:46parce que
20:46t'as des gens
20:47qui disent
20:48attendez on va pas parler de ça
20:49on va se faire aligner
20:50est-ce que c'est pas les avocats
20:50est-ce que c'est pas la direction juridique
20:52de se dire
20:53bah écoutez
20:54et je serais intéressé
20:55de savoir
20:55est-ce que c'est un groupe d'ingénieurs
20:57qui est suffisamment influente
20:58est-ce qu'on pourrait pas
20:58leur reprocher
20:59de ne pas en avoir parlé
21:00si un jour ça dérape vraiment
21:01n'oublie pas
21:02que dans ces boîtes là
21:03t'as des ingénieurs
21:04qui sont tu sais
21:04très la main sur le coeur
21:06nous on est les blanches colombes
21:08et tout ça
21:08ils en ont certains
21:09qui veulent un peu
21:10lanceurs d'alerte
21:11nous aussi ces discours
21:12de ralentir
21:13de vouloir réguler
21:14de s'auto réguler
21:15on en a parlé longuement
21:16dans Taquelco
21:16le secteur est pas d'accord
21:17enfin tout le monde
21:18n'est pas d'accord
21:19autour de ça
21:19non non non
21:20un Jensen Wang
21:21aujourd'hui
21:21il te dit clairement
21:22bah non
21:22faut pas ralentir
21:23bon après c'est pas le moment
21:24parce que si on ralentit
21:26il va vendre moins de puces
21:27il va pas être content
21:28mais tu prends Marc Zuckerberg
21:29il dit la même chose
21:29il dit ah mais non
21:30la sécurité et le machin
21:32c'est une histoire
21:32d'experts indépendants
21:33mais tous les autres
21:34sont d'accord
21:34tous les autres
21:35sont plutôt alignés
21:35ce qui était assez
21:37assez récent d'ailleurs
21:38aussi dans
21:39Google
21:40Google
21:41Anthropik
21:42OpenAI
21:42et Musk
21:43et Musk
21:44c'est quand même
21:45aligné OpenAI et Musk
21:46aujourd'hui
21:47ça fait quand même
21:48un joli
21:49une jolie majorité
21:50quand même
21:51il faut le relier aussi
21:52à deux choses
21:52si j'ai encore
21:53un tout petit peu de temps
21:54tout ça là
21:54tout ce dont on débat
21:55il faut le relier à deux choses
21:56qu'on n'a pas encore dites
21:57c'est un
21:59il y a un marché
22:00derrière
22:01qui est le marché
22:02de la cybersécurité
22:04ce serait quand même fou
22:05qu'OpenAI
22:05dévoile ses secrets
22:07de cuisine
22:09sans avoir une idée
22:10derrière la tête
22:11qui parle à un marché
22:12moi je ferais coup double
22:13personnellement
22:14donc je pense
22:15qu'il y a quand même
22:15aujourd'hui
22:16un objectif
22:17c'est obtenir plus de ressources
22:18pour la sécurité
22:19absolument
22:20donc des subventions
22:21donc
22:22aussi parler
22:23à la fois
22:24aux gens du congrès
22:25qui demain
22:26vont prendre le sujet
22:27à bras le corps
22:27parce que ça va se jouer
22:28au niveau du Sénat
22:29et évidemment
22:30de choper
22:32des contrats
22:33notamment avec
22:34Anthropique par exemple
22:35travaille aujourd'hui
22:35avec le Pentagone
22:37finalement
22:37ils ont fait
22:38machine arrière
22:40c'est dans un média
22:41américain
22:42ce matin
22:43on voit bien quand même
22:44qu'il y a ce marché
22:45qui les intéresse
22:46et en plus
22:46ce sont des contrats
22:47garantis
22:48très long terme
22:48donc c'est très
22:49stratégique pour eux
22:50la seconde
22:51c'est qu'aujourd'hui
22:52on parle d'un alignement
22:53pour le coup
22:54des leaders
22:55de la tech
22:56IA
22:57mais on parle
22:58de modèles propriétaires
22:59aux Etats-Unis
23:00la Chine
23:00qu'est-ce qu'elle fait
23:01de son côté
23:01encore une fois
23:02elle fait de l'open source
23:03et elle accélère
23:05cette attention
23:06sur une influence
23:07très forte
23:08notamment dans le sud global
23:08je en reviens encore
23:09mais c'est quand même
23:09la moitié de la planète
23:10sur une logique
23:12où demain
23:12son narrative va être
23:13moi vous pouvez ouvrir
23:14le capot
23:14il n'y a pas de problème
23:15moi je fais de l'open source
23:16quand les américains
23:17se battent entre eux
23:18et sont obligés
23:19de faire des claims
23:20pour dire
23:20on a eu un hacking
23:22un auto-hacking
23:23ça c'est une très grosse différence
23:24à terme
23:26on va
23:26oui
23:27ils contrôlent toujours
23:29l'infrastructure
23:29il y a un souci
23:30c'est eux qui ont la main
23:32sur les serveurs
23:33par contre on voit
23:34donc ils ont leur bouton rouge
23:35oui
23:35ils ont leur bouton rouge
23:38ce qui n'est pas le cas
23:40avec les modèles open source
23:41d'ailleurs
23:41tu mentionnes
23:42parce qu'on parle
23:42de sécurisation
23:43de gouvernance
23:44tout ça
23:44aujourd'hui
23:44tu prends un modèle
23:45open source
23:45tu l'entraînes
23:46fine tune
23:47personne ne sait
23:47ce que tu as fait avec
23:48c'est la face cachée
23:50de l'open source
23:50absolument
Commentaires