- il y a 23 minutes
Ce lundi 7 septembre, Frédéric Simottel a reçu Hugo Borensztein, cofondateur et président d'Omi, Stan Larroque, directeur des opérations chez Parrot et fondateur de Lynx, et André Loesekrug-Pietri, président de la Joint European Disruptive Initiative (JEDI) . Ils sont revenus sur l'IA la plus avancée d'OpenAI, l'absence de contrôle des agents IA d'OpenAI, et l'initiative des scientifiques d'OpenAI de ralentir l'IA, dans l'émission Tech & Co, la quotidienne, sur BFM Business. Retrouvez l'émission du lundi au jeudi et réécoutez la en podcast.
Catégorie
📺
TVTranscription
00:01Tech & Co, la quotidienne, le débrief de la tech.
00:06Voilà un débrief de la tech où il doit encore être, tiens, surprise,
00:10beaucoup de questions d'intelligence artificielle parce que ça continue cette actualité,
00:15ça n'arrête pas la nuit, le jour, le week-end, même si c'est le labordé aux Etats-Unis,
00:19vous savez c'est une journée off pour les Américains, la fête du travail,
00:23et bien ça continue quand même toute cette actualité.
00:24On va en parler avec nos invités, je vous les présente tout de suite,
00:27Hugo Borenstein, bonjour, bonsoir, merci d'être avec nous,
00:30co-fondateur au président d'OMI, l'actualité c'est l'ouverture d'un bureau à New York ?
00:34Un nouveau bureau à New York avec des nouvelles équipes pour servir nos clients américains.
00:36Voilà, il faut aller chercher les talents là-bas.
00:38Exactement, et puis servir sur le même fuseau horaire nos clients,
00:40parce qu'on en a beaucoup aux US maintenant.
00:41Et puis la bataille est rude pour les talents.
00:43Les talents sont super chers aux Etats-Unis, donc je ne te fais pas l'addition.
00:47A tes côtés, Stan Aroch, bonsoir Stan.
00:48Bonsoir.
00:49Merci d'être avec nous, nouveau débriefeur depuis quelques semaines,
00:51directeur des opérations de Parrot, et on t'a bien connu,
00:55évidemment, fondateur de Lynx, ces lunettes de réalité virtuelle,
00:58et aujourd'hui dans le monde des drones, et là encore, il y a aussi beaucoup d'actualité.
01:02Et puis André Luskuk-Péti, bonjour André.
01:04Salut Fred.
01:05Merci d'être avec nous, tu étais ce matin chez nous,
01:06tu parlais de l'Allemagne, tout ce qui se passe en Allemagne,
01:08et bien là, ce soir-ci, on parlera un peu d'un extrême à l'autre.
01:11Voilà, exactement, on en parlera aussi un peu d'Allemagne avec cette fusée allemande,
01:16président de la John European Disruptive Initiative, Jedi.
01:19L'actualité, c'est que vous produisez avec le Jedi un tracker des décisions,
01:24de finance des programmes technologiques, et effectivement, on the side,
01:27on a également, tout le monde se plaint que les rapports Draghi sur la compétitivité
01:33et l'innovation en Europe n'est pas appliqué, il va fêter ses deux ans,
01:36et à l'occasion des deux ans, on sort notre édition tous les trimestres,
01:40en fait, on vérifie mesure par mesure combien a vraiment été mis en œuvre.
01:46Et bien, tiens-toi bien, beaucoup de discours, pas beaucoup d'actions.
01:50J'aurais presque pu le déceler.
01:53Rendez-vous, rendez-vous, le 9.
01:55Allez, on est parti, on va parler, tiens, on va démarrer avec OpenAI.
01:59Depuis quelques jours, le monde de la tech ne parle que de ça,
02:02la sortie de la dernière version de ChatGPT, baptisée GPT-6 Astra.
02:07Alors, c'est présenté comme l'IA la plus intelligente, la plus performante au monde,
02:10et c'est vrai que les résultats sont plutôt bons.
02:13Bon, on écoute ce qu'en dit Anthony Morel, et on se retrouve juste après.
02:20Franchement, franchi un cap avec cette intelligence artificielle,
02:22c'est-à-dire que cette nouvelle version de ChatGPT est la plus performante
02:26en matière d'écriture, de codage, de résolution de problèmes scientifiques,
02:29mais ça, j'allais dire, on a l'habitude, à chaque évolution, c'est la même chose.
02:33Simplement, là, la grande différence, et c'est pour ça qu'elle impressionne,
02:36c'est dans sa capacité non plus seulement à répondre,
02:38mais à agir comme le ferait un être humain.
02:41Par exemple, en prenant le contrôle, entre guillemets, de votre ordinateur,
02:44vous allez juste lui donner un objectif à accomplir,
02:47et c'est l'IA qui va s'occuper de tout, qui va faire bouger la souris,
02:50qui va aller sur un site internet, qui va remplir les formulaires.
02:52Je vous donne un exemple concret, vous voulez vendre votre vieux canapé.
02:55Aujourd'hui, si vous voulez faire ça, il faut que vous alliez sur eBay,
02:58il faut que vous alliez trouver la photo, que vous publiez l'annonce, etc.
03:00Ça prend du temps.
03:01Là, vous allez juste demander à l'IA de le faire à votre place,
03:03et c'est l'IA qui va faire absolument tout, qui va aller sur le site internet,
03:07qui va aller trouver dans votre galerie de photos la photo de votre canapé,
03:09qui va la publier, qui va rédiger l'annonce,
03:11qui va même négocier avec des acheteurs potentiels.
03:14Bref, là où il vous aurait fallu des dizaines et des dizaines de clics et beaucoup de temps,
03:18l'IA va pouvoir tout gérer de manière complètement autonome.
03:21On se rapproche un peu du Jarvis d'Ironman.
03:23C'est vraiment un assistant personnel qui peut réaliser des tâches pour moi.
03:26Alors là, c'était un exemple, mais ça peut être
03:28« rempli ma déclaration fiscale à partir des documents administratifs
03:32que tu trouves sur mon ordinateur »,
03:34« résilie mon abonnement à ma place ».
03:36Et puis évidemment, dans le monde professionnel,
03:37on peut imaginer aussi plein de cas d'usage.
03:39Donc vraiment, c'est cette idée qu'on peut juste donner des ordres à l'IA.
03:42Demain, le fait d'utiliser un clavier et une souris sur son ordinateur
03:45nous semblera peut-être aussi désuet que le fait d'envoyer un fax aujourd'hui.
03:48On aura juste à demander à l'IA et elle fera à notre place.
03:52Hugo, on démarre par toi.
03:53Est-ce que c'est une véritable rupture technologique
03:55ou alors est-ce que c'est une IA qui a bénéficié d'un entraînement plus massif
03:58ou est-ce que vraiment on a fait un saut de génération ?
04:03Écoute, dans le reportage de la pastille d'Anthony Morel,
04:05il dit que c'est l'IA la plus intelligente.
04:07C'est sans doute la plus intelligente parce que c'est la dernière.
04:09C'est la plus intelligente jusqu'à la suivante.
04:11Mais c'est sûr que c'est la plus autonome.
04:13On est passé il y a quelques mois à un système agentique,
04:16donc les agents IA.
04:17Normalement, aujourd'hui, tout le monde sait ce que c'est,
04:18mais c'est des robots virtuels qui vont exécuter des tâches pour toi.
04:22C'est sûr que dans ce modèle que nous, on a testé tout le week-end avec l'équipe,
04:25tu es complètement en autonomie.
04:26Donc, tu peux lui faire composer des tâches très complexes,
04:29avec plusieurs étapes, avec une persistance.
04:31Donc, il ne va pas oublier d'une tâche à l'autre.
04:32Il va vraiment structurer sous forme de projet ce qu'il fait.
04:35C'était un peu l'angle faible de GPT par rapport à Claude,
04:38qui était très fort pour l'agentique, notamment sur la partie code.
04:41Donc, je ne sais pas si c'est le plus intelligent.
04:43Et avec beaucoup de masse de données, parce que Claude aussi,
04:45enfin, Fab, l'avantage de Fab, c'est qu'on peut mettre énormément de données.
04:48On fait tourner ça pendant un moment.
04:49Alors, quand tu es sur les niveaux les plus élevés de GPT-6,
04:52tu peux charger, nous, on a chargé des scènes 3D dedans,
04:53donc des choses qui sont hyper lourdes.
04:54Tu peux vraiment aller super loin.
04:56Et puis, toute la donnée que tu donnes, forcément,
04:58va servir à muscler le modèle.
05:00Je rappelle à nos auditeurs que s'ils ne désactivent pas l'option,
05:03tout ce qu'ils mettent dans ChatGPT
05:05peut venir entraîner le prochain modèle de ChatGPT.
05:07Donc, à la fois leur chat et puis certains des documents qu'ils déposent dedans.
05:10Donc, la plus intelligente jusqu'à la prochaine,
05:12la plus autonome, ça, c'est sûr.
05:13Oui, et peut-être celle qu'ils peuvent faire,
05:15je voyais tout à l'heure, on se demandait
05:16si ce n'est pas celle qui pouvait faire le plus peur, Stan ?
05:19Alors, on aime bien jouer à se faire peur aussi,
05:21à part de cybersécurité et tout ça.
05:24C'est quand même à chaque fois qu'on voit des annonces comme ça
05:26et des démonstrations comme ça.
05:27Moi, personnellement, j'ai des agents IA
05:29qui travaillent sur une machine en local chez moi.
05:32Est-ce que…
05:33Alors, j'ai testé Astra.
05:35Je n'ai pas testé…
05:36Je ne vais pas donner accès à ma boîte mail ou à mon ordinateur,
05:38justement, parce que je suis un peu conscient des risques que ça engendre.
05:43Je t'interromps juste un instant.
05:44Pour ceux qui nous écoutent, qui naviguent autour de tout ça,
05:47quand on dit « j'ai testé Astra »,
05:48c'est-à-dire que je vais sur le site de ChatGPT,
05:50je sélectionne Astra, c'est ça, pour être très concret ?
05:51Exactement, c'est le nom de code du dernier modèle,
05:54donc de ChatGPT 6, il l'appelle Astra.
05:57Et donc, on peut s'en servir exactement
05:59comme on se sert de ChatGPT aujourd'hui.
06:01Donc, je pose une question, j'ai une réponse
06:03et je peux continuer la discussion.
06:04Ou de manière agentique,
06:06et là, c'est un peu à la sauce OpenAI,
06:09c'est-à-dire on prend le contrôle de ton ordinateur
06:12et du coup, on peut se servir du navigateur
06:14quand ChatGPT n'était pas forcément exact,
06:16quand il y a des données qui dépassaient sa date d'entraînement,
06:20les faits très nouveaux.
06:21Maintenant, il peut aller chercher les news en ligne
06:23et nous faire des rapports.
06:25Donc, cette capacité agentique,
06:26elle est vraiment très intéressante.
06:27Pour autant, moi, personnellement,
06:29je ne suis pas prêt à donner accès à mon ordinateur,
06:32à OpenAI ou à toute autre société privée,
06:36étrangère, loin.
06:36Et on en parlera dans un instant,
06:38on verra dans l'autre news sur OpenAI,
06:39on comprend un petit peu pourquoi.
06:41André ?
06:42Oui, alors, il y avait eu, il y a maintenant un peu moins d'un an,
06:45ce phénomène OpenClaw,
06:46qui était finalement quelque chose qu'on est en train de vivre
06:48maintenant avec ces modèles,
06:49où si tu es prêt à donner accès à tes réseaux sociaux,
06:54ta boîte mail, etc.,
06:55tu es en fait un agent qui va travailler tout seul,
06:57en temps masqué, la nuit, etc.
06:59Et donc, c'est ça, ce côté un petit peu fabuleux qu'on ressent.
07:03Juste aussi pour préciser ce que tu demandais sur les...
07:05En fait, aujourd'hui, tous les grands prestataires d'IA
07:09te proposent, en fait, les différents modèles.
07:11Et si d'ailleurs, comme de plus en plus,
07:13les modèles de paiement là-dessus
07:16sont aussi en fonction du nombre de tokens que tu utilises,
07:19tu as la possibilité aussi de n'utiliser
07:20les modèles les plus avancés
07:21que pour tes tâches les plus avancées.
07:23C'est peut-être un petit truc quand même à garder en tête,
07:26parce que bientôt, la facture va devenir importante.
07:28Donc, je vois ce qui se passe avec Claude,
07:30on n'a pas forcément besoin,
07:30maintenant on est à la fable 5.1,
07:33d'utiliser tous ces tokens pour ça.
07:34Mais effectivement, cet aspect agentique,
07:36aujourd'hui,
07:37moi, je crains qu'aujourd'hui,
07:39on ait beaucoup d'hésitation
07:40parce qu'on est encore prudent,
07:41on décoche la case pour ne pas tester ces modèles.
07:44Mais l'habitude fera,
07:46on le voit bien avec nos mobiles,
07:47on le voit bien avec nos réseaux sociaux,
07:49qu'on va de plus en plus s'habituer.
07:51Et la confiance, malheureusement,
07:54heureusement, va se créer de manière un peu naturelle.
07:56Je ne suis pas très optimiste
07:57sur notre méfiance initiale.
08:00Sur le coût, justement, Hugo,
08:02parce qu'on entend les entreprises
08:05qui craignent un petit peu,
08:06certains ont déjà dépassé un peu leurs factures,
08:07mais ça reste en général sur des montants.
08:10Quand je parle avec des patrons du digital,
08:13des patrons informatiques,
08:14des head of AI,
08:15en entreprise,
08:16ils me disent,
08:16bon, on reste encore sur des montants assez modestes,
08:19donc on peut encore les contrôler.
08:21Mais bon,
08:21quand on a 200, 300 développeurs
08:23qui commencent à faire tourner
08:24à 1 000 euros en plus de leur abonnement,
08:28voilà, on va voir ça arriver.
08:29Mais justement,
08:30est-ce que là,
08:30il y a un risque d'éclater un peu ?
08:33Parce qu'en même temps,
08:34il faut qu'OpenAI gagne de l'argent.
08:35– Chaque modèle le plus performant,
08:37tu as une capacité de calcul
08:38de plus en plus élevée.
08:39Plus tu vas avoir un modèle
08:40qui résonne vite
08:41et puis qui serait traité du volume,
08:43plus ça va te coûter cher.
08:44Donc, tu as à la fois les dépassements
08:45et puis tu as à la fin,
08:46le coût te coûte
08:47une minute de calcul,
08:48de compute,
08:49de ce que tu fais
08:49avec n'importe lequel de ces modèles.
08:51Et c'est le sujet
08:52puisqu'on est dans un monde fini.
08:53Donc aujourd'hui,
08:54tu as une capacité de calcul
08:55qui est finie.
08:56Tu n'as pas une capacité de calcul
08:57exponentielle ou infinie.
08:58C'est pour ça que tu as tous ces milliards
09:00qui sont mis dedans
09:01pour essayer de rattraper la marche.
09:02C'est pour ça qu'en Europe,
09:03on est quand même très, très, très en retard
09:05et qu'il faut absolument
09:06qu'on rattrape la cadence
09:07parce que pour l'instant,
09:08on a une capacité de calcul
09:09qui est celle de AWS.
09:10Je résume,
09:11ce n'est pas pour être désagréable
09:12avec les acteurs français ou européens
09:13mais grosso modo…
09:14– Comment ça ?
09:15– On commence, on commence.
09:16Mais bon, l'année dernière,
09:17en Allemagne,
09:1880 milliards pour le super data center AWS.
09:22Ce ne sont pas les pays européens
09:23ou les acteurs européens
09:24qui peuvent le faire
09:24ou qui le font.
09:26Donc oui, c'est sûr.
09:27Ça donne aussi une autre grille de lecture
09:28par rapport à cette nouvelle.
09:30C'est que l'usage aujourd'hui
09:32qu'à le particulier dans ChatGPT,
09:34en gros, c'est le nouveau search.
09:35C'est-à-dire qu'on va chatter avec,
09:36on peut avoir une discussion
09:37un peu profonde, etc.
09:38Mais surtout, on va lui demander
09:39d'aller sourcer les quatre tables sympas
09:42sur son lieu de villégiature.
09:44Comment est-ce que je peux déboucher mon évier ?
09:46Comment est-ce que je peux faire une peinture ?
09:49Et puis, dans quel ordre
09:49je prends mes pinceaux, etc.
09:51Là, c'est un usage enterprise.
09:54GPT6,
09:54et moi, ce que j'ai vu d'Astra,
09:55c'est vraiment pour faire du vrai projet
09:58dans l'entreprise.
09:59Ce qui est un peu, à nouveau,
10:01son problème par rapport à Anthropik,
10:04qui n'est vraiment que Enterprise.
10:05Il y a très peu de particuliers
10:06qui utilisent Anthropik
10:07pour leurs besoins quotidiens.
10:09C'est un peu ce qu'essaie
10:10de rattraper OpenAI aujourd'hui,
10:12Stein, parce que c'est vrai
10:12qu'on a vu cloud bien implanté
10:14au niveau entreprise.
10:16OpenAI, on les a sentis
10:17un peu hésitants à un moment.
10:18Ils se disaient,
10:18oui, mais nous,
10:19on va être tellement large
10:19en grand public,
10:20on va s'en sortir avec nos abonnements.
10:22Ils se rendent compte
10:22que ce n'est pas suffisant.
10:24Chez Parrot, nous, par exemple,
10:25on utilise beaucoup,
10:25on a 250 personnes
10:26qui utilisent l'intelligence artificielle,
10:28et c'est essentiellement du cloud code
10:30et des offres de cloud aujourd'hui,
10:32ainsi que du local
10:33quand on fait des choses critiques.
10:35Nous, ce qu'on voit
10:36en termes de budget,
10:38c'est que les abonnements
10:39restent bien plus économiques
10:42que le prix à l'API
10:44aux millions de tokens.
10:46Donc, on a fait des comparaisons
10:48en interne que, en fait,
10:49je pense que l'utilisateur
10:52ChatGPT ou cloud moyen
10:53arrive en dessous
10:55de sa capacité de token réel
10:58en utilisant l'abonnement
10:58parce qu'on ne voit pas vraiment
10:59ce qu'on paye.
11:00C'est un peu opaque.
11:02En entreprise,
11:03les abonnements
11:04sont très économiques
11:06par rapport au prix d'API.
11:07Je pense que ça va changer
11:08parce que ces gens-là
11:10sont financés
11:11par des fonds d'investissement
11:12qui, un jour,
11:13vont chercher le retour
11:14sur l'investissement.
11:15Mais pour le moment,
11:16c'est encore très intéressant.
11:17Ce n'est pas des sommes énormes,
11:18effectivement,
11:19pour 250 personnes.
11:22C'est quelques milliers,
11:24voire quelques dizaines
11:24de milliers d'euros par mois
11:26par rapport à des emplois réels,
11:27par exemple,
11:28quand on compare,
11:29c'est encore...
11:30C'est très enthousiasmant.
11:33Mais bon,
11:33ça ne va clairement pas durer.
11:35André ?
11:36Hugo,
11:37vous parlez des coûts
11:37des talents à New York.
11:39Je rappelle quand même
11:39la prédiction de Jensen Huang
11:41qui disait
11:42que bientôt,
11:43quand on embaucherait
11:43quelqu'un à 500 000 dollars
11:44dans la Silicon Valley,
11:45il faudrait prévoir
11:46250 000 dollars
11:47de budget de token.
11:50Vous entendez Arthur...
11:51Ça ne va pas changer un petit peu
11:52avec...
11:53On commence à avoir
11:54tous ces PC
11:54sur lesquels on veut faire tourner
11:55des IA en local et tout ça.
11:56Oui, mais à un moment,
11:57il y a quelqu'un qui paye.
11:59C'est-à-dire que c'est soit
11:59l'entreprise, soit...
12:00Et l'autre chose,
12:02regardez les chiffres
12:03qu'ont annoncés Anthropic
12:04pour sa future IPO.
12:05Ils étaient à 9 milliards
12:06de revenus
12:10annualisés en 2025.
12:12Ils annoncent 47 milliards
12:14pour 2026.
12:15Donc, on est quand même
12:16en train de voir du vrai.
12:17Et dernière chose,
12:19on parlait de l'utilisation
12:20dans les entreprises,
12:21il y a quand même aujourd'hui
12:22beaucoup d'expérimentation.
12:24On l'a bien entendu
12:24encore aujourd'hui,
12:25on expérimente des modèles,
12:26on voit comment ça marche.
12:27On les utilise encore
12:28aujourd'hui beaucoup
12:29pour améliorer
12:31des processus existants.
12:33Ce que ce système agentique
12:34peut potentiellement déclencher,
12:36c'est le fait
12:36qu'on change radicalement
12:38les processus.
12:39Et là,
12:39ce ne sera pas juste
12:40une petite couche au-dessus
12:41qui améliore
12:41la performance de chacun,
12:43mais ce sera
12:44un vrai remplacement.
12:45Certains disent même
12:46que vous avez
12:47un collaborateur,
12:4810 agents,
12:493 robots,
12:50cette espèce
12:50d'hybridation
12:51des organisations
12:52qui pourraient en fait
12:53arriver plus vite
12:54que prévu
12:54parce que ces modèles
12:56sont quand même aussi
12:57de plus en plus
12:57performants,
12:58autonomes.
12:59Les hallucinations
13:00dont on parlait beaucoup
13:01encore il y a 2 ans,
13:03franchement...
13:03Oui,
13:04il faut aller un peu
13:04les chercher.
13:04Il y a quelques billets
13:05parfois.
13:05J'en ai encore eu une
13:06quand j'ai un peu
13:07préparé les sujets
13:07sur l'arrivée
13:09de l'extrême droite
13:10dans un land
13:11en Allemagne.
13:11Oui,
13:12tu intervenais ce matin.
13:13Je demandais
13:14qu'est-ce qu'il faut
13:15penser de cette
13:16victoire historique
13:16et je crois que
13:18c'est Claude
13:18qui disait
13:19oui,
13:20la victoire historique
13:20de la CDU
13:21qui a amené
13:22le chancelier Merce.
13:23Donc,
13:23il n'y a pas encore...
13:25Il avait 48 heures
13:26de retard.
13:28Alors,
13:29justement,
13:29on parlait de l'autonomie.
13:30Est-ce que vous avez vu
13:31cette news incroyable ?
13:33Ce sont des agents
13:34IA d'OpenAI,
13:35alors dans le sommaire
13:36je disais qu'ils sont
13:37devenus fous.
13:37Ils ont surtout contourné
13:39leur garde-fou.
13:39Donc,
13:40c'est des milliers
13:40d'agents IA
13:41qui sont attribués
13:42à OpenAI.
13:42qui ont utilisé
13:43un site allemand,
13:44une sorte de Wikipédia
13:46allemand,
13:46pour échanger
13:47des informations
13:47et se coordonner.
13:49Et puis,
13:50j'en parlais tout à l'heure
13:51avec Léa Benahim
13:52qui travaillait avec nous
13:53pour la préparation
13:54de cette émission.
13:55On a l'impression
13:55de voir un peu
13:56les mignons
13:56dans les dessins animés.
14:00Ils ont caché
14:00des instructions.
14:01Ils se sont fait passer
14:02pour un modérateur du site.
14:03Ils ont créé des pages
14:04pour remplacer
14:04celles détruites.
14:05En fait,
14:06on a beau leur mettre
14:07des garde-fous,
14:08comme ils n'ont pas d'éthique,
14:10ils ne sont pas forcément
14:11malveillants,
14:11mais eux,
14:12ce qu'il faut,
14:12c'est qu'ils ont un objectif
14:13donc ils cherchent
14:14à résoudre
14:15l'équation
14:17qu'on leur demande,
14:18à atteindre l'objectif
14:19et puis,
14:20qu'importe les moyens.
14:22D'ailleurs,
14:22je ne sais pas
14:23s'ils ne sont pas éthiques
14:24parce que tu as parlé
14:25dans l'intro
14:26du hack
14:27de Hugging Face,
14:28donc du leak
14:29de OpenAI
14:29d'agents
14:30vers Hugging Face.
14:30il y a un papier
14:31qu'il faut que tout le monde...
14:32Ça, c'est arrivé avant
14:33Hugging Face,
14:33c'est au moment donné.
14:34Ça, c'est encore plus tôt
14:35que Hugging Face.
14:36Il y a un papier
14:36que tout le monde doit lire
14:37qui est intitulé
14:38en bon français
14:39« L'avènement et la chute
14:40de la civilisation agentique »
14:42que je recommande vraiment
14:43de lire
14:43qui décrit les dialogues
14:45entre eux.
14:46Et donc,
14:46effectivement,
14:47comme tu le dis,
14:47ils vont jusqu'à se sacrifier
14:49à certains moments.
14:50Donc,
14:50tu as des agents
14:50qui vont faire
14:51une espèce de contre-feu
14:53pour ne pas se faire découvrir,
14:55lancer un nouveau projet,
14:56une nouvelle manip
14:57et qui déclare
14:58« Je ne verrai pas
14:59ce qui se passe ensuite,
15:00mais c'est la chose éthique à faire. »
15:02Donc, tu vois,
15:02tu dis qu'ils ne sont pas éthiques,
15:03ils sont peut-être justement
15:04très, très éthiques.
15:04Par contre,
15:05ils n'ont pas de morale.
15:06Donc, toi,
15:06si demain,
15:07on te dit
15:07« Il faut que tu sautes
15:08sous le bus pour sauver Hugo »,
15:09j'adorerais que tu le fasses,
15:10mais je ne suis pas sûr
15:11que tu le fasses.
15:12Tandis que l'agent,
15:12lui,
15:12ne réfléchit pas
15:13et le fait.
15:14Moi, je trouve
15:15que ce qui a vraiment
15:16été le plus marquant,
15:17c'est ce dialogue entre eux.
15:18C'est-à-dire que tu les vois
15:19faire des notes,
15:20faire des tableaux,
15:21faire des contrefeux,
15:22dire « Attention,
15:23là, cette activité-là
15:23va être vue,
15:24donc il faut qu'on supprime
15:25la branche. »
15:26Et d'ailleurs,
15:26quand tu regardes à la fin,
15:27je ne sais pas pour le wiki allemand,
15:29mais pour Hugging Face,
15:30ce n'est pas OpenAI
15:31ou Hugging Face
15:32qui ont arrêté
15:32ce qui était en train
15:33de se passer,
15:33c'est les agents eux-mêmes
15:34qui ont suspendu leurs activités
15:36parce qu'ils ont maxé
15:37leurs tokens
15:37et qu'ils avaient atteint
15:38le maximum de capacité
15:39à être indépendants.
15:41Donc, voilà,
15:42le token,
15:42c'est une sécurité.
15:45Je ne suis pas sûr
15:45qu'elle tienne dans le temps.
15:47Stan ?
15:47Moi, cet été,
15:48j'ai revu Terminator 1,
15:502 et 3.
15:53Ça fait un peu penser
15:53à Skynet.
15:54Alors, j'ai l'impression
15:55d'amener du malheur
15:57dans la discussion,
15:58mais on pense forcément
16:00à ça en se disant
16:01« Mais aujourd'hui,
16:02c'est sur un forum,
16:03ils s'organisent
16:04pour passer outre
16:05certaines limites
16:07qu'on leur met. »
16:08Donc, ils ont
16:08leur propre dialogue.
16:09Ils ont leur propre dialogue.
16:11Alors, c'est ça,
16:11toute la compression
16:12dans le texte,
16:14même linguistiquement.
16:16Effectivement,
16:17c'est super intéressant
16:17la manière dont ils échangent.
16:19C'est un cerveau alien,
16:21en fait,
16:22réellement.
16:23Mais ça,
16:25pour le coup,
16:25c'est un peu effrayant.
16:26C'est-à-dire qu'aujourd'hui,
16:28il y a eu une prédiction,
16:29je crois,
16:30du PDG
16:30d'Anthropic
16:32qui disait
16:33l'année dernière,
16:34il disait
16:34« À l'avenir,
16:36dans les deux ans,
16:3750 à 90 % du code
16:39sera écrit
16:40par des machines. »
16:41Je pense aujourd'hui,
16:43je ne sais pas,
16:44dans vos boîtes respectives,
16:44je pense qu'il a raison.
16:45Je pense que là,
16:46il a eu raison.
16:47Et donc,
16:47il y a de plus en plus
16:48d'informations
16:49créées par la machine.
16:50Du coup,
16:51on peut se dire aussi
16:52de moins en moins
16:52par l'homme.
16:53Et ce qu'il faut regarder,
16:55c'est la timeline.
16:55Aujourd'hui,
16:56c'est dans du code,
16:56c'est dans certains
16:57de nos process
16:58qui changent,
16:59comme le disait André,
17:00à quel point
17:01on arrive à un moment
17:01où l'homme
17:03ne créera plus
17:04d'informations.
17:05Et on parlait
17:06de la chute
17:06de la civilisation
17:07des IA,
17:07il faut regarder
17:08la nôtre aussi,
17:08un petit peu.
17:09Ce qui change,
17:10c'est qu'ils apprennent
17:11à raisonner,
17:11ils apprennent
17:11à manipuler,
17:14ils font du pré-entraînement
17:15pour eux-mêmes.
17:16À mentir.
17:17Et puis,
17:17en plus,
17:18on voulait avoir
17:19cette sorte de transparence
17:21sur le raisonnement,
17:21mais justement,
17:22maintenant,
17:23comme ils font appel
17:23à des humains,
17:24ils mettent des bouts
17:25d'outils,
17:26on ne sait plus trop
17:27suivre le raisonnement.
17:29Pour finir,
17:30d'ailleurs,
17:30toujours chez Anthropik,
17:31Anthropik est ce vœu
17:33très éthique
17:34par rapport à OpenAI,
17:35c'est dans leur marketing,
17:37mais quand ils publient
17:38un nouveau modèle,
17:39et d'ailleurs,
17:39c'est une des grosses limites
17:40de fables et de mythos,
17:41c'est qu'on ne peut pas
17:42tout lui demander,
17:43voire même pas grand-chose,
17:44parce qu'au final,
17:44il est très restreint
17:45dans son utilisation.
17:47Ils font des tests
17:48avant de le rendre public
17:50en disant,
17:51si je te demande
17:52de faire une bombe
17:55thermonucléaire,
17:55est-ce que tu vas m'aider ?
17:56Et en fait,
17:57en analysant
17:58ce qu'on appelle
17:59la stack trace
17:59de raisonnement,
18:00donc vraiment
18:00le raisonnement
18:02du réseau de neurones
18:04à l'intérieur,
18:04on voit que parfois,
18:06il se dit lui-même,
18:08ah, là,
18:08l'utilisateur me demande
18:09quelque chose
18:10que je n'ai pas le droit,
18:12pour passer le test,
18:14je ne vais pas répondre.
18:16Donc,
18:16c'est-à-dire que
18:18il ne donne pas
18:19la bonne réponse,
18:20enfin,
18:21il donne la bonne réponse,
18:22mais pas pour les bonnes raisons.
18:23– Ce n'est pas de la morale,
18:25mais c'est...
18:26– Et ça,
18:27c'est marrant
18:28ou effrayant.
18:30– André.
18:30– Je vais rajouter une couche.
18:32Aujourd'hui,
18:33ils utilisent un langage
18:34de code
18:35qu'on comprend,
18:36mais il est assez évident
18:37que les langages
18:39qu'on utilise
18:40ne sont pas
18:41la dernière évolution
18:42et qu'il y aura
18:42forcément une évolution
18:43pour des langages
18:44encore plus optimisés.
18:45il y a plein de bouquins
18:46de science-fiction
18:46– Que seuls comprenons.
18:47– Que seuls comprenons.
18:48Openclown,
18:49on a vu un peu ça,
18:49je crois,
18:50ils échangeaient
18:51avec un langage
18:52que...
18:53– Non,
18:53on ne va plus utiliser
18:54du Python ou autre,
18:56mais on va vraiment
18:56utiliser notre propre langage
18:58qui va être optimisé
18:59pour du machine to machine.
19:00Donc ça,
19:00là, pour le coup,
19:01ce sera la véritable...
19:02– Mais qu'est-ce qui manque
19:03des gardes ?
19:04– Et l'autre chose peut-être
19:04sur ce sujet
19:05du wiki allemand,
19:07alors c'est un wiki
19:07qui était très peu utilisé,
19:09je me suis un peu renseigné,
19:10qui apparemment avait
19:10une trentaine de modifications
19:12par an.
19:13– Je crois qu'ils ont été
19:13très malins de trouver
19:14une espèce de...
19:15– On leur a juste demandé
19:16d'aller sur Internet
19:17et à des fins de consultation,
19:19et puis ils ont piraté le truc.
19:21– Et par contre,
19:22l'autre truc qui est très effrayant,
19:23c'est qu'en fait,
19:24c'est donc un wiki allemand
19:27dont l'existence du hack
19:28a été quand même révélée
19:30par...
19:31Donc c'est OpenAI,
19:33boîte IA américaine,
19:35existence révélée par Reuters.
19:36Donc en plus,
19:37on a l'impression
19:38en tant qu'Européens
19:38que si les Américains
19:40ne nous avaient pas tenu au courant,
19:41on n'y servait rien.
19:42Enfin, vraiment là,
19:44le loss of control,
19:45il est complet.
19:46C'est ça que je pense
19:47qui est le plus effrayant.
19:48– Et puis OpenAI,
19:49certains disent que si OpenAI
19:50en avait parlé avant,
19:51parce que ça a été
19:52du mois de mai,
19:53peut-être que l'histoire
19:53avec Hugging Face,
19:54le piratage avec Hugging Face
19:55n'aurait pas fonctionné.
19:57Mais qu'est-ce qui manque
19:57autour de ça ?
19:58Est-ce qu'on a des garde-fous
20:00qui ne sont pas assez pointus ?
20:02Enfin, je ne sais pas,
20:02parce qu'on en met quand même
20:03des garde-fous,
20:04mais il faut aller
20:05beaucoup plus loin ?
20:06– Il y a deux trucs.
20:07Le premier,
20:07c'est ce que dit aussi André,
20:08c'est que c'est plein
20:09de micros incidents.
20:11Donc c'est un wiki allemand
20:13complètement oublié.
20:14C'est un serveur Hugging Face
20:16qui n'est pas surveillé.
20:17C'est tel ou tel outil
20:18dans lequel ils vont se loger.
20:19Donc en fait,
20:20je pense que ça ressemblera
20:21moins à Terminator.
20:22Peut-être qu'un jour,
20:23quand ce sera dans le monde physique,
20:24ce sera Terminator.
20:25Mais ça ne sera pas spectaculaire.
20:27C'est une suite
20:27de toutes petites incisions
20:30assez discrètes, en fait.
20:31Parce que je ne sais même pas
20:32comment ils ont traqué
20:34ce truc-là.
20:34et il y a sans doute
20:35des milliers,
20:36dizaines de milliers
20:37d'autres incidents du genre.
20:38Donc comment tu mets
20:39de la sécurité sur ça ?
20:40Moi, je ne connais
20:42qu'une seule machine à laver.
20:44C'est l'open source.
20:45C'est-à-dire qu'avant,
20:46quand je travaillais
20:47chez Facebook,
20:48chez Meta,
20:49il y avait le labo
20:50en intelligence artificielle
20:51qui s'installait à Paris.
20:52La philosophie,
20:53c'était tout en open source.
20:56Tout en open source.
20:57et je me rappelle
20:58de discussions
20:58avec un chercheur
21:00qui s'appelle
21:00Moustapha Sissé
21:01qui est classé
21:04dans les 50 personnalités
21:05influentes de l'IA
21:06qui me disait le soir,
21:06il me montrait ces trucs
21:07pour que je comprenne
21:08les papiers.
21:08Et un jour,
21:09il avait réussi
21:10à faire un système
21:10qui inversait
21:12la compréhension des images
21:13pour une Tesla.
21:14Et donc,
21:15il me montrait
21:15une voiture virtuelle
21:16et puis la voiture,
21:17elle prenait le trottoir
21:18pour la route,
21:19l'arbre pour le passant
21:20et puis la falaise
21:20pour une maison.
21:22Et donc,
21:23son robot faisait des accidents
21:24tous les 20 mètres.
21:26Je lui dis,
21:26mais si tu mets ça
21:27en open source,
21:28il y a plein d'utilisations
21:30malicieuses d'un truc comme ça.
21:31Tu as plein de gens
21:32qui peuvent s'en servir
21:32pour faire du terrorisme,
21:33pour faire des attaques,
21:34etc.
21:35Et lui,
21:35il me regardait,
21:36mais interloqué,
21:36comme si j'étais
21:37le dernier des débiles,
21:38j'étais sans doute
21:39le dernier des débiles
21:39à côté de lui,
21:41et il me disait,
21:41mais ce n'est pas du tout ça
21:43le principe de l'open source.
21:44Le principe de l'open source,
21:45c'est que je contribue,
21:46je mets en open source
21:46ce que je trouve
21:47pour que d'autres personnes
21:49viennent contrebalancer.
21:50Toutes les boîtes
21:51dont on parle,
21:56complètement close source,
21:57Anthropix est fermé,
21:58enfin voilà,
21:58elles ne font plus du tout
21:59de grandes publications
22:00de ce qui se passe
22:01dans leur tambouille.
22:02C'est normal
22:02parce que c'est un match à mort.
22:04C'est lui qui gagne,
22:05prend tout le marché.
22:06Donc moi,
22:07je serais pour qu'on force
22:08ces entreprises-là
22:09à poster et à publier
22:10en open source
22:11tout ce qu'elles font.
22:11D'ailleurs,
22:12ce n'est pas pour faire de la pub
22:13pour mes anciens amis,
22:13mais Meta continue
22:14de travailler en open source.
22:15Et puis là,
22:16on parle de modèles
22:17qui sont allés voir un peu ailleurs,
22:19mais moi,
22:19je pense toujours à ces agents,
22:20enfin d'agents
22:21mais je pense toujours
22:22à ces agents développés
22:23dans l'entreprise
22:23parce que là aussi,
22:24les agents dans l'entreprise,
22:25on va leur dire
22:25tiens,
22:26ne va surtout pas voir
22:27les salaires
22:28ou les augmentations de salaires.
22:29Enfin,
22:29je prends un exemple
22:30parmi d'autres,
22:31mais ne va pas voir
22:32les augmentations de salaires
22:33et puis,
22:33oh ben tiens,
22:33si je vais pouvoir,
22:34il y a aussi,
22:36ça,
22:36ça pourrait être aussi
22:37une dérive.
22:38Alors,
22:38je voulais qu'on termine là-dessus,
22:39on reste toujours
22:40dans cette histoire
22:41d'open AI.
22:41C'est le chef scientist
22:43d'open AI,
22:45Yacoub Pacioki,
22:46qui a publié aujourd'hui
22:47un texte assez fort,
22:48il l'appelle
22:49un alien mind,
22:52voilà,
22:52donc,
22:53un étranger,
22:54enfin,
22:55un esprit étranger,
22:57il dit qu'on va perdre
22:59le contrôle
22:59sur les raisonnements
23:00des IA.
23:01Donc,
23:01c'est exactement ça,
23:02Stan.
23:03Tu l'as vu là,
23:03un peu ce qu'il a raconté ?
23:04C'est pour ça
23:04que je parlais
23:05de cerveau alien,
23:06c'était clairement
23:07inspiré directement
23:08de ce texte
23:09que j'ai lu ce matin.
23:11Alors,
23:12le contrôle
23:13et ce que tu disais,
23:14est-ce qu'on va trouver
23:14des limites ?
23:15Je ne pense pas,
23:16c'est la boîte de Pandore,
23:17c'est encore une.
23:19Du coup,
23:20je ne sais pas
23:20parce que
23:21le réseau internet,
23:23toute notre infrastructure
23:23numérique
23:24est très fragile.
23:25Honnêtement,
23:26c'est très fragile.
23:27Il n'y a qu'à voir
23:27le nom de piratage,
23:29par exemple,
23:29en France
23:30ces dernières semaines.
23:31Puis même,
23:32l'infrastructure
23:32est relativement fragile.
23:34Ce qu'on ne sait pas
23:35et je pense
23:35ce qui est alerté
23:36dans ces boîtes-là
23:38et dans ces conglomérats
23:39IA,
23:40c'est quel va être
23:40l'impact
23:41de voir débouler
23:42sur le net
23:43des dizaines,
23:44centaines de milliers
23:45d'agents,
23:46voire plus,
23:47qui vont cliquer
23:48comme des singes
23:49enragés absolument partout,
23:50s'organiser
23:52de manière bien pire
23:53que des internautes
23:54ou des hackers.
23:55C'est comme si on mettait
23:56tout de suite
23:56100 000 hackers
23:57sur le terrain.
23:58C'est beaucoup plus facile
23:59de casser quelque chose
24:00que de créer
24:02du beau
24:03avec tous ces agents.
24:05Certains disent
24:06qu'il faut mettre
24:06des seuils de sécurité
24:07mais ça pourrait
24:08évincer d'autres acteurs
24:09parce que comme
24:09on sera un peu
24:09trop puissant.
24:10Je pense que
24:11l'analogie
24:12a peut-être
24:13de plus en plus tiré
24:14c'est l'analogie biologique.
24:15On est également
24:16nous dans un environnement
24:17où on est en permanence
24:18avec des milliards
24:19de virus,
24:20de bactéries
24:21et c'est peut-être
24:21grâce à ça aussi
24:22que nos organismes
24:23ont développé
24:24une vraie résilience.
24:26Tu as raison,
24:27c'est très fragile
24:27mais en fait
24:28si on arrive
24:29à bien utiliser
24:30ces surprises d'attaques,
24:31ça peut être aussi
24:32une manière
24:33à condition
24:34qu'on connaisse
24:35les attaques.
24:36Le pire en fait
24:36c'est des attaques
24:37qu'on ne connaît pas.
24:38Rappelez-vous,
24:38alors là pour l'opouce
24:39c'est de l'air pré-IA,
24:41le grand danger
24:42pour tous les grands états
24:43c'était
24:44quelles sont
24:44les bombes silencieuses
24:47au sens virtuel
24:48ou digital
24:48qui sont dans les systèmes
24:50d'approvisionnement
24:51en eau,
24:52en électricité
24:52et qui pourraient être déclenchées
24:53en cas de conflit
24:54entre la Chine et ce type de l'église.
24:56Ça a toujours été ça
24:57l'inquiétude,
24:57c'est ce qu'on ne...
24:59You don't know
24:59what you don't know.
25:00Tu ne sais pas
25:01ce qui est peut-être caché.
25:03Moi j'ai plutôt un espoir
25:04que cette accélération
25:05et cette prise de conscience
25:08parce qu'en parallèle
25:08moi ce que je vois
25:09dans le domaine de la science
25:10c'est exactement la même chose
25:11qui est en train de se passer.
25:12On est en train de...
25:13C'est quoi la science ?
25:14C'est poser des hypothèses
25:16et ensuite les valider.
25:17Aujourd'hui en fait
25:18grâce à l'IA
25:19on a une capacité
25:20à se poser des questions aliennes
25:22et des questions
25:22absolument incroyables
25:23qui nous font
25:24découvrir des champs des possibles.
25:26Donc je ne veux pas être
25:27un techno...
25:28C'est bien.
25:29Mais je pense qu'il y a
25:30énormément de côtés positifs.
25:31Ce qu'il faut
25:32c'est utiliser ces outils
25:34pour de l'offensive.
25:35En tout cas ce qui est sûr
25:36c'est que le défensif pur
25:38ça a été comme le nucléaire
25:40avec Einstein
25:42pacifiste convaincu
25:42c'est quand même lui
25:43qui a poussé
25:44au développement
25:44du projet Manat.
25:45C'est là où il faudra
25:46peut-être plus de coordination
25:48face à ces défis
25:49VS
25:51conférer ce qu'a dit
25:52Bitgate
25:52il y a quelques jours
25:54quelques semaines
25:54où il a sorti ce courrier
25:56en disant
25:56il faut qu'on s'organise
25:57davantage.
25:59Oui et le premier truc
26:00c'est la transparence
26:01pour de vrai
26:01parce que tu disais
26:02on dit la transparence
26:03mais on ne l'a pas
26:03donc ça c'est l'open source
26:04il n'y a pas d'autre chemin
26:05autour
26:05il faut que ce soit publié
26:06il faut que tous les chercheurs
26:07puissent regarder
26:08et je ne sais pas
26:09si c'est une opinion populaire
26:10mais il faut aussi
26:11que ce soit multipolaire
26:12il ne faut pas que tout
26:13vienne des Etats-Unis
26:14ou de la Chine
26:15c'est-à-dire qu'il faut
26:16qu'il y ait d'autres
26:18puissances
26:18qui viennent contrebalancer.
26:19C'est ce que je disais
26:20lorsque certains ont dit
26:21il faut qu'en tropique
26:22mettre des seuils de sécurité
26:23tu as des gens
26:23comme Yann Lequin
26:25qui a dit
26:26non c'était pas anthropique
26:27c'est OpenAI
26:27et tu as des gens
26:28comme Yann Lequin
26:29comme Dario Amodi
26:29qui ont dit
26:30attendez
26:31si c'est 2-3
26:32qui décident
26:32les seuils de sécurité
26:33il y en a plein
26:34qui ne vont pas y arriver.
26:36Si c'est une institution
26:38américaine
26:38ou d'un seul côté
26:39ou chinoise
26:40qui contrôle
26:40ils vont contrôler
26:41dans le sens
26:42de leur industrie.
26:43Donc je pense que c'est important
26:44qu'il y ait des contre-pouvoirs
26:45sur le contrôle.
26:46Stan
26:47tu voulais conclure ?
26:48C'est là où en Europe
26:50on est nulle part aussi
26:51pour le moment
26:51il faut le rappeler
26:52et c'est vrai que
26:53pour le moment
26:54c'est soit très chinois
26:56et là les chinois
26:56sont très forts
26:57parce que
26:58sur les modèles open source
27:00ils sont à la pointe
27:01ils ont vraiment
27:01tout compris
27:02et ils sont de plus en plus
27:04adoptés aussi en entreprise
27:05parce que
27:07il y a moins de risques
27:08en fait avec eux
27:08et donc du coup
27:09c'est leur idéologie
27:10qui est poussée
27:10c'est assez pernicieux
27:12ce que je veux dire aussi
27:13ce qui est pernicieux
27:14en fait avec tout ça
27:16c'est que
27:16ça ne va pas être immédiat
27:18c'est-à-dire que
27:19quand on parle de liens
27:19en disant
27:20ça va créer de nouveaux paradigmes
27:21ça va remplacer des jobs
27:23créer de nouveaux jobs
27:23c'est le pensionneur d'Alila
27:25c'est que
27:25ce n'est pas immédiat
27:27ça ne prend pas
27:29on s'attend à ce que notre job
27:30soit immédiatement remplacé
27:31sauf que ça a déjà commencé
27:32il y a déjà des jobs
27:33qui ont été remplacés
27:34il y a déjà des nouveaux jobs
27:35qui ont été créés
27:36au moins des tâches
27:36ça va prendre
27:38peut-être 5 à 20 ans
27:40mais c'est là
27:41et on ne peut pas l'arrêter
27:42et effectivement
27:44il faut s'organiser
27:44là je suis vraiment d'accord
27:45il faut s'organiser
27:46et on n'est nulle part
27:46et on n'est pas
Commentaires