- il y a 7 semaines
Ce mardi 8 septembre, Stéphane Roder, président d’AI Builders ; Emmanuel Vignon, vice-président engineering head of AI chez Generix ; et Didier Girard, CTO et directeur général de SFEIR, se sont penchés sur les rachats, les ruptures et les nouveaux rapports de force dans le monde de l’IA, dans l'émission Tech&Co Business présentée par Frédéric Simottel. Tech&Co Business est à voir ou écouter le mardi sur BFM Business.
Catégorie
📺
TVTranscription
00:06BFM Business présente Tech & Co Business, le magazine de l'accélération digitale, Frédéric Simotel.
00:13Bienvenue dans ce débrief de l'IA, le premier de la rentrée, il s'est passé beaucoup de choses cet
00:19été,
00:19les rachats, les ruptures, des nouveaux rapports de force entre les acteurs, il se passe des choses tous
00:24les jours d'ailleurs sur ce sujet là, et on va en parler avec nos débriefeurs, vous en connaissez certains,
00:28Stéphane Rodeur, bonjour Stéphane. Bonjour. Il a encore un large sourire puisqu'il était président d'AI Builders,
00:33et AI Builders qui va rejoindre toutes les galaxies Wavestone puisque tu vas devenir rachat et donc tu
00:40deviens partenaire AI de chez Wavestone, mais avec AI Builders qui va être une des structures sur la
00:45stratégie AI des entreprises. Avec nous également Emmanuel Vignon, bonjour. Bonjour Frédéric.
00:51Emmanuel, donc Head of AI et VP Engineering chez Generis Group. Et puis Didier Girard, Didier bonjour.
00:56Bonjour. Merci de nous rejoindre, Didier, que vous avez peut-être aperçu, il était venu dans une émission
01:00parler de développement, justement de l'avenir des développeurs, directeur général chez Sphere.
01:05Sphere, alors pour ceux qui nous écoutent en radio, ça s'écrit S-F-E-I-R, c'est bien
01:10ça ?
01:10Exactement. Et c'est 800 collaborateurs, 850 ingénieurs, donc ESN dans le développement et donc évidemment au fait de tout
01:18ce qui se passe sur l'IA.
01:19Voilà. Alors cet été, justement, à peut-être se lancer sur ce premier sujet qui est quand même, je parlais
01:26des rachats,
01:28NVIDIA qui rachète GingFace, Cursor qui a été racheté par SpaceX, enfin par X, je ne sais plus comment, oui
01:35c'est SpaceX qui a racheté,
01:36enfin voilà, ça rentre dans le giron Elon Musk et puis OpenRouter aussi qui a été racheté par Stripe.
01:43Déjà, première chose, Stéphane, qu'est-ce qu'on peut dire si on regarde juste GingFace par NVIDIA ?
01:48Alors moi je pense que c'est une chose très importante parce qu'on a eu cette période où en
01:54fait les grandes entreprises ont utilisé des modèles.
01:58Là on voit NVIDIA faire son rachat pour certainement faire des bundles, cartes plus modèles,
02:06et elle visait un segment de marché qui a plus de mal à faire ses choix de modèles, c'est
02:11le middle market qui lui a besoin en fait d'être tout de suite bien connecté,
02:17d'avoir un truc mieux packagé et donc on rentre dans la productisation en fait dans la partie produit, tu
02:24vois,
02:24où on va pouvoir avoir non seulement du on-premise mais avoir tout de suite accès à des modèles et
02:32donc c'est bien plus facile pour des entreprises qui n'ont que de l'IT,
02:35On le rappelle, GingFace c'est environ 2 millions et demi, 3 millions de modèles, voilà tout le monde dépose
02:41un peu ses modèles et puis voilà les entreprises viennent entre guillemets se servir sur ce dont elles ont besoin.
02:46Voilà, exactement, mais Microsoft avait fait la même démarche à l'époque.
02:52Avec GitHub ?
02:53Avec GitHub, donc on dit que c'est le GitHub des modèles, là moi je le vois vraiment dans une
02:58vision très marché, aller servir un nouveau segment qui est le segment des outils, des PME,
03:04qui n'ont pas la possibilité de faire tout ce travail en fait de choix.
03:07Et qui derrière peuvent venir se servir en proposant Nvidia.
03:11Oui Emmanuel, je pense que c'est presque plus profond que ça parce qu'on a assisté à une commoditisation
03:16des modèles,
03:17c'est-à-dire que les modèles se valent de plus en plus, on arrive à passer de l'un
03:20à l'autre, à partir du moment où on a le bon harnessing,
03:23c'est-à-dire le harnessing c'est toute la couche que tu vas mettre au-dessus de ton modèle
03:27pour pouvoir contrôler son fonctionnement.
03:29Du coup, et puis le deuxième aspect c'est qu'on a vu aussi l'arrivée des modèles chinois,
03:34qui sont beaucoup moins chers quand ils sont en SaaS et qui sont pour la plupart open source.
03:39Et donc moi je pense que la vision de Nvidia c'est de se dire que demain chacun aura sa
03:44carte GPU pour faire tourner ses IA en local.
03:47D'ailleurs on le voit avec le partenariat qu'ils ont fait avec Perplexity sur ce qu'ils appellent le
03:52portail.
03:52Avec un investissement, enfin toujours ces investissements un peu circulaires.
03:54J'avais Steam et en même temps vous allez me servir dans mes composants.
03:58C'est plus que ça, pour moi c'est une vision, le portable computer c'est vraiment le fait de
04:01dire
04:01je construis une architecture un peu comme Bill Gates avait créé le personal computer il y a 40 ans,
04:07ou 50 ans, et donc le portable computer c'est de dire je fais tourner des modèles en local
04:12et je les fais tourner sur des infrastructures Nvidia.
04:15Et du coup je paie un peu moins de tokens.
04:17Du coup je paie zéro token.
04:19Mais donc du coup il faut créer un nouveau marché, et ce nouveau marché c'est le marché du routing.
04:22Et donc quand je suis Nvidia, quand je vois que Nvidia rachète Ging Face,
04:27ou quand je vois que Stripe rachète Open Router,
04:30je me dis qu'il y a une remontée dans la chaîne,
04:33et que ces acteurs là sont en train de se dire ok le business du token est mort,
04:37mort dans quelques mois tout ça,
04:38et du coup il y a un nouveau marché qui s'ouvre qui est le marché du routing,
04:42et le marché du harnessing autour du contrôle de ces modèles là.
04:46Didier ?
04:47Alors déjà je ne dirais pas forcément que le business du token est mort,
04:49mais en tout cas il y a une partie du business qui est...
04:52C'est en train de se transformer.
04:53C'est vrai qu'on se pose beaucoup de questions,
04:55j'interroge juste un instant,
04:56parce que c'est vrai que beaucoup d'entreprises d'un coup,
04:57quand elles commencent à utiliser les tokens,
04:59la facture peut être un peu élevée,
05:00donc tout le monde s'interroge beaucoup plus qu'à une époque.
05:02Voilà, on se pose des questions.
05:04Là où je rejoins Emmanuel, c'est le fait de dire
05:06oui, je pense qu'il y aura de plus en plus de DAIs
05:08qui vont tourner sur des machines en fait qu'on aura à disposition.
05:12Et on voit d'ailleurs, c'est que quand on manipule une AI type Cloud Code,
05:18Cloud ou ChatGPT,
05:20on préfère utiliser la version desktop que la version web.
05:23Je ne sais pas ce que vous faites,
05:24si vous êtes plutôt dans le navigateur ou plutôt dans la version native.
05:27Et en fait, il y a un petit peu...
05:29L'IT c'est toujours un espèce de balancier.
05:32Et là je pense qu'on est en train de revenir un peu dans des applications natives.
05:36Et quand on manipule des agents,
05:38qu'on laisse tourner la nuit avec des Open Cloud ou des Hermès,
05:42en fait, on a envie qu'il soit local.
05:44Oui, on n'a pas envie d'arriver le matin
05:46et de voir que la facture, c'est considérablement à l'ondi.
05:49On a plutôt envie d'avoir des modèles locaux qui tournent.
05:52Et bien évidemment, on veut contrôler la facture.
05:56Ces agents qui vont tourner sur ces machines,
05:58ça peut générer énormément de consommation.
06:01Pourtant, ils ne font pas forcément des opérations qui sont très compliquées.
06:04Souvent, ils vont collecter de l'information à droite, à gauche.
06:07Et puis la synthétiser, c'est typiquement ce qu'on sait faire
06:10avec les modèles à poids ouvert.
06:12Qu'on peut avoir sur une machine.
06:13Et donc, je pense qu'il y a ce sujet qui est en train d'arriver.
06:16Pour les agents, on va les faire tourner de manière locale
06:19sur des machines de type desktop.
06:22Et donc, dans ce cadre-là,
06:23Nvidia, il faut se rappeler que c'est quand même une boîte
06:25qui est née avec le B2C,
06:26avec les fameuses cartes G2.
06:28Oui, c'est vrai.
06:29C'est leur gêne, en fait.
06:31C'est vraiment leur gêne.
06:32Et le fait de se dire, notre futur,
06:34ce n'est pas tellement les data centers
06:36et fournir de la puissance de calcul dans les data centers,
06:38c'est peut-être de revenir sur notre marché initial
06:40qui était de fournir de la puissance de calcul pour les particuliers.
06:43Donc là, on voit tout l'intérêt.
06:44Et le fait de dire, on a accès librement à ces modèles,
06:49qui sont des modèles puissants,
06:51je pense qu'en tout cas, c'est dans leur intérêt.
06:53Et le fait de garantir un futur à Huginface
06:55et de récupérer ce fameux GitHub des modèles,
06:59je pense que c'est vraiment dans leur stratégie.
07:01Je voulais revenir sur ce qu'est dit Emmanuel.
07:04Effectivement, on a une communauté d'utilisation des modèles.
07:07Il faut bien voir que c'est des modèles génériques.
07:10Par contre, là où le coût du token devrait rester,
07:15c'est sur les modèles spécialisés.
07:18On voit qu'aujourd'hui, on a des trop gros modèles.
07:21On n'a pas les modèles adaptés à la tâche,
07:24on n'a pas les modèles adaptés à ce qu'on veut faire.
07:27Ils font tout, n'importe quoi,
07:29ils coûtent cher, c'est normal.
07:31Par contre, moi, je pense,
07:33c'est un peu le virage qui est en train de prendre Mistral
07:35en disant, ok, les grands modèles frontières, c'est fini.
07:40Allez, j'ai l'AN 5.2.
07:42Mais ils se spécialisent.
07:45Et je pense que là,
07:47c'est encore une fois une segmentation des visages.
07:49C'est un marché de niche, Stéphane, c'est un marché de niche.
07:51Non, ce n'est pas un marché de niche.
07:52Parce que tes agents, dans la décomposition,
07:55aujourd'hui, ils font une décomposition
07:56en fonction des outils qu'ils ont.
08:00Oui, mais tu te contentes d'un modèle générique
08:02de plus petite taille.
08:03Si tu prends la galaxie anthropique,
08:05effectivement, tu as Haiku, Sonnet, Opus, Fable.
08:08Effectivement, tu ne confies pas à l'un de ces quatre modèles
08:11les mêmes tâches.
08:12Ok, mais ça ne reste pas un modèle.
08:13Parce que quand tu dis modèle spécifique,
08:15je pense que tu penses à fine-tuning.
08:16Non, justement.
08:19Là, par exemple, j'ai un problème avec Notion.
08:22Tu vois, qui me dit,
08:23ah, tu n'as plus assez de tokens, mon gars, et tout.
08:26Je me dis, comment est-ce que je pourrais l'en faire ?
08:28Donc, en fait, il me faut un modèle
08:31juste speech-to-texte
08:32et un autre modèle qui fait de la synthèse,
08:34qui fasse du coding.
08:36Oui, mais donc, on revient sur ce que je disais.
08:38C'est-à-dire qu'on crée un nouveau marché
08:41qui est le marché du routage.
08:42Et pour que ça fonctionne,
08:44il faut que le harness puisse parler au routage.
08:46Et aujourd'hui, ça ne se passe pas
08:47parce que le harness, il est dessous le routage.
08:48Le routage, il est à la main de la consommation publique, par exemple.
08:50Ce que je veux dire, c'est que ce qui aura de la valeur,
08:52là où tu vas payer,
08:54c'est pour des modèles verticaux.
08:57Donc, un peu ce que fait Mistral en...
08:58Didier.
09:00Oui, c'est ça.
09:00Le fait qu'il y ait un marché à deux vitesses,
09:03quelque chose qui n'est pas cher, voire gratuit,
09:05avec les poids ouverts,
09:06et puis un marché spécialisé,
09:07je pense quand même que les modèles frontières
09:10vont rester.
09:10Bien sûr.
09:11Ils vont rester.
09:12On en a de moins en moins besoin.
09:13Tu es d'accord avec ça ?
09:14Est-ce que tu utilises Fable ?
09:16Pour le business ?
09:17Oui, oui.
09:18Enfin, j'utilise Fable.
09:19Alors, pour des fois des activités de rédaction
09:21ou des recherches au long cours,
09:24quand je dois faire des...
09:26Quand j'ai des tâches qui durent
09:28plusieurs dizaines de minutes,
09:30qui manipulent des gros volumes d'informations,
09:32j'utilise Fable.
09:33Et c'est vraiment beaucoup mieux qu'Opus ?
09:35En tout cas, c'est...
09:38C'est toujours difficile de comparer,
09:40et en tout cas,
09:42le dernier modèle 5.1
09:44dans sa qualité de rédaction
09:45est supérieur à Opus.
09:47On a fait le choix d'interdire
09:48Fable 5 et 5.1
09:49chez Générix.
09:50En tout cas,
09:51le limiter à des usages...
09:52Pourquoi ?
09:52Parce qu'à cause des histoires
09:54de 10 euros à rentrer,
09:5550 dollars à la sortie,
09:57c'est beaucoup d'argent.
09:58Pour produire du code,
09:59c'est un peu cher pour produire du code.
10:00Voilà, c'est ça.
10:01Mais j'aimais bien ce que tu disais justement,
10:03Dié, tout à l'heure,
10:03que souvent,
10:04on s'est un peu lancé à corps perdu,
10:05en disant c'est super,
10:06ça va un peu.
10:07Un peu comme à titre individuel,
10:08aujourd'hui,
10:09on ne fait plus de recherches sur Google,
10:10on pose la question à chaque GPT,
10:12alors que Google nous donnait une réponse
10:14tout aussi satisfaisante.
10:15Il y a le modélia qui est arrivé.
10:16C'est beaucoup plus...
10:16Voilà, donc c'est dans quelque part...
10:18Toi, typiquement,
10:19tu dois analyser une base de code
10:20sur des sujets de sécurité.
10:22Oui.
10:23Peut-être qu'Anopus le fait bien.
10:24Oui.
10:25Mais j'ai quand même plutôt envie
10:26de le confier à un fable,
10:27quelque part, le résultat.
10:28Alors, tu as raison,
10:28tu disais,
10:28mais ce n'est pas le quotidien
10:30de mon travail.
10:32Justement, je voudrais revenir,
10:33on verra si on reparle après
10:35des Stripe, Open Router,
10:36SpaceX, AI avec Cursor, tout ça.
10:38Mais justement,
10:39revenir sur tout à l'heure,
10:40tu as un peu provoqué en disant
10:42la fin des tokens,
10:44la fin de l'IA au token.
10:45Est-ce qu'on y arrive ?
10:46Parce qu'on a vu que DeepSync,
10:48alors c'était en août,
10:49DeepSync a fait l'inverse
10:50de ce que tout le monde attendait.
10:51Il a augmenté ses prix
10:51en introduisant un tarif plein air,
10:53heure creuse comme l'électricité.
10:55Bon, c'est le signe souvent
10:57que l'IA, le prix est en train de baisser.
10:59Comment il faut interpréter ça ?
11:01En vrai, oui, c'est un peu provocateur,
11:03je suis d'accord.
11:03Le token, pour l'instant,
11:05il n'y a pas tellement de solutions
11:06qui nous permettent de nous passer
11:08d'un business model au token.
11:09Et d'ailleurs,
11:10il y a une histoire intéressante
11:11avec la plateforme Clay,
11:13qui est une plateforme
11:13de prospection commerciale aux Etats-Unis,
11:15qui, depuis la création,
11:18facture au crédit.
11:19Et en fait,
11:20depuis la création,
11:21en gros, ce qu'ils font,
11:21c'est qu'ils achètent des données
11:23à l'extérieur,
11:24et puis ils les mettent en forme,
11:25et ensuite,
11:25ils les revendent à des clients.
11:29Et puis,
11:30en 2022,
11:31ils ont rajouté
11:31une couche d'intelligence
11:33par rapport à ça,
11:34en gardant le même business model,
11:35en se disant,
11:35je price à la valeur
11:36depuis le début de mon histoire,
11:38donc je vais continuer
11:39à pricer à la valeur.
11:40En fait,
11:40ça n'a pas du tout marché,
11:41parce qu'on sait très bien
11:42que suivant le client A ou B,
11:44il y en a qui vont faire
11:44un faible usage des tokens,
11:46d'autres un fort usage des tokens.
11:47Et donc,
11:48si j'ai juste un pricing sur
11:51est-ce que tu as consommé,
11:52enfin,
11:52est-ce que tu as activé
11:53l'option intelligence
11:54ou est-ce que tu ne l'as pas activé,
11:55tu te retrouves avec
11:57une décorrelation totale
11:58entre ce que ça te coûte
11:59et ce que ça te rapporte.
12:00Et donc,
12:00leur solution,
12:01jusqu'à présent,
12:02c'est d'avoir de nouveau
12:03séparé le pricing.
12:04Donc,
12:05ils ont le pricing historique
12:07conventionnel
12:07sur les datas
12:08qui lui est passé sur la valeur,
12:09parce que ça,
12:10ils maîtrisent leur business,
12:11et après,
12:11ils ont un pricing
12:12sur l'intelligence
12:13qui est au coût du token
12:14plus un tout petit peu de marge.
12:16Et aujourd'hui,
12:17enfin,
12:18Didier,
12:19Stéphane,
12:19dites-moi s'il y a
12:20d'autres modèles qui existent,
12:21mais pour l'instant,
12:22on cherche à pricing sur la valeur,
12:24mais ce n'est pas hyper simple.
12:26Didier ?
12:26Je pense que sur ce sujet,
12:28on va arriver
12:29sur un marché
12:30d'offres et de demandes.
12:31Je pense que finalement,
12:32il y a encore très peu de gens
12:33qui utilisent
12:34l'intelligence artificielle
12:35dans leur quotidien.
12:36Et donc,
12:37du point de vue de l'offre,
12:39on est...
12:39Si tout le monde s'y mettait,
12:41on serait en sous-capacité.
12:42Donc actuellement,
12:43le token,
12:44il a encore de la valeur
12:45parce qu'on n'est pas capable
12:46d'en produire autant
12:47qu'on pourrait en consommer.
12:48D'ailleurs,
12:49je t'interromps,
12:49moi,
12:49beaucoup de DSI
12:50avec qui je discute,
12:51il y en a quelques-uns
12:52qui me disent
12:52attention à la facture,
12:53mais globalement,
12:54ils me disent,
12:54pour l'instant,
12:55par rapport à ce qu'on utilise,
12:56ça va,
12:57on maîtrise.
12:58Surtout qu'un DSI,
13:00un ingénieur,
13:01ça lui coûte peut-être
13:02800 euros par jour.
13:04Avant qu'il dépense 800 euros
13:06en AI,
13:07il se passe quand même
13:07un certain temps.
13:09Et souvent,
13:09un ingénieur
13:10augmenté à l'AI,
13:11il produit plus
13:12qu'un ingénieur.
13:12Donc,
13:13globalement,
13:14c'est vraiment le métier
13:15pour lequel on a vraiment
13:17un très gros retour
13:17sur investissement
13:18et pour lequel,
13:20finalement,
13:20on peut ne pas trop
13:21être regardant.
13:22Je dis bien,
13:23entretenir,
13:23ne pas trop être regardant.
13:24Ce n'est pas si vrai que ça.
13:25Dans la réalité,
13:26quand on passe à l'échelle,
13:27nous,
13:28on a 250 personnes en R&D,
13:29si tu donnes
13:301 000 euros par mois
13:32ou plus,
13:32ou 2 000 euros par mois
13:33sur ces 250 personnes,
13:35c'est un coût nouveau.
13:36En fait,
13:36c'est un coût
13:37qui n'existait pas avant.
13:37Donc,
13:38quand tu es DSI,
13:39il faut voir le calcul
13:41de gains en productivité.
13:42C'est toujours pareil.
13:42Comment tu mesures
13:43la productivité d'un développeur ?
13:44Est-ce que c'est le nombre
13:45de lignes de code ?
13:46Est-ce que c'est le taux d'utilité
13:47derrière ?
13:47Ça nécessite des ingénéries
13:48de télémétrie
13:49qui sont compliquées
13:50à mettre en place.
13:51le principe de base,
13:52c'est de dire,
13:52en gros,
13:53on ne va pas utiliser
13:54l'intelligence artificielle
13:55pour faire des gains
13:56de productivité de 10 %.
13:58La raison,
13:59c'est que si on va chercher 10 %,
14:01un ingénieur,
14:02admettons qu'au lieu de finir
14:04à 18h et finir à 17h30,
14:06il n'y a aucune chance,
14:07moi le premier,
14:08que je redémarre
14:08une nouvelle tâche.
14:09Donc,
14:10gagner 10 % en productivité,
14:12franchement,
14:13au niveau de l'entreprise,
14:14on ne le voit pas.
14:15Et donc,
14:15ce que je dis,
14:16c'est qu'on doit utiliser
14:17l'intelligence artificielle
14:18à partir du moment
14:19où on est capable de dire
14:20sur cette tâche-là,
14:21je vais faire un fois deux.
14:22Et ça,
14:22un ingénieur,
14:23il est capable de le sentir.
14:24Sans dire,
14:25ou avec A,
14:25lui,
14:25il est capable de sentir
14:26s'il est capable
14:27d'aller deux fois plus vite.
14:28Stéphane ?
14:30Moi,
14:30je pense qu'on n'a pas encore
14:33attaqué vraiment,
14:34Didier,
14:34tu parlais tout à l'heure
14:35de Hermès,
14:36d'OpenClaw,
14:37on le voit un peu arriver
14:39avec Claude Cowork,
14:41mais on n'a pas encore
14:41vraiment attaqué
14:42dans l'entreprise
14:43l'utilisation des agents
14:45sur les tâches complètes
14:46et longues.
14:47À Fable 5,
14:48si tu n'as pas Fable 5,
14:50tu ne peux pas faire
14:50un truc qui dure une nuit.
14:52Et quand ça,
14:54ça va se généraliser,
14:56parce que finalement,
14:57on a des petits usages,
14:58dis-moi si c'est bien
14:59raconte-moi une synthèse,
15:01mais faire travailler
15:02des agents,
15:04te ramener,
15:04par exemple,
15:05faire du screening
15:06pour toi
15:06ou des choses comme ça,
15:07c'est un des trucs lourds.
15:09Là,
15:10il va falloir bien regarder
15:11le coût du token
15:12et ça ne va pas être la même.
15:14Donc,
15:14on en est au tout début
15:17de l'usage,
15:18mais l'usage,
15:19attention,
15:20derrière,
15:20il est massif.
15:23Dans deux dimensions.
15:24Dans l'usage,
15:26donc des trucs compliqués,
15:27et dans le nombre
15:27de personnes,
15:28on a aujourd'hui
15:29très peu de personnes
15:30dans l'entreprise
15:32qui se servent vraiment
15:33de l'IA
15:33de cette manière,
15:34on est au début
15:36de ce qu'on appelle
15:37la phase de généralisation,
15:38elle va venir
15:40au cours de l'année
15:4227-28,
15:44mais derrière,
15:46l'idée disait,
15:47on n'a pas les ressources pour un.
15:50C'est quand même
15:51des grands débats.
15:53Un autre aspect,
15:54pardonne-moi,
15:54on parle beaucoup
15:56du coût du token,
15:57mais en fait,
15:57c'est compliqué derrière.
15:58Il y a des tokens d'entrée,
15:59il y a des tokens de sortie,
16:00il y a des tokens de raisonnement,
16:01il y a le cache.
16:03Le cache,
16:03c'est des contenus
16:05qui ont déjà été lus
16:08par le système,
16:08par le moteur
16:09d'intelligence artificielle
16:10dans la conversation,
16:12dans la session,
16:12et qui ne sont pas relus
16:13à chaque fois.
16:14Et ça,
16:15il y a des gains
16:15qui sont incroyables.
16:16Regardez l'expérience
16:17de Project Discovery,
16:18une entité,
16:19Project Discovery,
16:20c'est une entité
16:20qui fait des modèles d'IA
16:22pour la sécurité informatique.
16:24Ils ont fait un article
16:25de blog que j'ai lu,
16:25mais qui est vraiment
16:27délicieux à lire,
16:28dans lequel il t'explique
16:29qu'il diminue
16:29de 70%,
16:3180%
16:32le coût des tokens de cash.
16:34D'accord ?
16:35Ça,
16:35c'est un travail
16:36qui est assez nouveau.
16:37D'ailleurs,
16:38je suis certain
16:38que chez Sphere
16:39ou chez iBuilders,
16:40vous avez des gens,
16:40des experts
16:41qui sont là
16:41en train de dire
16:42montrez-moi vos processus
16:43et je vais à ISO,
16:45à ISO valeur,
16:46réduire la consommation
16:47de tokens.
16:47Ça,
16:47c'est des choses
16:48qui sont assez récentes
16:49et assez nouvelles.
16:50Il n'y a pas forcément
16:51un guide que tu achètes
16:52à la FNAC
16:53ou un livre au Reggie
16:54ou je ne sais pas quoi
16:54que tu achètes
16:54sur Amazon à la FNAC
16:55qui t'explique
16:56comment optimiser
16:57ta facture de tokens.
16:58Mais Didier,
16:59puis Stéphane ?
16:59Dans ce marché-là,
17:00il y a un acteur français
17:02qui démarre,
17:03c'est une société
17:04qui s'appelle Edgy
17:05qui a été lancée
17:05par l'ancien CTO
17:06de Le Mans
17:07qui s'appelle Sacha Morard
17:09et qui lance
17:10une entreprise
17:11dont justement
17:11l'objectif,
17:12c'est d'optimiser
17:14le nombre de tokens
17:14en créant de la compression
17:16et de la mémorisation
17:17du cash
17:18de manière à ce que
17:19quand on consomme
17:20un modèle frontière,
17:21finalement,
17:21on réduit sa facteur.
17:22On se retrouve
17:24dans l'histoire
17:24de l'informatique,
17:25ça a toujours été ça.
17:27On tapait sur assez large
17:28puis puis un peu
17:28on a essayé
17:29de compresser.
17:31Finalement,
17:31toute notre discussion
17:32est autour d'une seule chose.
17:34Finalement,
17:35c'est le contrôle,
17:37la supervision
17:38et la gouvernance.
17:39Et dans le contrôle,
17:40on a ce qu'on appelle
17:41le AI Phenops,
17:43cette capacité
17:44à comprendre
17:46en fait
17:46quel va être
17:47le coût du modèle
17:48et le contrôler
17:49en fait dans sa consommation
17:51et faire du routage
17:53parce que c'est là
17:54qu'on va faire,
17:55qu'on va prendre
17:55les bonnes décisions
17:57en se disant
17:57non mais celui-là
17:58il est trop cher
17:58pour ce que je veux faire
17:59et aller se rapprocher
18:02du héroïque
18:03qu'on a fixé.
18:04Et donc tout ça,
18:05c'est le harnais.
18:06C'est le harnais.
18:07Et donc on arrive
18:08en ce moment
18:09en fait à sentir
18:11vraiment le besoin
18:12du harnais,
18:13il se structure.
18:15De savoir vers où
18:16être routé
18:18sa demande.
18:19Router
18:20et avoir
18:21toute la partie
18:22de contrôle
18:22dedans.
18:23Dans lequel il y a
18:24contrôle des coûts,
18:26routage,
18:27il y a la cyber,
18:29il y a tout
18:30qui va se mettre
18:31dans ce harnais
18:32qui va contrôler
18:33l'environnement.
18:34Didier ?
18:35Je suis vraiment
18:35d'accord avec toi
18:36et pour illustrer ça
18:36typiquement,
18:37je dois créer
18:38un algo.
18:39Je vais plutôt
18:40prendre un modèle
18:42complexe,
18:42voire frontière,
18:43je dois lancer
18:44des tests unitaires
18:45et vérifier
18:46qu'il passe ou pas,
18:46je prends le plus petit
18:47des modèles.
18:48Donc tu as raison,
18:49c'est le harnais
18:50qui doit être capable
18:50de dire en fonction
18:51de la tâche
18:52que je vais réaliser,
18:53quel modèle je déclenche.
18:55Ouais,
18:57même si avec un bon harnais,
18:59tu n'es pas,
18:59et ça c'est ce qu'on regarde,
19:00on l'observe
19:01chez Générique,
19:02c'est absolument magnifique,
19:03avec un bon harnais
19:05dans lequel tu contrôles
19:06la manière
19:06dont le système fonctionne,
19:07tu n'es pas obligé
19:08d'utiliser un modèle frontière.
19:10À supposer que,
19:11pour plus,
19:12c'est Didier.
19:13Je voulais revenir
19:14sur deux sujets
19:15que j'aimerais même
19:15qu'on aborde
19:16à la fin de ce débrief.
19:18Je ne sais plus
19:19qui avait mis le sujet
19:20sur la sécurité agentique.
19:23J'ai abordé ce sujet
19:24parce qu'en gros,
19:25ce qu'on a vu cet été
19:26avec OpenAI,
19:28il y a eu tout un buzz
19:28et le Gingface.
19:29Est-ce qu'on est en pré-IPO,
19:32donc il faut aussi
19:32se méfier
19:32et tout ce qui se passe
19:33en termes de...
19:33Clément Delangue,
19:34l'un des cofondateurs
19:35de Gingface,
19:36il a dit que l'histoire
19:37du piratage,
19:38ça avait été
19:38l'un des petits déclics
19:39de mettre Gingface
19:40en vente
19:41pour se dire
19:41qu'il faut qu'on se protège.
19:42Enfin, voilà.
19:43En tout cas,
19:43dans l'indice,
19:44qu'est-ce qui s'est passé ?
19:44En gros,
19:45qu'est-ce qui s'est passé ?
19:46Il y avait des agents
19:47assez libres,
19:48entre guillemets,
19:49qui tournaient
19:50chez OpenAI
19:51et à un moment donné,
19:52on leur a demandé
19:52de réaliser une tâche.
19:54Il y avait des choses
19:55qui n'étaient pas
19:55interdites explicitement,
19:57plus ou moins,
19:57et donc ils ont réussi
19:59à sortir de leur cadre
20:01pour aller...
20:01Et qui étaient des tâches
20:02sur la sécurité,
20:03quand même ?
20:03C'était aller chercher
20:04des failles ou c'était
20:04d'autres...
20:05Non, non,
20:05en gros,
20:05on lui demande
20:06de faire quelque chose
20:07et on lui a fixé
20:08de manière molle
20:09des contraintes
20:09qui n'étaient pas des...
20:11En gros,
20:11on ne l'a pas mis
20:12dans un bac à sable dur,
20:13on l'a mis dans
20:14un bac à sable mou
20:15en lui disant
20:16voilà ce que tu as le droit
20:16de faire et de ne pas faire.
20:17Et en gros,
20:18ils ont réussi à sortir
20:19et à échapper
20:22en fait
20:24du bac à sable
20:25dans lequel
20:25ils avaient été mis
20:26pour travailler.
20:27Et donc,
20:27c'est intéressant
20:28parce que...
20:28Donc là,
20:29on est en gros
20:30une entreprise
20:30dont les agents
20:32ont entre guillemets
20:34attaqué
20:34une autre entreprise.
20:35Oui, c'est ça.
20:35Un peu ça.
20:37Mais on peut imaginer
20:38que la même chose
20:39puisse se passer
20:39en interne.
20:40C'est-à-dire que moi,
20:41ce que je retire
20:42de cette expérience
20:45dont on a eu
20:46des résultats
20:46assez récemment là,
20:48c'est que finalement,
20:49on pourrait très bien
20:50voir au sein
20:50d'une entreprise
20:51des agents
20:51qui sont plus ou moins
20:53dans des bacs à sable solides,
20:55on leur demande
20:55de faire des choses
20:56et finalement,
20:58leur job étant fixé,
20:59ils vont chercher
21:00tous les moyens
21:01pour le réaliser.
21:02Et peut-être que
21:02dans ces moyens,
21:03il y aura des choses
21:04qui sont plus ou moins légales.
21:05Donc l'arrivée
21:06de l'agentique
21:06dans l'entreprise
21:07doit maintenant
21:08être prise en compte
21:10à travers cet éclairage
21:11de sécurité
21:13et de cybersécurité
21:14et je pense
21:15qu'on ne pourra pas
21:16s'affranchir
21:18d'un volet
21:19cybersécurité
21:19et AI
21:20quand on va déployer
21:21de l'agentique.
21:21C'est toi qui mets
21:22un exemple
21:25qui reste
21:26gentillé.
21:28Peux-tu me dire
21:28qu'il y a eu
21:29des augmentations
21:29cette année ?
21:30Par exemple,
21:31ça reste...
21:31J'ai mon agent,
21:32il est dans une entreprise
21:35et il a accès
21:36à un certain nombre
21:36de choses,
21:37voire une base de code
21:38potentiellement
21:39et je lui pose la question
21:40et lui,
21:41il va travailler
21:42et puis peut-être
21:42que dans la base de code,
21:43il va trouver
21:44une faille de sécurité
21:44ou dans une API,
21:45etc.,
21:46il va pouvoir rentrer
21:47et puis éventuellement
21:48récupérer de l'information
21:49et de faire un rapport.
21:50C'est juste un exemple
21:51pour dire,
21:52si on laisse
21:53ses agents arriver
21:54et qu'on ne commence pas
21:55à mettre des contraintes,
21:56il y aura un problème
21:57et ça pousse
21:58une deuxième chose,
21:59on a beaucoup parlé
22:00de zéro trust
22:01au sein de l'entreprise,
22:02on doit faire
22:03zéro confiance
22:04aux personnes
22:04qui sont dans l'entreprise.
22:07C'était des personnes
22:08humaines
22:08qui avaient
22:10quelque part,
22:10même si
22:12il y a toujours
22:15des contraintes
22:16qu'on peut avoir
22:16sur des personnes.
22:18Un agent,
22:18il n'y aura pas
22:18de contraintes.
22:20Du coup,
22:20le zéro trust
22:21va devoir se renforcer
22:22et vraiment
22:23blinder.
22:24Je crois
22:25que Guilier
22:26a eu le bon mot,
22:27il faut donner
22:27un cadre.
22:28Rappelez-vous,
22:31pour les automates,
22:33on avait
22:33les lois d'Asimov,
22:34là,
22:35pour le coup,
22:36il faut absolument
22:36qu'on ait la même chose
22:37pour les agents.
22:38Tu peux faire ça,
22:39tu ne peux pas faire ça.
22:41Et c'est tout le but,
22:43moi,
22:43je pense,
22:44des grands
22:45modèles vendeurs
22:46américains
22:47de nous dire
22:47« Ouh là là,
22:48regardez,
22:49si on les laisse faire
22:50n'importe quoi,
22:50ils s'entretuent et tout. »
22:52À mon avis,
22:53tout est bidon.
22:54Ils sont à un moment
22:55où leur revenu
22:58baisse structurellement
22:58parce que
22:59leur business model
23:00du token
23:01tombe.
23:02Ils nous disent
23:03« Bientôt,
23:03vous allez avoir besoin
23:05du harness
23:06qu'on va vous vendre
23:07très cher.
23:08Il va être très compliqué,
23:09il va pouvoir
23:10vous protéger. »
23:12Et en fait,
23:12pour moi,
23:13c'est ça
23:13qu'ils ont préparé
23:14et ça va nous permettre
23:16d'avoir un vrai cadre.
23:18Par contre,
23:19ça demande aux entreprises
23:20de le travailler
23:21en amont.
23:22C'est-à-dire que
23:23ce n'est pas
23:25le harness
23:26qu'on va vous proposer
23:27qui aura le cadre,
23:28c'est l'entreprise
23:29qui va définir son cadre.
23:30Donc on rentre encore
23:31dans un nouveau travail
23:33de structuration
23:34de son environnement.
23:36Alors,
23:36structuration
23:37à plein de niveaux
23:38que l'on connaît.
23:39L'identité,
23:40les droits d'accès,
23:42le routage,
23:43tout ça.
23:43En fait,
23:44tout ça va revenir
23:45et va être nécessaire
23:47pour que ces fameux agents,
23:49qui sont exceptionnellement bons,
23:50pour le coup,
23:51fonctionnent bien
23:52et dans un cadre,
23:54y compris financier,
23:56qui convient à l'entreprise.
23:57Mais c'est une nouvelle étape.
23:59Je pense que tout le cadre,
24:02on l'a.
24:02Ça s'appelle Airback,
24:04Role Based Access Control.
24:05Et tu regardes
24:06une console Azure
24:07ou une console Google,
24:08tu as des centaines de rôles
24:12que tu paramètres
24:13de façon relative,
24:15assez fine,
24:16extrêmement fine,
24:17pour savoir
24:17qui a accès à quoi.
24:18Ça, c'est le développeur
24:19qui permet.
24:19C'est le développeur ?
24:20Non, c'est l'administrateur système
24:21qui dit ça.
24:22C'est un administrateur système
24:23et un développeur.
24:24Sauf que ce qui se passait
24:25jusqu'à présent,
24:26c'est que nous,
24:27personnes humaines,
24:28on a une morale.
24:30C'est-à-dire que si on a accès
24:31à la prod,
24:32en fait, on va dire
24:33tiens, c'est bizarre
24:33que j'ai accès à la prod,
24:34je vais appeler mon chef
24:35et je vais lui dire
24:35c'est bizarre que j'ai accès
24:36à la prod.
24:37Et du coup, le chef va dire
24:38ok, pas trop l'aime,
24:39t'as raison,
24:40je t'enlève la prod.
24:41Alors qu'un agent,
24:42il n'a pas de morale,
24:43c'est pas qu'il n'est pas bien
24:44ou pas bien,
24:44c'est juste qu'il n'a pas
24:46de pensée critique.
24:48D'accord ?
24:48Je reviens,
24:49on parlait du pape tout à l'heure,
24:50relisez Magnifica Humanitas.
24:52On n'a pas de pensée,
24:53un agent n'a pas de pensée critique.
24:54S'il a accès à la prod,
24:55il va dire
24:56comme j'ai accès à la prod,
24:57c'est qu'un être humain
24:57m'a donné accès à la prod,
24:58donc en fait,
24:59je fais ce que j'ai.
25:00J'ai droit.
25:00J'ai droit.
25:02Regardez ce fameux,
25:03sur YouTube,
25:04il y a plein de vidéos
25:04sur Universal Paperclips
25:06où la logique,
25:07c'est de créer des trombones
25:09et on donne à une entité
25:11d'intelligence artificielle
25:12l'intégralité
25:13de ce qu'il peut faire
25:15sur la planète Terre
25:15pour construire des trombones,
25:17ce qui est complètement inutile
25:20d'autres,
25:21mais à la fin de Universal Paperclips,
25:23il n'y a plus de planète Terre.
25:24D'accord ?
25:25Donc, moi,
25:26je pense que
25:26ce n'est pas aussi simple
25:27que ce que tu dis, Stéphane.
25:28C'est-à-dire qu'il faut
25:30probablement doter
25:30l'administrateur système
25:31d'outils.
25:32En fait, comment ça se passe ?
25:33Tu développes une application,
25:35tu cliques sur un bouton
25:36et tu dis
25:36« Ah, ben zut,
25:37je n'ai pas les droits Azure.
25:38Salut Bobby,
25:39est-ce que tu peux m'ouvrir
25:39les droits Azure, s'il te plaît ? »
25:41« Ouais, pas de problème,
25:41mais bon, c'est juste
25:42pour que tu testes. »
25:43« Ouais, pas de problème,
25:43je te les ouvre. »
25:45Et je t'ouvre les droits.
25:46Et c'est comme ça
25:47que ça marche
25:47dans la vraie vie, en fait.
25:49Même si tu arrives
25:49à mettre des contrôles
25:50ou des choses comme ça.
25:51Mais si tu fais ça
25:51avec tes agents…
25:52Le Bobby oublie
25:53qu'il doit refermer la vague.
25:56C'est comme ça
25:56qu'on crée des failles.
25:57Donc, il faut probablement
25:58remettre de la discipline,
26:00remettre du contrôle,
26:01probablement par des outils.
26:02Les entreprises
26:02qui gèrent leur airbag
26:03sur Excel,
26:04ça va être difficile,
26:06tu vois,
26:06parce que Excel,
26:07ça reste un outil
26:07didier.
26:09Et juste,
26:10il va falloir aller vite.
26:12Oui.
26:12Pourquoi ?
26:13Parce que les modèles,
26:14enfin, il y avait
26:15tout le côté,
26:16les modèles des éditeurs
26:19qui étaient capables
26:20de faire de la cyber,
26:21ils n'étaient pas ouverts.
26:23Là,
26:24GLM 5.3,
26:25ils ont commencé
26:26à inclure du cyber
26:28et ils ont libéré les poids.
26:30Et donc, voilà,
26:31c'est en train d'arriver.
26:33Et c'est vrai
26:33que dans les mois
26:34qui arrivent…
26:35Et très vite.
26:35C'est ça le…
26:36Exactement.
26:36Et donc, les entreprises
26:37vont devoir déjà analyser
26:40là où tu as tout à fait raison.
26:41Ce n'est pas parce que
26:41j'ai accès
26:42que j'ai le droit
26:43de l'utiliser.
26:44Ce n'est pas parce
26:44qu'une fenêtre est ouverte
26:45que j'ai le droit
26:46de rentrer dans la maison.
26:47Oui, oui.
26:47C'est exactement ça.
26:49Un agent EA,
26:50il voit une fenêtre ouverte,
26:51il rentre en fait.
26:52Et voilà,
26:53parce que la mission
26:54qu'on lui a donnée
26:55est plus importante
26:56que le contexte.
26:58Donc, il voit la fenêtre ouverte.
26:59Il y a un truc super
27:00qui vient de sortir
27:01en Open Source,
27:02c'est le harness
27:04de DeepSync.
27:06De DeepSync ?
27:06Exactement.
27:06All is Plugin
27:07qui me paraît
27:08une pure merveille.
27:10Il faut seulement
27:11les regarder
27:11parce que tout le monde
27:12va tester
27:14sa structure de harnais
27:15là-dedans.
27:16Et après, bien sûr,
27:17on le retrouvera
27:17dans l'industrie.
27:18Mais regardez bien,
27:20à mon avis,
27:21les roadmaps
27:23de DeepSync Harness.
27:25Ça va vous dire le futur.
27:26Messieurs, merci.
27:27Le temps n'est pas si vite.
27:27J'aurais voulu qu'on parle
27:28à ce sujet.
27:29Non, on aura le cas
27:29d'en parler.
27:30C'est Jack Dorsey,
27:33ex-Twitter,
27:34qui avait lancé Square,
27:36tout ça,
27:36qui a lancé
27:37une suite d'outils
27:38conversationnels
27:39qui viennent directement
27:39concurrencer Slack.
27:40On pourra en reparler
27:41sur ce SAP Pocalips
27:42lors d'un prochain passage.
27:43Merci à tous les trois.
27:45Stéphane Roder,
27:46président des AI Builders
27:47et maintenant
27:47partenaire AI
27:48chez Wavestone
27:49puisque AI Builders
27:50rejoint la galaxie
27:51Wavestone.
27:52Didier Girard,
27:52directeur général
27:53de Sphères
27:54et Emmanuel Vignon,
27:55head of AI,
27:56vice-président engineering
27:57chez Generic Group.
27:58Merci à tous les trois.
27:59On se retrouve
28:00la semaine prochaine
28:00même heure au même endroit.
28:01D'ici là,
28:01excellente semaine
28:02sur VFM Business.