- il y a 20 minutes
Vendredi 11 septembre 2026, retrouvez Rémy Marrone (Journaliste, auteur, conférencier IA et Numérique Responsables) et Étienne Delouvrier (Cofondateur et COO, Avanoo) dans SMART TECH, une émission présentée par Delphine Sabattier.
Catégorie
🗞
NewsTranscription
00:08Bonjour à tous, à la une de Smartech. Aujourd'hui, on va parler de ces coûts de l'intelligence artificielle
00:13qui explosent dans les entreprises.
00:16On va regarder pourquoi et surtout comment réagir.
00:23Les entreprises qui payent à l'usage l'intelligence artificielle, autrement dit qui utilisent des tokens, voient leur budget complètement
00:31exploser.
00:32Au point que le PDG de Google s'est autorisé une petite blague lors de sa conférence des développeurs à
00:39la Google I.O.
00:39Il a dit « j'ai entendu que beaucoup d'entreprises avaient déjà explosé leur budget annuel de tokens alors
00:44que nous ne sommes qu'en mai ».
00:45Voilà, alors comment expliquer cette perte de contrôle finalement sur les coûts de l'IA en entreprise et puis comment
00:52réagir ?
00:53Pour en parler, deux invités. Rémi Marron est avec nous, co-auteur du B.A.B.A. du numérique responsable
00:59et plus récemment de Vert, une IA frugale qui est parue aux éditions Erol.
01:04Il est expert pour les instituts du numérique responsable en France, en Suisse et en Belgique et puis journaliste et
01:09animateur du site iafrugal.org.
01:13Etienne de Louvrier est avec nous également. Bonjour.
01:16Co-fondateur et CEO d'Avanou qui est un éditeur français de cybersécurité spécialisé dans la gouvernance de ce qu
01:22'on appelle le « shadow » IT, « shadow » AI,
01:25c'est-à-dire toutes ces pratiques cachées, en tout cas pas visibles.
01:29Avant cela, vous avez fait vos armes pendant dix ans dans des entreprises tech américaines, Google, HubSpot.
01:35Vous intervenez régulièrement sur les enjeux de sécurité et de gouvernance de l'IA en entreprise, notamment au campus cyber
01:41qu'on connaît bien.
01:42Donc vous allez pouvoir nous expliquer tous les deux ce qu'il se passe, cette explosion généralisée des coûts de
01:49l'utilisation de l'IA dans les entreprises.
01:52Quand je dis généraliser, d'ailleurs c'est ma première question.
01:54Est-ce que selon vous, ça concerne tout le monde ou juste certaines entreprises qui ont oublié de mettre des
02:01limites à leurs employés ?
02:04Je dirais que la difficulté aujourd'hui, c'est qu'il y a plusieurs paramètres, plusieurs facteurs qui font que
02:10toutes les entreprises sont globalement concernées par le sujet.
02:14Le premier facteur que je vois, c'est d'abord l'illusion dans laquelle les entreprises sont, c'est qu
02:19'aujourd'hui le coût de l'IA n'est pas le coût réel.
02:22Les entreprises de l'IA, les grandes entreprises américaines sont aujourd'hui sous perfusion, clairement, elles sont sous perfusion.
02:27Alors le coût de l'IA pas pour les entreprises, à vous de nous parler, pour les fabricants de l
02:30'IA.
02:30Oui, mais du coup, il finit aujourd'hui que les fabricants de l'IA, en fait, vendent de l'IA
02:34à perte.
02:35Et donc, pour l'instant, les entreprises ne payent pas le coût réel de l'IA.
02:39Donc ça, c'est le premier point. Il faut s'attendre à ce que les coûts augmentent.
02:43Deuxième point, c'est qu'on a, je dirais, un phénomène d'addiction douce.
02:46C'est-à-dire que globalement, et ça, je pense qu'Étienne va pouvoir l'expliquer, c'est qu'on
02:49a des collaboratrices et collaborateurs qui sont de plus en plus habitués à l'IA
02:55et qui, du coup, sont dans une situation de dépendance, une sorte de confort, mais d'illusion d'inconfort.
03:01Et qui sont même incités.
03:03Et qui sont même incités également, tout à fait.
03:03On parle de la pratique du maxi, c'est celui qui utilisera le plus de tokens dans l'entreprise.
03:09Complètement. Et puis, je vois un dernier facteur aussi, en tout cas direct, étangé.
03:12Et qui est quand même ce sujet qu'on a commencé avec l'IA générative en particulier, à faire du
03:19prompting assez simple.
03:21Demander pour faire une recherche documentaire, par exemple, ou résoudre des choses assez simples comme écrire un email.
03:27Et là, on est en train de passer dans une nouvelle phase qui est l'agentique, les agents IA,
03:32où, en fait, on va déléguer des processus beaucoup plus complexes.
03:35Et dans ces processus beaucoup plus complexes, en fait, on s'attend évidemment à ce que, globalement,
03:41les tâches qui sont réalisées soient beaucoup plus difficiles à maîtriser et à comprendre
03:46et générer donc beaucoup plus de tokens, comme vous le disiez.
03:51Donc, trois phénomènes qui font que, a priori, oui, les entreprises, aujourd'hui, sont soumises à l'explosion des coûts
03:57de l'IA
03:57parce qu'il y a de l'utilisation qui se crée en masse.
04:00Même analyse, Étienne, c'est-à-dire que c'est généralisé ?
04:03On a un problème global sur la maîtrise des coûts de l'utilisation ?
04:07C'est généralisé. Depuis les TPE jusqu'aux très grands groupes.
04:10Et je rajouterai un élément, c'est que, particulièrement en France, on a besoin d'innover.
04:14On a besoin de sentir qu'on a un pays qui innove, des entreprises qui innovent.
04:17Et donc, ça a été extrêmement encouragé.
04:19En général, ce qu'on a vu dans les entreprises en termes de gouvernance, ça a d'abord été un
04:23peu de hola.
04:23On a un petit peu peur de l'IA, on va mettre le hola, on va bloquer, surtout n'utilisez
04:27pas.
04:27Et puis ensuite, devant l'adoption généralisée et surtout l'adoption à titre personnel,
04:31tout le monde utilise l'IA à titre personnel, les entreprises se sont dit, bon, là, il faut ouvrir les
04:34vannes.
04:35Donc, il y a eu un peu, quasiment, on pourrait dire, un open bar de l'IA en entreprise
04:39où tout le monde s'est mis à l'utiliser, encouragé par la direction,
04:43justement sans directives, sans comité de direction autour de l'IA.
04:45Et ce qui a créé des duplicatas, une explosion des coûts de l'IA.
04:49Et aujourd'hui, on voit les entreprises faire un peu machine arrière.
04:52C'est-à-dire, tiens, effectivement, comme disait le PDG de Google,
04:55les tokens ont été explosés au moment du mois de mai.
04:57On n'en peut plus, on a besoin de réduire les coûts.
04:59Et là, on met un peu de gouvernance sur les coûts.
05:01Mais c'est difficile de faire machine arrière.
05:03Et ce qui fait qu'aujourd'hui, on voit des entreprises, même des TPE,
05:05qui consomment des dizaines de milliers d'euros par mois,
05:07plus qu'un employé, sur de la consommation.
05:10Ça peut surprendre quand même, parce qu'on se dit, la maîtrise des coûts,
05:13c'est quelque chose de connu dans une entreprise.
05:17Enfin, je ne sais pas, il y a des compteurs.
05:18On peut surveiller quand même les tokens qu'on utilise.
05:22Très difficile.
05:24Il y a deux facteurs.
05:26Je parlais des agents IA.
05:28Typiquement, quand on crée des systèmes qui sont destinés à gérer des processus entiers
05:34et qu'on est dans des phases de test and learn,
05:38il y a des phases d'exploration qui ne sont pas forcément maîtrisées complètement par les entreprises.
05:43Ça, c'est un premier point.
05:45Ce qu'on peut voir aussi, c'est qu'il y a des promesses qui sont immenses.
05:49Et ça, aujourd'hui, les entreprises sont soumises à des injonctions
05:53qui fait que si on n'y va pas, on passe à côté.
05:57Et si on passe à côté, on est mort.
05:59Et je crois que c'est aujourd'hui un des facteurs aussi qui fait que
06:03on a tendance à se dire, de toute façon, le ROI va venir et il n'y a pas de
06:06souci.
06:07Or, le retour sur investissement aujourd'hui, il est très difficile à mesurer.
06:10Pour autant, vous dites que ça va continuer d'augmenter.
06:13C'est-à-dire que vous pensez que les entreprises vont laisser comme ça les vannes ouvertes,
06:17que de toute façon, ça ne va pas remettre en question l'utilisation de l'IA ?
06:22Il va y avoir du contrôle.
06:24Ou alors, il faut aussi remettre peut-être sur la table le sujet du modèle économique.
06:31C'est-à-dire ce modèle par token, on peut le mettre au défi
06:36et interpeller nos fournisseurs finalement d'IA pour leur demander une autre forme de paiement.
06:42Il y a des tentatives.
06:43De facturation.
06:44Il y a des facturations à la licence, il y a des facturations au siège.
06:48Mais la problématique, c'est que c'est complètement imprédictible.
06:51Vous rajoutez un employé.
06:52En fait, un employé, il va peut-être consommer énormément.
06:54Vous ne pouvez pas le prédire.
06:56C'est difficile de bloquer.
06:57Un employé, vous le bloquez, qu'est-ce qu'il fait ?
06:58Il va passer une autre IA en note de frais et ce sera invisible.
07:03Donc, quoi qu'il arrive, vous avez des coûts qui vont exploser
07:05et vous avez des requêtes qui sont de plus en plus complexes,
07:07qui font appel à de plus en plus d'historiques.
07:09Plus vous utilisez une IA, plus vous avez de l'historique.
07:11Donc, plus elle fait appel à ce qui s'est passé, plus elle consomme en réflexion.
07:14Et tout le monde n'est pas habitué.
07:15Tout le monde n'a pas, entre guillemets, les techniques pour venir réduire les coûts sur de la requête.
07:19Donc, c'est extrêmement compliqué.
07:20Vous citiez les notes de frais, parce que c'est difficile que des notes de frais.
07:24C'est-à-dire qu'on peut tout à fait dire, désormais, vous avez une enveloppe
07:28et puis, impossible de la dépasser.
07:30Vous avez un forfait.
07:31Et après, qu'est-ce qui se passe ?
07:32On bloque, on arrête un instant T.
07:35On a un agent qui est en train de tourner, qui maintient un service client
07:37et on atteint un certain nombre de tokens.
07:39On bloque.
07:39Non, le service client, ça va être à tourner.
07:41Donc, en fait, on est dans un engrenage qui devient difficile à contrôler.
07:44Il faut évidemment mettre des règles.
07:45Il faut apprendre les bonnes pratiques aux personnes qui utilisent de l'IA.
07:48Parce qu'aujourd'hui, il y a beaucoup de personnes qui pensent simplement connecter des choses,
07:51faire des requêtes, mais sans penser à l'impact économique que ça derrière.
07:54Pour moi, c'est un défi qui est autant technique qu'humain sur l'apprentissage des personnes
07:59à utiliser correctement une IA pour éviter ses coûts et ses surcoûts et cette imprédictibilité.
08:02Vous allez me dire, peut-être Rémi, il faut lire une IA frugale
08:06pour savoir comment contrôler sa consommation.
08:08Je faisais la transition.
08:10Avec plaisir.
08:10Et justement, pour rejoindre Étienne, c'est ce qu'on dit dans le livre,
08:14c'est ce qu'on préconise, c'est de remettre l'humain au centre avant tout.
08:18L'enjeu, en fait, c'est comment on propose un cadre commun d'usage
08:24qui fait qu'on va définir les bonnes pratiques ensemble
08:28plutôt que chacun, en fait, dans ses pratiques individuelles,
08:31fasse un petit peu tout et n'importe quoi
08:33et qu'à la fin, en fait, on cherche à tout passer par le tamis de l'IA,
08:38alors qu'en réalité, il y a plein de choses qui sont inutiles à faire passer par l'IA.
08:41Donc, enjeu, c'est gouvernance, quelle bonne pratique,
08:45comment on vient un petit peu ralentir,
08:48se sortir un peu de ses injonctions et de se dire,
08:50OK, comment on va définir ensemble ce qui doit être fait avec l'IA,
08:55ce qui peut être fait avec l'IA, où sont les opportunités,
08:58comment on peut définir des tâches spécifiques pour les métiers
09:01qui peuvent réellement aider et réellement améliorer, on va dire,
09:06le travail de manière générale,
09:08mais pas être dans ce, quelque part, dans ce rouleau compresseur
09:14et arriver à sortir ce rouleau compresseur
09:16pour pouvoir définir, en fait, les bonnes pratiques
09:19et donc diminuer la dose d'IA, finalement, à un moment donné,
09:23parce que, clairement, on a le sentiment qu'aujourd'hui,
09:25on veut tout faire passer dans l'IA et ce n'est pas du tout la bonne réponse.
09:28Alors, si on part sur cette idée de contrôler en fonction des usages,
09:32finalement, qui semblent pertinents,
09:35on fait attention à ne pas gaspiller, finalement, ces tokens inutilement,
09:39on va se retrouver avec le problème du shadow AI,
09:41c'est-à-dire que, de toute façon, il y aura des usages cachés.
09:46Il y a toujours des usages cachés.
09:48Aujourd'hui, c'est le shadow AI, il y a 10 ans, c'était le shadow IT.
09:51On masque toujours des choses.
09:53Le but, c'est vraiment de comprendre ce qui se passe dans l'entreprise,
09:56de monitorer et de comprendre pourquoi il y a du shadow AI.
09:58Est-ce que c'est parce que...
09:59On va faire de la surveillance ?
10:01Alors, ce n'est pas de la surveillance.
10:03Le terme surveillance est trop fort.
10:04Le but, ce n'est pas de surveiller et punir, comme certains diraient.
10:08Le but, c'est simplement de comprendre.
10:10Tu utilises une IA qui n'est pas autorisée dans l'entreprise.
10:12Pourquoi ?
10:12Est-ce que c'est parce que l'IA en interne ne permet pas de faire certains éléments ?
10:15Est-ce que c'est parce que tu n'as pas accès à cette IA ?
10:17Est-ce que c'est parce que le modèle n'est pas performant ?
10:19Est-ce que c'est parce que dans ta poche, tu as le chat GPT, donc tu préfères utiliser le
10:22chat GPT par rapport à Copilot ?
10:23Il y a plein de raisons, mais si on ne les comprend pas, on ne peut pas le maîtriser.
10:27Et par extension, on ne maîtrisera jamais les coûts.
10:29Surtout qu'on parlait tout à l'heure d'addiction.
10:31Aujourd'hui, la plupart...
10:32Enfin, tout le monde fait des requêtes sur le chat GPT pour des choses qui pourraient être cherchées sur Google.
10:36On rajoute que les entreprises fournisseurs d'IA sont à perte.
10:39Chaque requête leur fait perdre de l'argent, mais elles continuent et continuent précisément pour provoquer cette addiction et cette
10:43dépendance.
10:44Donc, le chat d'IA, quoi qu'il arrive, arrivera.
10:47Maintenant, c'est comment j'arrive à comprendre pourquoi il est là et comment je peux rerouter vers les bonnes
10:51pratiques et guider.
10:53Et peut-être avoir un reporting sur combien vous avez dépensé ce mois-ci en token, en IA, en utilisation.
11:02Mais est-ce que ça peut encore tenir avec l'agentique ?
11:07Oui, je pense que l'enjeu de reporting, c'est évident, ça peut tenir avec l'agentique.
11:15Mais, encore une fois, l'enjeu, c'est comment je mets en place des cas d'usage qui sont maîtrisés.
11:21C'est-à-dire que si je me précipite trop, aujourd'hui, on est dans un risque qu'on ne
11:28maîtrise pas ce qu'on fait.
11:30Et on a des exemples d'entreprises.
11:32Alors, dernièrement, c'était une entreprise américaine qui a fait tourner un agent IA pendant quatre jours.
11:36À la fin, la facture, c'est 4000 dollars que personne n'avait venu me tenir.
11:40Oui, ça, c'est très mal, oui.
11:41Donc, du coup, c'est ça l'enjeu, en fait, c'est comment je ne précipite pas les choses.
11:46Et aujourd'hui, les entreprises sont encore une fois face à des injonctions.
11:49C'est quand même assez fou d'être face à des entreprises qui fournissent un service sans prévenir de la
11:56facture à la fin du mois.
11:59Historiquement, ça ne s'est pas vu que sur l'IA.
12:00Ça s'est vu sur énormément d'acteurs technologiques, énormément d'acteurs qui tournent à la dépense,
12:05avec des dépenses qui, parfois, exposent complètement les quotas qui sont prévus.
12:08Donc, c'est une problématique de ce qu'on appelle du Finops, finalement, de la gestion financière opérationnelle,
12:13et qui est arrivée depuis que la tech existe, et probablement avant.
12:17Mais justement, on a appris à faire avec, on a appris peut-être à négocier, à retravailler les contrats.
12:23Là, on est au tout début, quoi.
12:24On est au tout début d'une nouvelle ère agentique, où il y a des coûts qu'on ne maîtrisait
12:27pas jusqu'ici,
12:28qu'on ne connaissait pas, et qu'il faut apprendre à maîtriser, à voir d'un côté, à maîtriser et
12:31à éduquer.
12:32Et ça, ça renvoie à plusieurs enjeux de formation.
12:37Et ça, c'est un point central, c'est qu'aujourd'hui, on a besoin de former, de manière générale,
12:44les personnes à ces sujets-là,
12:45pour bien comprendre, en fait, effectivement, pourquoi et comment fonctionne l'IA,
12:51parce que, tant qu'on ne comprendra pas, ce sera difficile de maîtriser les usages.
12:55Merci beaucoup, Rémi Marron était avec nous, journaliste, auteur, conférencier, IA et numérique responsable,
13:01Etienne Delouvrier, cofondateur, CEO d'Avanou.
13:03Merci pour vos éclairages.
13:05Merci à tous de nous suivre.
13:07C'était votre dose quotidienne de tech sur la chaîne Bsmart, et on retrouve Smartech dès demain.
Commentaires