- il y a 2 heures
Mercredi 21 octobre 2026, retrouvez Xavier Niffle (Associé, KPMG France) et Antoine Jardin (Cofondateur & CTO, Arlequin AI) dans SMART TECH, une émission présentée par Delphine Sabattier.
Catégorie
🗞
NewsTranscription
00:08Bonjour à tous, à la une de Smartech aujourd'hui, les interviews de l'IA.
00:12On parle avec ceux qui font de l'intelligence artificielle ou en tout cas qui conseillent ceux qui le font.
00:17On va parler d'enjeux d'auditabilité, de confiance avec l'IA notamment dans la finance
00:22et puis aussi on va découvrir une nouvelle approche scientifique de l'intelligence artificielle.
00:31Dans les interviews de l'IA aujourd'hui, j'ai le grand plaisir de recevoir Xavier Nifle.
00:34Bonjour.
00:35Bonjour.
00:35Vous êtes associé KPMG et avec vous, on va discuter de l'intelligence artificielle dans la finance
00:40et des enjeux en particulier d'auditabilité et de confiance.
00:43C'est très très important dans ce secteur, on le sait, vous allez nous en dire plus.
00:47Vous allez mener une étude à ce sujet.
00:49Avec vous sur ce plateau, Antoine Jardin.
00:51Bonjour Antoine.
00:52Bonjour.
00:52Co-fondateur CTO d'Arlequin AI qui a annoncé une levée de fonds de 28 millions d'euros.
00:58Félicitations.
00:58Merci beaucoup.
01:00Alors vous êtes docteur en sciences algorithmiques et statistiques, vous êtes un ancien ingénieur
01:03en recherche au CNRS.
01:06Vous avez notamment contribué à la stratégie nationale pour l'IA de 2018 à la mise en place
01:12du supercalculateur Jean Zay.
01:14Vous êtes donc une référence sur le sujet de la recherche en intelligence artificielle
01:19et vous nous dites avec Arlequin qui est donc une deep tech française qu'il y a moyen
01:25de développer aujourd'hui une autre classe d'intelligence artificielle que celle qu'on
01:28utilise beaucoup en ce moment, à savoir les grands modèles de langage.
01:33Vous travaillez plus particulièrement sur le topological deep learning.
01:37Alors expliquez-nous ce que c'est exactement.
01:39Tout à fait.
01:41Alors on sait que l'IA c'est un domaine très grand.
01:42La plupart des gens ne connaissent que les modèles de langage en réalité.
01:45Mais aujourd'hui on fait de l'IA pour la robotique, on fait de l'IA pour les voitures
01:48autonomes, on fait de l'IA pour les world models ou pour les images.
01:51Nous on fait de l'IA pour étudier la connectivité en profondeur.
01:54Imaginez que dans la plupart des cas, dans la vie professionnelle, on a des puzzles compliqués
01:58à résoudre.
01:59Il y a plein d'informations qui sont éparpillées dans différents endroits, sous différentes
02:02formes, du texte, de l'image, du son, des chiffres.
02:05On fait des modèles qui apprennent la connectivité, les relations en profondeur dans ces données
02:09et ça permet de venir démêler les phénomènes qui sont cachés par ces données et de donner
02:14de la transparence, de voir l'image globale et donc de pouvoir prendre des décisions
02:17beaucoup plus éclairées, beaucoup plus complètes.
02:19Et donc cette nouvelle famille de réseaux de neurones, elle permet d'apprendre ces relations
02:22et de venir compléter ce qu'on peut faire avec les outils déjà existants en ayant un niveau
02:27de certification, un niveau de traçabilité qui est très supérieur aux autres approches.
02:31C'est différent des world models, parce que moi j'avais cru comprendre que justement
02:34les world models permettaient de travailler sur une compréhension du contexte, donc d'avoir
02:40des schémas beaucoup plus complexes, de résoudre des problèmes plus complexes.
02:44C'est différent des world models ?
02:45Alors c'est différent des world models, parce que les world models viennent beaucoup du monde
02:47de la vision, ils travaillent beaucoup sur le fait de voir et donc c'est très utile dans
02:51le domaine de la robotique.
02:52Nous on travaille plutôt sur le fait d'apprendre des relations complexes, profondes, qui ne sont
02:56pas évidentes dans les données.
02:57Et donc ça c'est un travail qui est beaucoup plus sur la gestion de l'abstraction, sur
03:01la gestion des grands volumes et sur les problématiques de retracer des phénomènes.
03:06Par exemple dans le secteur de la finance...
03:07Alors exemple d'application, oui.
03:09Dans le secteur de la finance par exemple, vous pouvez avoir des transactions entre les
03:11acteurs et vous les voyez deux par deux, mais en fait si vous voulez comprendre le système
03:14financier dans son ensemble, il faut être capable de retracer les grands phénomènes.
03:17Et on sait bien que c'est très difficile de les voir à l'œil nu, de les percevoir immédiatement.
03:21Donc on fait des systèmes qui sont dédiés à comprendre les phénomènes en profondeur,
03:25à grande échelle, dans des relations que les humains parviennent à deviner un petit
03:29peu en surface, mais ne parviennent pas vraiment à maîtriser et à utiliser de façon
03:32systématique.
03:33Ça permet...
03:34Alors je vais peut-être vous faire réagir d'ailleurs, parce qu'on parle de finance,
03:37visiblement c'est très approprié au domaine de la finance.
03:40Vous aviez connaissance de ce champ, de cette classe d'IA ?
03:44Alors on s'intéresse évidemment à l'évolution de l'intelligence artificielle.
03:47Là on est en train d'observer ce qui se passe avec l'intelligence générale, qui
03:52arrivera beaucoup plus vite que prévu, parce qu'il y a des scientifiques qui ont travaillé
03:55sur l'application de la loi de Moore, vous connaissez, c'était plutôt dans les années
03:5890 et 2000, appliquée plutôt aux processeurs, mais ils ont réfléchi et ils ont fait des
04:04études sur l'application au sein des modèles de langage.
04:07On s'aperçoit qu'on dépasse largement de cette loi de Moore, tous les 18 mois les
04:11processeurs doublés de capacité, aujourd'hui c'est toutes les 10 semaines les modèles sont
04:14deux fois plus puissants que le modèle précédent.
04:17Mais je découvre aujourd'hui des nouvelles applications de l'intelligence artificielle.
04:21Oui, avec la conviction qu'on ne peut pas faire la même chose que ce que font les
04:24Américains et les Chinois, parce qu'on n'a pas la même puissance de calcul, on n'a
04:26pas les mêmes règles en termes de gestion des données, donc il faut innover et il faut
04:30avoir des approches qui sont plus performantes, plus parcimonieuses, plus efficientes pour
04:34pouvoir avoir une place à la table mondiale depuis l'Europe et être une capacité de
04:39produire quelque chose de nouveau et pas seulement de répliquer un modèle qui en fait
04:43est arrivé de façon un petit peu accidentelle, qui n'a pas été pensé comme une approche
04:48valable au départ et qui est venue du succès populaire.
04:51Et c'est sûr que ce n'est pas frugal l'IA générative, c'est un peu l'opposé absolu.
04:55Alors justement, en quoi ces réseaux de neurones topologiques sont plus frugaux, puisqu'ils
05:02doivent prendre en compte énormément d'informations, de liens, de connexions, ce que j'ai bien compris.
05:06Oui, tout à fait. Alors ils apprennent avec beaucoup plus de rigueur, parce qu'on leur
05:09donne des règles d'apprentissage qui sont beaucoup plus précises que celles des modèles
05:12de langage. En fait, les modèles de langage, ils doivent deviner le prochain mot ou la prochaine
05:16information, et donc ils doivent avoir énormément de données pour commencer à apprendre les
05:20relations. Si vous avez un modèle qui apprend mieux, parce que vous le guidez plus, et bien
05:24vous allez être beaucoup plus efficace à explorer et à valoriser l'information qu'il
05:28y a dans vos données. Donc vous êtes à la fois plus efficace à l'entraînement et plus
05:31profond dans ce que vous pouvez faire. Et c'est pour ça que dans des domaines comme
05:34par exemple l'analyse des molécules, on a utilisé des modèles spécialisés pour
05:38pouvoir aller en profondeur, comprendre des formules qu'on ne pouvait pas traiter
05:41avec des modèles de langage. Aujourd'hui dans la robotique, on a des modèles spécialisés.
05:44Pour la connexion profonde, les liens profonds entre les données, aujourd'hui on aura besoin
05:48de modèles spécialisés qui vont se généraliser dans tous les domaines où on doit établir
05:52ces relations. La finance, la sécurité, les enjeux de défense également.
05:57Alors question vraiment de quelqu'un qui découvre le sujet, c'est-à-dire moi et peut-être
06:01tous ceux qui nous regardent aussi. Cette nouvelle classe d'intelligence artificielle,
06:08vous êtes les seuls à travailler dessus aujourd'hui dans le monde ?
06:11Alors aujourd'hui on est les seuls à en faire un cœur de technologie et une volonté
06:15de les rendre généralistes. Si vous vous rappelez ce que faisaient les
06:18modèles de langage au début, il y en avait certains qui faisaient la traduction et
06:21d'autres qui faisaient la correction d'orthographe. Et puis à un moment on a vu des modèles
06:23qui ont commencé à pouvoir généraliser leurs capacités. Aujourd'hui il y a des gens
06:27qui utilisent ces technologies dans des domaines ultra spécialisés, la biologie ou la physique
06:31des matériaux. Notre conviction c'est qu'on est capable de faire des modèles généralistes
06:34qui vont s'adapter à des nouveaux domaines et c'est pour ça qu'on travaille main dans
06:38la main avec des acteurs du monde des infrastructures, du monde des décisions financières, du monde
06:43de la lutte contre la fraude ou de la cybersécurité qui sont en fait des domaines où on n'a
06:47que de la connectivité. C'est des relations entre des attaquants et des cibles, c'est des
06:51relations entre des auteurs qui fonctionnent collectivement pour avoir un comportement
06:55criminel. En fait ça permet de sortir de l'idée de la boîte noire aussi, qui est très
07:01liée aux prises de décisions, enfin en tout cas aux conseils de décisions que font
07:05les IA. Alors quand vous utilisez une IA aujourd'hui vous avez pu remarquer que parfois
07:08ils vous donnent une réponse qui est bonne, parfois elle est mauvaise et vous ne savez
07:11pas pourquoi, vous ne pouvez pas vérifier ce qu'a fait un modèle d'IA conversationnel.
07:14Et vous avez besoin de vérifier quand vous prenez des décisions et donc comme nos modèles
07:18étudient la connectivité, ils retracent la circulation de l'information, ils retracent
07:22les liens entre les éléments de données que vous avez et donc ils vous donnent la
07:26transparence en profondeur sur des choses que humainement on ne peut que deviner.
07:30Et on disait tout à l'heure, l'IA, enfin général arrive, dans certains domaines l'IA
07:34va être meilleure que les humains en étant spécialisée parce qu'elle a des capacités
07:38à être systématiques que nous, nous n'avons pas. Alors qu'on a des intuitions que les
07:42systèmes automatiques ne sont pas capables d'avoir.
07:43Donc ça répond au sujet de la boîte noire, ça répond à l'explicabilité des algorithmes
07:49et aujourd'hui ça peut être un outil utilisé par les états peut-être pour parler de
07:55sécurité de l'IA, d'éthique dans l'IA, d'aller vérifier quels sont les sous-bassements
08:01des algorithmes qu'on nous propose.
08:03Alors ça permet deux choses, ça permet de travailler sur l'intégrité de l'information
08:06qui est un sujet très important, aujourd'hui on a du mal à avoir une traçabilité de
08:08l'information et donc si on l'applique au système informationnel ça donne
08:11cet moyen d'auditabilité et de validation. Et puis on a beaucoup parlé des phénomènes
08:17des agents IA, du comportement des agents de l'IA, beaucoup de gens étudient la
08:20sécurité des modèles, nous notre conviction c'est qu'il faut travailler à l'échelle
08:23des systèmes. Aujourd'hui dans une entreprise vous allez avoir plein d'humains et plein
08:26d'agents, comment est-ce qu'on surveille le comportement à grande échelle de ces agents ?
08:30Ça les laboratoires ne peuvent pas le faire, ne savent pas le faire et d'ailleurs tout
08:33ce qu'on a vu depuis cet été avec l'attaque sur Hugging Face etc c'est bien la preuve
08:36que
08:37c'est une difficulté et un besoin très important des grands acteurs de l'IA
08:41aujourd'hui d'avoir des moyens de suivi, d'auditabilité et de tests à grande
08:46d'échelle dans des espaces sécurisés.
08:47Alors Xavier Niv, vous n'allez pas dire le contraire, vous êtes en charge de la transformation
08:51par l'intelligence artificielle. Donc chez KPMG vous conseillez des entreprises sur ces
08:57sujets, comment s'approprier l'IA, comment s'assurer qu'on est dans un environnement
09:02de sécurité. KPMG a publié une étude IA dans la fonction finance, comment déjà
09:08vous voyez la finance s'approprier ces outils avec beaucoup de mesures, de prudence ?
09:13Je pense que la fonction finance comme le reste des départements on va dire et des
09:18entreprises s'intéressent à l'intelligence artificielle et surtout aux promesses liées
09:21à l'intelligence artificielle. Alors beaucoup de ces promesses tournent autour des gains de
09:24productivité mais je pense que ce n'est pas le seul point à regarder. Vous savez depuis plus de
09:30quatre ans maintenant on s'intéresse à l'IA, on n'a pas attendu d'ailleurs l'arrivée
09:34de chaque GPT en novembre 2022 pour lancer des projets IA. Aujourd'hui les modèles ont fait
09:39énormément de progrès. Je pense qu'on n'est plus vraiment sur un sujet de qualité des
09:43résultats, la qualité et au rendez-vous. On est plutôt sur un sujet de montée à
09:48l'échelle parce qu'une entreprise qui déploie l'IA de manière parcimoniale ou qui est utilisée
09:54par seulement 10% des collaborateurs, ça ne transforme pas une entreprise. Et le sujet
09:58en réalité il est très simple, c'est que les entreprises qui ne vont pas se transformer
10:02dans trois ans, elles ne seront pas seulement moins performantes, elles seront tout simplement
10:07moins pertinentes parce qu'elles n'apporteront plus la valeur à leurs clients, qu'ils soient
10:11clients internes ou clients externes. Il y a là l'enjeu, c'est la montée à l'échelle,
10:15mais cette montée à l'échelle, elle doit se faire sous condition.
10:18Alors, quelles conditions ?
10:20Alors moi j'en perçois deux en particulier, évidemment la confiance, on en a parlé, et
10:24je pense que ce qu'on a pu observer avec l'attaque cyber sur les frigos en est une,
10:29en est un bon exemple, et ce n'est pas juste un enjeu de sécurité sanitaire, mais derrière
10:34on voit bien que le numérique a un impact réel sur le monde physique.
10:38Là l'IA n'a rien à voir avec cette cyberattaque, mais effectivement on voit l'implication
10:44entre la cybersécurité et la sûreté dans le monde physique, oui ça je suis d'accord.
10:48On voit la nécessité d'apporter de la confiance à tous les projets numériques, y compris
10:53les sujets IA, que ce soit d'un point de vue gouvernance des données, sécurité des
10:56données, compatibilité ou compliance avec la loi et la réglementation actuelle.
11:01En fait l'enjeu il est là, et le deuxième enjeu évidemment c'est la transformation,
11:05l'accompagnement au changement. On va y revenir.
11:08Alors on va y revenir, non on y va tout de suite, parce que vous savez le temps passe
11:11très très vite ici. Le sujet je disais de l'auditabilité, c'est un sujet clé dans
11:16le domaine de la finance, aujourd'hui on en est où sur cette question ?
11:20L'auditabilité des IA qui sont utilisées dans le secteur de la finance.
11:23Je vais vous donner un exemple, on parlait tout à l'heure de boîte noire, et on a une
11:27entreprise française, éditeur de logiciels, qui est venue nous voir, parce qu'elle avait
11:30embarqué une IA dans son offre. Tout simplement parce qu'aujourd'hui, si on n'a pas une IA
11:36qui est embarquée, évidemment ça se vaut un petit peu moins.
11:38C'est moins vendeur, oui.
11:39Le problème c'est le syndrome, on en parlait, de la boîte noire qui ralentit l'adoption
11:43de l'IA auprès, on va dire, de ses propres clients. Donc il nous a demandé de venir
11:48ouvrir cette fameuse boîte noire, l'éclairer et lui apporter un certificat pour favoriser
11:54finalement l'adoption ou la démarche commerciale auprès de ses propres clients.
11:57Donc on est aujourd'hui en capacité de donner du confort, de la confiance autour des projets
12:02IA en matière, encore une fois, de sécurité des données, voire des algorithmes.
12:07Mais c'est pris en compte aujourd'hui, cette question de la sécurité, de l'auditabilité ?
12:11C'est plus que pris en compte, c'est nécessaire. Si vous n'avez pas confiance dans un outil,
12:15vous n'allez pas utiliser cet outil.
12:17Oui, non mais je veux dire, est-ce qu'aujourd'hui, les acteurs de la finance font attention à la
12:22question de l'auditabilité des IA qu'ils utilisent ?
12:25J'allais dire encore plus les acteurs de la finance, puisque l'auditabilité, la
12:29traçabilité, ça fait partie de l'ADN des directeurs financiers et de leurs équipes.
12:34Donc toutes les IA qui sont déployées dans la fonction finance, finalement, sont revues
12:38soit par les commissaires aux comptes, les auditeurs, soit par, j'allais dire, des partenaires
12:42et de confiance qui viennent leur apporter ce confort dans l'utilisation.
12:47D'autant plus que ça peut avoir un impact direct sur la production, la communication
12:50financière et demain extra-financière.
12:52On voit qu'il y a quand même un enjeu, c'est que les modèles qu'on utilise aujourd'hui,
12:55ils n'ont pas été conçus pour être auditable.
12:57Ils n'ont pas été conçus pour qu'on puisse observer leur comportement.
13:00Donc on essaye de rajouter, après coup, des capacités qui n'étaient pas intrinsèquement
13:03dedans.
13:04Et l'enjeu, dans notre avis, c'est de faire de nouvelles architectures qui sont conçues
13:07dès l'origine pour garantir cette observabilité.
13:09Et donc, on a fait un développement de l'IA qui a été un développement accidentel.
13:13C'est parce que Chalchipity a été à la mode que tout le monde s'est dit, il faut accélérer,
13:16il faut accélérer, il faut accélérer.
13:17Et maintenant, après coup, on voit les grands laboratoires qui disent comment est-ce qu'on
13:20remet de la sécurité par-dessus.
13:22Et on voit combien c'est stratégique et combien c'est un sujet aussi de performance
13:27dans la finance en particulier.
13:28Merci beaucoup à tous les deux.
13:30Xavier Nif de KPMG France et Antoine Jardin d'Arlequin AI.
13:34Merci à vous de nous avoir suivis.
13:36C'était Smartech, votre émission quotidienne sur la chaîne Bsmart.
13:39A demain.
13:39Sous-titrage Société Radio-Canada
Commentaires