- il y a 22 minutes
Dans la finance, 75 % des organisations intègrent désormais l’IA à la production de leur information financière, mais seules 42 % disposent d’IA auditables : Xavier Niffle, associé KPMG France, décrypte l’étude 2026 du cabinet. Face à lui, Antoine Jardin, cofondateur et CTO d’Arlequin AI, deeptech parisienne qui vient de lever 28 M€, défend une autre voie européenne de l’IA, au-delà des LLM, fondée sur l’apprentissage des relations.
Catégorie
🗞
NewsTranscription
00:03Dans les interviews de l'IA aujourd'hui, j'ai le grand plaisir de recevoir Xavier Nifle.
00:07Bonjour.
00:08Bonjour.
00:08Vous êtes associé KPMG et avec vous, on va discuter de l'intelligence artificielle dans la finance
00:13et des enjeux en particulier d'auditabilité et de confiance.
00:16C'est très très important dans ce secteur, on le sait.
00:18Vous allez nous en dire plus, vous allez mener une étude à ce sujet.
00:21Avec vous sur ce plateau, Antoine Jardin.
00:24Bonjour Antoine.
00:25Bonjour.
00:25Co-fondateur CTO d'Arlequin AI qui a annoncé une levée de fonds de 28 millions d'euros.
00:30Félicitations.
00:31Merci beaucoup.
00:32Alors vous êtes docteur en sciences algorithmiques et statistiques.
00:35Vous êtes un ancien ingénieur en recherche au CNRS.
00:38Vous avez notamment contribué à la stratégie nationale pour l'IA de 2018
00:44à la mise en place du supercalculateur Jean Zay.
00:47Vous êtes donc une référence sur le sujet de la recherche en intelligence artificielle
00:52et vous nous dites avec Arlequin qui est donc une deep tech française
00:56qu'il y a moyen de développer aujourd'hui une autre classe d'intelligence artificielle
01:00que celle qu'on utilise beaucoup en ce moment, à savoir les grands modèles de langage.
01:06Vous travaillez plus particulièrement sur le topological deep learning.
01:10Alors expliquez-nous ce que c'est exactement.
01:13Tout à fait.
01:13Alors on sait que l'IA c'est un domaine très grand.
01:15La plupart des gens ne connaissent que les modèles de langage en réalité.
01:17Mais aujourd'hui on fait de l'IA pour la robotique, on fait de l'IA pour les voitures autonomes,
01:21on fait de l'IA pour les world models ou pour les images.
01:23Nous on fait de l'IA pour étudier la connectivité en profondeur.
01:27Imaginez que dans la plupart des cas, dans la vie professionnelle,
01:29on a des puzzles compliqués à résoudre.
01:31Il y a plein d'informations qui sont éparpillées dans différents endroits,
01:34sous différentes formes, du texte, de l'image, du son, des chiffres.
01:38On fait des modèles qui apprennent la connectivité,
01:40les relations en profondeur dans ces données.
01:42Et ça permet de venir démêler les phénomènes qui sont cachés par ces données
01:46et de donner de la transparence, de voir l'image globale
01:48et donc de pouvoir prendre des décisions beaucoup plus éclairées, beaucoup plus complètes.
01:51Et donc cette nouvelle famille de réseaux de neurones,
01:53elle permet d'apprendre ces relations et de venir compléter
01:57ce qu'on peut faire avec les outils déjà existants
01:59en ayant un niveau de certification, un niveau de traçabilité
02:02qui est très supérieur aux autres approches.
02:04C'est différent des world models, parce que moi j'avais cru comprendre
02:06que justement les world models permettaient de travailler
02:10sur une compréhension du contexte, donc d'avoir des schémas
02:14beaucoup plus complexes, de résoudre des problèmes plus complexes.
02:17C'est différent des world models ?
02:18Alors c'est différent des world models, parce que les world models
02:19viennent beaucoup du monde de la vision, ils travaillent beaucoup sur le fait de voir
02:23et donc c'est très utile dans le domaine de la robotique.
02:25Nous on travaille plutôt sur le fait d'apprendre des relations complexes, profondes
02:28qui ne sont pas évidentes dans les données.
02:30Et donc ça c'est un travail qui est beaucoup plus sur la gestion de l'abstraction,
02:34sur la gestion des grands volumes
02:36et sur les problématiques de retracer des phénomènes.
02:39Par exemple dans le secteur de la finance.
02:40Exemple d'application, oui.
02:41Allez-y. Dans le secteur de la finance par exemple, vous pouvez avoir des transactions
02:44entre les acteurs et vous les voyez deux par deux.
02:46Mais en fait si vous voulez comprendre le système financier dans son ensemble,
02:48il faut être capable de retracer les grands phénomènes.
02:50Et on sait bien que c'est très difficile de les voir à l'œil nu,
02:53de les percevoir immédiatement.
02:54Donc on fait des systèmes qui sont dédiés à comprendre les phénomènes en profondeur,
02:58à grande échelle, dans des relations que les humains
03:00parviennent à deviner un petit peu en surface,
03:02mais ne parviennent pas vraiment à maîtriser
03:04et à utiliser de façon systématique.
03:06Ça permet, alors je vais peut-être vous faire réagir d'ailleurs,
03:08parce qu'on parle de finance, visiblement c'est très approprié au domaine de la finance.
03:13Vous aviez connaissance de ce champ, de cette classe d'IA ?
03:17Alors on s'intéresse évidemment à l'évolution de l'intelligence artificielle.
03:21Là on est en train d'observer ce qui se passe avec l'intelligence générale,
03:25qui arrivera beaucoup plus vite que prévu,
03:26parce qu'il y a des scientifiques qui ont travaillé sur l'application de la loi de Moore.
03:29Vous connaissez, c'était plutôt dans les années 90 et 2000,
03:32appliquée plutôt aux processeurs.
03:33Mais ils ont réfléchi et ils ont fait des études sur l'application en sein des modèles de langage.
03:40On s'aperçoit qu'on dépasse largement de cette toite Moore.
03:43Tous les 18 mois, les processeurs doublaient de capacité.
03:45Aujourd'hui, c'est toutes les 10 semaines,
03:47les modèles sont deux fois plus puissants que le modèle précédent.
03:50Mais je découvre aujourd'hui des nouvelles applications de l'intelligence artificielle.
03:54Oui, avec la conviction qu'on ne peut pas faire la même chose
03:56que ce que font les Américains et les Chinois,
03:58parce qu'on n'a pas la même puissance de calcul,
03:59on n'a pas les mêmes règles en termes de gestion des données.
04:01Donc, il faut innover et il faut avoir des approches qui sont plus performantes,
04:05plus parcimonieuses, plus efficientes
04:07pour pouvoir avoir une place à la table mondiale depuis l'Europe
04:11et être une capacité de produire quelque chose de nouveau
04:13et pas seulement de répliquer un modèle qui est en fait arrivé de façon un petit peu accidentelle,
04:17qui n'a pas été pensé comme une approche valable au départ
04:21et qui est venue du succès populaire.
04:23Et c'est sûr que ce n'est pas frugal lié à Génératif.
04:25Non, pas du tout.
04:26C'est un peu l'opposé absolu.
04:28Alors, justement, en quoi ces réseaux de neurones topologiques sont plus frugaux ?
04:34Puisqu'ils doivent prendre en compte énormément d'informations,
04:37de liens, de connexions, si j'ai bien compris.
04:39Oui, tout à fait.
04:39Alors, ils apprennent avec beaucoup plus de rigueur
04:41parce qu'on leur donne des règles d'apprentissage
04:43qui sont beaucoup plus précises que celles des modèles de langage.
04:45En fait, les modèles de langage, ils doivent deviner
04:47le prochain mot ou la prochaine information.
04:49Et donc, ils doivent avoir énormément de données
04:51pour commencer à apprendre les relations.
04:53Si vous avez un modèle qui apprend mieux
04:55parce que vous le guidez plus,
04:56vous allez être beaucoup plus efficace
04:58à explorer et à valoriser l'information qu'il y a dans vos données.
05:02Donc, vous êtes à la fois plus efficace à l'entraînement
05:03et plus profond dans ce que vous pouvez faire.
05:06Et c'est pour ça que dans des domaines
05:07comme par exemple l'analyse des molécules,
05:09on a utilisé des modèles spécialisés
05:10pour pouvoir aller en profondeur,
05:12comprendre des formules qu'on ne pouvait pas traiter
05:14avec des modèles de langage.
05:15Aujourd'hui, dans la robotique, on a des modèles spécialisés.
05:17Pour la connexion profonde,
05:18les liens profonds entre les données,
05:20aujourd'hui, on aura besoin de modèles spécialisés
05:22qui vont se généraliser dans tous les domaines
05:24où on doit établir ces relations.
05:26La finance, la sécurité, les enjeux de défense également.
05:29Alors, question vraiment de quelqu'un qui découvre le sujet,
05:33c'est-à-dire moi et peut-être tous ceux qui nous regardent aussi.
05:37Cette nouvelle classe d'intelligence artificielle,
05:41vous êtes les seuls à travailler dessus aujourd'hui dans le monde ?
05:44Alors aujourd'hui, on est les seuls à en faire
05:46un cœur de technologie et une volonté de les rendre généralistes.
05:49Si vous vous rappelez ce que faisaient les modèles de langage au début,
05:52il y en avait certains qui faisaient la traduction
05:53et d'autres qui faisaient la correction d'orthographe.
05:55Et puis à un moment, on a vu des modèles
05:56qui ont commencé à pouvoir généraliser leurs capacités.
05:59Aujourd'hui, il y a des gens qui utilisent ces technologies
06:00dans des domaines ultra spécialisés,
06:02la biologie ou la physique des matériaux.
06:04Notre conviction, c'est qu'on est capable de faire des modèles généralistes
06:07qui vont s'adapter à des nouveaux domaines.
06:10Et c'est pour ça qu'on travaille main dans la main
06:11avec des acteurs du monde des infrastructures,
06:14du monde des décisions financières,
06:15du monde de la lutte contre la fraude
06:17ou de la cybersécurité,
06:18qui sont en fait des domaines où on n'a que de la connectivité.
06:21C'est des relations entre des attaquants et des cibles.
06:24C'est des relations entre des auteurs
06:25qui fonctionnent collectivement
06:27pour avoir un comportement criminel.
06:28En fait, ça permet de sortir de l'idée de la boîte noire aussi ?
06:32Alors, tout à fait.
06:32Qui serait liée aux prises de décisions,
06:35enfin en tout cas aux conseils de décisions que font les IA.
06:39Alors, quand vous utilisez une IA aujourd'hui,
06:40vous avez pu remarquer que parfois,
06:41vous donnez une réponse qui est bonne,
06:43parfois elle est mauvaise,
06:43et vous ne savez pas pourquoi.
06:44Vous ne pouvez pas vérifier
06:45ce qu'a fait un modèle d'IA conversationnel.
06:47Et vous avez besoin de vérifier
06:49quand vous prenez des décisions.
06:50Et donc, comme nos modèles étudient la connectivité,
06:52ils retracent la circulation de l'information,
06:55ils retracent les liens
06:56entre les éléments de données que vous avez.
06:58Et donc, ils vous donnent la transparence en profondeur
07:00sur des choses qu'humainement,
07:02on ne peut que deviner.
07:03Et on disait tout à l'heure,
07:04l'IA général arrive,
07:06dans certains domaines,
07:07l'IA va être meilleure que les humains
07:08en étant spécialisée
07:09parce qu'elle a des capacités à être systématiques
07:12que nous, nous n'avons pas.
07:12Alors qu'on a des intuitions
07:14que les systèmes automatiques
07:15ne sont pas capables d'avoir.
07:16Donc, ça répond au sujet de la boîte noire,
07:19ça répond à l'explicabilité des algorithmes.
07:22Et aujourd'hui, ça peut être un outil
07:25utilisé par les États,
07:26peut-être pour parler de sécurité de l'IA,
07:29d'éthique dans l'IA,
07:30d'aller vérifier
07:31quels sont les sous-bassements
07:34des algorithmes qu'on nous propose.
07:36Alors, ça permet deux choses.
07:37Ça permet de travailler
07:37sur l'intégrité de l'information,
07:39qui est un sujet très important.
07:40Aujourd'hui, on a du mal
07:40à avoir une traçabilité de l'information.
07:42Et donc, si on l'applique
07:43au système informationnel,
07:44ça donne cet moyen
07:45d'auditabilité et de validation.
07:47Et puis, on a beaucoup parlé
07:49des phénomènes des agents IA,
07:51du comportement des agents de l'IA.
07:52Beaucoup de gens étudient
07:52la sécurité des modèles.
07:54Nous, notre conviction,
07:54c'est qu'il faut travailler
07:55à l'échelle des systèmes.
07:56Aujourd'hui, dans une entreprise,
07:57vous allez avoir plein d'humains
07:58et plein d'agents.
07:59Comment est-ce qu'on surveille
08:00le comportement
08:01à grande échelle de ces agents ?
08:03Ça, les laboratoires ne peuvent pas le faire,
08:05ne savent pas le faire.
08:05Et d'ailleurs, tout ce qu'on a vu
08:06depuis cet été avec l'attaque
08:08sur Hugging Face, etc.,
08:09c'est bien la preuve que c'est une difficulté
08:11et un besoin très important
08:13des grands acteurs de l'IA aujourd'hui
08:14d'avoir des moyens de suivi,
08:16d'auditabilité et de tests
08:18à grande échelle
08:19dans des espaces sécurisés.
08:20Alors, Xavier Niv,
08:21vous n'allez pas dire le contraire.
08:22Vous êtes en charge de la transformation
08:24par l'intelligence artificielle.
08:27Chez KPMG,
08:28vous conseillez des entreprises
08:30sur ces sujets.
08:31Comment s'approprier l'IA ?
08:32Comment s'assurer qu'on est
08:33dans un environnement de sécurité ?
08:36Vous avez...
08:37Enfin, KPMG a publié une étude
08:38IA dans la fonction finance.
08:40Comment, déjà, vous voyez
08:41la finance s'approprier ces outils
08:43avec beaucoup de mesures,
08:45de prudence ?
08:46Je pense que la fonction finance,
08:48comme le reste des départements,
08:50on va dire,
08:50et des entreprises,
08:51s'intéresse à l'intelligence artificielle
08:52et surtout aux promesses
08:53liées à l'intelligence artificielle.
08:55Alors, beaucoup de ces promesses
08:56tournent autour des gains de productivité.
08:58Oui.
08:58Mais je pense que ce n'est pas
08:59le seul point à regarder.
09:01Vous savez, depuis plus de 4 ans,
09:03maintenant, on s'intéresse à l'IA.
09:05On n'a pas attendu, d'ailleurs,
09:06l'arrivée de ChadGPT en novembre 2022
09:08pour lancer des projets IA.
09:10Aujourd'hui, les modèles
09:11ont fait énormément de progrès.
09:13Je pense qu'on n'est plus vraiment
09:14sur un sujet de qualité des résultats.
09:17La qualité est au rendez-vous.
09:19On est plutôt sur un sujet
09:20de montée à l'échelle.
09:21Parce qu'une entreprise
09:22qui déploie l'IA de manière parcimoniale
09:26ou qui est utilisée
09:27par seulement 10% des collaborateurs,
09:29ça ne transforme pas une entreprise.
09:31Et le sujet, en réalité,
09:32il est très simple.
09:33C'est que les entreprises
09:34qui ne vont pas se transformer,
09:35dans 3 ans,
09:37elles ne seront pas seulement
09:38moins performantes,
09:39elles seront tout simplement
09:40moins pertinentes.
09:41Parce qu'elles n'apporteront plus
09:42la valeur à leurs clients,
09:44qu'ils soient clients internes
09:45ou clients externes.
09:46Il y a là l'enjeu.
09:47C'est la montée à l'échelle.
09:48Mais cette montée à l'échelle,
09:49elle doit se faire sous condition.
09:51Alors, quelles conditions ?
09:52Alors moi, j'en perçois
09:53deux en particulier.
09:55Évidemment, la confiance,
09:56on en a parlé.
09:57Et je pense que ce qu'on a pu observer
09:59avec l'attaque cyber sur les frigos
10:01en est une,
10:02en est un bon exemple.
10:04Et ce n'est pas juste un enjeu
10:05de sécurité sanitaire.
10:06Mais derrière,
10:07on voit bien que le numérique
10:08a un impact réel
10:09sur le monde physique.
10:10Oui.
10:11Et là, on se dit...
10:11Là, l'IA n'a rien à voir
10:12avec cette cyberattaque.
10:15Mais effectivement,
10:16on voit l'implication
10:17entre la cybersécurité
10:19et la sûreté
10:19dans le monde physique.
10:20Oui, ça, je suis d'accord.
10:21On voit la nécessité
10:23d'apporter de la confiance
10:23à tous les projets numériques,
10:25y compris les sujets IA.
10:26Que ce soit d'un point de vue
10:27gouvernance des données,
10:28sécurité des données,
10:30compatibilité ou compliance
10:31avec la loi
10:32et la réglementation actuelle.
10:34En fait, l'enjeu, il est là.
10:35Et le deuxième enjeu,
10:36évidemment,
10:37c'est la transformation,
10:38l'accompagnement au changement.
10:40On va y revenir.
10:40Alors, on va y revenir.
10:42Non, on y va tout de suite
10:43parce que vous savez,
10:43le temps passe très, très vite ici.
10:45Le sujet, je disais,
10:47de l'auditabilité,
10:48c'est un sujet clé
10:49dans le domaine de la finance.
10:51Aujourd'hui,
10:51on en est où sur cette question ?
10:53L'auditabilité des IA
10:54qui sont utilisées
10:55dans le secteur de la finance.
10:56Je vais vous donner un exemple.
10:57On parlait tout à l'heure
10:58de boîte noire
10:59et on a une entreprise française,
11:01éditeur de logiciels,
11:02qui est venue nous voir
11:03parce qu'elle avait embarqué
11:04une IA dans son offre.
11:06Tout simplement
11:06parce qu'aujourd'hui,
11:07si on n'a pas une IA
11:08qui est embarqué,
11:09évidemment,
11:10ça se vaut un petit peu moins.
11:10C'est moins vendeur, oui.
11:12Le problème,
11:12c'est le syndrome,
11:13on en parlait,
11:14de la boîte noire
11:14qui ralentit l'adoption de l'IA
11:17auprès, on va dire,
11:18de ses propres clients.
11:19Donc, il nous a demandé
11:20de venir ouvrir
11:21cette fameuse boîte noire,
11:22l'éclairer
11:23et lui apporter un certificat
11:26pour favoriser finalement
11:27l'adoption
11:28ou la démarche commerciale
11:29auprès de ses propres clients.
11:30Donc, on est aujourd'hui
11:31en capacité
11:31de donner du confort,
11:33de la confiance
11:34autour des projets IA
11:35en matière, encore une fois,
11:37de sécurité des données,
11:38voire des algorithmes.
11:40Mais c'est pris en compte
11:40aujourd'hui,
11:41cette question de la sécurité,
11:42de l'auditabilité ?
11:44Ah, c'est plus
11:44que pris en compte.
11:45C'est nécessaire.
11:46Si vous n'avez pas confiance
11:47dans un outil,
11:48vous n'allez pas utiliser
11:49cet outil.
11:50Oui, non, mais je veux dire,
11:50est-ce qu'aujourd'hui,
11:52les acteurs de la finance
11:54font attention
11:55à la question
11:55de l'auditabilité
11:56des IA
11:57qu'ils utilisent ?
11:58J'allais dire encore plus
11:59les acteurs de la finance
12:00puisque l'auditabilité,
12:02la traçabilité,
12:03ça fait partie de l'ADN
12:04des directeurs financiers
12:05de leurs équipes.
12:06Donc, toutes les IA
12:08qui sont déployées
12:08dans la fonction finance,
12:09finalement, sont revues
12:11soit par les commissaires
12:12aux comptes,
12:12les auditeurs,
12:13soit par, j'allais dire,
12:15des partenaires
12:15et de confiance
12:16qui viennent leur apporter
12:18ce confort dans l'utilisation.
12:19D'autant plus
12:20que ça peut avoir
12:21un impact direct
12:21sur la production,
12:22la communication financière
12:24et de main extra-financière.
12:25On voit qu'il y a quand même
12:26un enjeu,
12:26c'est que les modèles
12:27qu'on utilise aujourd'hui,
12:28ils n'ont pas été conçus
12:29pour être auditable.
12:30Ils n'ont pas été conçus
12:31pour qu'on puisse observer
12:32leur comportement.
12:32Donc, on essaye de rajouter
12:33après coup
12:34des capacités
12:35qui n'étaient pas
12:36intrinsèquement dedans.
12:37Et l'enjeu,
12:37dans notre avis,
12:38c'est de faire
12:38de nouvelles architectures
12:39qui sont conçues
12:40dès l'origine
12:40pour garantir
12:41cette observabilité.
12:42Et donc,
12:43on a fait un développement
12:44de l'IA
12:45qui a été un développement
12:46accidentel.
12:46C'est parce que
12:46Tchadipiti a été à la mode
12:47que tout le monde s'est dit
12:48il faut accélérer,
12:49il faut accélérer,
12:49il faut accélérer.
12:50Et maintenant,
12:50après coup,
12:51on voit les grands laboratoires
12:52qui disent comment est-ce
12:53qu'on remet de la sécurité
12:54par-dessus.
12:54Et on voit combien
12:56c'est stratégique
12:57et combien c'est un sujet
12:58aussi de performances
12:59dans la finance en particulier.
13:01Merci beaucoup
13:02à tous les deux.
13:03Xavier Nif de KPMG France
13:05et Antoine Jardin
13:06d'Arlequin AI.
13:07Merci à vous
13:07de nous avoir suivis.
13:08C'était Smartech,
13:09votre émission quotidienne
13:10sur la chaîne Bsmart.
13:12A demain.
13:12Sous-titrage Société Radio-Canada