- il y a 3 mois
Mardi 16 juin 2026, retrouvez Sylvain Pontier (Associé gérant, Abeille avocats), Roland Ziadé (Associé, Linklaters) et Gary Haas (-, -) dans LEX INSIDE, une émission présentée par Arnaud Dumourier.
Catégorie
🗞
NewsTranscription
00:23Bonjour, bienvenue dans Lexi Inside, l'émission qui donne du sens à l'actualité juridique du droit, du droit et
00:29rien que du droit.
00:30Au programme de ce numéro, on va parler des chartes d'intelligence artificielle dans les collectivités avec Sylvain Pontier, avocat
00:37associé chez Abeille Avocat.
00:39Ensuite, on parlera de la réforme du règlement CCI avec Roland Ziadé, avocat associé chez Linkletters.
00:46Et enfin, comment préserver la confidentialité des données avec Gary Haas, fondateur de Docult.
00:54Voilà pour les titres Lexi Inside, c'est parti !
01:06L'intelligence artificielle s'invite maintenant dans les mairies, les départements et les régions.
01:12Les agents publics utilisent déjà ces outils, parfois sans cadre clair.
01:18Dans ce contexte, les chartes d'utilisation d'intelligence artificielle sont un instrument essentiel pour sécuriser les pratiques.
01:26On en parle tout de suite avec mon invité, Sylvain Pontier, avocat associé chez Abeille Avocat.
01:32Sylvain, bonjour !
01:33Bonjour !
01:34Alors, on va parler ensemble des chartes d'utilisation de l'IA.
01:38Mais avant toute chose, que se passe-t-il aujourd'hui dans les administrations avec l'intelligence artificielle ?
01:43Alors, évidemment, il y a des grandes disparités selon les administrations, selon leur taille.
01:47On ne peut pas comparer une petite commune avec un ministère, un département.
01:50Mais il y a une adoption massive de l'IA de la part des agents.
01:55Très souvent, il y a ce qu'on appelle la Shadow AI, bien connue, qui est le fait que les
02:00agents utilisent l'intelligence artificielle sans que leur direction ne soit nécessairement informée.
02:06Ils utilisent leurs propres outils.
02:08Exactement.
02:08Comme on avait le BIOD, eh bien, on a les propres outils IA.
02:11Donc, des agents vont céder pour la rédaction de courrier, vont céder pour la rédaction de décision, vont rentrer à
02:18l'intérieur de l'outil un certain nombre de documents,
02:20sans avoir d'informations sur qu'est-ce que j'ai le droit de faire, qu'est-ce que je
02:24n'ai pas le droit de faire, sans aucune notion de responsabilité,
02:27et sans avoir de cadre pour savoir exactement ce qu'ils peuvent faire ou pas.
02:31Ça pose quoi comme problème ?
02:33Alors, ça pose beaucoup de difficultés, mais je vais prendre des exemples concrets.
02:38Le premier, c'est la fuite de données.
02:40Un agent va mettre dans un outil d'IA grand public ou obscur des éléments d'information relatifs à un
02:47citoyen donné.
02:48Ces informations vont partir sur un serveur à l'étranger, sans aucune garantie que ces données ne vont pas être
02:55utilisées pour entraîner la machine,
02:56ne vont pas faire l'objet d'une extraction, d'une fuite qu'on va retrouver quelque part ailleurs.
03:02On peut utiliser pour faire des faux papiers ou je ne sais quoi.
03:05Exactement.
03:06Autre exemple qui, pour moi, est encore plus dangereux, c'est le biais.
03:10On ne sait pas comment la machine va traiter les informations.
03:14Dans le cas, par exemple, de l'attribution d'une aide sociale,
03:17rien ne permet de garantir que l'IA n'a pas un biais cognitif,
03:22qui fait qu'elle va, par exemple, reproduire une discrimination systémique intégrée dans la machine,
03:28mais dont l'agent n'aura absolument aucune connaissance.
03:34Autre exemple concret, le fait de la perte de contrôle.
03:40L'agent est souvent, entre guillemets, bluffé par la capacité de l'intelligence artificielle.
03:45Il va se reposer de plus en plus sur la machine.
03:48Il a tendance à l'utiliser de plus en plus.
03:49Exactement. Il va perdre son sens critique et il va déléguer la totalité de la décision à la machine.
03:56Or, ça, en administration, c'est complètement inenvisageable.
04:01Et dernier élément qui va avec les autres, c'est le risque réputationnel.
04:05C'est-à-dire qu'en cas de décision erronée prise par la machine...
04:11C'est quoi le risque ? La responsabilité ?
04:13La responsabilité, c'est tout simplement une responsabilité pour faute de la part de la collectivité
04:19et le risque réputationnel qui peut aller avec telle collectivité, tel ministère, telle administration.
04:25Délègue en réalité ces décisions à une machine et non pas à des êtres humains, ça serait catastrophique.
04:30Alors, dans ce contexte, pourquoi recourir aux chartes d'utilisation de l'intelligence artificielle ?
04:36Alors, le fait de ne pas avoir de chartes, c'est déjà un choix.
04:40C'est mettre ces agents dans le flou.
04:42Est-ce que j'ai le droit de le faire ? Est-ce que je n'ai pas le droit
04:44de le faire ?
04:45Jusqu'à quel point ?
04:47Donc, ça génère à la fois de l'inégalité entre les agents et également des situations totalement anxiogènes.
04:53Donc, l'intérêt de la charte, c'est qu'elle fait plusieurs choses.
04:56D'abord, elle autorise.
04:57Donc, elle va dire, ça, c'est autorisé.
05:00Vous pouvez utiliser tel outil d'intelligence artificielle, spécialisé ou non spécialisé.
05:06Donc, l'agent sait qu'il ne se met pas en faute en utilisant tel outil.
05:10Par ailleurs, elle interdit.
05:12Elle pose une ligne rouge.
05:14Elle dit, ça, c'est formellement interdit.
05:16Il y a des administrations, il y a un département qui a pris position il n'y a pas très
05:19longtemps,
05:19en disant, ChatGPT, par exemple, c'est non.
05:22On sait que souvent dans l'administration, on veut des outils souverains.
05:25Exactement, ou des outils spécialisés.
05:28Il y a de plus en plus d'éditeurs qui proposent des outils qui sont adaptés.
05:32Et la dernière chose, c'est que ça responsabilise.
05:34Les agents savent exactement ce qu'ils peuvent utiliser comme outil.
05:40Parce que sinon, s'il n'y a pas ce cadre-là, c'est la porte ouverte à plein de
05:44failles,
05:45comme vous décrivez tout à l'heure, à des comportements qui engendrent après la responsabilité de l'administration
05:51et puis la réputation de l'administration.
05:53Exactement, et puis une absence de maîtrise.
05:55Un ministère ou une collectivité, une administration, quelle qu'elle soit,
05:59elle prend des décisions qui ont des incidents sur la vie des administrés,
06:02qui octroient des droits, qui en refusent, qui en retirent.
06:07Tout ça, ça doit être fait dans un cadre légal, évidemment.
06:10Et donc, ça doit suivre une logique de la collectivité
06:13et pas une logique d'un agent IA géré par des algorithmes qu'on ne maîtrise pas.
06:18Alors, malgré tout, si on n'a pas de charte, il y a quand même un cadre juridique.
06:23Je pense au RGPD, au Règlement sur l'intelligence artificielle.
06:28Comment ça coexiste, ce cadre, avec si une collectivité décide de rédiger une charte ?
06:35Comment coexiste à la fois le cadre juridique et la charte ?
06:38Alors, la charte, ce n'est pas la loi, évidemment.
06:40Mais les normes que vous évoquez, RGPD, AI Act, Data Act,
06:49sont relativement obscures à mettre en œuvre.
06:52On va fêter d'ici peu de temps les 10 ans du RGPD.
06:56Il y a fort peu d'agents publics qui sont capables de l'appliquer tel quel
07:01ou d'avoir une idée précise.
07:02Donc, la charte, ça va être une courroie de transmission.
07:06Elle va permettre de diffuser au sein de la collectivité ou au sein de l'administration
07:10les bonnes pratiques, les bons usages.
07:13Et ce qui est essentiel, c'est que la charte, ça ne doit pas être un document
07:17qu'on va récupérer dans un cabinet d'avocats
07:20ou prendre une des 150 chartes qui existent déjà et la coller dans la collectivité.
07:24Il y a un travail de discussion.
07:26Il faut faire un atelier, il y a une commission, il y a discuter avec les agents.
07:30Ça veut dire qu'il faut former les agents ?
07:32Exactement.
07:32Les sensibiliser ?
07:33Mais aussi, déjà, partir du besoin et de l'usage.
07:38C'est-à-dire, en réalité, pourquoi vous utilisez l'intelligence artificielle ?
07:42Quels sont vos besoins ?
07:43À quels défis vous êtes confrontés ?
07:45Et sur la base de ça, on va pouvoir faire une vraie charte
07:48qui colle parfaitement aux usages de cette collectivité
07:51qui va pouvoir être différente d'une autre collectivité ou d'une autre administration.
07:54Qu'est-ce qui fait que, dans le service public, le contrôle humain est véritablement une nécessité plus qu'ailleurs
08:04?
08:05Eh bien, il y a une différence fondamentale entre une société privée ou une entité privée et une collectivité publique.
08:11C'est que, dans une collectivité, comme je venais de le dire, on donne des droits.
08:17Par exemple, on attribue des autorisations d'urbanisme.
08:20Parfois, on les refuse.
08:21On attribue des droits sociaux.
08:23On donne des agréments.
08:25On donne des autorisations d'occupation du domaine public.
08:28Tout ça, c'est fait par des personnes qui tiennent leur pouvoir, souvent par délégation.
08:34D'autres personnes qui, elles-mêmes, ont été élues et qui ont été élues en application de la loi
08:40et dont l'exigence est d'appliquer la loi.
08:43Au bas d'une décision administrative, il y a le nom d'un être humain qui a des pouvoirs donnés
08:48et qui doit pouvoir en rendre compte.
08:50Et il ne peut pas y avoir de décision administrative, en France en tout cas, prise par l'intelligence artificielle.
08:56Ça peut être une aide, ça peut être un accompagnement, un éclairage.
09:00Mais à la fin, il faut bien que ça soit un être humain.
09:03Et le contraire serait absolument terrible.
09:05Il faut que, quelle que soit la charte, le pouvoir reste à l'être humain à la fin pour valider
09:10la décision.
09:11Bien sûr.
09:11Alors, ces outils d'intelligence artificielle évoluent très vite.
09:15Comment on adapte la charte face à cette évolution des outils ?
09:19Alors, effectivement, c'est essentiel.
09:20Il ne se passe pas une semaine tant qu'on ait une nouvelle annonce d'un nouvel outil.
09:24Donc, mes recommandations et ce que nous, nous faisons avec les administrations que nous accompagnons,
09:29c'est que, d'abord, il faut avoir un document qui est relativement light.
09:34C'est-à-dire qu'il faut bâtir léger.
09:35Les chartes qui font 50 pages, qui rendent dans énormément de détails, n'auront pas d'avenir, probablement.
09:42La deuxième chose, c'est qu'il faut une clause de revoyure.
09:45Il faut au moins que tous les six mois, on se réunisse à nouveau avec l'atelier ou la commission
09:51IA,
09:51peu importe comment est-ce qu'on l'appelle, pour rediscuter des usages.
09:54Est-ce que ça a évolué ? Est-ce que ça a changé ? Est-ce qu'il y a
09:57eu des évolutions ?
09:58Et la dernière chose, c'est qu'il faut impérativement former, accompagner, discuter avec les agents,
10:06prendre le temps de comprendre et donc faire évoluer la charte.
10:09Si elle évolue tous les six mois, ce n'est pas grave.
10:11Au contraire, c'est très bien. Ça veut dire que ce n'est pas un outil RH,
10:15mais c'est un outil de management du changement et de transition et d'évolution.
10:20On va conclure là-dessus. Merci Sylvain Pontier.
10:22Je rappelle que vous êtes avocat associé chez Abeille Avocat.
10:25Merci.
10:26Tout de suite, on change de domaine.
10:27On va parler de la réforme du règlement d'arbitrage de la CCI.
10:41La CCI vient de moderniser son règlement d'arbitrage.
10:46Quels sont les principaux changements ?
10:48On fait le point avec mon invité Roland Ziadé, avocat associé chez Linkletters.
10:53Roland Ziadé, bonjour.
10:55Bonjour.
10:55Alors, on va faire le point sur cette modification du règlement d'arbitrage CCI.
11:01Mais avant toute chose, quelle est l'ambition de cette réforme ?
11:04L'ambition est simple.
11:06L'idée, c'est de renforcer, d'optimiser l'arbitrage CCI comme mode de règlement des litiges.
11:12L'objectif est plus d'efficacité, plus de transparence, plus de clarté et plus de souplesse.
11:20Alors, on voit l'ambition, on va rentrer un peu dans le détail des changements.
11:26Quelles sont les principales modifications ?
11:29Elles sont nombreuses, mais je dirais les 4 ou 5 principales modifications sont tout d'abord
11:34la suppression de l'acte de mission comme mécanisme obligatoire.
11:39Il devient facultatif, donc moins de formalisme.
11:42Je reviens, plus de souplesse.
11:44C'était un élément qui était important dans le passé.
11:47Aujourd'hui, il n'y avait moins de raison d'être.
11:48Et donc, la conférence de gestion de procédure devient un élément important
11:53avec la suppression de l'acte de mission.
11:55Le deuxième élément, et probablement c'est le plus innovant,
11:58c'est l'instauration d'une procédure hautement accélérée.
12:02Pourquoi c'est le plus innovant ?
12:03Parce que, dans ce cas de figure, la sentence est rendue dans les 3 mois.
12:08Donc, efficacité renforcée.
12:10Ça sous-entend l'accord des partis,
12:13quelle que soit l'importance du montant en litige.
12:15Donc là, c'est effectivement, c'est pour les partis qui cherchent à maîtriser les coûts et les délais.
12:20C'est une innovation majeure.
12:22Voilà, exactement.
12:23L'autre innovation, c'est aussi dans cette donnée de plus grande efficacité,
12:27je dirais, pour les arbitrages d'urgence.
12:30Aujourd'hui, on peut avoir un mécanisme,
12:32on obtient une décision, notamment lorsqu'il y a un risque de dissipation de preuves,
12:36ou bien d'actifs, destruction de preuves ou d'actifs.
12:41Dans ce cas, on peut avoir une décision sans notifier la partie adverse, expartée.
12:46Donc, plus grande efficacité, j'y reviens.
12:48Dans le cas de l'arbitrage accéléré standard,
12:51le plafond pour l'application automatique était 3 millions de dollars.
12:55On l'a élevé à 4 millions de dollars.
12:57Donc, tout litige en dessous de 4 millions de dollars,
12:59aujourd'hui, arbitrage CCI, c'est un arbitre unique.
13:01C'est une procédure allégée, et c'est une sentence dans les 6 mois.
13:06Donc, là encore, une plus grande efficacité,
13:08étant précisé qu'environ 40% des arbitrages CCI se situent dans cette fauchette.
13:14D'accord. Autre modification ?
13:16Peut-être une que je mentionnerai pour terminer,
13:18c'est la détermination accélérée de certaines dispositions,
13:24notamment lorsqu'il y a la possibilité de prendre une décision
13:28suite à des demandes qui sont manifestement infondées,
13:32ou des défenses manifestement infondées,
13:34ou en dehors de la compétence du tribunal arbitral.
13:36La possibilité existait, mais elle n'était pas dans le règlement.
13:39Elle était uniquement dans une note.
13:41D'accord. Donc là, c'est cadré, en fait.
13:43Tout à fait.
13:44On met une pratique dans le règlement, c'est ça ?
13:47Une pratique qui restait résiduelle.
13:49Donc, la question qui se pose, est-ce qu'elle va devenir,
13:50est-ce que ça va encourager les arbitres et les partis à y recourir ?
13:54La question se pose.
13:55Et peut-être dernier élément, de manière générale,
13:57il y a un certain nombre de clarifications,
13:58et notamment par rapport à le devoir de révélation,
14:01plus grande transparence,
14:03les partis doivent communiquer elles-mêmes le long d'entités liées.
14:05Donc voilà, il y a un peu plus cosmétique,
14:07mais néanmoins importante.
14:08Donc, pour vous, c'est une bonne réforme ?
14:11Dans l'ensemble, une très bonne réforme,
14:12qui s'inscrit dans la voie d'une modernisation
14:15et d'une réponse à l'attente des utilisateurs, des usagers.
14:19Alors, justement, on va se passer du côté des utilisateurs.
14:23C'est quoi l'impact pour les entreprises et les investisseurs étrangers ?
14:27L'impact est concret, l'impact est réel.
14:30C'est, voilà, une procédure, comme je le disais, plus efficace,
14:33avec des délais qui sont plus clairs,
14:36qui sont encadrés, qui sont resserrés,
14:38et des outils, avec une architecture qui est revue,
14:41avec d'autres mécanismes,
14:42pour accélérer la procédure lorsque c'est approprié.
14:45Pour bien comprendre aujourd'hui,
14:46c'est quoi les avantages d'un arbitrage CCI ?
14:49Les avantages d'un arbitrage CCI sont multiples.
14:54J'évoquerai peut-être les cinq principaux.
14:58Tout d'abord, la neutralité.
15:00Effectivement, la CCI s'est imposée comme,
15:03je dirais, l'institution d'arbitrage au niveau international,
15:06la plus fiable et la plus neutre.
15:08Elle est véritablement internationale,
15:10avec une cour d'arbitrage qui monitore le process.
15:14Je mentionnerai aussi le fait qu'il y a un contrôle qualité qui est réel,
15:20avec la cour d'arbitrage.
15:21Aucune sentence CCI n'est notifiée au parti,
15:25sans revue et approbation par la cour.
15:28J'ai moi-même été pendant neuf ans,
15:30j'ai fait trois mandats de membre de la cour,
15:31et je peux vous confirmer qu'effectivement,
15:33ça permet d'augmenter la qualité du produit final,
15:37et donc son acceptabilité.
15:38Ça ne garantit pas,
15:40parce qu'effectivement, il peut y avoir toujours certaines erreurs,
15:42ou certaines imperfections.
15:43Mais en tout cas, le regard externe,
15:46le fait de pouvoir attirer l'attention des arbitres,
15:48et du point de vue d'utilisateur, que je suis aussi,
15:52extrêmement rassurant.
15:53Donc ça, c'est un élément qui est très important de mon point de vue.
15:56Après, il y a l'exécution des sentences.
15:58Alors, c'est la Convention de New York,
15:59on le connaît pour tout arbitrage de manière générale,
16:02mais en particulier, compte tenu de la crédibilité,
16:04et de la notoriété de la CCI,
16:06quelque part, c'est un poids supplémentaire,
16:08par rapport aux juges étatiques.
16:10Il y a aussi une certaine confidentialité.
16:13Encore une fois,
16:13parfois on considère que l'arbitrage de la CCI est confidentiel,
16:16mais ça dépend du droit applicable.
16:17D'accord.
16:18Il y a une confidentialité qui est imposée dans le nouvel règlement aux arbitres,
16:22mais il y a une discrétion de facto,
16:24et les audiences ne sont pas publiques.
16:26Et enfin, je dirais peut-être le pool,
16:28et la diversité des arbitres de la CCI,
16:31compte tenu du fait qu'ils sont proposés par des comités nationaux,
16:33et effectivement, ça permet aux utilisateurs d'avoir des arbitres expérimentés,
16:38quel que soit finalement le secteur, le droit applicable en question.
16:41D'accord.
16:42Si on revient maintenant sur la réforme du règlement CCI,
16:45est-ce qu'on peut dire que ça renforce la place de Paris, selon vous ?
16:50Contribue, certainement,
16:52parce que la CCI, certes, c'est l'institution la plus internationale,
16:56mais elle est basée à Paris.
16:57La CCI est basée à Paris depuis 1920,
17:00la Cour d'arbitrage depuis 1923,
17:02ça fait 100 ans,
17:03et la CCI a, à sa manière,
17:06contribué au règlement de la place de Paris.
17:08Aucun doute là-dessus.
17:09Aux côtés d'autres aspects,
17:10un droit français qui est moderne,
17:14qui est appréhendé par des juridictions spécialisées de manière libérale,
17:18qui viennent au soutien des procédures,
17:20et qui n'interfèrent pas dans ces procédures,
17:22et tout un écosystème à Paris,
17:25cabinet d'avocats, arbitres, experts,
17:28associations de sociétés savantes,
17:30qui contribuent...
17:31C'est l'ensemble qui font rayonner la place de Paris ?
17:34Tout à fait, avec évidemment la CCI.
17:37Est-ce qu'un mot peut-être sur les tendances générales
17:40de l'arbitrage international ?
17:42Quelles sont les grandes tendances que vous voyez ?
17:46Ces tendances, je dirais, sont multiples et évolutives.
17:50Je mentionnerai peut-être pour commencer
17:54l'environnement géopolitique,
17:56les tensions qui donnent nécessairement lieu
17:59à de nouveaux arbitrages.
18:01Je pense aux ruptures des chaînes d'approvisionnement,
18:04je pense aux problématiques de force majeure,
18:06je pense aux sanctions, bien sûr.
18:08Très grand nombre de dossiers qu'on gère
18:09avec des problématiques de sanctions.
18:12Je pense aussi, et c'est en partie lié,
18:15à la complexification des procédures,
18:18de plus en plus de procédures parallèles,
18:21juridiction arbitrale, juridiction étatique,
18:23les demandes de mesures provisoires,
18:25les arbitrages d'urgence,
18:26ce qu'on appelle les anti-suit injunctions,
18:29donc clairement une complexification.
18:31Je mentionnerai aussi peut-être
18:33un rôle croissant des États,
18:37multiplication des arbitrages
18:39qui impliquent des États
18:40ou des entités étatiques,
18:42lié en partie à un interventionnisme
18:45de l'État dans certains domaines.
18:48Je pense notamment aux ressources naturelles,
18:50aux infrastructures,
18:51avec soit des expropriations,
18:53soit un interventionnisme dans certains domaines.
18:55Un exemple marquant peut-être
18:57le secteur minier en Afrique.
19:00Et enfin, je ne peux pas ne pas mentionner
19:01l'IA, l'intelligence artificielle,
19:04qui est à la fois, tout à fait,
19:07avec tous les litiges techniques
19:08qui sont source de nouveaux litiges,
19:10avec des problématiques IP,
19:12les centres de données, etc.,
19:14mais aussi l'IA comme outil
19:16qui joue un rôle important
19:18dans la pratique elle-même.
19:20Aujourd'hui déjà, des avocats,
19:23demain probablement des arbitres,
19:25avec toutes les problématiques
19:26de procédure et d'éthique
19:27qui vont avec.
19:28On va conclure là-dessus.
19:29Merci Roland Ziadé.
19:30Je rappelle que vous êtes avocat associé
19:32chez Linkletters.
19:33Merci beaucoup.
19:33Tout de suite, on poursuit l'émission.
19:36On va parler de confidentialité des données.
19:48À l'ère du tout numérique
19:50et du déploiement massif
19:52de l'intelligence artificielle,
19:54sécuriser les informations sensibles
19:56et primordiales,
19:58comment préserver la confidentialité
20:01des données ?
20:01On en parle tout de suite
20:02avec mon invité,
20:03Gary Haas, fondateur de Docult.
20:05Gary Haas, bonjour.
20:07Bonjour Arnaud.
20:08Avant toute chose,
20:09on va parler un peu
20:10de l'intelligence artificielle
20:12et comment les avocats
20:14et les directions juridiques
20:16s'en saisissent.
20:17Selon vous,
20:18comment les avocats
20:20et les juristes
20:21appréhendent
20:22l'intelligence artificielle ?
20:23Au début,
20:24ils l'appréhendaient
20:25d'une façon un peu sceptique,
20:26comme tout changement,
20:27comme toute nouvelle chose.
20:29Très rapidement,
20:30on s'est rendu compte
20:31dans les cabinets d'avocats
20:32qu'il y avait un vrai
20:33shadow usage de l'IA,
20:35c'est-à-dire un usage
20:37non autorisé,
20:38non judiciaire,
20:39exactement,
20:40de l'IA dans les cabinets.
20:42Et donc,
20:42petit à petit,
20:43le CNB a donné de directive.
20:46Les cabinets d'avocats
20:46se sont mis à faire
20:47des chartes d'IA
20:47parce qu'ils devaient
20:48communiquer leur usage
20:49à leurs clients.
20:50Et donc,
20:51il y a eu quand même
20:51pas mal de réflexions
20:52et de problématiques
20:54par rapport
20:55à cet usage,
20:56ce qui nous amène
20:57ici aujourd'hui.
20:58Alors justement,
20:59la confidentialité
21:00est clé
21:01dans les échanges
21:02entre professionnels
21:03du droit
21:04et leurs clients.
21:05Comment garantir
21:07cette confidentialité
21:08des données ?
21:09C'est une bonne question,
21:10on nous la pose souvent.
21:11C'est vrai qu'aujourd'hui,
21:12le RGPD,
21:13ce n'est pas une garantie
21:14du secret professionnel,
21:15c'est une garantie
21:16sur l'hébergement
21:17des datas
21:18et sur un certain
21:19contrôle des datas.
21:20Et le secret professionnel
21:22va beaucoup plus loin
21:23que le RGPD.
21:24Et donc là-dessus,
21:25il n'y a pas 36 000
21:27façons de bien le faire.
21:29Il y a anonymiser
21:30ou il y a pseudonymiser
21:31qui a une différence
21:33entre les deux.
21:34Anonymiser,
21:34ça va être occulter
21:36des informations lisibles
21:37qui pourraient permettre
21:38d'identification
21:39d'une personne.
21:40Et la pseudonymisation,
21:41ça va être la même méthode
21:42mais avec un côté réversible.
21:44Et dans l'usage de l'IA
21:46pour les avocats aujourd'hui,
21:47ce qui est intéressant,
21:48c'est de savoir pseudonymiser
21:50un document
21:50et de le rendre réversible
21:51après avoir eu usage de l'IA
21:54dans le document
21:55ou les informations données.
21:57Aujourd'hui, concrètement,
21:58quels sont les documents
22:00ou les process
22:01qu'on peut pseudonymiser ?
22:03Alors, les documents,
22:05c'est tous les documents.
22:06J'ai vu des avocats
22:08qui voulaient pseudonymiser
22:09des tables Excel parfois,
22:10des documents PDF,
22:12des documents Word.
22:13Aujourd'hui,
22:14de plus en plus,
22:15ce qu'on va appeler
22:15le fichier MD,
22:16qui est le fichier lu
22:18par les machines
22:20qui est le plus optimiste
22:21par rapport à la consommation
22:22de tokens.
22:23Donc, tout document
22:24peut être pseudonymisé.
22:25Même un PDF,
22:27même une image,
22:27elle peut être pseudonymisée.
22:29Alors, vous,
22:29vous avez créé une solution
22:31d'Occult, justement,
22:33qui fait ce travail.
22:35comment votre solution
22:37identifie les données personnelles
22:40dans les conclusions,
22:41dans les contrats,
22:42de manière à les pseudonymiser ?
22:45Alors, on a créé un moteur
22:47qui s'appelle
22:47le moteur d'Occult,
22:48qui est basé avec une IA.
22:50Il ne faut pas cacher les choses,
22:51c'est quand même une IA.
22:52À la différence que IA,
22:54au sens programmatique du terme...
22:57Ça veut dire quoi ?
22:58Eh bien, je vais vous expliquer.
22:59La première IA,
23:01est-ce que vous savez
23:01de quand elle date, Arnaud ?
23:03Je dirais les années 50 ?
23:05Alors, presque.
23:05C'est 1944.
23:07C'était Alan Turing
23:07avec la machine Enigma.
23:09Ce n'était même pas un ordinateur.
23:10Et c'était pourtant une IA.
23:12Et donc, on va appeler IA
23:13ce qui va être programmé
23:15de façon automatique
23:16pour faire, là en l'occurrence,
23:17la détection de mots.
23:19Donc, ce n'est pas un LLM,
23:20c'est vraiment algorithmique.
23:22Et donc, il y a un moteur
23:24qui est basé sur une IA,
23:26qui est le moteur d'Occult,
23:27qui permet justement,
23:28dans un texte,
23:29d'aller décortiquer les mots
23:31et de détecter les mots
23:33à anonymiser,
23:34avec du coup,
23:34tout un travail en amont
23:36fait par l'équipe d'Occult
23:38pour détecter les valeurs
23:39à anonymiser ou pas.
23:41Par exemple,
23:42quand on va dire
23:43les parties ou l'adversaire,
23:44ça, il faut le laisser en clair.
23:46Mais M. Martin,
23:47ça, on va devoir
23:48l'anonymiser.
23:50Et donc,
23:50l'outil permet de faire ça.
23:52mais ça n'empêche pas
23:53d'avoir un contrôle humain
23:54pour valider le document
23:56ou rajouter,
23:58ou parfois aussi,
23:59dé-pseudonymiser,
24:00parce que parfois,
24:00il peut y avoir
24:01une sur-pseudonymisation.
24:02D'accord.
24:02Ça n'a pas arrivé aussi.
24:03Donc là,
24:03on peut ajuster
24:04en fonction du résultat,
24:06on peut enlever
24:07une pseudonymisation ou pas ?
24:09Dans l'interface,
24:10on peut sélectionner un mot
24:11et le pseudonymiser
24:13si besoin,
24:14ou aussi,
24:14prendre dans la liste
24:15des mots mappés
24:16et exclure le mot
24:17qui a été pseudonymisé
24:18parce qu'il était trop pseudonymisé
24:20où il n'y a pas de nécessité.
24:22Alors,
24:22la question qui se pose souvent
24:24quand on a une nouvelle solution,
24:25c'est comment on l'intègre
24:27à son environnement numérique ?
24:29Comment ça se passe
24:29avec Docult ?
24:30Alors,
24:30avec Docult,
24:31il y a une interface,
24:32on se connecte,
24:33on a un espace dédié,
24:35on peut gérer
24:36la pseudonymisation
24:37par dossier.
24:38Mais il y a aussi
24:39une extension Chrome
24:40qui a été faite
24:41parce qu'il faut savoir
24:41que Docult,
24:42c'est un outil
24:43comme il en existe d'autres,
24:44ce n'est pas le seul outil
24:45de pseudonymisation.
24:46La différence pour moi,
24:47c'est l'expérience utilisateur
24:49qui a été
24:50conceptualité by design.
24:52Il y a quoi de plus
24:52dans votre solution ?
24:53Il y a une extension Chrome,
24:54donc on va pouvoir
24:55prendre un document pseudonymisé,
24:58le mettre dans
24:58ChatGPT,
24:59Claude,
25:00Mistral,
25:01Grock,
25:01si on veut,
25:02et demander à l'IA
25:04de le lire.
25:05Et l'IA va lire
25:06les valeurs pseudonymisées
25:08et il y a un mode lecture clair
25:11dans l'extension Chrome
25:13qui permet,
25:13en fait,
25:13dans le navigateur directement,
25:15de rendre visible
25:16et intelligible
25:17le travail qui est fait
25:19directement sur l'interface
25:20de l'IA.
25:20Il y a aussi un module
25:21qui est en cours de préparation
25:23qui va bientôt sortir
25:24pour avoir un add-in
25:26directement dans Word
25:27et pouvoir,
25:28dans un document Word,
25:29pseudonymiser directement
25:30le document
25:31et pouvoir aussi
25:32les dé-pseudonymiser
25:34dans Word.
25:34D'accord.
25:35Du coup,
25:35on est en train d'éditer
25:36un contrat
25:37et si on veut pseudonymiser
25:40pour des raisons
25:41de confidentialité,
25:42on pourra le faire
25:43directement dans son Word.
25:44Exactement.
25:45Et c'est ça l'intérêt
25:45de Doculte,
25:46c'est vraiment d'avoir
25:46un outil fiable
25:47mais aussi pensé
25:49pour le métier d'avocat
25:50ou d'autres professions
25:52réglementées,
25:53pratique,
25:54et pas juste avoir
25:55un outil qui pseudonymise
25:56et puis après devoir
25:57comprendre c'est quoi
25:59cette valeur,
25:59ça correspond à qui,
26:00etc.
26:01Donc l'outil a été pensé
26:03vraiment autant techniquement
26:06que par rapport
26:07à l'expérience utilisateur.
26:08Je pense aussi
26:08qu'il y a un autre
26:11un autre
26:11un autre aspect
26:13important,
26:14c'est aussi
26:14avoir une garantie
26:15parce que demain
26:16et dans les années
26:17qui vont arriver
26:18C'est quoi cette garantie ?
26:20Demain,
26:21un client
26:22pourrait vous dire
26:23mais comment ça se fait
26:24que mes informations
26:25elles sont rendues publiques,
26:27vous avez utilisé un LLM,
26:28vous avez utilisé une IA,
26:29je n'étais pas d'accord.
26:31Donc il faut que le juriste
26:32puisse prouver
26:33qu'il a bien fait son travail,
26:34qu'il a utilisé
26:35les bons outils
26:36et que peut-être
26:36c'est la partie adverse
26:37qui ne l'a pas fait
26:38et qui n'a pas été
26:39aussi rigoureuse
26:39ou tout simplement
26:40le client en fait
26:41qui en voulant
26:42travailler les conclusions
26:44de son avocat dans l'IA
26:45en fait a rendu visible
26:47un LLM
26:48ces informations confidentielles.
26:49Donc la garantie
26:50elle permet d'avoir
26:51un euro-datage
26:51sur l'usage d'un document
26:53et de pouvoir demain
26:54s'il faut sortir
26:55cet euro-datage
26:56et l'amener
26:57et le produire en justice.
26:59Dernière chose,
27:00c'est quoi ?
27:00Vous avez parlé
27:01d'un ad-in.
27:01Est-ce qu'il y a
27:02d'autres projets
27:03de développement
27:04auxquels vous pensez
27:05dans les prochaines semaines ?
27:06Tout à fait.
27:07On va rajouter
27:10une solution
27:10d'encryption
27:11de bout en bout
27:11qui s'appelle SILD.
27:13Alors c'est
27:14un chiffrement
27:15des données.
27:16Donc du coup
27:17on est HDS,
27:18on est dans
27:19un environnement sécurisé
27:20mais de mon expérience
27:21qui était dans
27:22les datas de santé
27:22c'est pas suffisant.
27:25Et donc il y a
27:25des outils
27:25qui permettent
27:25de chiffrer
27:26les tables de conversion
27:28de correspondance
27:29pour vraiment garantir
27:30que même chez nous
27:31on n'a pas accès
27:32aux valeurs
27:32de façon lisible.
27:33Et il n'y a que l'avocat
27:34qui aura pseudonymisé
27:36des documents
27:36qui pourra avoir
27:37ces datas visibles.
27:38Donc si par exemple
27:39demain on se fait
27:39pirater,
27:40hacker ce qui peut arriver,
27:43et bien du coup
27:44on restera quand même
27:45avec des valeurs sécurisées
27:46et confidentielles
27:48et le hacker
27:49ne pourra pas lire
27:50ces informations.
27:51Donc le but
27:52c'est vraiment
27:52d'offrir une sécurité
27:54la plus forte possible.
27:56Exactement.
27:57Et ça c'est
27:58je pense
27:58important dans le monde
28:00du droit.
28:01On l'a appliqué
28:02depuis très longtemps
28:02dans le Ségur de la santé
28:03avec toutes les datas
28:04de santé
28:05en ayant des principes
28:07quand même très forts
28:08sur la sécurité
28:09et je dirais
28:10un léger laxiste
28:11dans l'environnement
28:12de la Legal Tech.
28:13Et donc moi
28:14de mon expérience
28:14j'ai envie d'apporter
28:15les mêmes garanties
28:16la même solidité
28:17donc pas que dans
28:18la technicité
28:19mais aussi dans
28:19l'environnement
28:20qui est autour.
28:21Et donc le chiffrement
28:23pour moi
28:23est une très bonne pratique
28:24qu'on met dans Docult
28:25mais que j'aurais tendance
28:26à vouloir mettre
28:27dans tous les outils
28:28que j'offrirais
28:28aux professionnels du droit.
28:29On va conclure là-dessus.
28:30Merci Garia.
28:31Je rappelle que vous êtes
28:32le fondateur de Docult.
28:34Merci beaucoup Arnaud.
28:35C'est la fin de ce Lex Inside.
28:37Merci de votre fidélité.
28:39Restez curieux
28:40et informés.
28:41A demain
28:41sur Bsmart for Change.
28:51Sous-titrage Société Radio-Canada
28:52Sous-titrage Société Radio-Canada
28:53Sous-titrage Société Radio-Canada
28:54Merci.
28:54Merci.
Commentaires