00:06On termine cette édition avec Sophie de Carmanguy qui est avocate en droit du numérique, membre du Cercle de la
00:11Donnée.
00:11Bonjour Sophie. Aujourd'hui on va s'intéresser à ce qu'il faut savoir sur ce règlement européen sur l
00:16'intelligence artificielle.
00:18Alors peut-être expliquer ce qu'est la finalité finalement déjà de ce règlement.
00:21Oui alors en deux mots, ce règlement il vise à concilier en fait deux facettes de l'IAD, on parle
00:26beaucoup.
00:27Donc évidemment les avantages indéniables que présente l'IA pour les entreprises, les particuliers en termes de productivité, d'efficacité.
00:34Mais aussi l'autre facette qui est les risques que peuvent induire l'IA.
00:37Donc on pense aux risques de discrimination, de manipulation, d'atteinte aux droits de propriété intellectuelle.
00:42Ou encore sur l'environnement parce que voilà on le sait aujourd'hui, l'IA génératif consomme beaucoup d'électricité.
00:48Donc ce règlement il rentre en vigueur pour être un peu plus précis.
00:53La majorité de cette obligation rentre en vigueur en août 2026, donc bientôt le 2 août 2026.
01:00Et il a le mérite en tout cas de donner pour la première fois une définition juridique de ce qu
01:05'est une IA.
01:06Et alors ce n'est pas si simple parce qu'il y a sept critères.
01:10Les textes aujourd'hui sont souvent compliqués.
01:13Et sept critères cumulatifs.
01:14Mais nous on considère qu'il y en a deux qui sont vraiment, qui différencient vraiment une IA d'un
01:19simple logiciel.
01:20C'est le critère d'autonomie.
01:21Et le fait de pouvoir inférer un résultat par elle-même.
01:25Et il y a différentes catégories d'IA qui sont précisées dans ce texte.
01:29Oui alors exactement.
01:30Donc pour se repérer un peu, on peut les catégoriser en cinq grandes catégories.
01:37Nous c'est comme ça qu'on les a définies, qu'elles sont un peu données par le règlement IA.
01:42Donc la première, c'est les IA interdites.
01:44Donc vous ne pouvez pas les mettre sur le marché.
01:45C'est pour vous donner un exemple, les IA de notation sociale.
01:48On pense à l'épisode de Black Mirror avec la notation sociale.
01:51Donc ça, c'est interdit en Europe.
01:53La deuxième grande catégorie, l'autre, c'est les IA au risque.
01:56Donc c'est celles qui sont le plus réglementées.
01:58Et donc là, ça dépend du secteur et de la finalité.
02:01Donc si vous voulez savoir si vous êtes concerné par une IA au risque,
02:04il faut aller voir l'annexe 3 du règlement et l'annexe 1 qui vous donne une liste de ce
02:10qu'est une IA au risque.
02:11Je vais vous donner quelques exemples pour que ce soit un peu plus parlant.
02:14Par exemple, dans le milieu de tout ce qui est de l'emploi,
02:16les IA de tri automatique de CV ou encore d'évaluation de performance des salariés,
02:20c'est des IA au risque.
02:22Ou dans le milieu des assurances et de la banque,
02:24les IA qui permettent de définir une note de scoring ou de solvabilité.
02:28Et un autre exemple un peu différent,
02:31pour les logiciels qui fonctionnent avec de l'IA,
02:34qui sont considérés comme des dispositifs médicaux,
02:37et bien dans ce cas, vous êtes aussi une IA au risque.
02:39Donc voilà, si vous êtes dans le secteur de la santé,
02:40vous pouvez très bien être concerné.
02:43D'accord.
02:44Et ensuite, après, il y a les catégories IA génératives,
02:48et ensuite les LLM,
02:50et enfin les IA innommés,
02:51c'est toutes les autres IA qui sont sur le marché,
02:53qui ne sont ni génératives ni des LLM.
02:55Et quelles sont les IA les plus réglementées ?
02:57Ce sont celles qui sont à haut risque ?
02:58Alors oui, comme je disais, c'est celles à haut risque.
03:01Alors là, pour les entreprises concernées,
03:04vous n'allez pas être déçus,
03:05parce qu'il y a beaucoup d'obligations.
03:07Alors évidemment, la majorité des obligations,
03:09elles pèsent sur les éditeurs de ces IA au risque,
03:12avant, au moment, et après la mise sur le marché.
03:15Mais ce qu'il faut retenir,
03:16c'est que si vous êtes utilisateur de ces IA au risque,
03:19vous avez aussi des obligations.
03:21Donc en fait, si vous êtes une entreprise,
03:22par exemple dans le luxe ou le retail,
03:24le retail, il ne faut pas que vous vous considérez
03:25que vous n'êtes pas concerné par le règlement IA.
03:28Le règlement IA, ça ne concerne pas que les entreprises de la tech,
03:30ça concerne aussi les utilisateurs des IA.
03:33Donc vous avez des obligations.
03:34Les acheteurs, ceux qui vont acheter ces solutions.
03:36Exactement, qui utilisent en entreprise,
03:37par exemple pour leurs salariés,
03:39vis-à-vis de leurs clients,
03:40vous pouvez très bien être concerné.
03:43Et après, il y a des obligations aussi
03:44pour les IA génératives.
03:47Je vous laisse découvrir ça dans les textes.
03:50On a plutôt intérêt de s'y intéresser, j'imagine,
03:52parce qu'il y a des sanctions,
03:53en cas de non-respect de ces règles ?
03:55Alors oui, il y a des sanctions,
03:56et elles sont plus élevées que pour le RGPD,
03:58parce que là, en fait,
04:00c'est ou 15 millions d'euros du chiffre,
04:0315 millions d'euros ou 3% du chiffre annuel mondial.
04:06Donc voilà, c'est des sanctions qui sont élevées.
04:10Et donc voilà, c'est pour ça qu'il faut regarder dès maintenant ce règlement.
04:14Et ça reste un avantage concurrentiel
04:15pour les entreprises qui se mettent en conformité,
04:17parce qu'aujourd'hui, vis-à-vis de leurs clients,
04:19dans les contrats, c'est de dire,
04:20ben voilà, moi je suis en conformité avec ce règlement IA.
04:22Donc c'est un avantage concurrentiel pour elles.
04:25Merci beaucoup Sophie de Carmergui.
04:27Je crois qu'on a donné une bonne vision globale du règlement,
04:30et surtout envie de regarder de plus près si on est concerné.
04:33Merci Sophie de Carmergui.
04:35Je rappelle que vous êtes avocate en droit du numérique
04:37et membre du Cercle de la Donnée.
04:39Merci à tous de nous suivre.
04:41Merci à Émilie qui m'a aidée à préparer cette émission
04:43aux équipes de Bsmart à la réalisation.
04:45Je vous donne rendez-vous très bientôt sur la chaîne Bsmart.
04:49Ce sera jeudi à 10h45.
04:50On sera en direct pour le grand débrief de l'ActuTech.
04:53Excellente journée à tous.
04:54Sous-titrage Société Radio-Canada
Commentaires