SMART TECH - L’AI Act : quel champ d’application ? - Vidéo Dailymotion

B SMART

Le 12 juillet dernier était publié au Journal Officiel de l’Union Européenne, le Règlement communautaire « établissant des règles harmonisées concernant l’intelligence artificielle », également appelé « Règlement sur l’Intelligence Artificielle ». Un énième texte venant alourdir le droit du numérique et l’actualité législative déjà bien chargée. Mais alors que contient-il réellement ?

Transcript

00:00...

00:06On termine avec Mathieu Bourgeois.

00:08Bonjour, Mathieu.

00:09Vous êtes avocat associé, vice-président

00:12du Cercle de la Donnée.

00:13Aujourd'hui, on va parler de l'AIA Act,

00:15ou en français, le RIA,

00:17le Règlement sur l'intelligence artificielle.

00:20Il a été publié au journal officiel de l'Union européenne

00:24le 12 juillet 2024.

00:25Pouvez-vous revenir brièvement sur la raison d'existence

00:29de ce nouveau texte ?

00:30Bonjour, Delphine.

00:31Le but de ce nouveau texte, c'est de conjurer les risques

00:35que font courir les IA trop nuisibles à la société,

00:38des risques de discrimination,

00:40de prolifération de contenu manipulatoire ou erroné,

00:43mais aussi pour la santé et l'environnement.

00:46On s'en est déjà exprimé dans cette tribune.

00:49Le moyen qui a été employé, c'est un moyen classique,

00:52c'est-à-dire dans la droite ligne de la doctrine

00:55suivie par la Commission,

00:56c'est une logique d'autodiscipline.

00:58En fait, l'Europe fait le pari

01:01que les organisations, les entreprises

01:03vont s'autodiscipliner parce que la conformité

01:06sera gage de confiance

01:07et que l'IA non conforme ne sera pas adoptée.

01:10C'est une logique qui est discutable,

01:12de mon point de vue, parce qu'elle a montré ses limites

01:16parce que les entreprises n'ont pas toujours les moyens,

01:19et les pouvoirs publics ne mettent pas toujours

01:21les moyens de justice.

01:23On aurait pu avoir une logique différente

01:26mais ce n'est pas la logique qui a été suivie.

01:28C'est la logique que vous auriez appréciée.

01:31On en a déjà parlé. Une logique plus contraignante.

01:33Avant d'entrer dans le fond du texte,

01:36pouvez-vous nous rappeler ce qu'on appelle

01:38une intelligence artificielle et les différents types d'IA ?

01:41Très important.

01:43Une intelligence artificielle, il y a une définition très large

01:46qui la définit comme un ensemble de théories et de techniques

01:50mis en oeuvre pour simuler l'intelligence humaine.

01:53C'est très large.

01:55Il y a deux grands types d'intelligence artificielle.

01:58Tout d'abord, il y a l'IA dite symbolique ou cognitive.

02:01C'est une IA qui s'appuie sur un moteur d'inférence

02:04qui utilise des règles préalablement définies par des experts.

02:07On appelle ça aussi les systèmes experts.

02:09Cette IA-là est très simple.

02:11Elle déduit, c'est-à-dire qu'elle part des règles

02:14et elle va conclure sur des faits.

02:16Elle n'a pas de capacité de généralisation.

02:18Autrement dit, on lui apprend le monde

02:21et face au monde, elle raisonne.

02:22Mais elle n'évolue pas.

02:24C'est l'IA cognitive ou symbolique.

02:26Et puis, il y a l'IA connexionniste

02:28qui, à l'inverse, n'a pas de raisonnement déductif

02:30comme la précédente, mais un raisonnement inductif.

02:33C'est-à-dire que face à des faits, autrement dit, face à des données,

02:37elle va tirer des conclusions générales.

02:39C'est cette IA-là qui a eu un succès fulgurant ces dernières années

02:43parce qu'il y a l'apparition du big data

02:45et que les données sont massivement disponibles.

02:48Un des algorithmes de cette IA qui a eu beaucoup de succès,

02:51c'est l'algorithme de rétropropagation du gradient,

02:54qui est le résultat notamment des travaux du chercheur Geoffrey Hinton

02:58et aussi en collaboration avec Yann Lequin et Yosha Bengio,

03:02qui ont eu le Prix Turing en 2019, dont on a déjà parlé dans cette tribune.

03:06Et cette IA-là, elle fonctionne de la manière suivante.

03:09Elle est constituée d'un réseau de neurones artificiels.

03:12En fait, ce sont des microcalculateurs, les neurones artificiels,

03:15qui sont confrontés à des stimuli,

03:18c'est-à-dire à des données étiquetées.

03:21C'est ce qu'on appelle les données d'apprentissage.

03:23Et à ce moment-là, avec un moteur d'optimisation,

03:26un algorithme d'optimisation,

03:28elle va se corriger au fur et à mesure dans cette base d'apprentissage

03:31de sorte à généraliser et à créer un modèle.

03:34Un modèle, c'est-à-dire en fait un ensemble de principes

03:37qu'elle va donc avoir en elle.

03:40Et ensuite, face à un environnement réel,

03:41c'est-à-dire face à des données non étiquetées,

03:43elle va apporter des réponses cohérentes dans un contexte inconnu.

03:47Cette IA connexionniste, vous avez compris, Delphine,

03:49ne fonctionne pas sur la base d'une programmation explicite.

03:53C'est un mécanisme d'optimisation.

03:55La connaissance est déportée dans les données.

03:57D'où l'importance d'avoir des bonnes données.

03:59Absolument. Alors, au sens de ce nouveau règlement,

04:02qu'est-ce qu'on entend par système d'IA ?

04:04Alors, c'est très important parce que nous, les juristes,

04:06on va se demander si les entreprises,

04:09quand elles nous soumettent un projet numérique

04:11et qu'elles prétendent qu'il s'agit d'une IA,

04:13est-ce que c'est véritablement une IA ?

04:14Alors, le règlement définit cela de la manière suivante.

04:18C'est l'article 3.

04:19Une IA est un système automatisé,

04:21ensemble de logiciels et de matériels, autrement dit,

04:23qui fonctionne à différents niveaux d'autonomie,

04:26pas de difficultés,

04:27et peut faire preuve d'une capacité d'adaptation.

04:30Le peut est déterminant parce qu'elle peut ou ne peut pas.

04:32C'est ce qui permet d'inclure dans cette définition

04:35les IA connexionnistes,

04:36qui font preuve d'une capacité d'adaptation,

04:38mais aussi les IA symboliques,

04:40qui n'ont pas de capacité d'adaptation

04:41puisque le peut n'est qu'une faculté et pas une nécessité.

04:44La définition poursuit en disant

04:45et qui, pour des objectifs explicites ou implicites,

04:47déduit, là, c'est une maladresse de plume,

04:49le texte aurait dû dire déduit ou induit,

04:53donc il faut entendre déduit ou induit,

04:55même si le texte ne le dit pas,

04:56sinon on exclut les IA connexionnistes,

04:58ce qui n'est évidemment pas possible.

05:00La manière de générer des sorties

05:02telles que des prédictions, des contenus,

05:04des recommandations, des décisions.

05:05Il y a deux maladresses dans cette définition.

05:08La première, je l'ai relevée,

05:09c'est qu'il aurait fallu rajouter induit.

05:11Et la deuxième, c'est qu'on nous dit

05:13que l'IA peut générer des contenus.

05:15Or, le problème, c'est qu'avec cette définition,

05:17vous voyez, on se demande si Excel n'est pas une IA,

05:19puisque finalement, Excel a bien des principes

05:22et déduit des contenus.

05:23En fait, l'IA, a priori, sort des connaissances

05:26et pas simplement des contenus.

05:27La définition aurait dû être un peu mieux rédigée.

05:29Il y a encore beaucoup de travail sur ce texte.

05:32Heureusement qu'on a un peu de temps pour l'appliquer.

05:33Merci beaucoup, Mathieu Bourgeois.

05:35Je rappelle que vous êtes avocat associé

05:37et vice-président du Cercle de la Donnée.

05:39Merci à vous de nous suivre.

05:41C'était Smartech.

05:41Vous nous regardez sur la chaîne vSmart for Change.

05:43Je vous dis à très bientôt.

05:47♪♪♪

SMART TECH - L’AI Act : quel champ d’application ?

Catégorie

Transcription

Écris le tout premier commentaire

Recommandations