00:09Peut-on poursuivre pénalement une entreprise pour la faute de son intelligence artificielle ?
00:16On fait le point tout de suite avec mon invité, Eleonore Favreau-Agostini,
00:21avocate, cofondatrice d'Adlane Avocat.
00:24Eleonore, bonjour.
00:25Bonjour, enchantée Arnaud.
00:26On va parler ensemble de la responsabilité pénale d'une entreprise en cas de faute de son IA.
00:33Mais tout d'abord, on va se poser la question,
00:36comme l'intelligence artificielle n'a pas de personnalité juridique,
00:41concrètement, où se déplace la recherche de la faute ?
00:45Effectivement, une IA peut prendre une décision, mais elle ne peut pas en assumer les conséquences.
00:50La responsabilité reste l'affaire des personnes physiques ou morales.
00:55Du coup, on a essayé de chercher dans plusieurs régimes juridiques l'origine de la faute qu'on pourrait avoir.
01:01On a commencé avec celui de la garde de la chose qu'on a sous sa garde.
01:05Sauf que l'IA ayant un niveau d'autonomie, elle ne pouvait pas correspondre aux critères inanimés de la chose.
01:11On est donc allé regarder du côté des produits défectueux,
01:15qui est actuellement une piste très prometteuse, surtout depuis 2024,
01:20car une directive a inclus l'IA dans la définition de produit.
01:25Mais le problème de ce régime, c'est qu'il ne concerne que certains dommages,
01:30donc surtout des dommages qui vont être physiques et corporels.
01:33Et en plus, il va falloir démontrer la défectuosité du système d'IA,
01:38ce qui est difficile, surtout dans des systèmes opaques.
01:41Il nous reste donc, au final, le régime plutôt classique de la responsabilité contractuelle,
01:47où on va aller juger, tout comme un éditeur de logiciel,
01:52qui était tenu à une obligation de résultat de livrer de manière conforme son outil,
01:56et bien là également, le fournisseur d'IA va être responsable contractuellement
02:02de fournir une solution qui soit performante par rapport à ses engagements,
02:07qui soit stable en matière de sécurité,
02:09et surtout en adéquation avec les besoins de l'utilisateur professionnel.
02:14Et enfin, on va appliquer aussi des régimes spécifiques de responsabilité,
02:19comme les obligations de sécurité de l'employeur, la diffamation,
02:22les pratiques commerciales trompeuses, le crédit à la consommation.
02:26Et l'IA, lui, vient compléter ce tableau.
02:29Donc il n'est pas un régime de responsabilité,
02:31mais il vient créer des obligations précises,
02:34qui permettront d'être un étalon de mesure,
02:37lorsqu'on voudra caractériser une faute ou une négligence du fournisseur.
02:40Donc lui, il est un étalon qui va se calquer sur les autres régimes de responsabilité.
02:45Pour aller plus loin, concrètement, qui peut être visé ?
02:48Le concepteur ? L'algorithme ? L'entreprise qu'il a déployée ?
02:52Celle qu'il a paramétrée ou encore celle qui aurait dû la surveiller ?
02:57Alors, potentiellement, tout le monde, mais pas pour les mêmes fautes.
03:00Donc l'IA Act, lui, fournit une grille de lecture.
03:05Le fournisseur va avoir, et celui qui connaît le mieux le fonctionnement de l'outil,
03:10et c'est donc sur lui que vont reposer des obligations de documentation technique,
03:14de qualité des données d'entraînement, de robustesse sur la sécurité.
03:18Le déployeur, qui va souvent être l'entreprise, lui, va avoir des obligations
03:22qui vont concerner de s'assurer qu'il utilise l'IA conformément à sa notice,
03:27d'information des personnes, de formation de ces personnes,
03:31et un contrôle humain effectif.
03:33Il faut, en gros, imaginer une voiture.
03:36Le conducteur n'a pas de maîtrise sur le moteur.
03:39Ça, c'est le constructeur qui connaît le moteur,
03:41qui connaît le dispositif de freinage, le dispositif électrique.
03:44Le conducteur, lui, va répondre de l'entretien de la voiture,
03:48de s'assurer qu'il a aussi une conduite prudente.
03:50Et donc, à chaque fois, on va se demander qui contrôle,
03:53qui était en contrôle au moment du dommage.
03:56Il y a notamment une affaire qui éclaire assez bien cette situation.
04:01C'est l'affaire Moffat contre Air Canada,
04:03où le chatbot de l'entreprise avait donné des informations qui étaient fausses sur le chat.
04:10Et Air Canada disait, mais ce chatbot est autonome,
04:14est une entité distincte.
04:18Et le juge avait refusé cet argument en disant
04:22qu'Air Canada était responsable
04:25de ce qui était dans des informations qu'il y avait dans son chatbot,
04:29au même titre que sur n'importe quelle page de son site Internet.
04:31Donc, on a une chaîne de responsabilité avec plusieurs co-responsables, on va dire.
04:37Mais comment va s'établir le partage de responsabilités
04:40entre un éditeur, un intégrateur, entre l'utilisateur final ?
04:45Concrètement, ça se fait comment ?
04:46Alors, on va s'appuyer déjà par analogie sur les systèmes existants,
04:50comme on l'a vu, soit pour les logiciels, les produits défectueux,
04:54les services numériques.
04:55On va faire aussi une analyse contractuelle de ce qui était prévu.
04:58On va qualifier les acteurs
04:59et on va examiner les différents manquements
05:02aux obligations réglementaires sectorielles.
05:04Par exemple, une IA qui permet de faire du tri de CV,
05:08mais qui a un biais discriminant.
05:11Le candidat va engager la responsabilité de l'employeur
05:15et à charge pour l'employeur,
05:17parce que sur la base du code civil ou du code pénal,
05:20et à la charge après pour l'employeur
05:21de se retourner contre le fournisseur
05:24si jamais le biais vient de la conception de l'outil
05:26et non pas des données qu'il a fournies lui
05:28pour l'entraînement de l'IA.
05:30On va s'intéresser à l'aspect pénal.
05:33Est-ce qu'une erreur de l'algorithme
05:35peut suffire à caractériser une infraction pénale ?
05:39Alors, on ne juge pas un bug,
05:41on va juger toujours une personne.
05:43Et on en revient au triptyque du droit pénal
05:46avec un élément légal, moral et matériel.
05:50Donc, pour l'élément légal,
05:52il faut donc un texte qui incrimine un comportement.
05:54Mais il n'y a pas d'infraction d'IA.
05:56Actuellement, le RIA, lui,
05:58pose des sanctions administratives.
06:01Et pour le droit pénal,
06:01on va se retrouver vers le droit commun,
06:03comme par exemple les atteintes
06:05aux données personnelles,
06:07la discrimination, le défaut de sécurité,
06:09l'hypertrucage, toutes ces infractions-là.
06:12Pour l'élément matériel,
06:13il faudra un dommage et une causalité.
06:15Et ensuite, il y a l'élément moral.
06:17Et c'est là qu'il faut faire attention.
06:19Parce qu'il y aura notamment
06:21les délits non intentionnels.
06:24De quoi s'agit-il ?
06:25C'est lorsqu'on va,
06:27sans avoir l'intention de commettre
06:29le dommage,
06:30ou en tout cas,
06:31de les faire reprocher,
06:33l'infraction,
06:34on va commettre une imprudence,
06:35une négligence,
06:36ou un manquement à une obligation de sécurité
06:39qui est prévu par une loi ou un règlement.
06:42Et l'IA acte est un règlement.
06:44Et c'est là où, par exemple,
06:46c'est le cas qui va s'appliquer
06:47très généralement au dirigeant,
06:48qui, lui, va déployer une IA
06:51au sein de son entreprise,
06:53mais sans être directement en prise
06:55avec le déploiement de cette IA.
06:57Et il va falloir, du coup,
06:58déprouver une faute qualifiée
07:00pour ce dirigeant.
07:01Donc, soit une violation manifestement délibérée
07:04d'une obligation particulière,
07:06soit une faute caractérisée
07:08qui va exposer autrui
07:09à un risque d'une partie réculière gravité.
07:12Donc, il faudra que lui fasse attention
07:14à vérifier le respect
07:19des différentes réglementations
07:21lorsqu'il fait venir dans l'entreprise
07:23un outil d'intelligence artificielle
07:24pour vérifier de ne pas rentrer dans ce cas-là.
07:27Et en revanche, une entreprise,
07:29on pourrait lui reprocher une faute simple
07:34du moment qu'elle a été commise
07:35par un organe ou son représentant.
07:38Et pour illustrer ce propos,
07:39parce que là, c'est un peu très verbeux,
07:41mais en tout cas, il y a un véhicule autonome d'Uber
07:43qui, en 2018, avait tué une piétonne en Arizona.
07:47Et la personne dont on a retenu la responsabilité
07:51était la conductrice de sécurité,
07:54parce qu'elle regardait une vidéo à ce moment-là.
07:56Ça n'a pas été Uber.
07:57C'était la conductrice qui, elle, a manqué, du coup,
07:59de vigilance et qui a commis une faute, du coup,
08:03dans l'exercice de sa fonction.
08:06Parce qu'elle aurait dû reprendre le contrôle du véhicule.
08:09Reprendre le contrôle du véhicule
08:09pour empêcher l'accident.
08:11Et ainsi, on va à chaque fois regarder
08:13on en revient à qui était en contrôle
08:15au moment du dommage, qui aurait pu l'empêcher.
08:18On va conclure là-dessus.
08:19Merci, Eleonore Favreau-Agostini.
08:22Je rappelle que vous êtes avocate,
08:23cofondatrice d'Anelane Avocat.
08:25Merci beaucoup.
08:26C'est la fin de ce Lex Inside.
08:27Merci pour votre fidélité.
08:29Restez curieux et informés.
08:31Et à très bientôt sur Bsmart for Change.
08:42A très bientôt sur Bsmart for Change.
