00:00On commence le Lexinside, on va s'intéresser au deepfake, ces contenus falsifiés générés par l'IA qui posent de nombreux défis juridiques.
00:19Comment les entreprises peuvent-elles faire face à ces nouveaux contenus ? Le droit français est suffisamment armé pour répondre à ces menaces.
00:29On en parle tout de suite avec mon invité, Joséphine Collin, avocate. Joséphine Collin, bonjour.
00:34Bonjour.
00:35Alors, on va parler ensemble des deepfake, qui représentent une menace croissante pour les entreprises.
00:42Est-ce que le droit français, il encadre spécifiquement ces contenus falsifiés générés par l'IA ?
00:49Alors Arnaud, la réponse est oui, et depuis quasiment quelques mois.
00:52Aujourd'hui, les deepfakes, ces contenus extrêmement réalistes qui reproduisent les paroles et l'image d'une personne, y compris des lieux et des objets,
01:05font l'objet d'une incrimination incorporée dans le droit pénal depuis la loi pour la sécurité de l'espace numérique, dite SRENA.
01:11Deux incriminations ont été prévues et sanctionnent l'auteur du deepfake ou la personne qui diffuserait un tel contenu généré par une intelligence artificielle
01:22sans le consentement de la personne qui en fait l'objet ou sans que soit manifeste le fait qu'il s'agisse d'un contenu généré par l'intelligence artificielle
01:33ou sans mention de cette caractéristique.
01:37Donc on voit qu'il y a un cadre juridique.
01:40On va s'intéresser maintenant aux risques pour les entreprises.
01:43Quels sont les risques concrets pour les entreprises face à ces nouvelles menaces ?
01:48Alors, le deepfake, il peut représenter un risque à plusieurs niveaux.
01:55L'entreprise peut être l'objet même du deepfake.
01:58C'est-à-dire qu'une personne malveillante emprunterait les caractéristiques de cette entreprise,
02:05d'un de ses salariés en particulier ou des éléments distinctifs, pour piéger quelqu'un, pour escroquer quelqu'un
02:11et obtenir de cette personne des fonds, des informations confidentielles éventuellement protégées par le secret des affaires
02:19ou même des données personnelles.
02:20L'entreprise peut elle-même être victime d'un deepfake, auteur malveillant,
02:27et remettrait de tels fonds, des informations, des données, tout ce qui pourrait avoir de la valeur.
02:34Au-delà de ça, le deepfake peut être utilisé pour propager des fausses informations sur les entreprises.
02:41Et là, on imagine très bien le type de risque.
02:44C'est d'abord un risque juridique, réputationnel et financier.
02:48Et juridique d'abord parce qu'il faut gérer une procédure dans laquelle l'entreprise serait victime,
02:58donc partie civile, mais aussi on peut imaginer des hypothèses dans lesquelles l'entreprise elle-même
03:04engagerait sa responsabilité pour un défaut de sécurité, pour une violation de ses engagements de sécurité à l'égard de ses salariés.
03:13Et donc, l'entreprise doit faire face aussi à des coûts financiers générés par de telles procédures.
03:21Réputationnel, je n'ai pas vraiment besoin d'expliquer, parce que si on diffuse des fausses informations,
03:26ou si on perpétue des escroqueries au nom d'une société,
03:29on la confie.
03:31On comprend que ça nuit à l'entreprise.
03:32Tout à fait, évidemment.
03:33Et financier, évidemment, parce qu'il faut gérer ces procédures,
03:38il faut gérer potentiellement une mise à niveau de la sécurité et de la cybersécurité de l'entreprise.
03:44On peut aussi imaginer que les assurances vont devenir de plus en plus chères,
03:47il faudra aussi former les salariés, et tout ça va générer des coûts.
03:51Donc, on voit que les risques sont nombreux, les coûts peuvent être importants.
03:56Face à cette technologie qui évolue rapidement,
04:00est-ce que le cadre juridique que vous avez décrit est adapté
04:03face à cette technologie qui évolue de façon rapide ?
04:08Adapter, c'est difficile à dire.
04:09Alors, on a quand même le droit commun, qui est utile.
04:12On a les infractions d'escroqueries,
04:14on a la protection des données personnelles,
04:17qui est quand même, maintenant, aujourd'hui, bien ancrée.
04:20On a d'autres dispositifs, la diffamation.
04:23Néanmoins, l'intelligence artificielle se développe extrêmement vite,
04:28et c'est vraiment une course de vitesse.
04:30Sauf que la technologie va plus vite que le législateur,
04:33et aujourd'hui, on voit que même les dispositifs récents sont vieillissants.
04:40Le règlement pour la protection des données personnelles
04:43n'a jamais été conçu avec l'intelligence artificielle en tête.
04:47Et aujourd'hui, on s'aperçoit qu'il y a un décalage temporel qui est énorme.
04:51C'est de 2 à 4 ans entre l'apparition d'un risque et une disposition adaptée.
04:56Donc, on se dit que les tentatives de législation sont peut-être un peu faibles,
05:02et en tout cas, pas assez rapides.
05:04Alors, on va s'intéresser aux plateformes qui diffusent et ou pas rediffusent ces deepfakes.
05:10Concrètement, est-ce qu'on peut engager la responsabilité des hébergeurs
05:14ou d'une plateforme qui diffuse ou rediffuse des deepfakes ?
05:18Alors, aujourd'hui, on a le droit commun qui est utile.
05:21La loi pour la confiance en l'économie numérique prévoit le principe de notice and take down.
05:28C'est une responsabilité conditionnée de l'hébergeur.
05:31L'hébergeur, c'est celui qui met à disposition une plateforme sur laquelle un contenu va être diffusé,
05:37mais il n'en est pas l'auteur ni l'éditeur.
05:39Et cet hébergeur engage sa responsabilité si on a porté à sa connaissance l'existence d'un contenu manifestement illicite,
05:48c'est la condition posée par le texte,
05:51et s'il ne l'a pas retiré promptement.
05:54C'est la deuxième condition pour engager sa responsabilité.
05:57Néanmoins, comme ce texte n'est pas adapté spécifiquement à l'intelligence artificielle,
06:03on sait que les deepfakes, par définition, sont extrêmement réalistes.
06:07Alors, est-ce que le caractère manifestement illicite va pouvoir être...
06:13Retenu.
06:13Retenu, exactement.
06:15Promptement.
06:16Retiré promptement un contenu.
06:17On sait que les fausses informations sont diffusées trois fois plus vite que les vraies.
06:21Est-ce que la réaction sera suffisamment rapide pour être efficace, pour être utile ?
06:27Alors, aujourd'hui, le régime est peut-être un peu léger.
06:31Néanmoins, la directive pour l'intelligence artificielle prévoit des nouvelles obligations
06:36pour les grosses plateformes.
06:38Il y en a 19, et parmi celles-là, on retrouve TikTok, IX, Facebook,
06:43qui ont des obligations de transparence pour désigner tout le contenu
06:48qui serait généré par l'intelligence artificielle.
06:50Alors, on vient de voir la responsabilité des plateformes.
06:52On va s'intéresser maintenant aux auteurs.
06:54Est-ce qu'il y a une responsabilité des auteurs de deepfakes ?
06:58C'est une responsabilité pénale, par exemple ?
06:59Oui, beaucoup plus.
07:01Aujourd'hui, l'hébergeur, il a une responsabilité conditionnée,
07:04mais sa responsabilité ne sera jamais substituée à celle de l'auteur
07:07qui engage sa responsabilité pénale.
07:09Celui qui diffuse sans consentement de la personne un deepfake
07:12encourt un an d'emprisonnement et 15 000 euros d'amende.
07:16Ces peines sont doublées lorsque le deepfake a un caractère sexuel
07:20ou que le deepfake est diffusé à l'aide d'un service de communication en ligne,
07:25autrement dit, sur un site Internet ou sur les réseaux sociaux.
07:29À côté de ça, l'auteur du deepfake engage également sa responsabilité
07:32sur le fondement de droit commun.
07:34On a l'escroquerie, la diffamation, l'usurpation d'identité.
07:38On peut même imaginer faux et usage de faux.
07:40Il y a quand même tout un dispositif pour punir les auteurs de deepfakes.
07:44Donc, on voit qu'il y a des sanctions qui sont importantes,
07:47un arsenal juridique.
07:48Au-delà de la répression, il faut s'intéresser aussi peut-être
07:51à la formation des directions juridiques, des entreprises,
07:55pour justement pouvoir repérer ces deepfakes.
07:57Concrètement, qu'est-ce qu'on peut faire pour former ces directions juridiques ?
08:01Alors, aujourd'hui, on voit qu'il y a une formation des salariés
08:05sur toutes les nouvelles pratiques technologiques
08:09qui nuisent aux entreprises, notamment le phishing.
08:13Aujourd'hui, on voit que dans les entreprises,
08:16de nombreux dispositifs ont été mis en place
08:19pour permettre aux salariés de détecter, de manière théorique,
08:24du phishing.
08:26Mais aussi, il y a des mises en pratique, des tests.
08:29On peut tout à fait imaginer la même chose pour les deepfakes.
08:32Et de manière générale, il paraît évident
08:33que les directions juridiques doivent intégrer la notion de deepfake
08:39pour pouvoir réagir rapidement et être agile,
08:42vu la rapidité à laquelle se diffuse ce type de contenu.
08:47On va conclure là-dessus.
08:48Merci, Joséphine Collin.
08:49Merci beaucoup.
08:50Tout de suite, l'émission continue.
08:52On va parler de l'ordonnance relative au crédit à la consommation.
Commentaires