00:00...
00:09L'autorité irlandaise de protection des données a ouvert une nouvelle enquête contre X
00:15après la diffusion d'images sexuelles générées par son outil d'IA Grock à partir de personnes réelles.
00:22Quels sont les risques juridiques ?
00:24On en parle avec mon invité, Stéphanie Berlan, associée chez DWF.
00:30Stéphanie Berlan, bonjour.
00:31Bonjour Arnaud Dumourier.
00:32Avant d'aborder les risques, revenons sur l'état de la conformité au RGPD.
00:39Que révèle cette enquête par rapport à la conformité de X au RGPD ?
00:45Écoutez Arnaud, cette enquête fait suite déjà à des précédentes enquêtes
00:51qui avait donné lieu d'ailleurs à des condamnations substantielles de X.
00:55Et donc on voit dans l'enquête qui vient d'être ouverte,
00:58donc on ne connaît pas encore évidemment les conclusions,
01:01que le champ de vérification de la conformité de X est très large
01:07puisque c'est l'ensemble des grands principes du RGPD
01:09qui vont être étudiés par l'autorité irlandaise.
01:13Donc ça suscite effectivement des interrogations sur la conformité de la plateforme.
01:19On va parler des deepfakes et des obligations des plateformes.
01:23Pour bien comprendre, quelles sont les obligations de plateformes
01:27comme X et Grog par rapport à la génération de deepfakes ?
01:31Alors là-dessus, les plateformes ne peuvent pas se reposer uniquement
01:34sur le fait que ces deepfakes sont généralement réalisés
01:38par les utilisateurs de ces plateformes.
01:40Elles ont elles-mêmes leur part de responsabilité
01:42liées à l'environnement dans lequel elles ont déployé
01:47qui permet de poster ce type de plateforme.
01:50Et justement, le fait de ne peut-être pas avoir pris
01:52les mesures techniques, organisationnelles nécessaires,
01:56de ne pas avoir mis les garde-fous, les filtrages
01:59qui peuvent empêcher ce type de contenu
02:02d'être créé et diffusé par les utilisateurs.
02:05Donc là-dedans, ça génère une responsabilité de leur part.
02:08Ça veut dire que l'entraînement et le fonctionnement de Grog,
02:12l'outil d'IA2X, engage la responsabilité juridique de X ?
02:17Oui, il y a plusieurs aspects justement,
02:20et c'est ça qui est intéressant dans l'enquête de l'autorité irlandaise.
02:23On voit bien qu'il y a les aspects RGPD,
02:24puisque les images de ces personnes,
02:27puisque ce sont des personnes identifiables,
02:29l'image est une donnée personnelle,
02:31donc son traitement doit respecter le RGPD.
02:34Et puis ces données, elles ont aussi servi
02:37à l'entraînement de Grog, qui est un LLM,
02:40et donc là-dessus, il y a aussi toutes les dispositions
02:42du règlement européen sur l'IA
02:43qui vont trouver à s'appliquer,
02:46et ce sont les vérifications qui vont être faites par l'autorité.
02:49Et puis le dernier point, évidemment, c'est le DSA,
02:52c'est le Digital Service Act,
02:53qui est en fait un texte européen
02:55qui vise à réprimer la diffusion de contenu illicite.
02:59Est-ce que le fait que ce soit des personnes réelles
03:03qui sont impliquées dans ce deepfake,
03:09ça fait davantage dans la responsabilité des plateformes
03:13que plutôt quand c'est des images virtuelles ?
03:16Oui, il y a une dimension importante,
03:18déjà parce que ça veut dire que vous avez des victimes derrière,
03:21donc en termes de responsabilité et de risque aussi
03:24pour la plateforme, il y a évidemment les condamnations
03:27par les autorités de contrôle type la DPC,
03:31mais vous avez aussi des personnes qui peuvent s'estimer victimes
03:34et faire jouer la responsabilité de X
03:37pour demander des dommages intérêts.
03:39Concrètement, c'est que des dommages intérêts en termes de sanctions ?
03:42Alors vous avez aussi potentiellement certaines images
03:46qui ont justement tout ce qui est à caractère pédopornographique,
03:50ça peut tomber dans des infractions pénales,
03:52donc vous avez aussi un risque pénal indéniable.
03:55On va se tourner vers la question de la modération
03:59qui est aussi centrale sur ce type de plateforme.
04:03Quelles sont les obligations réellement de modération
04:07quand on utilise un outil de génération d'images ou de vidéos comme Grock ?
04:14Alors ça, c'est parfois l'argument qui est mis en avant par les plateformes,
04:17c'est de dire qu'elles ont leur propre système de régulation
04:20et qu'elles n'ont pas justement à être considérées comme responsables
04:23parce qu'elles essayent de modérer en amont et parfois ça ne marche pas.
04:28Mais si ce sont des mesures importantes techniquement,
04:33ça leur permet aussi de remplir les critères des mesures techniques de protection,
04:38ça ne suffit pas à les exonérer complètement.
04:41elles ont aussi besoin de démontrer un ensemble de respect de la réglementation,
04:46le fait d'avoir justement mis en place peut-être un DPO qui fasse vraiment son travail,
04:53un délégué à la protection des données qui fasse vraiment son travail,
04:56le fait d'avoir aussi en amont respecté le principe de privacy by design,
05:01privacy by default, alors ces termes juridiques en anglais.
05:05C'est en gros, c'est dès la conception du modèle,
05:08vous avez fait en sorte d'être conforme à la réglementation
05:10et c'est là où il y a des interrogations qui sont soulevées par l'autorité irlandaise concernant GROC.
05:17Voilà.
05:17Alors ce type d'enquête, vous l'avez rappelé, il y en a eu plusieurs,
05:21est-ce que ça marque un tournant dans la régulation ?
05:23Ça veut dire qu'on est davantage attentif à ce qui se passe sur ces plateformes ?
05:27Oui, ce qui est intéressant, c'est qu'on voit bien que l'autorité irlandaise
05:30s'est saisie de tous les outils à sa disposition,
05:33il y a le RGPD dont on a parlé, il y a le DSA aussi, cette directive,
05:39vous allez avoir prochainement le règlement européen, le IA Act aussi,
05:43qui va créer des obligations.
05:45Donc on sent bien que les autorités se disent,
05:47voilà, on a tout un arsenal à notre disposition,
05:49on est tout à fait capable de l'appliquer de manière cumulative,
05:54et voilà, on va lancer des enquêtes tous azimuts
05:58pour s'assurer en fait que les données des utilisateurs sur le territoire européen
06:04soient correctement traitées et dans le respect des principes de nos systèmes européens.
06:09Alors vous évoquez le cadre juridique, RGPD, IA Act, DSA,
06:16est-ce que ce cadre est suffisant aujourd'hui face à ces plateformes
06:21où il y a des contenus toutes les secondes qui sont générés ?
06:25Oui, alors c'est un peu l'enjeu, c'est-à-dire qu'on voit bien
06:28que ces différents axes permettent finalement d'appréhender
06:31des agissements illicites de manière assez structurée,
06:35mais on sent qu'il pourrait y avoir aussi des réglementations plus harmonisées,
06:40et notamment tout ce qui a trait au droit à l'image, à la diffamation,
06:46les délits pénaux dont je vous parlais sont évidemment différents
06:49selon les États membres.
06:51Donc voilà, on voit bien qu'il y a aussi des législations locales
06:55qui peuvent aussi s'appliquer et qui pourront être mises en œuvre
06:59par justement des victimes dans tel et tel pays,
07:01mais il n'y a pas de cadre uniforme au niveau européen
07:04pour appréhender l'illicéité tout simplement de ce type de contenu.
07:08Donc ça veut dire que l'Union européenne devrait se saisir selon vous
07:12de cette question pour harmoniser ce cadre ?
07:15C'est une grande question parce qu'on a aussi des dispositifs nationaux
07:19qui fonctionnent très bien.
07:21La loi 1881 en France en matière de diffamation,
07:24l'article 9 du Code civil français,
07:26sont des textes qui existent depuis très longtemps,
07:29qui ont su s'adapter aux nouvelles technologies.
07:32Donc est-ce qu'il est pertinent de rajouter une nouvelle couche
07:34de réglementation européenne ?
07:36Vaste question.
07:37Pour terminer, vous pensez qu'il y aura encore d'autres enquêtes
07:41de ce même type dans d'autres pays ?
07:46Je pense qu'il y a en tout cas une volonté de la part des autorités
07:52de mieux juger les contenus sur Internet,
07:55que l'Europe est évidemment en pointe à ce sujet,
07:58et les utilisateurs sentent bien qu'ils peuvent aussi un jour
08:02devenir victimes, donc ils sont aussi très demandeurs
08:04d'avoir ce type de protection.
08:08Maintenant, les régimes sont très différents
08:10entre les Etats-Unis et l'Europe,
08:12et on voit bien qu'il y a des tensions aussi
08:13qui dépassent finalement le cadre juridique.
08:17On va terminer là-dessus.
08:18Merci Stéphanie Berlan.
08:20Je rappelle que vous êtes associée chez DWF.
08:23Merci Arnon.
08:24Tout de suite, on enchaîne,
08:25on va parler du 28e régime juridique européen.
Commentaires