00:00Les IA qui génèrent des photomontages dénudés vont être interdites dans toute l'Union européenne.
00:04C'est la décision qui a été prise ce jeudi 7 mai par les États membres et le Parlement européen.
00:09L'initiative vise notamment GROC, l'assistant d'intelligence artificielle d'Elon Musk.
00:13Depuis décembre dernier, une mise à jour permet aux utilisateurs de modifier une photo réelle.
00:18Mais quelques jours après son lancement, la nouvelle fonctionnalité a rapidement pris une tournure sexuelle.
00:23Les internautes étaient de plus en plus nombreux à soumettre à l'IA des images réelles de femmes ou d
00:27'enfants
00:27et à lui demander de les dénuder.
00:30Si bien que l'outil a généré plus de 3 millions d'images sexuelles en une dizaine de jours.
00:35En début de semaine, c'est la première ministre italienne Georgia Meloni qui en a été victime.
00:39Elle a pris la parole sur ses réseaux sociaux après que des deepfakes d'elle en sous-vêtements sont devenus
00:43viraux.
00:44Les deepfakes sont un outil dangereux car ils peuvent tromper, manipuler, attaquer n'importe qui.
00:49Je peux me défendre mais d'autres ne peuvent pas.
00:51Il faut vérifier avant de croire et croire avant de partager.
00:54Ça m'arrive aujourd'hui mais ça peut arriver à n'importe qui demain.
00:57Le 10 janvier dernier, une députée belge alertait déjà sur le sujet.
01:00Madame la ministre, permettez-moi de vous montrer deux images.
01:04La première est une simple photo de moi publiée innocemment sur les réseaux sociaux.
01:11La seconde a été générée en quelques secondes sur une intelligence artificielle qui m'a déshabillée, sexualisée, sans mon consentement.
01:23A partir du 2 décembre 2026, les outils d'IA devront donc être dotés de mesures de sécurité,
01:28les empêchant de générer des contenus pédopornographiques,
01:30de représenter les parties intimes d'une personne sans son consentement
01:33ou de la mettre en scène dans des activités sexuelles.
Commentaires