00:00Ici, une IA avait décidé que vous êtes un potentiel fraudeur, avant même que vous n'ayez fait quoi que
00:04ce soit.
00:05Selon un document révélé par l'association Quadratur du Net, France Travail développe un algorithme pour fliquer les chômeurs.
00:11L'objectif ? Prédire quels bénéficiaires de la location chômage a les plus de chances de frauder.
00:17Cet outil serait illégal selon l'association. Jusqu'à 6 millions de personnes pourraient être profilées chaque mois par cette
00:23IA.
00:23Les principaux soucis sont 1. On ne sait pas précisément comment ces IA sont nourries.
00:28La nature du ciblage demeure donc incertaine.
00:31I2. Elle risque de renforcer la répression sociale.
00:34On est responsable en France Travail d'une partie des décisions qui lui reviennent normalement.
00:38On ne sait pas comment fonctionnent ces algorithmes et les modes d'emploi sont opaques.
00:42Malgré les demandes de l'association, l'institution refuse catégoriquement de communiquer sur son code.
00:47Résultat, il est plus difficile de détecter et d'éprouver les erreurs, les discriminations ou les abus qu'ils peuvent
00:53entraîner.
00:54France Travail est le troisième organisme public à expérimenter ce type d'outils.
00:58La CAF et l'assurance maladie utilisent déjà des systèmes similaires.
01:02Ces IA sont dépolitisées. Elles ne connaissent donc pas les enjeux du contrôle social et des violences associées.
01:08Ou sont-elles délibérément non politisées ?
01:10Dans les documents, France Travail explique qu'une des raisons de l'utilisation des IA est la suppression d'a
01:17priori
01:17afin d'atténuer les choix plus subjectifs et moins neutres.
01:21De cette manière, il transforme un problème politique en un souci purement technique,
01:26en enlevant la responsabilité de France Travail.
01:28La quadrature du Net Alert.
01:30Le profilage algorithmique est utilisé pour invisibiliser les caractères discriminatoires des politiques des contrôles
01:37à travers l'individualisation du processus de sélection.
01:40De cette manière, le gouvernement poursuit une stratégie d'intensification des contrôles.
01:45L'an dernier, 730 000 contrôles ont été réalisés et pour 2027, l'objectif est d'en effectuer 1,5
01:52million.
