00:00Good morning business, le pitch.
00:03Et nous recevons Alexandre Sossou, directeur général et fondateur de Modering, dans notre pitch.
00:08Bonjour.
00:08Bonjour.
00:09Vous avez une minute pour pitcher Modering.
00:11Oui.
00:11Alors bonjour, Modering, qu'est-ce que c'est ?
00:14Alors c'est une IA verticale, donc qui ne sert qu'à faire qu'une chose, donc la modération de
00:18contenu.
00:18Il faut savoir qu'aujourd'hui, la sextorsion en ligne a augmenté de près de 2000% entre 2022 et
00:262024.
00:26Les atteintes à la personne, à 12%, se passent en ligne maintenant, et non plus de manière physique.
00:34Donc il est essentiel de pouvoir modérer les contenus qui passent sur nos réseaux sociaux,
00:40mais aussi sur les plateformes de e-commerce, comme on l'a vu avec l'histoire de la poupée pornographique
00:44avec Shine.
00:47Les crimes et toutes les atteintes à la personne se feront de plus en plus maintenant en ligne.
00:54Et c'est pour ça que j'ai eu l'idée de créer une IA spécialisée pour détecter les contenus
00:59illicites qui arrivent sur toutes nos plateformes.
01:02On travaille dessus depuis 2024.
01:04Et depuis 2024, on a réussi à créer une IA qui est capable aujourd'hui de détecter les crimes sexuels,
01:13les abus sexuels, mais aussi les crimes racistes.
01:16Anthony Morel, première question.
01:17Alors qu'est-ce qu'elle détecte concrètement et comment est-ce que vous faites ?
01:21Est-ce que c'est tous les contenus générés par l'intelligence artificielle ? Est-ce que c'est des
01:24contenus illicites ?
01:26Comment est-ce que vous procédez exactement ?
01:28Donc du coup, on lui a appris à reconnaître des patterns, que ce soit dans des vidéos ou des textes
01:33ou des photos.
01:34Il y a toujours des signaux, comme par exemple, si on est sur un site pour enfants, la nudité, ça
01:42va être un des signaux qu'elle va détecter.
01:43Et en utilisant tous ces signaux qu'il y a sur les vidéos, textes, etc., elle arrive à déterminer du
01:48coup si le contenu est illicite ou pas.
01:50Et on y arrive, on a avancé, ce que je me souviens il y a quelques années, par exemple, les
01:54systèmes de modération sur Instagram et Facebook, c'était pas complètement au point.
01:57Si vous preniez une photo au Louvre et qu'il y avait un peu de nudité sur un tableau, par
02:01exemple, c'était instantanément supprimé.
02:03Aujourd'hui, on s'est amélioré par rapport à ça ?
02:05Alors en tout cas, nous, oui. Et je pense que c'est aussi un choix politique.
02:11Depuis l'arrivée d'une certaine administration aux États-Unis, les lois de modération ont été coupées, les budgets de
02:17modération ont été coupés.
02:18Donc c'est aussi une véritable volonté du côté européen d'améliorer cela, avec notamment le Digital Service Act.
02:24Et c'est pour ça que nous, on s'est concentrés sur ce sujet.
02:28Oui, ça rentre dans ce cadre. Eva ?
02:29Est-ce qu'il y a derrière quand même des régulateurs humains ?
02:31Puisqu'on sait que ça existe, les régulateurs qui analysent les vidéos sur les réseaux sociaux.
02:36Là, votre spectre, il est assez large.
02:38Est-ce qu'il y a quand même une patte humaine derrière pour les vidéos un peu border ?
02:43Oui, donc du coup, le but originel de la start-up, c'était en fait de remplacer ces humains
02:49qui doivent regarder à longueur de journée des vidéos horribles, de viols, de tête coupée, etc.
02:54et d'utiliser en fait l'IA pour ne plus avoir à engager ces centaines de milliers de personnes
02:59qui font ça dans les pays en développement pour nous, pour qu'on puisse regarder nos vidéos sur les réseaux.
03:05Et donc effectivement, maintenant, c'est l'IA qui fera ce genre de choses.
03:09Mais il y aura des managers de ces IA en fait.
03:12Donc il y aura beaucoup moins de personnes qui s'occuperont d'aller voir les cas les plus compliqués.
03:16Donc c'est destiné aux entreprises, aux régulateurs et concrètement, vous pluggez sur tous les contenus
03:23qui sont diffusés par ces clients-là ?
03:25Oui, en fait, par clé API, on va se plugger au back-end du client et recevoir les flux,
03:32les contenus qui vont recevoir des utilisateurs de chez eux et analyser ces contenus
03:37avant qu'ils soient postés sur les plateformes.
03:39Ah, c'est avant qu'ils soient postés, c'est-à-dire que c'est une vérification a priori en
03:44fait.
03:44Et si le contenu est jugé illicite, il n'est pas publié, pas publiable.
03:50Voilà, exactement.
03:51Donc en fonction des entreprises, c'est un choix encore une fois politique.
03:55On sait qu'il y a eu des annonces côté américain par les grands réseaux sociaux
04:00qui voulaient que ce soit maintenant les personnes, les consommateurs eux-mêmes
04:03qui appuient sur le bouton report quand il y a un contenu un peu bizarre.
04:07Du côté européen, en tout cas, on le fait avant.
04:09Et ça nous permet d'éviter de recevoir des contenus traumatisants.
04:14Et est-ce que ça détecte aussi les copies ?
04:15Parce que l'IA peut être pris à son propre jeu de l'IA et des vidéos générées artificiellement.
04:20Oui, donc ça, ça sera au choix du client.
04:21En fonction du type de client, que ce soit un réseau social ou un e-commerce,
04:27ça pourra aussi bloquer les copies, les images non désirées, etc.
04:31Mais la question, c'est où est-ce que vous placez le curseur ?
04:34Où est-ce que c'est vous qui l'est placé ?
04:35Ou est-ce que c'est votre client ?
04:36Parce qu'entre un contenu qui est vraiment illicite
04:38et un contenu qui peut être choquant mais légal,
04:41il y a une zone grise qui est quand même assez énorme
04:43et il y a même une place pour la morale dans tout ça.
04:46Comment est-ce que vous arrivez à gérer ce paramètre-là ?
04:48Oui, donc c'est une des grandes questions qu'on a gérées.
04:50Tout simplement, on sait en fait, on se réfère à la loi.
04:54Donc l'IA, elle a été entraînée à reconnaître pour l'instant les contenus les plus extrêmes,
04:59donc abus sexuels, crimes violents, etc.
05:02Et elle se réfère à la loi pour pouvoir...
05:05strictement, on suit la loi.
05:07Vous préparez une levée de fonds ?
05:08Oui, on prépare une levée de fonds pour la rentrée scolaire.
05:11Et pour développer tout ça concrètement ?
05:14Oui, pour structurer la plateforme, la stratop, un peu plus professionnellement
05:21et engager plus de personnes pour travailler sur l'IA.
05:23Ça s'appelle Modering.
05:24Merci Alexandre Sossou d'être venu nous voir.
05:27Merci à vous.
05:27Directeur général et cofondateur de Modering.
Commentaires