00:00Pour reconnaître une image générée par IA, il suffit de regarder si elle est jaune.
00:04Pour beaucoup d'internautes, la technique est infallible depuis quelques mois.
00:08Et en regardant les images qu'ils utilisent en exemple, on comprend pourquoi.
00:12Même en tout genre, propagande américaine ou encore vidéo IA produite à la chaîne,
00:16même la photo de profil du PDG d'OpenAI, Sam Altman, a succombé à la teinte jaunâtre.
00:21Le problème est tellement répandu qu'il existe désormais des sites et des tutos
00:25pour déjaunifier les images générées par Sora ou ChatGPT.
00:29Si l'on en croit tous les tweets sur le sujet, cette sorte de filtre jaune serait le résultat de modèles IA
00:34qui se recopient entre eux et recrachent de pâles copies.
00:37Certains pensent même que tout a commencé avec la tendance des images style Ghibli qui cartonnaient en mars.
00:43Bon, en vrai c'est un peu plus compliqué que ça, mais dans le fond, ils n'ont pas tort.
00:59Alors oui, mauvais prompt, bug technique ou biais exagéré d'un modèle IA, il est difficile de connaître la cause exacte de ce jaunissement.
01:21Mais ce qu'on sait, c'est qu'il risque d'être amplifié par ce que l'on appelle la consanguinité de l'IA,
01:26ou l'effondrement des modèles IA.
01:28A model collapse can happen where you start training machine learning models on data created by other machine learning models.
01:35I've called this in my work a form of Habsburg AI.
01:39The Habsburgs, the very famous political dynasty in Europe that was also very famous for lots of inbreeding,
01:46creating these exaggerated, even grotesque features.
01:50Very quickly, just after a few generations of training a model on a substantial amount of AI-created data,
01:58the model can start to fall in on itself, it can start to generate really bizarre and weird output.
02:07Si un modèle consanguin s'effondre, il peut donc se mettre à halluciner,
02:11par exemple en délirant sur un certain sujet alors que vous ne lui avez rien demandé.
02:15Il peut aussi se mettre à générer des images loufoques, pas du tout naturelles, voire même particulièrement jaunes.
02:21La solution semble alors évidente.
02:23Il suffit juste de ne pas entraîner son IA avec des données dites synthétiques
02:26et de privilégier le contenu humain qui est plus divers.
02:29Mais ce n'est pas si simple que ça.
02:30La toute raison pour laquelle l'inbreeding AI est même un problème,
02:35c'est parce qu'on en fait, il y a un problème de la scarcité data.
02:38Il y a beaucoup de systèmes de AI qui existent déjà, comme ChatGPT ou Anthropics Cloth, et ainsi de suite,
02:45ils ont essentiellement été traînés sur tous les données humains producés qui existent aujourd'hui.
02:50Les gens ne peuvent pas produire assez de données à un peu plus rapide
02:54pour s'assurer le sang de ces modèles de l'AI.
02:58Et c'est pourquoi les entreprises se tournent vers l'AI qui produit des données
03:03comme solution à cette scarcité data.
03:05Vous pouvez avoir beaucoup plus de données synthétiques,
03:07beaucoup plus rapides, beaucoup plus rapides et beaucoup plus rapides.
03:10N'est-ce qu'il n'y a rien de complainant sur le copyright ou quelque chose comme ça.
03:14Mais le bidouillage des entreprises de la tech pour faire des économies
03:17va avoir, et a déjà, des conséquences dramatiques.
03:20Face à tout ça, le secteur de la tech est évidemment en quête de solutions,
03:38le but étant de trouver le bon équilibre entre données réelles et données synthétiques.
03:42OpenAI fait d'ailleurs son max pour consolider des partenariats
03:45avec des sources fiables de données humaines qui ne sont pas dispo publiquement en ligne,
03:49comme Shutterstock ou la société Tress.
03:51Mais la menace d'une bullia qui risque d'éclater continue de planer,
03:55et beaucoup sont dans le déni.
04:19Une chose est sûre, pendant que les tech bros se chamaillent,
04:37l'âge d'or de l'intelligence artificielle touche à sa fin,
04:40et il est déjà en train d'être remplacé par l'âge jauni.
04:43Sous-titrage Société Radio-Canada
04:47Sous-titrage Société Radio-Canada
Commentaires