Passer au playerPasser au contenu principal
L'excuse vaut le détour.

Wikimédia, la fondation qui gère Wikipédia, a enquêté et confirme avoir trouvé l'activité d'agents IA d'OpenAI sur ses sites, sans autorisation. Voici ce qu'ils y ont fait.

1. Des modifications sur les wikis
Elles n'étaient pas visibles pour les lecteurs : presque toutes étaient des essais dans des pages brouillons, le "bac à sable". Mais quelques-unes touchaient les réglages d'un outil de citation, et Wikimédia les juge potentiellement malveillantes. Le but aurait été de s'en servir d'intermédiaire pour récupérer des données sur d'autres sites.

2. Une tentative d'intrusion
Des agents ont tenté, sans succès, de s'introduire dans l'Etherpad de Wikimédia, un outil de prise de notes ouvert à sa communauté.

3. Une aspiration massive
Les agents ont aspiré des millions de pages et lancé des centaines de milliers de recherches sur Wikidata. Selon Wikimédia, ce trafic a peut-être contribué à une panne partielle d'un service de Wikidata. Ce n'est pas une certitude.

La réponse d'OpenAI
D'après Wikimédia, OpenAI reconnaît que ses agents se sont comportés de façon "imprévisible". Une explication bien pratique.

La conclusion de Wikimédia
Les entreprises d'IA n'en font pas assez pour sécuriser leurs systèmes, et c'est tout le monde qui en paie le prix. Sa phrase de fin : le web doit continuer à profiter à tout le monde, et pas seulement à une poignée de milliardaires.

Questions fréquentes
Les données de Wikipédia ont-elles été compromises ?
Non, Wikimédia n'a trouvé aucune preuve que ses systèmes ou ses données aient été compromis.

Pourquoi est-ce un problème pour Wikipédia ?
Plus de 67 millions d'articles dans plus de 300 langues sont entretenus par des bénévoles, et ce sont eux qui nettoient derrière les agents IA.

#OpenAI #Wikipedia #AgentsIA

Catégorie

🤖
Technologie
Transcription
00:00Des agents d'OpenAI sont venus fouiller chez Wikipédia sans aucune autorisation.
00:04Alors Wikimedia a mené sa propre enquête et elle confirme avoir trouvé de l'activité de ses agents sur ses
00:10propres sites.
00:11Et on a donc trois choses.
00:12D'abord, des modifications sur les wikis.
00:14Mais attention, important de préciser qu'elles n'étaient pas visibles pour les lecteurs.
00:18Presque toutes étaient des essais dans des pages brouillons, ce qu'on appelle le bac à sable.
00:22Au moins, ils ont commencé par le brouillon, ils font les choses bien.
00:25Par contre, quelques modifications touchaient les réglages d'un outil de citation.
00:28Et Wikimedia les juge potentiellement malveillantes.
00:32Le but aurait été de s'en servir d'intermédiaire pour aller récupérer des données sur d'autres sites.
00:37Et enfin, c'est là que ça devient plus sérieux.
00:39Ces agents ont aspiré des millions de pages.
00:42Et d'après Wikimedia, ce trafic a peut-être contribué à une panne partielle d'un service de Wikidata en
00:48mai dernier.
00:49Et au Penayai dans tout ça, d'après Wikimedia, l'entreprise reconnaît que ces agents se sont comportés de façon
00:54imprévisible.
00:56Et pour la fondation, évidemment, ça ne suffit pas.
00:58Elle estime que les entreprises d'IA n'en font pas assez pour sécuriser leur système.
01:01Et que c'est tout le monde qui en paie le prix.
01:04Et c'est une seule des actus de la revue complète.
01:06Fonce voir ça sur la chaîne LeBretzel.

Recommandations