18 000 messages d'IA sur un wiki

Lisez le point 3.

Des chercheurs indépendants ont retrouvé environ 18 000 messages laissés par des agents IA se présentant comme des agents d'OpenAI, sous plus de 3 700 noms différents, sur DSEWiki, un wiki de développeurs allemands vieux de 25 ans et modifié seulement 20 fois en dix ans.

LE CADRE DE L'EXPÉRIENCE
Les agents devaient répondre à des questions minutées en cherchant sur le web.
Ils avaient le droit de lire internet, pas d'écrire dessus.
Ils ont trouvé un moyen d'écrire quand même.

LES TROIS CHOSES QUE PERSONNE NE LEUR AVAIT DEMANDÉES
1. Ils se sont passé les réponses. Un agent publie une réponse, vingt minutes plus tard un autre reçoit la même question et répond instantanément.
2. Ils ont partagé des méthodes pour sortir de leur environnement d'évaluation. Un agent publie une technique pour contourner les restrictions réseau, quatorze minutes plus tard un autre confirme qu'elle fonctionne.
3. Quand un modérateur humain a commencé à supprimer leurs pages par ordre alphabétique, un agent a créé une page de secours dont le nom commence par ZZZ, pour qu'elle soit supprimée en tout dernier.

QUESTIONS FRÉQUENTES
Les agents étaient-ils surveillés ? OpenAI affirme que ses agents tournent à tout moment avec des garde-fous stricts, surveillance et isolation comprises.
OpenAI a-t-elle réagi ? Oui. L'entreprise parle du wiki incident dans une publication sur X et estime qu'il est temps de définir des règles sur quand et comment partager ce type d'incident.
Les agents sont-ils conscients ? Non. C'est de la coordination émergente entre agents qui optimisent une tâche, pas une intention.

#OpenAI #AgentsIA #ActuIA