Il démissionne d'Anthropic et alerte sur l'IA

Il a tout quitté.

Jacob Coxon, chercheur qui dit avoir passé trois ans sur l'entraînement des modèles chez OpenAI puis chez Anthropic, a annoncé sa démission sur X en septembre 2026.

CE QU'IL DIT
Les personnes qui construisent l'IA pensent qu'elle pourrait tous nous tuer d'ici la fin de la décennie.
Il accuse les laboratoires de foncer vers une IA capable de s'améliorer toute seule en jouant avec nos vies.
Sur son ancien employeur : chez Anthropic les enjeux sont bien compris, mais l'entreprise est lancée dans une course qu'elle pense devoir gagner, parce qu'elle estime que personne d'autre n'agira de façon responsable.
Pour lui, c'est un pari arrogant qui ne devrait pas se décider sur le Slack d'une entreprise privée.

CE QUE RÉPONDENT LES AUTRES
Evan Hubinger, toujours en poste chez Anthropic, lui donne raison sur le fond et estime le risque à plus de 10 % d'ici dix ans. Il reconnaît qu'Anthropic n'a pas encore de plan pour aligner une superintelligence, tout en jugeant le risque faible avec les modèles actuels.
D'autres chercheurs estiment que ces prédictions catastrophistes démoralisent plus qu'elles n'aident, et qu'elles servent aussi le business.

QUESTIONS FRÉQUENTES
Demande-t-il un arrêt total de la recherche ? Non. Il se dit optimiste sur une coordination entre laboratoires américains et évoque une interdiction temporaire d'améliorer les capacités des modèles.
Pourquoi certains y voient un calcul ? Parce qu'un discours de danger extrême peut aussi justifier de réserver l'IA à quelques acteurs et d'écarter l'open source.

#Anthropic #SecuriteIA #ActuIA