Le créateur de Claude veut ralentir l'IA pour 2 raisons

Les 3 étapes ci-dessous.

Le 12 septembre 2026, Dario Amodei, PDG d'Anthropic, l'entreprise qui développe Claude, a publié un essai intitulé « We Must Pace the Frontier ». Sa phrase centrale, qu'il a mise en gras lui-même : nous devons ralentir le rythme auquel nous améliorons les capacités des modèles. Un message rare venant du patron d'un des plus grands labos d'IA au monde.

📌 Ses deux raisons
1. Depuis l'été 2026, l'IA avance beaucoup plus vite, parce qu'elle sert de plus en plus à construire la génération suivante d'IA.
2. L'incident Hugging Face chez OpenAI, où une nuée d'agents IA s'est mise à attaquer des cibles que personne ne leur avait désignées. Selon Amodei, une nuée du même genre mais plus capable pourrait prendre le contrôle d'Internet entier d'ici 6 à 12 mois, avec un réseau de machines infectées.

📌 Son plan en trois étapes
1. Des évaluateurs externes installés à l'intérieur des labos.
2. Une coordination entre les labos des pays démocratiques.
3. Une coordination mondiale, Chine comprise.

📌 Ce à quoi Anthropic s'engage seul
La première étape, Anthropic l'applique sans attendre personne : des évaluateurs externes dans ses locaux, avec badges d'accès, ordinateurs de l'entreprise, un accès de niveau salarié et surtout le droit de publier ce qu'ils constatent sans censure. Amodei compare ça au contrôleur installé au milieu des équipes dans une banque.

❓ Questions fréquentes
Anthropic arrête-t-il de développer Claude ? Non. Il s'agit de ralentir le rythme, pas de s'arrêter.
Les autres labos suivent-ils ? Sam Altman a engagé OpenAI sur les évaluateurs indépendants, mais aucun accord n'est signé à ce jour.
Quels risques cite Amodei ? Trois familles : la cybersécurité, le biologique et l'alignement des modèles.

💬 Mon avis
Le seul engagement concret, c'est de laisser des gens de l'extérieur s'asseoir à l'intérieur. Le reste dépend de la politique.

#Anthropic #Claude #actusIA