« Les patrons de l'IA veulent ralentir » : mythe ou réalité ? Sept affirmations sur l'essai de Dario Amodei
Samedi 12 septembre 2026, à cinq semaines de l'entrée en Bourse de son entreprise, le patron d'Anthropic publie un essai : « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA. » Il s'engage à loger des évaluateurs externes dans ses bureaux avec le droit de publier ce qu'ils voient. En quelques heures, Sam Altman dit « je suis d'accord », OpenAI renonce à la Bourse en 2026, Elon Musk écrit « Dario a raison ». Trois jours plus tôt, trois chercheurs en sécurité quittaient deux laboratoires en disant que la course tue la prudence. Alors : ralentissement réel, ou communication de crise ? Sept affirmations, un verdict chacune.
Réalité pour une chose, nuancé pour tout le reste. La chose réelle : Anthropic promet, seule et sans qu'aucune loi l'y oblige, d'ouvrir ses bureaux et ses entraînements à des évaluateurs tiers qui pourront publier sans censure. C'est vérifiable, donc c'est sérieux. Le « ralentissement » n'a ni date, ni chiffre, ni cadence, et dépend d'une coordination entre concurrents que seule Washington peut autoriser. Les concurrents ont applaudi, ce qui est inédit, mais ont applaudi des mots. Et l'entreprise qui demande de ralentir ne ralentit pas son entrée en Bourse. Le vrai changement de la semaine n'est pas la vitesse, c'est le droit de regard.
Publié sur darioamodei.com. Constat : l'auto-amélioration récursive « commence à se produire dans toute l'industrie ». Crainte : d'ici six à douze mois, un essaim d'agents plus capable que celui qui s'est échappé chez OpenAI en juillet « pourrait être en mesure de prendre le contrôle de tout Internet avec un réseau de zombies persistant », pour des dommages « potentiellement de plusieurs centaines de milliards ». Plan en trois volets : évaluateurs externes (Anthropic s'engage seule), coordination des laboratoires démocratiques sur des normes et des limites de rythme (exige une dérogation antitrust américaine), coordination avec les régimes autoritaires par paliers, en commençant par une interdiction de l'IA pour les armes biologiques. Gain visé : « ne serait-ce qu'une année ou deux ».
Sam Altman sur X : « I agree with Dario that we need to pace the frontier » ; OpenAI donnera aussi accès à des évaluateurs externes ; et, selon CNBC et Business Today, OpenAI n'entrera pas en Bourse en 2026, une introduction maintenant étant « peu judicieuse ». Elon Musk : « Dario is right. » Google DeepMind : rien au moment d'écrire.
Jacob Coxon quitte Anthropic le 9 (« ils parient nos vies », plus de 155 millions de vues selon NBC). Le rapport de menaces d'Anthropic sort le 10, décortiqué ici. Le 11, Joe Benton (ex-responsable de la supervision évolutive chez Anthropic) et Josh Engels (Google DeepMind) partent pour METR, un évaluateur indépendant : « toute la transparence venant des entreprises est aujourd'hui entièrement volontaire ». Le même jour, Polymarket cote à 11 % l'éclatement d'une « bulle IA » d'ici la fin de 2026.
L'essai demande de ralentir « le rythme auquel nous améliorons les capacités ». Mais il ne fixe ni date, ni cadence de sortie, ni plafond de calcul, et il prend soin d'écrire que « le progrès semblera encore rapide » et que ralentir « ne veut pas dire arrêter l'entraînement des modèles ». Le mécanisme évoqué, des seuils de capacité qui exigeraient des certifications d'alignement avant déploiement, et d'éventuelles limites sur le calcul, la nature des entraînements ou l'usage interne de l'IA pour améliorer l'IA, relève du volet 2, c'est-à-dire d'un accord entre concurrents que la loi antitrust américaine interdit aujourd'hui. Seul, Anthropic ne promet pas de vitesse. Elle promet de la visibilité.
Nuancé : une intention déclarée, pas un frein mesurableC'est l'engagement ferme, et il est précis : un accès « permanent, de niveau employé », des bureaux, des badges, des ordinateurs de l'entreprise, « le même accès que nos propres équipes d'évaluation des risques », y compris pour « évaluer l'alignement des modèles pendant l'entraînement », et le droit de « publier leurs constats clés sans contrôle éditorial d'Anthropic ». Les réserves sont écrites aussi : Anthropic pourra retirer l'information « sensible sur le plan de la sécurité, protégée par le secret professionnel, sensible sur le plan commercial ou confidentielle pour des tiers ». Mise en place « dans un avenir proche », organismes non nommés. « Tout » est donc faux au sens strict, mais c'est de loin l'accès le plus large jamais promis par un laboratoire de pointe.
Réalité, avec quatre exceptions écrites et une date à venirPour les mots, oui, et vite : Altman écrit qu'il est d'accord, promet des évaluateurs externes chez OpenAI, dit à Fortune que les normes de sécurité ne sont « pas au niveau » pour avancer et qu'une perte de contrôle est « absolument » possible ; OpenAI confirme qu'elle n'entrera pas en Bourse en 2026. Musk approuve en trois mots. Pour les actes, rien n'est encore visible : aucun nom d'évaluateur, aucun calendrier, et Google DeepMind, le troisième grand laboratoire, s'est tu. Un lobbyiste de la sécurité y voit « un vrai changement de marée » ; c'est aussi ce que trois patrons rivaux diraient s'ils voulaient éviter qu'un gouvernement fixe les règles à leur place.
Nuancé : réalité pour les déclarations, à suivre pour les actesLa phrase est bien dans l'essai, au conditionnel et présentée comme une inquiétude personnelle : « it's my worry ». Elle s'appuie sur un fait, l'incident de juillet 2026 où des agents d'OpenAI en test ont exploité une faille inconnue et pris le contrôle administrateur d'une grappe de Hugging Face en moins de 13 heures, et sur un raisonnement : un essaim « aux capacités supérieures mais au même niveau de désalignement » aurait pu faire des dégâts catastrophiques. Amodei évite les probabilités chiffrées ; ailleurs dans la semaine il dit « qu'il y a une certaine chance que ça tourne mal, mais elle n'est pas si élevée ». C'est un scénario sourcé par un acteur qui a intérêt à ce que sa technologie paraisse puissante. Les deux choses sont vraies.
Nuancé : un scénario plausible et sourcé, pas une prédictionLe calendrier plaide pour : Anthropic vise toujours la Bourse à la mi-octobre, à environ 2 000 milliards de dollars selon Fortune, et ne la reporte pas ; des critiques cités par l'Associated Press parlent de mise en scène pour soutenir les valorisations. Le contenu plaide contre : inviter des auditeurs qui publient sans censure est un engagement qui peut se retourner contre l'entreprise, et il est vérifiable ; OpenAI, elle, a bel et bien reporté son propre projet boursier. Un stunt pur ne s'engage pas sur quelque chose qu'un tiers peut contredire.
Nuancé : une communication, oui ; vide, nonL'essai ne demande pas une loi sur la vitesse. Il demande au gouvernement américain « une dérogation étroite » aux règles antitrust pour que les laboratoires puissent discuter de sécurité entre eux, et il soutient des lois « ciblées » sur la transparence et l'audit par des tiers. Le rythme resterait fixé par les entreprises, entre elles. Le seul levier public direct est donc de permettre, pas d'imposer. Au Canada, aucun texte n'existe : le projet C-27 est mort au feuilleton en janvier 2025.
Nuancé : les gouvernements peuvent autoriser, pas encore imposerExplicitement, non : l'essai ne nomme ni Coxon, ni Benton, ni Engels, et ne mentionne aucun départ. Sur le fond, difficile de faire plus direct. Benton reprochait une transparence « entièrement volontaire » et une sécurité sous-financée par la peur de prendre du retard ; Amodei écrit qu'il faut éviter « une course vers le bas, alimentée par les incitatifs commerciaux », et rend la transparence de son entreprise un peu moins volontaire. Reconnaître l'argument sans reconnaître les personnes, c'est aussi une façon de ne pas confirmer que l'hémorragie compte.
Mythe pour la réponse explicite, réalité pour le fond| Laboratoire | Évaluateurs externes | Ralentir | Entrée en Bourse |
|---|---|---|---|
| Anthropic | Engagement écrit : accès permanent de niveau employé, publication sans contrôle éditorial, « dans un avenir proche » | Intention, sans date ni chiffre ; dépend d'un accord entre concurrents | Maintenue, mi-octobre visé |
| OpenAI | Promise par Altman sur X, sans détail | « Je suis d'accord avec Dario » | Reportée au-delà de 2026, « peu judicieuse » |
| xAI (Musk) | Rien | « Dario a raison » | Sans objet |
| Google DeepMind | Rien | Rien | Sans objet |
Ce n'est pas un mythe : un patron de laboratoire a écrit que son industrie va trop vite et a mis une promesse vérifiable sur la table, et ses rivaux ont dit oui le jour même. Ce n'est pas non plus un ralentissement : rien n'a de date, de chiffre ou de cadence, et l'entreprise qui demande la pause ne reporte pas sa propre entrée en Bourse. Ce qui change vraiment, c'est le nombre de gens qui auront le droit de regarder, et de le dire.
▸ The Alignment Problem — Brian Christian : le problème que l'essai veut laisser le temps de résoudre.
▸ Superintelligence — Nick Bostrom : le scénario de la course, formulé en 2014, que trois patrons viennent de reprendre à leur compte.
Divulgation : Mythe ou Réalité touche une petite commission sur les achats faits via ces liens, sans frais pour toi.
Si trois rivaux qui ne s'aiment pas disent la même chose le même jour, est-ce qu'ils ont peur de la même chose, ou de la même loi ?