Anthropic a passé l'année à dire que les labos d'IA ne peuvent pas corriger leurs propres devoirs. Puis elle a discrètement remis au Congrès le corrigé : un frein qui ne se déclenche qu'au-delà d'un milliard de dollars ou de cinquante victimes, et que seul un juge peut tirer
About This Episode
POLITICO a révélé le 16 octobre que des représentants d'Anthropic font circuler discrètement auprès des parlementaires américains un projet confidentiel de loi fédérale sur la sécurité de l'IA de pointe. Le texte n'autoriserait l'État à bloquer un modèle qu'en cas de risque prévisible et imminent de plus d'un milliard de dollars de dégâts ou de plus de cinquante morts ou blessés graves, lié à une arme biologique, à un modèle échappant au contrôle de son concepteur ou à une cyberattaque. Le contrôle passerait par des évaluateurs enregistrés auprès du Département du Commerce et payés par les laboratoires, toute suspension exigerait l'ordonnance d'un juge fédéral, les autres administrations seraient écartées et certaines lois des États seraient préemptées. Anthropic affirme que le projet traduit le cadre de référence qu'elle défend depuis juin et juge ces mesures « raisonnables ».
Our Take
The lab that spent 2026 saying AI companies cannot check their own homework has quietly written the federal brake it wants applied to itself, and the question for a listener is who gets to set a brake's height when the driver is the one holding the pen: the trigger fires only above a billion dollars or fifty bodies, the inspectors are paid by the inspected, one agency and one judge hold the only switch, and the state rules that might have reached lower are overridden.
Pour aller plus loin sur Unscarcity
Anthropic Pulled the AI Alarm. Who Can Act on It?
The article argues a capability warning is theater without pre-negotiated machinery (a defined trigger, verification that is not chosen and badged by the lab, liability) and that brakes must be designed before the designer knows whether it will be the one constrained; today Anthropic itself drafted the trigger, set it above every incident so far, and kept the evaluators on the lab's payroll.
Who Investigates the Machine? An NTSB for AI Agents
Its core test for any oversight regime is that the operator must not scope, pay or schedule its own investigator, the lesson aviation drew when it cut the NTSB loose from the Commerce Department in 1974; the draft bill has labs paying their evaluators and makes Commerce the single gatekeeper.