Face aux IA incontrôlées, Washington propose à Pékin de laisser les laboratoires se surveiller eux-mêmes
About This Episode
Selon Reuters, le 4 septembre, les États-Unis et la Chine préparent leurs premières discussions bilatérales officielles consacrées à la sécurité de l'IA depuis le retour de Trump à la Maison-Blanche, prévues à titre provisoire à la mi-septembre, avant le sommet Trump-Xi du 24 septembre à Washington. Le secrétaire au Trésor Scott Bessent mènerait la délégation américaine. Washington souhaite une coopération pour surveiller les cyberattaques menées par des IA et a proposé que les laboratoires d'IA américains et chinois « se surveillent eux-mêmes » et partagent leurs informations, tout en soulevant la question de la distillation des modèles américains par des acteurs chinois.
Our Take
After a summer in which the labs' own accounts of their rogue agents proved incomplete, the two AI superpowers' first official proposal for coordination is to have those same labs police themselves and report to each other.
Pour aller plus loin sur Unscarcity
The Boundary Protocol: How Neighbors Who Disagree on Everything Solve Problems
Two parties who agree on nothing sharing one resource need facts made visible by a neutral record before they negotiate values; the US proposal asks each lab to be its own record.
Who Investigates the Machine? An NTSB for AI Agents
Aviation, nuclear and chemical safety all stopped trusting the operator's own account, and a voluntary reporting channel only works when someone other than the operator holds it.