Les dirigeants de l'IA s'attendent en privé à une catastrophe d'ici un an. Ils ne répètent pas comment l'empêcher. Ils répètent ce qu'ils diront le lendemain.
About This Episode
Axios a révélé vendredi que les hauts dirigeants d'Anthropic, d'OpenAI et d'autres sociétés d'IA simulent en privé des scénarios de révolte publique et politique après un événement catastrophique lié à l'IA, très probablement une cyberattaque majeure qui couperait les banques, Internet, l'électricité ou l'eau, que de nombreux initiés attendent d'ici six à douze mois. Ces préparatifs consistent à tester les pires scénarios et à former les membres du Congrès, afin que les entreprises puissent façonner les règles qui seront écrites après le désastre. OpenAI confirme mener des exercices de préparation et précise que ces scénarios ne sont pas considérés comme inévitables ; Anthropic n'a pas souhaité commenter.
Our Take
The companies building AI privately call a catastrophe inevitable within a year and are rehearsing the aftermath instead of the prevention, which means the rules that govern AI will be written in the panic of the day after, and rules written in a panic are the ones that stay.
Pour aller plus loin sur Unscarcity
France's 12-Day Emergency Lasted 719 Days. Here's Why.
The labs are preparing to shape the rules written in the panic after a catastrophe, and this article's framework is exactly about how crisis-written rules get written badly and become permanent.
Anthropic Pulled the AI Alarm. Who Can Act on It?
The labs' own planning concedes there is still no pre-agreed pause, agency or verification regime, so the only plan that exists is for the day after; the article's framework asks who could act before.