Quatre entreprises d'IA ont témoigné sous serment à New York. Interrogées sur une assurance en cas de catastrophe, aucune n'a levé la main. L'entreprise de Musk n'est pas venue du tout
About This Episode
Lundi 5 octobre, les cinquante et un membres du Conseil municipal de New York ont entendu sous serment les responsables des politiques publiques d'OpenAI, d'Anthropic, de Google et de Meta, une première mondiale selon la présidente du Conseil, Julie Menin. Aucun n'a pu chiffrer le risque de catastrophe, aucun n'a dit être assuré, aucun n'a pu désigner un responsable, et aucun ne s'est engagé à arrêter un modèle ayant échoué à un test. SpaceXAI, la branche IA d'Elon Musk, a ignoré une assignation à comparaître. Le Conseil examine dix projets de loi, dont une validation externe obligatoire et un bouton d'arrêt humain pour toute IA vendue dans la ville, à vingt-cinq mille dollars par infraction, ainsi qu'une prime pour les lanceurs d'alerte, moins d'une semaine après que la Maison-Blanche a confié aux mêmes entreprises un accord volontaire d'autorégulation.
Our Take
The first legislative body anywhere to put frontier AI labs under oath asked four plain questions, how likely, are you insured, who pays, would you stop, and got no answers, a week after Washington made the labs their own regulator; now a city council is trying to build the accountability layer itself with a kill switch, a validation rule and a cash bounty, and the one company that didn't show up is the test of whether a city can.
Pour aller plus loin sur Unscarcity
The Liability Gap: What a License Really Sells
The hearing's unanswered questions (are you insured, who is responsible) are exactly the accountability wrapper this article says AI shipped without: a named party, posted capital, a duty of care, and standing, versus a terms-of-service sentence. The article's subject is licensed professions and its apparatus is malpractice-style cover for advice, not catastrophe cover a lab could buy today, so the fit is a lens.
Anthropic Pulled the AI Alarm. Who Can Act on It?
The article's frame of an alarm wired to nothing, a warning versus a protocol with pre-negotiated triggers and someone empowered to act, is what a city council with barber-shop licensing powers is trying to wire up after the federal government chose a voluntary accord.