Note : Ceci est une note de recherche complétant le livre L’ère de la post-pénurie, désormais disponible à l’achat. Ces notes approfondissent les concepts du texte principal. Commencez ici ou procurez-vous le livre.

La frontière non assurée : qui garantit une catastrophe de l’IA ?

Le 5 octobre 2026, les 51 membres du conseil municipal de New York ont siégé pour une seule audition, un format qu’ils n’utilisent presque jamais, afin d’interroger quatre entreprises sous serment : OpenAI, Anthropic, Google et Meta. La présidente du conseil, Julie Menin, avait écrit aux directeurs généraux. Elle a obtenu des responsables des affaires publiques : Morgan Dwyer, chef du développement des politiques chez OpenAI ; Logan Graham, chercheur chez Anthropic ; Shane Cahill, directeur de la confidentialité et de la législation IA chez Meta ; et Alice Friend pour Google. Une cinquième entreprise avait reçu une assignation à comparaître et n’est pas venue. « SpaceXAI, en revanche, n’est pas là du tout, en violation directe de l’assignation que nous avons émise la semaine dernière », a déclaré Menin.

Elle a posé quatre questions. Quelle est la probabilité d’une catastrophe ? Dwyer : « Je ne sais pas. Et je ne pense pas non plus que cela importe, que ce soit 1 %, 10 % ou 20 % de chances que quelque chose de catastrophique tourne mal. » Friend a indiqué qu’il n’existait « pas encore de méthode scientifique rigoureuse pour attribuer une probabilité ». Êtes-vous assurés contre une défaillance catastrophique ? Dwyer et Cahill ont répondu qu’ils l’ignoraient et qu’ils reviendraient vers le conseil ; personne n’a dit oui. Accepteriez-vous la responsabilité juridique si votre système causait un préjudice grave ou un décès ? Seule Friend a répondu directement : « si c’est illégal sans IA, c’est toujours illégal avec l’IA ». Arrêteriez-vous un modèle qui échoue à un test de sécurité ? Chaque témoin a décrit une procédure d’examen. Aucun n’a dit oui. « Je pense qu’un simple oui ou non inspirerait davantage confiance au public sur un sujet aussi grave », a dit Menin. Elle a qualifié la réponse sur les probabilités de « désinvolte, au mieux ».

Cinq jours plus tôt, les dirigeants des mêmes entreprises se tenaient aux côtés du président pour signer un accord de la Maison-Blanche, le Joint Commitment on Frontier Responsibilities. Les signatures étaient celles de Dario Amodei, Sundar Pichai, Mark Zuckerberg, du président d’OpenAI Greg Brockman, de Jensen Huang pour Nvidia et d’Elon Musk. Le texte engage chaque entreprise à des contrôles internes, à un auditeur externe indépendant et à un comité du conseil d’administration chargé de lire les audits. Il ne prévoit aucune sanction en cas de manquement, et il précise qu’il « pourrait être judicieux » de transformer ces engagements en loi à une date ultérieure. « Je vois une autorégulation formidable, a déclaré Trump. Et ils comprennent qu’ils doivent s’autoréguler. »

Dwyer a à moitié raison. Personne ne peut aujourd’hui chiffrer de façon défendable la probabilité d’une catastrophe de l’IA, et l’exigence de Menin ne sera pas satisfaite cette année. Mais les industries qui ont appris à vivre avec des risques catastrophiques inconnaissables n’ont jamais tranché la question de la probabilité en premier. Elles ont tranché une autre question : qui dépose l’argent, combien, et avant quoi ? Cette question a une réponse dans chacune d’elles. C’est la seule des quatre questions de Menin qu’une audition peut réellement forcer.

Le marché de l’assurance a déjà répondu

Les témoins ne savaient pas si leurs entreprises étaient assurées. Leurs assureurs, eux, le savent. Le 1er janvier 2026, les avenants d’exclusion de l’IA générative de l’Insurance Services Office sont entrés en vigueur pour les polices de responsabilité civile générale des entreprises. Le plus large, CG 40 47, retire purement et simplement de la couverture les dommages corporels, les dommages matériels et les atteintes à la personne ou à l’image liés à l’IA. Plus de 60 groupes d’assurance dommages ont déposé des demandes pour adopter ces formulaires. Au 23 avril, rapportait The Information, les commissaires aux assurances des États avaient approuvé plus de 80 % des demandes d’exclusion des dommages liés à l’IA dans les polices d’entreprise. W.R. Berkley est allé plus loin en proposant d’exclure « tout usage réel ou allégué » de l’IA de ses lignes dirigeants, erreurs et omissions et responsabilité fiduciaire.

C’est le bas de la pile, la couverture qu’achète une entreprise ordinaire. En haut, là où siègent les fabricants de modèles, le tableau est plus mince encore. En octobre 2025, le Financial Times rapportait qu’OpenAI avait obtenu jusqu’à 300 millions de dollars de couverture pour risques émergents via le courtier Aon, face à des procès déjà chiffrés en milliards, et qu’elle avait envisagé de créer une captive d’assurance financée par l’argent de ses propres investisseurs. Le responsable du risque cyber chez Aon, Kevin Kalinich, a déclaré que le secteur manquait tout simplement de « capacité suffisante pour les fournisseurs (de modèles) ». Anthropic a payé son règlement de 1,5 milliard de dollars pour violation de droits d’auteur sur son propre bilan. Le nombre cumulé de procès américains impliquant l’IA générative a augmenté de 978 % entre 2021 et 2025, selon les données de Testudo Global citées par le Center for Strategic and International Studies.

La note de recherche de la Cloud Security Alliance du 30 septembre explique pourquoi les assureurs déposent des exclusions plutôt que d’écrire des polices. Les souscripteurs testent tout nouveau péril à l’aune de quatre critères classiques : une fréquence prévisible, une sévérité bornable, l’indépendance entre assurés, et l’absence d’asymétrie d’information grave. L’IA générative met à mal ou échoue aux quatre. Le point le plus tranchant de la note est que ce n’est pas un risque ordinaire, où les pertes sont grandes mais où une distribution existe. C’est de l’incertitude knightienne, où il n’existe aucun historique de sinistres à partir duquel calculer le moindre tarif actuariellement défendable. Gregory Allen, du CSIS, écrivant trois semaines plus tôt, en tirait la conséquence : l’assurance est devenue « le régulateur de fait le plus important du déploiement de l’IA aux États-Unis », non par la réglementation, mais par des milliers de décisions individuelles de refuser.

Lisez ces deux documents à côté du procès-verbal de l’audition, et la réponse honnête à la deuxième question de Menin est déjà déposée auprès de cinquante régulateurs d’État. Le prix du marché pour la queue catastrophique d’un modèle de frontière est actuellement « non ». Et un risque que personne ne veut garantir n’a pas disparu. Il a été attribué, par défaut, au public.

Cinq industries qui ont refusé d’accepter « nous ne savons pas »

Les États-Unis ont déjà affronté exactement cette configuration : une technologie jugée trop précieuse pour être arrêtée, un pire scénario trop incertain pour être tarifé, et des assureurs qui filent vers la sortie. Cinq fois, le Congrès a répondu avec le même instrument.

Les réacteurs nucléaires, 1957. La loi Price-Anderson impose à chaque site de centrale sous licence de souscrire le maximum d’assurance responsabilité que le marché accepte de vendre, actuellement 500 millions de dollars. Au-dessus se trouve une seconde couche que l’industrie finance elle-même : après tout incident, chaque réacteur de puissance du pays se voit imposer une « prime rétrospective », plafonnée à environ 158 millions de dollars chacun. Avec 95 réacteurs couverts, les deux couches fournissent quelque 15,5 milliards de dollars par incident, environ 16,3 milliards avec la surcharge autorisée. Les exploitants doivent renoncer à la plupart de leurs moyens de défense après un rejet grave. Le Congrès a adopté ce texte en 1957, dix-huit ans avant la première évaluation probabiliste sérieuse du risque d’un réacteur, et l’a prolongé en 2024 jusqu’au 31 décembre 2065. Un détail compte pour aujourd’hui : parce que Price-Anderson couvre les dommages nucléaires, toutes les polices dommages et responsabilité aux États-Unis excluent les accidents nucléaires, ce qui est précisément le geste que les assureurs font maintenant pour l’IA. L’exclusion nucléaire est venue avec un fonds de seize milliards de dollars derrière elle. Les exclusions IA viennent sans rien.

Les pétroliers, 1990. Après l’Exxon Valdez, l’Oil Pollution Act a exigé de tout navire de plus de 300 tonneaux de jauge brute un certificat de garantie financière délivré par les garde-côtes, prouvant qu’il peut payer jusqu’à sa limite légale de responsabilité en cas de marée noire, et a créé l’Oil Spill Liability Trust Fund, financé par une taxe d’accise sur chaque baril de pétrole, pour payer ce que le responsable ne peut pas payer. Pas de certificat, pas de port américain. La règle n’a pas attendu que l’on s’accorde sur la probabilité du prochain échouement.

Les fusées, 1988. En vertu du Commercial Space Launch Act, la FAA calcule une perte maximale probable pour chaque lancement sous licence, et l’opérateur doit justifier de fonds équivalents avant de voler, jusqu’à 500 millions de dollars pour les réclamations de tiers. L’État indemnise la tranche suivante, 1,5 milliard de dollars de 1988 ajustés de l’inflation, un montant que le GAO évaluait à environ 2,7 milliards en 2012, et l’opérateur redevient responsable au-delà. SpaceX n’a jamais lancé une fusée sans déposer cette caution. Sa branche IA a séché une assignation à comparaître sur la question de savoir si elle détient quoi que ce soit de comparable.

Le terrorisme, 2002. Les attentats du 11 septembre ont causé environ 60 milliards de dollars de pertes assurées en dollars d’aujourd’hui. Les réassureurs ont retiré la couverture terrorisme presque du jour au lendemain, les assureurs ont déposé des exclusions, et début 2002 la plupart des régulateurs d’État les avaient approuvées. Le crédit immobilier s’est presque figé, parce qu’aucune banque ne prêtait sur un immeuble impossible à assurer. Quatorze mois après les attentats, le Congrès a adopté le Terrorism Risk Insurance Act : les assureurs doivent proposer une couverture terrorisme, et l’État fédéral partage les pertes au-delà d’un seuil annuel (58,7 milliards de dollars pour 2026). Le dispositif a été reconduit quatre fois, les deux chambres ont voté en septembre une nouvelle prolongation jusqu’en 2034, et en 24 ans aucun acte de terrorisme certifié n’a jamais déclenché le moindre versement. Sa valeur n’a jamais été le versement. C’était le marché qu’il maintenait ouvert.

Les vaccins, 1986. Une vague de procès autour du vaccin DTC a poussé la plupart des fabricants hors du marché, et le dernier grand producteur menaçait de suivre. Le National Childhood Vaccine Injury Act a créé un programme d’indemnisation sans faute financé par une taxe d’accise de 75 cents sur chaque dose de vaccin couvert, par maladie prévenue, de sorte qu’un vaccin rougeole-oreillons-rubéole paie 2,25 dollars. Les fabricants sont restés. Les victimes ont été indemnisées sans avoir à prouver une faute. La taxe a transformé le risque en ligne budgétaire plutôt qu’en dispute.

Retirez les industries, et le dessin est identique à chaque fois. Une réponse obligatoire, préfinancée et publiquement visible à la question « qui paie ». Une première couche que l’exploitant achète. Une seconde couche que l’industrie porte collectivement, de sorte que l’imprudence de chacun atterrit sur la facture de ses concurrents. Une couche étatique au sommet, pour la queue vraiment corrélée. Et une condition préalable : pas de certificat, pas de licence, pas de lancement, pas de port. Aucun de ces régimes n’a exigé qu’on s’accorde d’abord sur la probabilité.

Ce qu’une caution fait et qu’une promesse ne peut pas faire

L’accord de la Maison-Blanche demande des contrôles internes, un auditeur et un comité du conseil d’administration. Un régime de garantie financière demande quelque chose que l’accord ne peut structurellement pas produire.

Il oblige quelqu’un d’autre à croire l’évaluation du risque. L’auditeur de l’accord est payé par le laboratoire et rend compte à son conseil d’administration. Un souscripteur qui écrit une tranche de dix milliards de dollars engage son propre capital. Il demandera les résultats des évaluations, les journaux d’incidents, la procédure d’arrêt, et il tarifera ce qu’il voit. Si la réponse à « quelle est la probabilité d’une catastrophe » est réellement inconnue, la prime le dit, dans un chiffre que le directeur financier du laboratoire doit signer. C’est la discipline que Menin cherchait quand elle a comparé les témoins à un fabricant de médicaments incapable de confirmer que son produit est sûr.

Il rend « nous ne savons pas » coûteux. Sous Price-Anderson, une fusion du cœur chez un électricien envoie la facture à tous les autres électriciens du pays. La responsabilité mutualisée transforme une industrie en chien de garde de son maillon le plus faible. Dans l’IA, elle ferait de la chaise vide de SpaceXAI le problème des quatre autres entreprises, ce qui est un mécanisme d’application bien plus fiable qu’une procédure pour outrage devant un conseil municipal.

Il construit un arrêt qui ne dépend pas du jugement de l’exploitant. Le projet de loi phare de Menin exige qu’un humain puisse éteindre un système déployé et qu’un validateur tiers le certifie, sous peine de 25 000 dollars par infraction. Un régime de certificats obtient le même effet par une autre voie : quand un assureur résilie la couverture, la flotte est clouée au sol, le pétrolier reste au large, le réacteur s’arrête. Personne dans l’entreprise n’a à décider d’arrêter. L’absence de caution arrête.

Il met le chiffre là où le public peut le voir. Un capital déposé est une divulgation. Le 15 septembre, le secrétaire au Trésor Scott Bessent a déclaré devant la commission des services financiers de la Chambre que ce que le gouvernement « ne devrait pas faire en matière de sécurité, c’est accorder à ces laboratoires une exemption de responsabilité, qui est ce qu’ils demandent », et que « la meilleure façon de garantir la sécurité est que les créateurs soient responsables de ce qu’ils construisent et génèrent ». Anthropic entend entrer en Bourse en novembre à une valorisation proche de 2 000 milliards de dollars. Son prospectus sera le premier document dans lequel l’assurance d’un laboratoire de frontière, ou son absence, sera couchée par écrit pour la Securities and Exchange Commission.

Les points durs

Rien de tout cela n’est simple à transposer, et les endroits où c’est difficile sont instructifs.

La corrélation. Un accident de réacteur est local. Un défaut dans un modèle est déployé à des millions d’endroits à la fois, ce qui revient à faire échouer exprès le critère d’« indépendance entre assurés ». C’est un argument contre les polices IA de détail, et pour exactement la structure mutualisée et garantie qu’utilisent le nucléaire et le terrorisme. Des assureurs individuels ne peuvent pas porter une queue corrélée. Un fonds commun plus une couche souveraine, si.

La définition de l’événement. Chaque régime nomme son déclencheur : un « événement nucléaire extraordinaire », un « rejet », un « acte de terrorisme certifié », et dans chaque cas quelqu’un d’extérieur à l’industrie fait la certification. L’IA n’a aucune définition convenue de l’incident à déclarer, et aujourd’hui les laboratoires écrivent la leur. Le RAISE Act amendé de l’État de New York, en vigueur le 1er janvier 2027, impose aux développeurs de frontière de déclarer les incidents sous 72 heures à un nouveau bureau logé au sein du Department of Financial Services, le régulateur des assurances de l’État, ce qui n’est pas une coïncidence. Qui enquête sur l’événement fait l’objet de sa propre note.

Le plafond. Toute limite de responsabilité est une subvention à l’industrie qu’elle limite ; le Congressional Research Service consigne cette critique de Price-Anderson dès son premier paragraphe. L’avertissement de Bessent sur une exemption de responsabilité est la même inquiétude en habits modernes. La réponse des précédents est que le plafond ne s’applique qu’au-dessus d’un fonds obligatoire assez gros pour faire mal, et que les primes sont rétrospectives, de sorte que la conduite de chaque entreprise fait bouger la facture de toutes les autres. Un plafond sans fonds en dessous est une exemption avec un meilleur marketing. Les laboratoires ont demandé l’exemption. Personne ne leur a encore proposé le fonds.

L’aléa moral. Une garantie publique jamais utilisée peut ressembler à une garantie gratuite. Le TRIA n’a jamais payé ; le fonds Price-Anderson n’a jamais été entamé. La discipline vient des couches inférieures, qui sont tarifées, déposées et renouvelées, et de la condition préalable. Une garantie publique sans certificat devant elle n’est qu’une promesse de renflouement.

La lecture Post-Pénurie

Les règles de gouvernance du livre s’appliquent ici avec une précision inhabituelle.

Le Pouvoir Doit Décroître. Une entreprise qui détient un levier à l’échelle de la civilisation sans porter aucun capital tarifé et déposé contre sa propre défaillance n’a pas endossé un risque. Elle l’a exporté. Le capital à risque est le plus vieux mécanisme de décroissance qui existe : on le perd quand on échoue, et le montant à déposer croît avec les dégâts que l’on peut causer. Les témoins de New York n’ont pas su dire si leurs entreprises avaient déposé quoi que ce soit. Sous un régime de garantie financière, la question se répond d’elle-même, en public, à chaque renouvellement.

La Vérité Doit Être Vue. Le refus d’un assureur de tarifer un risque est l’information la plus honnête de tout ce débat, et elle est pour l’instant enterrée dans des dossiers d’exclusion déposés auprès de cinquante départements des assurances. Une caution rend la même information lisible : la taille du fonds, la prime, le déclencheur, le certificateur. L’audition a produit « je ne sais pas » quatre fois. Un régime de certificats produit un chiffre, et un nom attaché à ce chiffre.

La note sur le vide de responsabilité soutenait qu’une licence professionnelle vend de la responsabilité, pas du savoir : l’intérêt de la signature d’un médecin est que quelqu’un répond du conseil. L’assurance est le reçu de cette promesse. Un laboratoire de frontière incapable de nommer son assureur vend une licence derrière laquelle il n’y a personne. Et l’image que donne le livre d’une IA arbitre, vérifiable et bornée, suppose qu’un arbitre qui prend une décision catastrophique puisse être contraint de la payer. Un arbitre que personne ne peut facturer n’est pas un arbitre. C’est un souverain.

Le prix proposé par New York est modeste : 25 000 dollars par déploiement non validé, avec un quart de toute somme recouvrée versé à celui qui signale l’infraction, et la moitié s’il porte lui-même l’affaire. L’industrie nucléaire porte seize milliards de dollars contre un seul incident. Mais le conseil a fait ce que l’accord de la Maison-Blanche n’a pas fait : il a mis un chiffre, si modeste soit-il, sur le haussement d’épaules.

Ce qu’il faut surveiller

La suite promise. OpenAI et Meta ont dit qu’ils reviendraient avec une réponse sur l’assurance. Que cette réponse soit publique, et qu’elle nomme un montant, est le premier test de ce que l’audition aura produit.
Le prospectus d’Anthropic. Une cotation en novembre signifie des facteurs de risque, des provisions pour litiges et une couverture rédigés pour la SEC, la première fois que la garantie financière d’un laboratoire de frontière sera documentée plutôt qu’affirmée.
Les projets de loi sur la validation et la prime au signalement. Si New York adopte la validation par un tiers avec exigence d’arrêt humain, les validateurs auront besoin de leur propre assurance de responsabilité professionnelle, et les assureurs qui l’écriront deviendront les premiers évaluateurs indépendants des systèmes de frontière.
La chaise vide. L’assignation de SpaceXAI peut être exécutée par les tribunaux de l’État. Une entreprise qui dépose une caution de perte maximale probable avant chaque lancement de fusée devra expliquer pourquoi son unité IA ne dépose rien.
Une proposition de garantie publique. Le CSIS a déjà esquissé un mécanisme de réassurance par couches à la Price-Anderson pour les pertes corrélées de l’IA, avec une base de données d’incidents au NIST pour fournir l’historique de sinistres qui manque aux assureurs. Il faudra voir si un législateur s’en empare, et si les laboratoires, qui demandent une exemption, acceptent un fonds commun comme prix de celle-ci.

La frontière non assurée : qui garantit une catastrophe de l'IA ?