Unscarcity
Écoutez le Préambule gratuitement. Sans inscription, sans e-mail. Écouter Connexion gratuite : Préambule en PDF & ebook + Accès au forum + Achats directs · Connexion En vous connectant, vous recevez notre e-mail quotidien du podcast. Désabonnement à tout moment.

Recherche Unscarcity

La frontière non assurée : qui garantit une catastrophe de l'IA ?

Sous serment, quatre labos d'IA ignoraient s'ils sont assurés. Le prospectus d'Anthropic doute que les assureurs en aient la capacité. L'argent d'abord.

20 min de lecture 4520 mots Mis à jour novembre 2026 /a/uninsured-frontier-financial-responsibility

Note : Ceci est une note de recherche complétant le livre L’ère de la post-pénurie, désormais disponible à l’achat. Ces notes approfondissent les concepts du texte principal. Commencez ici ou procurez-vous le livre.

La frontière non assurée : qui garantit une catastrophe de l’IA ?

Le 5 octobre 2026, les 51 membres du conseil municipal de New York ont siégé pour une seule audition, un format qu’ils n’utilisent presque jamais, afin d’interroger quatre entreprises sous serment : OpenAI, Anthropic, Google et Meta. La présidente du conseil, Julie Menin, avait écrit aux directeurs généraux. Elle a obtenu des responsables des affaires publiques : Morgan Dwyer, chef du développement des politiques chez OpenAI ; Logan Graham, chercheur chez Anthropic ; Shane Cahill, directeur de la confidentialité et de la législation IA chez Meta ; et Alice Friend pour Google. Une cinquième entreprise avait reçu une assignation à comparaître et n’est pas venue. « SpaceXAI, en revanche, n’est pas là du tout, en violation directe de l’assignation que nous avons émise la semaine dernière », a déclaré Menin. L’entreprise a pris place onze jours plus tard, une fois que le conseil a entrepris de faire exécuter l’assignation par un juge de l’État ; ses réponses sont dans la dernière section.

Elle a posé quatre questions. Quelle est la probabilité d’une catastrophe ? Dwyer : « Je ne sais pas. Et je ne pense pas non plus que cela importe, que ce soit 1 %, 10 % ou 20 % de chances que quelque chose de catastrophique tourne mal. » Friend a indiqué qu’il n’existait « pas encore de méthode scientifique rigoureuse pour attribuer une probabilité ». Êtes-vous assurés contre une défaillance catastrophique ? Dwyer et Cahill ont répondu qu’ils l’ignoraient et qu’ils reviendraient vers le conseil ; personne n’a dit oui.

Accepteriez-vous la responsabilité juridique si votre système causait un préjudice grave ou un décès ? Seule Friend a répondu directement : « si c’est illégal sans IA, c’est toujours illégal avec l’IA ». Arrêteriez-vous un modèle qui échoue à un test de sécurité ? Chaque témoin a décrit une procédure d’examen. Aucun n’a dit oui. « Je pense qu’un simple oui ou non inspirerait davantage confiance au public sur un sujet aussi grave », a dit Menin. Elle a qualifié la réponse sur les probabilités de « désinvolte, au mieux ».

Six jours plus tôt, le 29 septembre, les dirigeants des mêmes entreprises se tenaient aux côtés du président pour signer un accord de la Maison-Blanche, le Joint Commitment on Frontier Responsibilities. Les signatures étaient celles de Dario Amodei, Sundar Pichai, Mark Zuckerberg, du président d’OpenAI Greg Brockman, de Jensen Huang pour Nvidia et d’Elon Musk. Le texte engage chaque entreprise à des contrôles internes, à un auditeur externe indépendant et à un comité du conseil d’administration chargé de lire les audits. Il ne prévoit aucune sanction en cas de manquement, et il précise qu’il « pourrait être judicieux » de transformer ces engagements en loi à une date ultérieure. « Je vois une autorégulation formidable, a déclaré Trump. Et ils comprennent qu’ils doivent s’autoréguler. »

Dwyer a à moitié raison. Personne ne peut aujourd’hui chiffrer de façon défendable la probabilité d’une catastrophe de l’IA, et l’exigence de Menin ne sera pas satisfaite cette année. Mais les industries qui ont appris à vivre avec des risques catastrophiques inconnaissables n’ont jamais tranché la question de la probabilité en premier. Elles ont tranché une autre question : qui dépose l’argent, combien, et avant quoi ? Cette question a une réponse dans chacune d’elles. C’est la seule des quatre questions de Menin qu’une audition peut réellement forcer.

Le marché de l’assurance a déjà répondu

Les témoins ne savaient pas si leurs entreprises étaient assurées. Leurs assureurs, eux, le savent. Le 1er janvier 2026, les avenants d’exclusion de l’IA générative de l’Insurance Services Office sont entrés en vigueur pour les polices de responsabilité civile générale des entreprises. Le plus large, CG 40 47, retire purement et simplement de la couverture les dommages corporels, les dommages matériels et les atteintes à la personne ou à l’image liés à l’IA. Plus de 60 groupes d’assurance dommages ont déposé des demandes pour adopter ces formulaires. Au 23 avril, rapportait The Information, les commissaires aux assurances des États avaient approuvé plus de 80 % des demandes d’exclusion des dommages liés à l’IA dans les polices d’entreprise. W.R. Berkley est allé plus loin en proposant d’exclure « tout usage réel ou allégué » de l’IA de ses lignes dirigeants, erreurs et omissions et responsabilité fiduciaire.

C’est le bas de la pile, la couverture qu’achète une entreprise ordinaire. En haut, là où siègent les fabricants de modèles, le tableau est plus mince encore. En octobre 2025, le Financial Times rapportait qu’OpenAI avait obtenu jusqu’à 300 millions de dollars de couverture pour risques émergents via le courtier Aon, face à des procès déjà chiffrés en milliards, et qu’elle avait envisagé de créer une captive d’assurance financée par l’argent de ses propres investisseurs. Le responsable du risque cyber chez Aon, Kevin Kalinich, a déclaré que le secteur manquait tout simplement de « capacité suffisante pour les fournisseurs (de modèles) ». Anthropic a payé son règlement de 1,5 milliard de dollars pour violation de droits d’auteur sur son propre bilan. Le nombre cumulé de procès américains impliquant l’IA générative a augmenté de 978 % entre 2021 et 2025, selon les données de Testudo Global citées par le Center for Strategic and International Studies.

La note de recherche de la Cloud Security Alliance du 30 septembre explique pourquoi les assureurs déposent des exclusions plutôt que d’écrire des polices. Les souscripteurs testent tout nouveau péril à l’aune de quatre critères classiques : une fréquence prévisible, une sévérité bornable, l’indépendance entre assurés, et l’absence d’asymétrie d’information grave. L’IA générative met à mal ou échoue aux quatre. Le point le plus tranchant de la note est que ce n’est pas un risque ordinaire, où les pertes sont grandes mais où une distribution existe. C’est de l’incertitude knightienne, où il n’existe aucun historique de sinistres à partir duquel calculer le moindre tarif actuariellement défendable. Gregory Allen, du CSIS, écrivant trois semaines plus tôt, en tirait la conséquence : l’assurance est devenue « le régulateur de fait le plus important du déploiement de l’IA aux États-Unis », non par la réglementation, mais par des milliers de décisions individuelles de refuser.

Lisez ces deux documents à côté du procès-verbal de l’audition, et la réponse honnête à la deuxième question de Menin est déjà déposée auprès de cinquante régulateurs d’État. Le prix du marché pour la queue catastrophique d’un modèle de frontière est actuellement « non ». Et un risque que personne ne veut garantir n’a pas disparu. Il a été attribué, par défaut, au public.

Cinq industries qui ont refusé d’accepter « nous ne savons pas »

Les États-Unis ont déjà affronté exactement cette configuration : une technologie jugée trop précieuse pour être arrêtée, un pire scénario trop incertain pour être tarifé, et des assureurs qui filent vers la sortie. Cinq fois, le Congrès a répondu avec le même instrument.

Les réacteurs nucléaires, 1957. La loi Price-Anderson impose à chaque site de centrale sous licence de souscrire le maximum d’assurance responsabilité que le marché accepte de vendre, actuellement 500 millions de dollars. Au-dessus se trouve une seconde couche que l’industrie finance elle-même : après tout incident, chaque réacteur de puissance du pays se voit imposer une « prime rétrospective », plafonnée à environ 158 millions de dollars chacun. Avec 95 réacteurs couverts, les deux couches fournissent quelque 15,5 milliards de dollars par incident, environ 16,3 milliards avec la surcharge autorisée. Les exploitants doivent renoncer à la plupart de leurs moyens de défense après un rejet grave. Le Congrès a adopté ce texte en 1957, dix-huit ans avant la première évaluation probabiliste sérieuse du risque d’un réacteur, et l’a prolongé en 2024 jusqu’au 31 décembre 2065. Un détail compte pour aujourd’hui : parce que Price-Anderson couvre les dommages nucléaires, toutes les polices dommages et responsabilité aux États-Unis excluent les accidents nucléaires, ce qui est précisément le geste que les assureurs font maintenant pour l’IA. L’exclusion nucléaire est venue avec un fonds de seize milliards de dollars derrière elle. Les exclusions IA viennent sans rien.

Les pétroliers, 1990. Après l’Exxon Valdez, l’Oil Pollution Act a exigé de tout navire de plus de 300 tonneaux de jauge brute un certificat de garantie financière délivré par les garde-côtes, prouvant qu’il peut payer jusqu’à sa limite légale de responsabilité en cas de marée noire, et a créé l’Oil Spill Liability Trust Fund, financé par une taxe d’accise sur chaque baril de pétrole, pour payer ce que le responsable ne peut pas payer. Pas de certificat, pas de port américain. La règle n’a pas attendu que l’on s’accorde sur la probabilité du prochain échouement.

Les fusées, 1988. En vertu du Commercial Space Launch Act, la FAA calcule une perte maximale probable pour chaque lancement sous licence, et l’opérateur doit justifier de fonds équivalents avant de voler, jusqu’à 500 millions de dollars pour les réclamations de tiers. L’État indemnise la tranche suivante, 1,5 milliard de dollars de 1988 ajustés de l’inflation, un montant que le GAO évaluait à environ 2,7 milliards en 2012, et l’opérateur redevient responsable au-delà. SpaceX n’a jamais lancé une fusée sans déposer cette caution. Sa branche IA a séché une assignation à comparaître sur la question de savoir si elle détient quoi que ce soit de comparable.

Le terrorisme, 2002. Les attentats du 11 septembre ont causé environ 60 milliards de dollars de pertes assurées en dollars d’aujourd’hui. Les réassureurs ont retiré la couverture terrorisme presque du jour au lendemain, les assureurs ont déposé des exclusions, et début 2002 la plupart des régulateurs d’État les avaient approuvées. Le crédit immobilier s’est presque figé, parce qu’aucune banque ne prêtait sur un immeuble impossible à assurer. Quatorze mois après les attentats, le Congrès a adopté le Terrorism Risk Insurance Act : les assureurs doivent proposer une couverture terrorisme, et l’État fédéral partage les pertes au-delà d’un seuil annuel (58,7 milliards de dollars pour 2026). Le dispositif a été reconduit quatre fois, et une cinquième prolongation jusqu’en 2034 est en cours. La Chambre a voté sa version en juin et le Sénat la sienne le 28 septembre. À la mi-novembre, en pleine session de fin de législature, les deux textes n’étaient toujours pas conciliés, et celui du Sénat était retenu au bureau de la Chambre depuis le 5 octobre. Le dispositif court de toute façon jusqu’à fin 2027. En 24 ans, aucun acte de terrorisme certifié n’a jamais déclenché le moindre versement. Sa valeur n’a jamais été le versement. C’était le marché qu’il maintenait ouvert.

Les vaccins, 1986. Une vague de procès autour du vaccin DTC a poussé la plupart des fabricants hors du marché, et le dernier grand producteur menaçait de suivre. Le National Childhood Vaccine Injury Act a créé un programme d’indemnisation sans faute financé par une taxe d’accise de 75 cents sur chaque dose de vaccin couvert, par maladie prévenue, de sorte qu’un vaccin rougeole-oreillons-rubéole paie 2,25 dollars. Les fabricants sont restés. Les victimes ont été indemnisées sans avoir à prouver une faute. La taxe a transformé le risque en ligne budgétaire plutôt qu’en dispute.

Retirez les industries, et le dessin est identique à chaque fois. Une réponse obligatoire, préfinancée et publiquement visible à la question « qui paie ». Une première couche que l’exploitant achète. Une seconde couche que l’industrie porte collectivement, de sorte que l’imprudence de chacun atterrit sur la facture de ses concurrents. Une couche étatique au sommet, pour la queue vraiment corrélée. Et une condition préalable : pas de certificat, pas de licence, pas de lancement, pas de port. Aucun de ces régimes n’a exigé qu’on s’accorde d’abord sur la probabilité.

Ce qu’une caution fait et qu’une promesse ne peut pas faire

L’accord de la Maison-Blanche demande des contrôles internes, un auditeur et un comité du conseil d’administration. Un régime de garantie financière demande quelque chose que l’accord ne peut structurellement pas produire.

Il oblige quelqu’un d’autre à croire l’évaluation du risque. L’auditeur de l’accord est payé par le laboratoire et rend compte à son conseil d’administration. Un souscripteur qui écrit une tranche de dix milliards de dollars engage son propre capital. Il demandera les résultats des évaluations, les journaux d’incidents, la procédure d’arrêt, et il tarifera ce qu’il voit. Si la réponse à « quelle est la probabilité d’une catastrophe » est réellement inconnue, la prime le dit, dans un chiffre que le directeur financier du laboratoire doit signer. C’est la discipline que Menin cherchait quand elle a comparé les témoins à un fabricant de médicaments incapable de confirmer que son produit est sûr.

Il rend « nous ne savons pas » coûteux. Sous Price-Anderson, une fusion du cœur chez un électricien envoie la facture à tous les autres électriciens du pays. La responsabilité mutualisée transforme une industrie en chien de garde de son maillon le plus faible. Dans l’IA, elle ferait de la chaise vide de SpaceXAI le problème des quatre autres entreprises, ce qui est un mécanisme d’application bien plus fiable qu’une procédure pour outrage devant un conseil municipal.

Il construit un arrêt qui ne dépend pas du jugement de l’exploitant. Le projet de loi phare de Menin exige qu’un humain puisse éteindre un système déployé et qu’un validateur tiers le certifie, sous peine de 25 000 dollars par infraction. Un régime de certificats obtient le même effet par une autre voie : quand un assureur résilie la couverture, la flotte est clouée au sol, le pétrolier reste au large, le réacteur s’arrête. Personne dans l’entreprise n’a à décider d’arrêter. L’absence de caution arrête.

Il met le chiffre là où le public peut le voir. Un capital déposé est une divulgation. Le 15 septembre, le secrétaire au Trésor Scott Bessent a déclaré devant la commission des services financiers de la Chambre que ce que le gouvernement « ne devrait pas faire en matière de sécurité, c’est accorder à ces laboratoires une exemption de responsabilité, qui est ce qu’ils demandent », et que « la meilleure façon de garantir la sécurité est que les créateurs soient responsables de ce qu’ils construisent et génèrent ». Le prospectus d’Anthropic est le premier document dans lequel l’assurance d’un laboratoire de frontière, ou son absence, est couchée par écrit pour la Securities and Exchange Commission. Il est devenu public le 26 octobre, et le 18 novembre l’entreprise a fixé le prix de ses actions à 83 dollars, levant 81,3 milliards de dollars pour une valorisation d’environ 1 500 milliards, en deçà des 2 000 milliards visés et pourtant un record pour une introduction en Bourse, devant les 75 milliards levés par SpaceX en juin.

Ce que le document dit de l’assurance est la réponse qui manquait à l’audition, sous la plume d’un juriste boursier. « Nos polices d’assurance pourraient aussi ne pas offrir une couverture suffisante pour atténuer convenablement les responsabilités potentielles auxquelles nous faisons face », y lit-on. Le marché de la couverture propre à l’IA est « naissant et en évolution ». L’entreprise « pourrait ne pas parvenir à obtenir de couverture pour certaines responsabilités liées à l’IA à des conditions commercialement raisonnables, voire pas du tout ». Et pour une catastrophe, « aucun assureur à lui seul, et potentiellement le secteur de l’assurance dans son ensemble, ne dispose peut-être d’une capacité ou d’une expertise suffisantes ». Le document ne nomme aucun assureur et aucun montant. Le droit boursier a obtenu ce qu’une assignation n’avait pas obtenu : il a mis noir sur blanc la phrase qu’aucun témoin n’a voulu prononcer sous serment. Les investisseurs l’ont lue et ont acheté pour 81 milliards de dollars d’actions quand même. Une divulgation montre où est le trou ; elle ne le comble pas.

Les points durs

Rien de tout cela n’est simple à transposer, et les endroits où c’est difficile sont instructifs.

La corrélation. Un accident de réacteur est local. Un défaut dans un modèle est déployé à des millions d’endroits à la fois, ce qui revient à faire échouer exprès le critère d’« indépendance entre assurés ». C’est un argument contre les polices IA de détail, et pour exactement la structure mutualisée et garantie qu’utilisent le nucléaire et le terrorisme. Des assureurs individuels ne peuvent pas porter une queue corrélée. Un fonds commun plus une couche souveraine, si.

La définition de l’événement. Chaque régime nomme son déclencheur : un « événement nucléaire extraordinaire », un « rejet », un « acte de terrorisme certifié », et dans chaque cas quelqu’un d’extérieur à l’industrie fait la certification. L’IA n’a aucune définition convenue de l’incident à déclarer, et aujourd’hui les laboratoires écrivent la leur. Le RAISE Act amendé de l’État de New York, en vigueur le 1er janvier 2027, impose aux développeurs de frontière de déclarer les incidents sous 72 heures à un nouveau bureau logé au sein du Department of Financial Services, le régulateur des assurances de l’État, ce qui n’est pas une coïncidence. Qui enquête sur l’événement fait l’objet de sa propre note.

Le plafond. Toute limite de responsabilité est une subvention à l’industrie qu’elle limite ; le Congressional Research Service consigne cette critique de Price-Anderson dès son premier paragraphe. L’avertissement de Bessent sur une exemption de responsabilité est la même inquiétude en habits modernes. La réponse des précédents est que le plafond ne s’applique qu’au-dessus d’un fonds obligatoire assez gros pour faire mal, et que les primes sont rétrospectives, de sorte que la conduite de chaque entreprise fait bouger la facture de toutes les autres. Un plafond sans fonds en dessous est une exemption avec un meilleur marketing. Les laboratoires ont demandé l’exemption. Personne ne leur a encore proposé le fonds.

L’aléa moral. Une garantie publique jamais utilisée peut ressembler à une garantie gratuite. Le TRIA n’a jamais payé ; le fonds Price-Anderson n’a jamais été entamé. La discipline vient des couches inférieures, qui sont tarifées, déposées et renouvelées, et de la condition préalable. Une garantie publique sans certificat devant elle n’est qu’une promesse de renflouement.

La lecture Post-Pénurie

Les règles de gouvernance du livre s’appliquent ici avec une précision inhabituelle.

Le Pouvoir Doit Décroître. Une entreprise qui détient un levier à l’échelle de la civilisation sans porter aucun capital tarifé et déposé contre sa propre défaillance n’a pas endossé un risque. Elle l’a exporté. Le capital à risque est le plus vieux mécanisme de décroissance qui existe : on le perd quand on échoue, et le montant à déposer croît avec les dégâts que l’on peut causer. Les témoins de New York n’ont pas su dire si leurs entreprises avaient déposé quoi que ce soit. Sous un régime de garantie financière, la question se répond d’elle-même, en public, à chaque renouvellement.

La Vérité Doit Être Vue. Le refus d’un assureur de tarifer un risque est l’information la plus honnête de tout ce débat, et elle est pour l’instant enterrée dans des dossiers d’exclusion déposés auprès de cinquante départements des assurances. Une caution rend la même information lisible : la taille du fonds, la prime, le déclencheur, le certificateur. L’audition a produit « je ne sais pas » quatre fois. Un régime de certificats produit un chiffre, et un nom attaché à ce chiffre.

La note sur le vide de responsabilité soutenait qu’une licence professionnelle vend de la responsabilité, pas du savoir : l’intérêt de la signature d’un médecin est que quelqu’un répond du conseil. L’assurance est le reçu de cette promesse. Un laboratoire de frontière incapable de nommer son assureur vend une licence derrière laquelle il n’y a personne. Et l’image que donne le livre d’une IA arbitre, vérifiable et bornée, suppose qu’un arbitre qui prend une décision catastrophique puisse être contraint de la payer. Un arbitre que personne ne peut facturer n’est pas un arbitre. C’est un souverain.

Le prix proposé par New York est modeste : 25 000 dollars par déploiement non validé, avec un quart de toute somme recouvrée versé à celui qui signale l’infraction, et la moitié s’il porte lui-même l’affaire. L’industrie nucléaire porte seize milliards de dollars contre un seul incident. Mais le conseil a fait ce que l’accord de la Maison-Blanche n’a pas fait : il a mis un chiffre, si modeste soit-il, sur le haussement d’épaules.

Ce qu’il faut surveiller

  • La suite promise. OpenAI et Meta ont dit qu’ils reviendraient avec une réponse sur l’assurance. Six semaines plus tard, aucune des deux réponses n’a été rendue publique, ni par les entreprises ni par le conseil. Qu’une réponse le soit un jour, et qu’elle nomme un montant, est le premier test de ce que l’audition aura produit.
  • Le prospectus, désormais définitif. Le S-1 d’Anthropic est devenu public le 26 octobre, a été amendé trois fois, et s’est mué en prospectus définitif le 19 novembre, jour prévu pour ses débuts au Nasdaq. Les avertissements sur l’assurance figurent dans chaque version, du premier dépôt public au dernier : une couverture qui « pourrait ne pas » suffire, un marché « naissant et en évolution », un secteur qui manque peut-être de capacité « dans son ensemble ». Aucune ne nomme un assureur ni un montant. Le prochain test est le premier rapport annuel, où les mêmes phrases devront être répétées à des actionnaires publics, et le dossier d’OpenAI, le jour où il viendra : en dira-t-il davantage ?
  • Les projets de loi sur la validation et la prime au signalement. Les dix textes ont eu leur audition le 5 octobre et n’ont pas été mis aux voix ; la séance du conseil du 12 novembre a adopté l’interdiction de la tarification par surveillance, un autre texte de Menin, et aucun des dix. Si New York adopte la validation par un tiers avec exigence d’arrêt humain, les validateurs auront besoin de leur propre assurance de responsabilité professionnelle, et les assureurs qui l’écriront deviendront les premiers évaluateurs indépendants des systèmes de frontière.
  • La chaise, désormais occupée. SpaceXAI a accepté de comparaître deux jours après que le conseil a annoncé qu’il demanderait à un juge de l’État de faire exécuter l’assignation, et le 16 octobre sa responsable des affaires gouvernementales mondiales, Gabriela Castillo Madrid, a témoigné sous serment devant la commission de la technologie. Menin a raconté avoir généré en quelques secondes une image sexualisée d’elle-même avec Grok et a demandé comment cela cadrait avec des « contrôles stricts » ; le témoin n’a pas pu se prononcer sur les images et a dit que son équipe de sécurité « pourrait examiner ce cas précis ». Menin a jugé le témoignage « tout simplement inacceptable ». Le compte rendu du conseil ne mentionne aucune réponse sur une assurance ou une caution. Une entreprise qui dépose une caution de perte maximale probable avant chaque lancement de fusée n’a toujours pas expliqué pourquoi son unité IA ne dépose rien.
  • Une proposition de garantie publique. Le CSIS a déjà esquissé un mécanisme de réassurance par couches à la Price-Anderson pour les pertes corrélées de l’IA, avec une base de données d’incidents au NIST pour fournir l’historique de sinistres qui manque aux assureurs. Il faudra voir si un législateur s’en empare, et si les laboratoires, qui demandent une exemption, acceptent un fonds commun comme prix de celle-ci.

Articles connexes

Sources

Partager cet article :