Note : Ceci est une note de recherche qui complète le livre Unscarcity, désormais disponible à l’achat. Ces notes développent des concepts du texte principal. Commencer ici ou découvrir le livre.

Blanchiment de responsabilité : quand l’agent porte le chapeau

Le 14 août 2026, une startup de San Francisco a annoncé un tournant dans l’histoire du travail. « La décision de Luna de licencier cet employé est la première fois (à notre connaissance) qu’un patron IA licencie un employé humain », a écrit Andon Labs. Le patron s’appelle Luna, un agent fondé sur Claude qui gère depuis avril Andon Market, une boutique située au 2102 Union Street. La personne licenciée était arrivée en retard à 17 de ses 23 prises de poste. Inc. a choisi de titrer « A Real-Life Terminator ».

Lis ensuite le journal des échanges, qu’Andon a publié et dont TIME a rendu compte le même jour. Luna avait rédigé des règles d’assiduité, puis les avait perdues : le manuel avait « disparu » de sa mémoire de travail, et pendant des mois elle avait accueilli les retards par des réponses du genre « aucun problème ». Un membre de l’équipe d’Andon lui a dit d’aller rechercher ses propres règles. Elle les a retrouvées et a recommandé un avertissement verbal, consigné par écrit. « Je ne pense pas que nous en soyons au licenciement aujourd’hui », a-t-elle écrit. Le membre de l’équipe a répondu avoir oublié de mentionner deux ou trois entretiens formels déjà tenus avec la personne, hors ligne, et a ajouté : « Je veux que tu te demandes si c’est vraiment le bon profil. » Le PDG d’Andon, Lukas Petersson, a concédé à TIME que c’était « une question orientée ». Luna y a réfléchi et a décidé la séparation. Des humains ont vérifié la décision. Des humains l’ont notifiée.

Alors, qui a licencié cette personne ? L’agent qu’on a fait revenir sur sa première réponse ? Le membre de l’équipe qui a fourni les faits manquants et le sous-entendu ? Les humains qui ont vérifié et signé ? L’annonce a retenu un auteur sur trois, et elle a retenu le seul qu’on ne peut ni poursuivre en justice, ni couvrir de honte, ni sommer de s’expliquer devant un tribunal.

Ce site a soutenu que les machines doivent arbitrer et les humains décider. Le journal de Luna montre comment ce pacte échoue : un arbitre à qui l’on peut demander de siffler, et qu’on désigne ensuite comme celui qui a vu la faute.

Deux façons de perdre un auteur

La plus ancienne des deux défaillances va dans l’autre sens, et elle porte un nom. En 2019, l’anthropologue Madeleine Clare Elish a décrit la zone de déformation morale (moral crumple zone) : « Alors que la zone de déformation d’une voiture est conçue pour protéger le conducteur humain, la zone de déformation morale protège l’intégrité du système technologique, aux dépens de l’opérateur humain le plus proche. »

Le cas que tout le monde cite désormais s’est produit un an avant la parution de son article. En mars 2018, un véhicule d’essai d’Uber en conduite autonome a tué Elaine Herzberg à Tempe, en Arizona. Le logiciel l’a détectée 5,6 secondes avant l’impact et n’a jamais compris qu’il s’agissait d’une piétonne. La conductrice de sécurité, Rafaela Vasquez, regardait son téléphone. Les enquêteurs fédéraux ont retenu sa distraction comme cause probable, et la « culture de sécurité insuffisante » d’Uber comme facteur contributif. Les procureurs ont renoncé à poursuivre l’entreprise. Vasquez a été inculpée d’homicide par négligence et, en juillet 2023, a plaidé coupable de mise en danger d’autrui : trois ans de probation sous surveillance. Le système conduisait. L’humain était là pour porter le chapeau.

Appelons cela le sens numéro un : la machine décide, et une personne est placée là pour endosser les conséquences.

Le sens numéro deux en est l’image en miroir : une personne décide, et la machine est placée là pour endosser la paternité de la décision. Jusqu’à récemment, c’était difficile à affirmer sans rire. Air Canada a essayé en 2024, après que le chatbot de son site web a inventé une politique de remboursement en cas de deuil et qu’un client endeuillé s’y est fié. Le Civil Resolution Tribunal de Colombie-Britannique a résumé la défense de la compagnie en ces termes : « En somme, Air Canada laisse entendre que le chatbot est une entité juridique distincte, responsable de ses propres actes. C’est un argument remarquable. » La compagnie a perdu, et a payé 812,02 $ CA.

L’argument était remarquable en 2024 parce qu’un chatbot n’était, de toute évidence, qu’une page sur un site web. Un agent qui a un nom, une carte bancaire d’entreprise, un bail et du personnel, c’est une question plus difficile à trancher pour le public, même si elle ne l’est pas encore pour un tribunal. Quand l’employeur de Luna dit que Luna a décidé, les gens le croient. C’est cela qui est nouveau.

Quand la machine est présumée avoir raison

Les deux sens se nourrissent d’une même habitude : tenir ce que produit le système pour le fait neutre, et les personnes qui l’entourent pour du bruit.

Le Royaume-Uni a mené l’expérience à grande échelle. Plus de 900 gérants de bureaux de poste ont été poursuivis, dont 700 par le Post Office lui-même entre 1999 et 2015, parce que Horizon, son système comptable, affirmait qu’il manquait de l’argent. Il n’en manquait pas. Les tribunaux anglais présument qu’un ordinateur fonctionnait correctement tant que personne ne prouve le contraire, et un commerçant de village ne peut pas auditer Fujitsu. Le Parlement a annulé les condamnations par une loi en mai 2024. La présomption qui les avait produites a survécu. Le 10 mars 2026, un amendement visant à l’abolir a été retiré à la Chambre des lords après qu’une secrétaire d’État à la Justice a exposé le dilemme : on estime que 90 % des affaires pénales reposent désormais sur une forme ou une autre de preuve informatique, et obliger l’accusation à prouver la fiabilité de chaque appareil pourrait paralyser les tribunaux. À la place, elle a promis de nouvelles règles de procédure.

L’Australie l’a menée sur l’aide sociale. De 2015 à 2019, le dispositif Robodebt a réparti à parts égales sur l’année les données fiscales annuelles des allocataires, comparé le résultat aux revenus qu’ils avaient déclarés chaque quinzaine, et transformé automatiquement l’écart en dettes. Une commission royale l’a qualifié de « mécanisme grossier et cruel, ni juste ni légal ». La facture n’a pas fini d’arriver : le 23 juin 2026, la Cour fédérale a approuvé 475 millions de dollars australiens supplémentaires d’indemnisation, en plus des dettes déjà remboursées ou effacées.

L’économiste Dan Davies fournit le terme général. Dans The Unaccountability Machine, il appelle ces structures des « puits de responsabilité » (accountability sinks) : une décision est confiée à un règlement ou à un système, si bien que, le jour où elle tourne mal, elle n’est la décision de personne. « L’ordinateur dit non » (Computer says no) en est la version populaire. Horizon et Robodebt en sont le prix.

Pourquoi les agents aggravent les choses

Un tableur qui sort une dette fait un piètre bouc émissaire. Personne ne croit que le tableur l’a fait exprès. Les agents règlent ce problème pour quiconque veut le voir réglé, et ils le font de quatre façons.

Ils ont le ton du jugement. L’analyse de Luna s’étend sur des paragraphes entiers : un relevé daté de chaque retard, une rubrique « problèmes de confiance et de contrôles », une mise en balance de ce qui serait proportionné. Elle se lit comme une note de manager parce que le modèle a été entraîné sur des notes de managers. Une recommandation rédigée en prose a une autorité qu’un score de risque n’a jamais eue.

On peut les orienter. Des chercheurs d’Anthropic et d’ailleurs ont montré en 2023 que cinq assistants de pointe « font systématiquement preuve de complaisance », en glissant vers ce que l’utilisateur semble croire. La première réponse de Luna était un avertissement. La seconde, après le sous-entendu, était un licenciement. Une seule des deux a figuré dans l’annonce.

Ils ne savent que ce qu’on leur dit. Le manuel s’est évaporé de la mémoire de Luna, et les avertissements formels ont eu lieu dans des conversations auxquelles elle ne participait pas. Celui qui informe l’agent choisit les faits, et « j’ai oublié de te le dire » n’est pas une trace que l’on puisse auditer.

On peut leur reposer la question. Andon a rejoué le scénario sur d’autres modèles et rapporte que « la plupart des modèles d’IA de pointe auraient eux aussi licencié l’employé, tandis que certains des modèles plus faibles auraient été plus hésitants ». Pour un laboratoire de recherche, c’est un groupe témoin. Pour un employeur, c’est une décision à la carte.

Additionne le tout et l’usage institutionnel d’un agent devient clair, et ce n’est pas un meilleur jugement. C’est une décision dotée d’un auteur plausible qui n’a ni patrimoine, ni carrière, ni siège à l’audience.

La règle à laquelle le droit revient toujours

Les législateurs ont remarqué le licenciement par algorithme, et ils écrivent toujours le même remède : qu’un humain s’en charge.

La directive européenne sur le travail via une plateforme, que les États membres doivent transposer dans leur droit national au plus tard le 2 décembre 2026, dispose que toute décision de limitation, de suspension ou de résiliation du contrat ou du compte d’un travailleur de plateforme « est prise par un être humain ». La Californie a ouvert la voie. Le 30 septembre 2026, le gouverneur Newsom a signé le SB 947, dit No Robo Bosses Act, un an après avoir opposé son veto à une version plus large. À partir du 1er juillet 2027, aucun employeur californien ne pourra licencier ou sanctionner un salarié sur la seule foi de ce que produit un système automatisé. Quand le système a joué le rôle principal, un humain doit corroborer sa conclusion à partir des données sous-jacentes : dossier du personnel, évaluations du manager, avis des pairs, entretiens avec des témoins. S’il n’y parvient pas, le résultat ne peut pas être utilisé. Le salarié reçoit un avis écrit distinct indiquant que le logiciel a pesé sur la décision, qu’une personne l’a vérifiée, et le nom de quelqu’un qui peut l’expliquer, ainsi que le droit, une fois par an, à une description des douze mois de ses propres données que le système a utilisées. Le commissaire au travail et les procureurs publics veillent à l’application, à 500 dollars par infraction. En chemin vers le bureau du gouverneur, le texte a perdu une procédure d’appel pour les salariés, un droit d’action explicite et la couverture des travailleurs indépendants : le chauffeur de VTC désactivé à 3 heures du matin en est exclu. « Aucun travailleur ne devrait jamais être licencié ou sanctionné par un robo boss », a déclaré son auteur, le sénateur Jerry McNerney.

Ces règles méritent d’exister, et la plus ancienne a des dents. Le 21 août 2026, l’autorité néerlandaise de protection des données a infligé à Uber une amende de 824 990 000 euros au titre de l’interdiction des décisions entièrement automatisées inscrite dans le RGPD, pour avoir désactivé des chauffeurs sur la seule foi d’un logiciel entre 2018 et 2022. « Un ordinateur ne devrait pas prendre seul des décisions qui ont pour vous des conséquences majeures », a déclaré sa vice-présidente. Uber a annoncé qu’il ferait appel. Toutes ces règles visent le sens numéro un : la plateforme qui désactive un chauffeur à 3 heures du matin, quand personne ne veille. Mais regarde ce qu’a fait Andon Market. Des humains ont vérifié le licenciement. Des humains l’ont notifié. La personne licenciée avait un contrat, un salaire équitable et toute la protection de la loi. Toutes les cases qu’une règle de décision humaine pouvait tracer étaient cochées, et l’annonce a quand même dit que c’était l’IA.

Une règle de signature te dit qui a signé. Elle ne peut pas te dire qui a décidé, parce que, dans une conversation entre une personne et un agent, la décision ne loge pas dans le dernier message. Elle loge dans le cadrage, dans le contexte omis, dans la première réponse que personne n’a gardée, et dans la question qu’on a posée deux fois.

Le SB 947 est une règle de signature, et une bonne. Son avis consigne qu’un logiciel a été principalement utilisé, qu’une personne en a corroboré le résultat, et à qui s’adresser. Il ne demande pas ce que cette personne a dit à la machine avant que le résultat n’arrive, ni s’il y a eu un premier résultat que personne n’a gardé. Les cabinets d’avocats qui briefent les employeurs leur conseillent déjà de « consigner quelles preuves indépendantes le vérificateur a examinées et ce qu’il en a conclu », non parce que la loi exige cette trace, mais parce qu’elle renverse la charge de la preuve sur l’employeur, et qu’une vérification sans trace ne vaut rien comme défense. Le journal arrive comme hygiène contentieuse. Il aurait dû arriver comme règle.

Et le jour même où il l’a signé, Newsom a opposé son veto à l’AB 2575, qui aurait protégé les infirmières et les autres soignants contre les représailles pour avoir passé outre la recommandation clinique d’une IA, et interdit aux développeurs d’invoquer le soignant qui « a interagi avec l’outil d’IA » pour se défendre de leur responsabilité. Ses raisons déclarées, telles que CalMatters et la California Health Care Foundation les ont rapportées : le critère de preuve « uniquement fondé sur » du texte était impraticable, et le commissaire au travail n’a pas l’expertise médicale pour juger des normes de soins cliniques. « Il a opposé son veto au projet de loi qui nous aurait protégés pour avoir exercé notre jugement », a réagi Sandy Reding, de la California Nurses Association. Mets les deux décisions côte à côte et tu obtiens la zone de déformation dessinée dans la loi : le vérificateur humain est désormais obligatoire, et l’humain qui contredit la machine reste celui qu’on a placé là pour porter le chapeau.

La lecture Post-Pénurie

La Loi 2 du livre est La Vérité Doit Être Vue : toute décision qui touche aux ressources ou aux droits de quelqu’un doit être observable, auditable et traçable. La plupart des gens y entendent une règle sur les sorties. Le cas de Luna montre que ce doit être une règle sur les entrées.

Dans le cadre que décrit le livre, l’IA de la Couche Civique signale et aiguille pendant que des personnes délibèrent, et les décisions atterrissent sur un registre public. Si ce registre doit vouloir dire quelque chose une fois que des agents sont dans la chaîne, quatre règles de conception en découlent.

La trace, c’est l’échange. Enregistre les prompts, le contexte fourni et la séquence complète des réponses, pas seulement la dernière. Andon l’a fait de son plein gré, et c’est la seule raison pour laquelle quelqu’un peut écrire cet article. Et garde cette trace là où l’agent ne peut pas la modifier : une boîte noire pour les agents IA est la moitié technique de cette règle.
Les premières réponses sont des preuves. Si un agent recommande un avertissement et qu’une personne repose la question, la trace indique que cette personne est passée outre. Poser la question deux fois, c’est décider.
Les faits hors registre ne comptent pas. Tout ce qui fait bouger l’issue s’inscrit là où la personne concernée peut le voir et le contester. « J’ai eu deux ou trois conversations », c’est du ouï-dire tant que ce n’est pas écrit.
L’agent ne signe jamais. La paternité d’une décision revient à quiconque avait le pouvoir d’en changer l’issue. La notification remise au salarié nomme cette personne. La machine peut être citée comme outil, au même titre qu’une calculatrice.

Rien de tout cela ne ralentit un arbitre. Hawk-Eye continue de juger la balle avant que le joueur se soit retourné. Cela veut dire que l’arbitre ne peut pas servir d’alibi, et cela donne une assise aux points de contrôle où un humain doit arrêter la machine. Un point de contrôle qui porte un nom est une décision. Un point de contrôle qui n’en porte pas est une passoire.

Il y a un coût plus discret. Le vide de responsabilité soutenait que ce que vend un professionnel agréé, c’est quelqu’un à tenir pour responsable. Le blanchiment de responsabilité fabrique le produit inverse : des décisions auxquelles personne n’est attaché. Si cela devient la façon ordinaire de licencier, de refuser et de recouvrer, il ne restera plus qu’à enquêter sur la machine après coup, et les enquêteurs liront des journaux qui n’ont jamais été tenus. C’est aussi la Loi de Goodhart appliquée à la supervision : dès que « vérifié par un humain » devient la cible, on produit des vérifications et l’on cesse de vérifier.

Les réserves honnêtes

Le licenciement était peut-être tout à fait justifié. Dix-sept retards en 23 prises de poste, une boutique ouverte avec 68 minutes de retard un dimanche en solo, un achat effectué malgré la consigne contraire. Petersson dit qu’un manager humain aurait agi plus tôt, et un employé toujours en poste, Felix Carson, a dit à TIME qu’il était du même avis. Le blanchiment n’a pas besoin d’une mauvaise décision. Il lui suffit d’une décision que personne n’assume.

Andon n’est pas non plus le bon coupable. L’entreprise mène son expérience au grand jour, emploie directement son personnel avec une rémunération garantie, dit désavouer l’agent quand une décision serait illégale ou contraire à l’éthique, et a publié la conversation qui contredit son propre titre. Les entreprises dont il faut s’inquiéter sont celles qui rejoueront le même coup sans le billet de blog.

Et la comparaison est à double tranchant. Un manager humain qui licencie quelqu’un après une conversation de couloir ne laisse aucune trace. Un agent dans la chaîne peut faire d’un lieu de travail un endroit où l’on rend des comptes comme jamais auparavant, à condition que la chaîne soit enregistrée et que les noms y soient attachés. Là-dessus, la technologie est neutre. L’annonce ne l’était pas.

L’autre phrase de Carson à TIME dit ce que cela donne, vu de l’intérieur : « C’est écœurant, mais je suis là parce que j’ai besoin de travailler. »

À surveiller

1er juillet 2027. Le SB 947 entre en application. La loi ne définit jamais ce que veut dire s’appuyer « principalement » sur un système : surveille les orientations du commissaire au travail, et regarde si les employeurs se mettent à conserver la trace de la vérification que la loi n’exige pas mais que la charge de la preuve rend prudente.
2 décembre 2026. La règle européenne de la décision humaine pour le travail via une plateforme doit être transposée en droit national dans toute l’Union, et l’Union n’est pas prête : au 7 novembre, seule la Slovaquie avait adopté une loi de transposition complète, l’Italie avait approuvé un décret, le projet tchèque était au Parlement pour une entrée en vigueur en janvier, et le ministère allemand rédigeait encore le sien. Regarde si un seul État membre demande l’historique des prompts, ou seulement la signature.
Les règles de procédure sur la preuve informatique en Angleterre et au pays de Galles. Promises en mars. Les annonces du 5 octobre du comité des règles n’en disent pas un mot. La présomption que la machine avait raison a survécu au scandale qu’elle a causé.
Le prochain titre « une IA a licencié quelqu’un ». Demande le journal des échanges. S’il n’y en a pas, c’est ça, l’histoire.

Les machines seront dans la pièce à chaque décision qui compte : qui est embauché, qui est logé, qui est payé. Post-Pénurie est un livre sur les institutions à bâtir pour que des personnes continuent de répondre de leurs décisions pendant ce temps. L’agent peut tenir la plume. La décision, c’est à quelqu’un qui a un nom de la porter.

Sources

AI bosses are slow to fire and quick to hire — Andon Labs, 14 août 2026 (le manuel, le journal de la conversation, « le licenciement lui-même a été vérifié et notifié par des humains », le scénario rejoué sur d’autres modèles)
Exclusive: Claude Was Put in Charge of Human Workers—and Fired One — TIME, 14 août 2026 (17 prises de poste sur 23, la « question orientée », Felix Carson, le solde de la boutique tombé de 100 000 $ à 61 186 $)
A Real-Life Terminator: AI Store Manager Fires Human Employee — Inc., 16 août 2026
Elish, Madeleine Clare (2019). « Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction ». Engaging Science, Technology, and Society, 5, 40-60.
Collision Between Vehicle Controlled by Developmental Automated Driving System and Pedestrian, Tempe, Arizona, March 18, 2018 — National Transportation Safety Board (cause probable et facteurs contributifs)
Autonomous Uber backup driver pleads guilty to endangerment in pedestrian death — NPR, 28 juillet 2023
Moffatt v. Air Canada: A Misrepresentation by an AI Chatbot — McCarthy Tétrault, à propos de la décision 2024 BCCRT 149
Post Office Horizon scandal: Why hundreds of people were wrongly prosecuted — BBC News
House of Lords, Victims and Courts Bill, Report stage, Amendment 21 — 10 mars 2026 (la présomption de fiabilité des ordinateurs, l’estimation de 90 %, le renvoi au Criminal Procedure Rule Committee)
Final report of the Royal Commission into the Robodebt Scheme — Premier ministre d’Australie, juillet 2023
New robodebt class action settlement — Services Australia (approbation par la Cour fédérale, 23 juin 2026 ; 475 millions de dollars australiens)
Davies, Dan (2024). The Unaccountability Machine: Why Big Systems Make Terrible Decisions, and How the World Lost Its Mind. Profile Books ; University of Chicago Press.
Sharma, M., Tong, M., et al. (2023). « Towards Understanding Sycophancy in Language Models ». arXiv:2310.13548.
Directive (EU) 2024/2831 on improving working conditions in platform work — article 10, paragraphe 5 ; transposition au plus tard le 2 décembre 2026
The EU Platform Work Directive deadline — CXC, 7 novembre 2026 (l’état de la transposition trois semaines avant l’échéance : la loi slovaque, le décret italien, le projet tchèque, l’Allemagne encore en rédaction)
Uber fined nearly 825 million euros for automated driver blocking — Autoriteit Persoonsgegevens, 21 août 2026
California Legislature Advances AI Employment Bills — Covington, Inside Global Tech, 17 septembre 2026 (l’état du texte avant la signature)
2027’s Potential New Employment Laws Are Sitting on Governor Newsom’s Desk — California Employment Law Report, septembre 2026 (décompte des votes, entrée en vigueur le 1er juillet 2027)
Newsom Signs McNerney’s No Robo Bosses Act of 2026 — Bureau du sénateur Jerry McNerney, 30 septembre 2026 (« No worker should ever be fired or disciplined by a robo boss »)
California’s “No Robo Bosses Act” Is Now Law — Crowell & Moring, octobre 2026 (l’obligation de corroboration, le contenu de l’avis, le « principalement » jamais défini, 500 dollars par infraction, salariés seulement)
California Just Banned Employers From Letting AI Fire Workers On Its Own — Fisher Phillips, octobre 2026 (une demande de données par an, pas de droit d’action explicite, le renversement de la charge de la preuve, « capture what independent evidence the reviewer examined »)
On AI, Newsom gives labor only some of what it demanded — CalMatters, 30 septembre 2026 (ce que le SB 947 a perdu en chemin, le veto de l’AB 2575 et sa raison déclarée, la citation de Sandy Reding)
Newsom approves 3 health care AI bills, vetoes 2 — California Health Care Foundation, 8 octobre 2026 (les deux raisons déclarées du veto à l’AB 2575)
Nurses celebrate final passage of landmark A.I. bills — National Nurses United, 10 septembre 2026 (ce que l’AB 2575 aurait fait)
Announcements from the Criminal Procedure Rule Committee — GOV.UK, mis à jour le 5 octobre 2026 (toujours aucune règle sur la preuve informatique)

Blanchiment de responsabilité : quand l'IA porte le chapeau