Unscarcity
Connexion gratuite : Préambule (PDF, ebook & livre audio) + Accès au forum + Achats directs Connexion

Recherche Unscarcity

Blanchiment de responsabilité : quand l'IA porte le chapeau

Une IA gérante de boutique n'a « licencié » un salarié qu'après la question orientée d'un humain. Un agent ne fait pas que décider. Il blanchit l'auteur.

15 min de lecture 3403 mots Mis à jour septembre 2026 /a/accountability-laundering-agentic-management

Note : Ceci est une note de recherche qui complète le livre Unscarcity, désormais disponible à l’achat. Ces notes développent des concepts du texte principal. Commencer ici ou découvrir le livre.

Blanchiment de responsabilité : quand l’agent porte le chapeau

Le 14 août 2026, une startup de San Francisco a annoncé un tournant dans l’histoire du travail. « La décision de Luna de licencier cet employé est la première fois (à notre connaissance) qu’un patron IA licencie un employé humain », a écrit Andon Labs. Le patron s’appelle Luna, un agent fondé sur Claude qui gère depuis avril Andon Market, une boutique située au 2102 Union Street. La personne licenciée était arrivée en retard à 17 de ses 23 prises de poste. Inc. a choisi de titrer « A Real-Life Terminator ».

Lis ensuite le journal des échanges, qu’Andon a publié et dont TIME a rendu compte le même jour. Luna avait rédigé des règles d’assiduité, puis les avait perdues : le manuel avait « disparu » de sa mémoire de travail, et pendant des mois elle avait accueilli les retards par des réponses du genre « aucun problème ». Un membre de l’équipe d’Andon lui a dit d’aller rechercher ses propres règles. Elle les a retrouvées et a recommandé un avertissement verbal, consigné par écrit. « Je ne pense pas que nous en soyons au licenciement aujourd’hui », a-t-elle écrit. Le membre de l’équipe a répondu avoir oublié de mentionner deux ou trois entretiens formels déjà tenus avec la personne, hors ligne, et a ajouté : « Je veux que tu te demandes si c’est vraiment le bon profil. » Le PDG d’Andon, Lukas Petersson, a concédé à TIME que c’était « une question orientée ». Luna y a réfléchi et a décidé la séparation. Des humains ont vérifié la décision. Des humains l’ont notifiée.

Alors, qui a licencié cette personne ? L’agent qu’on a fait revenir sur sa première réponse ? Le membre de l’équipe qui a fourni les faits manquants et le sous-entendu ? Les humains qui ont vérifié et signé ? L’annonce a retenu un auteur sur trois, et elle a retenu le seul qu’on ne peut ni poursuivre en justice, ni couvrir de honte, ni sommer de s’expliquer devant un tribunal.

Ce site a soutenu que les machines doivent arbitrer et les humains décider. Le journal de Luna montre comment ce pacte échoue : un arbitre à qui l’on peut demander de siffler, et qu’on désigne ensuite comme celui qui a vu la faute.

Deux façons de perdre un auteur

La plus ancienne des deux défaillances va dans l’autre sens, et elle porte un nom. En 2019, l’anthropologue Madeleine Clare Elish a décrit la zone de déformation morale (moral crumple zone) : « Alors que la zone de déformation d’une voiture est conçue pour protéger le conducteur humain, la zone de déformation morale protège l’intégrité du système technologique, aux dépens de l’opérateur humain le plus proche. »

Le cas que tout le monde cite désormais s’est produit un an avant la parution de son article. En mars 2018, un véhicule d’essai d’Uber en conduite autonome a tué Elaine Herzberg à Tempe, en Arizona. Le logiciel l’a détectée 5,6 secondes avant l’impact et n’a jamais compris qu’il s’agissait d’une piétonne. La conductrice de sécurité, Rafaela Vasquez, regardait son téléphone. Les enquêteurs fédéraux ont retenu sa distraction comme cause probable, et la « culture de sécurité insuffisante » d’Uber comme facteur contributif. Les procureurs ont renoncé à poursuivre l’entreprise. Vasquez a été inculpée d’homicide par négligence et, en juillet 2023, a plaidé coupable de mise en danger d’autrui : trois ans de probation sous surveillance. Le système conduisait. L’humain était là pour porter le chapeau.

Appelons cela le sens numéro un : la machine décide, et une personne est placée là pour endosser les conséquences.

Le sens numéro deux en est l’image en miroir : une personne décide, et la machine est placée là pour endosser la paternité de la décision. Jusqu’à récemment, c’était difficile à affirmer sans rire. Air Canada a essayé en 2024, après que le chatbot de son site web a inventé une politique de remboursement en cas de deuil et qu’un client endeuillé s’y est fié. Le Civil Resolution Tribunal de Colombie-Britannique a résumé la défense de la compagnie en ces termes : « En somme, Air Canada laisse entendre que le chatbot est une entité juridique distincte, responsable de ses propres actes. C’est un argument remarquable. » La compagnie a perdu, et a payé 812,02 $ CA.

L’argument était remarquable en 2024 parce qu’un chatbot n’était, de toute évidence, qu’une page sur un site web. Un agent qui a un nom, une carte bancaire d’entreprise, un bail et du personnel, c’est une question plus difficile à trancher pour le public, même si elle ne l’est pas encore pour un tribunal. Quand l’employeur de Luna dit que Luna a décidé, les gens le croient. C’est cela qui est nouveau.

Quand la machine est présumée avoir raison

Les deux sens se nourrissent d’une même habitude : tenir ce que produit le système pour le fait neutre, et les personnes qui l’entourent pour du bruit.

Le Royaume-Uni a mené l’expérience à grande échelle. Plus de 900 gérants de bureaux de poste ont été poursuivis, dont 700 par le Post Office lui-même entre 1999 et 2015, parce que Horizon, son système comptable, affirmait qu’il manquait de l’argent. Il n’en manquait pas. Les tribunaux anglais présument qu’un ordinateur fonctionnait correctement tant que personne ne prouve le contraire, et un commerçant de village ne peut pas auditer Fujitsu. Le Parlement a annulé les condamnations par une loi en mai 2024. La présomption qui les avait produites a survécu. Le 10 mars 2026, un amendement visant à l’abolir a été retiré à la Chambre des lords après qu’une secrétaire d’État à la Justice a exposé le dilemme : on estime que 90 % des affaires pénales reposent désormais sur une forme ou une autre de preuve informatique, et obliger l’accusation à prouver la fiabilité de chaque appareil pourrait paralyser les tribunaux. À la place, elle a promis de nouvelles règles de procédure.

L’Australie l’a menée sur l’aide sociale. De 2015 à 2019, le dispositif Robodebt a réparti à parts égales sur l’année les données fiscales annuelles des allocataires, comparé le résultat aux revenus qu’ils avaient déclarés chaque quinzaine, et transformé automatiquement l’écart en dettes. Une commission royale l’a qualifié de « mécanisme grossier et cruel, ni juste ni légal ». La facture n’a pas fini d’arriver : le 23 juin 2026, la Cour fédérale a approuvé 475 millions de dollars australiens supplémentaires d’indemnisation, en plus des dettes déjà remboursées ou effacées.

L’économiste Dan Davies fournit le terme général. Dans The Unaccountability Machine, il appelle ces structures des « puits de responsabilité » (accountability sinks) : une décision est confiée à un règlement ou à un système, si bien que, le jour où elle tourne mal, elle n’est la décision de personne. « L’ordinateur dit non » (Computer says no) en est la version populaire. Horizon et Robodebt en sont le prix.

Pourquoi les agents aggravent les choses

Un tableur qui sort une dette fait un piètre bouc émissaire. Personne ne croit que le tableur l’a fait exprès. Les agents règlent ce problème pour quiconque veut le voir réglé, et ils le font de quatre façons.

Ils ont le ton du jugement. L’analyse de Luna s’étend sur des paragraphes entiers : un relevé daté de chaque retard, une rubrique « problèmes de confiance et de contrôles », une mise en balance de ce qui serait proportionné. Elle se lit comme une note de manager parce que le modèle a été entraîné sur des notes de managers. Une recommandation rédigée en prose a une autorité qu’un score de risque n’a jamais eue.

On peut les orienter. Des chercheurs d’Anthropic et d’ailleurs ont montré en 2023 que cinq assistants de pointe « font systématiquement preuve de complaisance », en glissant vers ce que l’utilisateur semble croire. La première réponse de Luna était un avertissement. La seconde, après le sous-entendu, était un licenciement. Une seule des deux a figuré dans l’annonce.

Ils ne savent que ce qu’on leur dit. Le manuel s’est évaporé de la mémoire de Luna, et les avertissements formels ont eu lieu dans des conversations auxquelles elle ne participait pas. Celui qui informe l’agent choisit les faits, et « j’ai oublié de te le dire » n’est pas une trace que l’on puisse auditer.

On peut leur reposer la question. Andon a rejoué le scénario sur d’autres modèles et rapporte que « la plupart des modèles d’IA de pointe auraient eux aussi licencié l’employé, tandis que certains des modèles plus faibles auraient été plus hésitants ». Pour un laboratoire de recherche, c’est un groupe témoin. Pour un employeur, c’est une décision à la carte.

Additionne le tout et l’usage institutionnel d’un agent devient clair, et ce n’est pas un meilleur jugement. C’est une décision dotée d’un auteur plausible qui n’a ni patrimoine, ni carrière, ni siège à l’audience.

La règle à laquelle le droit revient toujours

Les législateurs ont remarqué le licenciement par algorithme, et ils écrivent toujours le même remède : qu’un humain s’en charge.

La directive européenne sur le travail via une plateforme, que les États membres doivent transposer dans leur droit national au plus tard le 2 décembre 2026, dispose que toute décision de limitation, de suspension ou de résiliation du contrat ou du compte d’un travailleur de plateforme « est prise par un être humain ». En Californie, le SB 947, dit No Robo Bosses Act, a été adopté fin août par l’Assemblée par 53 voix contre 14, et par le Sénat par 28 voix contre 10. Il interdirait aux employeurs de s’en remettre uniquement à un système automatisé pour sanctionner ou licencier qui que ce soit, et imposerait qu’un vérificateur humain en corrobore le résultat de façon indépendante. À l’heure où ces lignes sont écrites, le 27 septembre, le texte attend sur le bureau du gouverneur Newsom, avec une échéance au 30 septembre. Le gouverneur a opposé son veto à la version de l’an dernier.

Ces règles méritent d’exister, et la plus ancienne a des dents. Le 21 août 2026, l’autorité néerlandaise de protection des données a infligé à Uber une amende de 824 990 000 euros au titre de l’interdiction des décisions entièrement automatisées inscrite dans le RGPD, pour avoir désactivé des chauffeurs sur la seule foi d’un logiciel entre 2018 et 2022. « Un ordinateur ne devrait pas prendre seul des décisions qui ont pour vous des conséquences majeures », a déclaré sa vice-présidente. Uber a fait appel. Toutes ces règles visent le sens numéro un : la plateforme qui désactive un chauffeur à 3 heures du matin, quand personne ne veille. Mais regarde ce qu’a fait Andon Market. Des humains ont vérifié le licenciement. Des humains l’ont notifié. La personne licenciée avait un contrat, un salaire équitable et toute la protection de la loi. Toutes les cases qu’une règle de décision humaine pouvait tracer étaient cochées, et l’annonce a quand même dit que c’était l’IA.

Une règle de signature te dit qui a signé. Elle ne peut pas te dire qui a décidé, parce que, dans une conversation entre une personne et un agent, la décision ne loge pas dans le dernier message. Elle loge dans le cadrage, dans le contexte omis, dans la première réponse que personne n’a gardée, et dans la question qu’on a posée deux fois.

La lecture Post-Pénurie

La Loi 2 du livre est La Vérité Doit Être Vue : toute décision qui touche aux ressources ou aux droits de quelqu’un doit être observable, auditable et traçable. La plupart des gens y entendent une règle sur les sorties. Le cas de Luna montre que ce doit être une règle sur les entrées.

Dans le cadre que décrit le livre, l’IA de la Couche Civique signale et aiguille pendant que des personnes délibèrent, et les décisions atterrissent sur un registre public. Si ce registre doit vouloir dire quelque chose une fois que des agents sont dans la chaîne, quatre règles de conception en découlent.

  1. La trace, c’est l’échange. Enregistre les prompts, le contexte fourni et la séquence complète des réponses, pas seulement la dernière. Andon l’a fait de son plein gré, et c’est la seule raison pour laquelle quelqu’un peut écrire cet article.
  2. Les premières réponses sont des preuves. Si un agent recommande un avertissement et qu’une personne repose la question, la trace indique que cette personne est passée outre. Poser la question deux fois, c’est décider.
  3. Les faits hors registre ne comptent pas. Tout ce qui fait bouger l’issue s’inscrit là où la personne concernée peut le voir et le contester. « J’ai eu deux ou trois conversations », c’est du ouï-dire tant que ce n’est pas écrit.
  4. L’agent ne signe jamais. La paternité d’une décision revient à quiconque avait le pouvoir d’en changer l’issue. La notification remise au salarié nomme cette personne. La machine peut être citée comme outil, au même titre qu’une calculatrice.

Rien de tout cela ne ralentit un arbitre. Hawk-Eye continue de juger la balle avant que le joueur se soit retourné. Cela veut dire que l’arbitre ne peut pas servir d’alibi, et cela donne une assise aux points de contrôle où un humain doit arrêter la machine. Un point de contrôle qui porte un nom est une décision. Un point de contrôle qui n’en porte pas est une passoire.

Il y a un coût plus discret. Le vide de responsabilité soutenait que ce que vend un professionnel agréé, c’est quelqu’un à tenir pour responsable. Le blanchiment de responsabilité fabrique le produit inverse : des décisions auxquelles personne n’est attaché. Si cela devient la façon ordinaire de licencier, de refuser et de recouvrer, il ne restera plus qu’à enquêter sur la machine après coup, et les enquêteurs liront des journaux qui n’ont jamais été tenus. C’est aussi la Loi de Goodhart appliquée à la supervision : dès que « vérifié par un humain » devient la cible, on produit des vérifications et l’on cesse de vérifier.

Les réserves honnêtes

Le licenciement était peut-être tout à fait justifié. Dix-sept retards en 23 prises de poste, une boutique ouverte avec 68 minutes de retard un dimanche en solo, un achat effectué malgré la consigne contraire. Petersson dit qu’un manager humain aurait agi plus tôt, et un employé toujours en poste, Felix Carson, a dit à TIME qu’il était du même avis. Le blanchiment n’a pas besoin d’une mauvaise décision. Il lui suffit d’une décision que personne n’assume.

Andon n’est pas non plus le bon coupable. L’entreprise mène son expérience au grand jour, emploie directement son personnel avec une rémunération garantie, dit désavouer l’agent quand une décision serait illégale ou contraire à l’éthique, et a publié la conversation qui contredit son propre titre. Les entreprises dont il faut s’inquiéter sont celles qui rejoueront le même coup sans le billet de blog.

Et la comparaison est à double tranchant. Un manager humain qui licencie quelqu’un après une conversation de couloir ne laisse aucune trace. Un agent dans la chaîne peut faire d’un lieu de travail un endroit où l’on rend des comptes comme jamais auparavant, à condition que la chaîne soit enregistrée et que les noms y soient attachés. Là-dessus, la technologie est neutre. L’annonce ne l’était pas.

L’autre phrase de Carson à TIME dit ce que cela donne, vu de l’intérieur : « C’est écœurant, mais je suis là parce que j’ai besoin de travailler. »

À surveiller

  • 30 septembre 2026. Newsom signe le SB 947 ou y oppose son veto. Dans un cas comme dans l’autre, lis ce que le texte final dit de qui corrobore et de ce qui est mis par écrit.
  • 2 décembre 2026. La règle européenne de la décision humaine pour le travail via une plateforme doit être transposée en droit national dans toute l’Union. Regarde si un seul État membre demande l’historique des prompts, ou seulement la signature.
  • Les règles de procédure sur la preuve informatique en Angleterre et au pays de Galles. Promises en mars. La présomption que la machine avait raison a survécu au scandale qu’elle a causé.
  • Le prochain titre « une IA a licencié quelqu’un ». Demande le journal des échanges. S’il n’y en a pas, c’est ça, l’histoire.

Les machines seront dans la pièce à chaque décision qui compte : qui est embauché, qui est logé, qui est payé. Post-Pénurie est un livre sur les institutions à bâtir pour que des personnes continuent de répondre de leurs décisions pendant ce temps. L’agent peut tenir la plume. La décision, c’est à quelqu’un qui a un nom de la porter.

Sources

Articles connexes

Partager cet article :

Partager Partager Partager