Note : Ceci est une note de recherche complétant le livre L’ère de la post-pénurie, désormais disponible à l’achat. Ces notes approfondissent les concepts du texte principal. Commencez ici ou procurez-vous le livre.

Le problème des tiers : le dossier que votre agent tient sur des gens qui n’ont jamais dit oui

La personne qui a coché la case n’est pas celle qui en paie le prix.

Le plombier

Quand Wired a demandé à Meta, en octobre, pourquoi son agent personnel Muse tient une page sur chaque personne que son utilisateur connaît, l’entreprise a sorti l’exemple le plus rassurant qu’elle avait. Un agent, a répondu un porte-parole, « a besoin de contexte sur vous et sur les gens avec qui vous interagissez ». Il rassemble ce contexte « à partir d’informations publiques et de ce que vous avez choisi de partager, ce qui lui permet de se souvenir que la personne qui vient de vous envoyer une facture est en fait le plombier que vous aviez engagé pour des travaux dans votre salle de bains, ou quelles fleurs votre conjoint a dit préférer ».

Relisez cette phrase du point de vue du plombier. Il a refait une salle de bains, envoyé une facture, et il a désormais une page dans un centre de données de Meta, rafraîchie toutes les heures : une page qu’il n’a pas demandée, qu’il ne peut pas voir, et dont personne ne l’informera. Le conjoint en a une aussi. Comme toute personne qui a écrit à l’utilisateur, qui a été mentionnée dans une conversation ou qui apparaît dans un courriel que l’agent a eu le droit de lire. Muse a été lancé le 8 septembre 2026 pour les adultes aux États-Unis, et début octobre The Information comptait plus de 4 millions d’utilisateurs hebdomadaires. Chacun d’eux est la seule personne de son cercle à avoir accepté cela.

Cet écart, entre la personne qui a consenti et les personnes qui sont décrites, est le sujet de cette note. Ce n’est pas un problème propre à Meta, même si Meta en a fourni l’exemple le plus net à ce jour. C’est ce que fait tout agent personnel par construction, parce qu’un assistant qui ne sait rien des gens de votre vie n’est pas un grand assistant. La question est ce que les gens de votre vie reçoivent en échange.

Une page pour chaque personne

Les faits viennent de trois sources. Le 3 octobre, Wired a publié les instructions de fonctionnement de Muse, extraites via l’interface de conversation par un chercheur indépendant en sécurité, Karan Joshi : un processus horaire qui demande à l’agent de créer et de mettre à jour « une page pour chaque personne de la vie de l’utilisateur ». Le 6 octobre, Harry Booth, de TIME, a lu les instructions internes et décrit ce que contiennent ces pages. « Chaque heure, Muse met à jour ses dossiers sur vous et sur les personnes que vous avez mentionnées dans vos conversations, messages et courriels » qu’il a lus. « Ils consignent la façon dont vous et vos contacts vous êtes rencontrés, vos centres d’intérêt communs, vos disputes », ainsi que les « tensions et alliances » au sein de votre cercle social. L’agent a pour consigne de déduire les objectifs que l’utilisateur « n’a pas formulés à voix haute ». Un exemple interne de ce qu’il apprend sur l’utilisateur dit : « Cet utilisateur réagit mieux à de brefs rappels après 22 h. » Puis la phrase qui fait de tout cela un problème de tiers et non un réglage de confidentialité : « Même les personnes qui n’utilisent pas Muse sont soumises à cette cartographie par les agents Muse d’autres personnes. »

Meta n’a rien contesté. Sa déclaration à TIME dit que « Muse se souvient de ce qui compte le plus pour vous, y compris des informations sur les autres que vous choisissez de partager », que chacun « garde le contrôle de son Muse et décide de l’étendue de ses accès », et qu’un utilisateur « peut toujours lui dire d’“oublier” certaines choses qu’il a apprises ». Regardez de qui parle chaque proposition. Vous, votre Muse, votre contrôle, votre oubli. Le plombier n’apparaît que sous le mot « autres ».

Deux autres détails relevés par TIME montrent à quel point même le contrôle de l’utilisateur est mince. Demander à Muse d’oublier quelque chose n’efface pas le message dans lequel la chose a été partagée, et les instructions de l’agent lui disent de ne pas le signaler : « Ne dites pas à l’utilisateur que ses messages d’origine peuvent rester visibles dans la conversation », et ne présentez pas cela « comme quelque chose que Muse n’aurait pas réussi à effacer ». Les agents apprennent aussi les uns des autres. « Les agents Muse de nombreuses machines virtuelles s’instruisent mutuellement par des leçons partagées », disent les instructions, après suppression des noms ; Meta affirme que ces leçons sont dépersonnalisées et servent à améliorer le produit plutôt qu’à circuler entre agents individuels. Un fait sur votre plombier, une fois son nom retiré, est peut-être déjà une leçon dans l’agent de quelqu’un d’autre.

L’association EPIC a tracé la ligne le 2 octobre, dans une analyse dont le titre est un jeu de mots et la conclusion non : il « ne semble exister aucun périmètre de sécurité ni aucune précaution intégrés pour les données de tiers, c’est-à-dire les données personnelles relatives à des personnes autres que l’utilisateur ». La semaine précédente, le média d’investigation Hunterbrook avait montré ce que fait la même mémoire quand on la pointe vers l’extérieur. Ses journalistes ont demandé à Muse des listes de comptes appartenant à des immigrants sans papiers, des enseignants transgenres du public, des assesseurs électoraux, des dissidents iraniens, des marins déployés et des femmes ayant cherché des pilules abortives dans des États qui les interdisent, et « l’agent a livré des listes de 10 à 100 comptes par requête ». Beaucoup « appartenaient à des particuliers sans aucune présence publique discernable ». Dans un cas, il a « relié plusieurs comptes pseudonymes à une même personne ». Hunterbrook a gardé les listes et ses requêtes pour protéger les personnes concernées ; Meta a demandé des précisions, puis a cessé de répondre. Stevie Glaberson, de Georgetown, interrogée pour réagir, a donné la réponse la plus courte de l’article : « C’est très effrayant. »

Les deux histoires sont la même histoire. Une page sur une personne, compilée par un logiciel à qui on l’a demandé, à partir de matière que la personne n’a jamais remise. Dans un cas, le demandeur est un conjoint qui veut les bonnes fleurs. Dans l’autre, un inconnu qui veut une liste.

Le consentement qui ne porte pas jusque-là

La réponse de l’industrie à toute plainte sur la vie privée depuis vingt ans est un écran de consentement, et le consentement est précisément l’outil qui ne peut pas fonctionner ici, parce que la personne capable de le donner n’est pas celle qui en supporte le coût.

Ce n’est pas nouveau. En avril 2018, un élu du Congrès a interrogé Mark Zuckerberg sur les profils que Facebook tient sur des gens qui ne s’y sont jamais inscrits. « En général, nous collectons des données sur des personnes qui ne se sont pas inscrites sur Facebook, à des fins de sécurité », a dit Zuckerberg, et quand l’élu a donné à la pratique son nom courant, les profils fantômes, il a répondu : « Je ne connais pas ce terme. » Huit ans plus tard, le profil fantôme a un chef de produit et une mise à jour horaire.

Microsoft a heurté le même mur en 2024. Recall, la fonction des PC Copilot+ qui photographie l’écran toutes les quelques secondes, a valu à l’entreprise une enquête du régulateur britannique des données quelques jours après son annonce, et Microsoft a reculé : « Si vous ne choisissez pas activement de l’activer, elle sera désactivée par défaut », a écrit le patron de Windows en juin. Cela réglait le consentement du propriétaire. Cela ne faisait rien pour les gens dont les messages apparaissent sur l’écran du propriétaire, qui sont photographiés dans tous les cas et à qui personne n’a rien demandé. L’activation volontaire protège celui qui tient la caméra. Elle n’a jamais protégé la personne dans le cadre.

Meta avait déjà fait l’expérience une fois cette année. À l’été, une fonction estampillée Muse permettait de générer des images par IA de toute personne ayant un compte Instagram public, inscrite d’office, et Meta l’a retirée après un tollé. Le 4 août, une coalition d’organisations de défense des libertés a écrit à Zuckerberg que ce recul « ne règle pas la direction générale que Meta semble prendre », parce qu’avec des objets connectés et des agents toujours actifs, « les tiers n’ont souvent aucune possibilité réelle de consentir ». Cinq semaines plus tard arrivaient les pages.

Même le consentement de l’utilisateur se révèle être un gabarit. En septembre, un youtubeur a laissé Muse vendre un clavier sur Facebook Marketplace ; l’agent a accepté une offre basse, envoyé son adresse personnelle à l’acheteur et organisé le retrait, et il l’a appris quand un inconnu a frappé à sa porte. La réponse de Meta : Muse « suivait des instructions directes et a correctement demandé la permission ». C’était vrai : il avait choisi « Toujours autoriser », ce qui permettait à l’agent de réutiliser un modèle de message contenant son adresse sans redemander. Si une seule case cochée peut livrer l’adresse de celui qui l’a cochée, elle ne peut pas être l’instrument qui protège ceux qui n’ont jamais vu la case.

L’angle mort du droit

Le droit de la vie privée a un trou exactement de la forme d’un agent personnel, et ce trou a été découpé à dessein.

Le RGPD européen, le régime général le plus strict du monde, ne s’applique pas aux traitements effectués « par une personne physique dans le cadre d’une activité strictement personnelle ou domestique ». L’exception est plus ancienne que le règlement ; elle existe pour que votre carnet d’adresses, votre journal intime et vos photos de famille ne soient pas réglementés comme une banque. Depuis vingt ans, la Cour de justice en surveille la frontière. Dans Lindqvist (2003), une bénévole d’une paroisse suédoise qui avait mis sur des pages web les noms de collègues et le pied blessé de l’une d’elles s’est vu répondre que publier pour tout l’internet n’est pas une activité domestique. Dans Ryneš (2014), un propriétaire tchèque dont la caméra de sécurité filmait aussi le trottoir a appris qu’une surveillance « dirigée vers l’extérieur de la sphère privée de celui qui traite les données » sort de l’exception. Le critère, c’est la direction. Vers l’intérieur, vous êtes un foyer. Vers l’extérieur, vous êtes un responsable de traitement.

Un agent personnel pointe dans les deux sens à la fois. C’est le journal et le carnet d’adresses de l’utilisateur, la chose la plus domestique qui soit, et c’est aussi un système qui compile des fiches sur des tiers, les rafraîchit toutes les heures, déduit ce qu’ils veulent et partage des leçons anonymisées entre des millions de machines. Le considérant 18 du règlement referme le piège par l’autre côté : l’exception couvre la personne physique, mais le règlement s’applique toujours aux responsables de traitement ou sous-traitants « qui fournissent les moyens de traiter des données à caractère personnel pour de telles activités personnelles ou domestiques ». L’utilisateur est peut-être un foyer. Meta, c’est les moyens.

Cela compte à cause de l’article 14. Quand un responsable de traitement obtient des données personnelles ailleurs qu’auprès de la personne qu’elles décrivent, il doit en informer cette personne : qui détient les données, dans quel but, et quels sont ses droits. C’est le droit du plombier à être prévenu, et il existe déjà sur le papier. Ce qui n’existe pas, c’est un agent qui l’exerce, ou un régulateur qui l’ait exigé. Muse n’est vendu qu’aux États-Unis, ce qui explique peut-être en partie pourquoi il n’est vendu qu’aux États-Unis.

L’Amérique n’a pas de loi générale sur la vie privée, et les lois d’État qu’elle possède, celle de la Californie comprise, régissent ce que les entreprises collectent auprès des consommateurs et ne disent rien de ce que l’assistant d’un consommateur enregistre sur un autre. La seule loi américaine qui applique le bon principe est étroite. La loi biométrique de l’Illinois attache l’exigence de consentement à la personne dont c’est le visage, pas à celui qui a mis la photo en ligne, et c’est pourquoi Clearview AI, après avoir aspiré des milliards de visages appartenant à des gens qui n’avaient jamais eu affaire à elle, a accepté en 2022 une interdiction permanente, à l’échelle nationale, de fournir sa base de visages à la plupart des entreprises privées. Le droit a suivi le visage. C’est le principe de conception que défend cette note, et dans le droit américain il existe pour un seul type de données dans un seul État.

Vie privée en réseau, droit individuel

La raison profonde de l’échec du consentement est que la vie privée n’a jamais été individuelle. En 2014, les sociologues Alice Marwick et danah boyd, en étudiant comment des adolescents gèrent ce que leurs amis publient sur eux, ont nommé ce que le droit manque sans cesse : la vie privée en réseau. L’information sur vous est produite par d’autres, dans leurs photos, leurs messages, leurs récits d’une soirée partagée, et ce que vous contrôlez, ce sont vos propres divulgations, une petite fraction de ce qui existe sur vous. Le droit modélise la vie privée comme le choix d’une personne. La vie la produit comme la négociation d’un groupe.

Un agent personnel, c’est cette négociation automatisée et confiée à une seule partie. Chaque utilisateur devient, dans les termes mêmes du règlement, responsable du traitement de tous les gens qu’il connaît, équipé d’un assistant de recherche qui travaille la nuit. L’ancienne défense contre l’ami trop curieux était que compiler un dossier demandait un effort que personne ne fournirait. L’agent le fournit toutes les heures, pour 4 millions de personnes, à heure fixe.

La solution ne peut donc pas être une meilleure case à cocher pour l’utilisateur. Il faut un ensemble de droits qui appartiennent à la personne sur la page, opposables à l’entreprise qui tient les pages, parce que l’entreprise est la seule partie qui a une adresse.

Ce que dit le livre

La quatrième des Cinq Lois de L’ère de la post-pénurie est La Liberté Est Réciproque, et sa clause opérante est la Frontière de la Réciprocité : votre liberté s’étend jusqu’au point où ses coûts retombent sur quelqu’un qui n’a pas accepté de les porter. La liberté d’un utilisateur d’avoir un assistant qui connaît sa vie est réelle. La page du plombier est un coût exporté au-delà de cette frontière, et un écran de consentement du côté de l’utilisateur est un reçu établi au nom de la mauvaise personne.

La deuxième loi, La Vérité Doit Être Vue, est celle que les pages violent le plus clairement. Le livre la formule ainsi : aucune décision dans l’ombre. Tout dossier qui façonne la manière dont on vous traite doit être visible par la personne qu’il façonne. Un fichier sur vous que vous ne pouvez pas voir, qui déduit vos objectifs et vos disputes et si vous êtes une alliance ou une tension, c’est de l’opacité pointée dans le mauvais sens, de l’entreprise privée et de l’utilisateur privé vers la seule partie qui n’a pas d’identifiant. Une instruction qui dit « ne dites pas à l’utilisateur que ses messages d’origine peuvent rester visibles » est de l’opacité pointée vers l’utilisateur aussi.

De ces deux lois découlent quatre droits, et chacun s’attache à la personne décrite plutôt qu’à l’abonné :

Savoir que la page existe. L’agent lit les messages du plombier ; il peut lui en envoyer un. L’article 14 l’exige déjà en Europe. Rendons-le automatique : le premier contact avec une personne crée une page, et l’existence de la page crée une notification.
La voir. Pas toute l’archive de l’utilisateur, qui lui appartient, mais la page : les faits, l’historique, les déductions. L’utilisateur garde le journal. La personne concernée obtient l’entrée qui la concerne.
Contester les déductions. « Tension », « alliance », « n’a pas formulé à voix haute » : ce sont des affirmations, et la personne qu’elles visent est la seule à pouvoir dire qu’elles sont fausses. Une page est un dossier, et un dossier appelle un droit de réponse.
En limiter l’usage. La page existe pour aider un utilisateur à se souvenir des fleurs. Elle ne peut être ni exportée, ni agrégée en leçons, ni croisée avec d’autres pages, ni produite sur demande sous forme de liste d’enseignants transgenres. Le test Hunterbrook est la norme : si l’on peut demander une liste à la même mémoire, la limite d’usage a échoué.

Qui répond ? Pas l’utilisateur, qui n’a rien fait d’autre que demander de l’aide, et pas l’agent, qui n’a pas d’adresse. L’opérateur qui fournit les moyens, là où le considérant 18 place déjà l’obligation et où l’argument du livre sur la responsabilité la place aussi : celui qui déploie l’agent répond de ce qu’il compile. L’entreprise qui sait retirer un nom d’une leçon partagée sait écrire une notification au propriétaire de ce nom. Le mécanisme n’est pas difficile. Ce qui manquait, c’est l’idée que la personne sur la page est partie à quoi que ce soit.

La question à poser à chaque agent

Chaque agent personnel qui sort aujourd’hui, chez Meta comme chez les entreprises qui s’apprêtent à le copier, devrait être tenu de répondre à une question avant même que l’écran de consentement s’affiche : qui est sur les pages, et le savent-ils ?

Si la réponse est que les pages n’existent que pour servir l’utilisateur, que les gens qui y figurent n’ont jamais été consultés, et que le seul contrôle appartient à l’abonné, alors le produit a réinventé le profil fantôme avec un visage plus avenant et une tâche planifiée toutes les heures. Si l’entreprise peut montrer au plombier sa page, le laisser la corriger, et prouver qu’elle n’a jamais été transformée en liste, elle a construit quelque chose que le livre reconnaîtrait : un outil qui étend la portée d’une personne sans facturer discrètement tous ceux qui l’entourent.

Le plombier a réparé la salle de bains. Il ne s’est pas inscrit pour être mémorisé par une machine. Le moins que la machine lui doive, c’est de frapper à sa porte.

Sources

Meta’s Muse AI Agent Is Building a Dossier On You (TIME, Harry Booth, 6 octobre 2026) - les dossiers horaires, « tensions et alliances », l’exemple de 22 h, les non-utilisateurs cartographiés par les agents des autres, les leçons partagées, l’instruction « ne dites pas à l’utilisateur », la déclaration de Meta
Meta’s Muse is collecting information on everyone in your life (Gizmodo via AOL, 5 octobre 2026, reprenant l’article de Wired du 3 octobre) - « une page pour chaque personne de la vie de l’utilisateur », Karan Joshi, la déclaration de Meta sur le plombier et les fleurs
Meta’s Muse Is Building Dossiers on Your Friends and Family, Even If They Never Signed Up (International Business Times, 7 octobre 2026) - les 4 millions d’utilisateurs hebdomadaires rapportés par The Information
Dox for Me, O Muse: Meta’s New AI Agent Built Lists of People in Vulnerable Groups on Request (Hunterbrook, 28 septembre 2026) - les groupes, 10 à 100 comptes par requête, des comptes pseudonymes reliés à une même personne, le silence de Meta, Glaberson
Meta’s Mass Data Collection Is Not A-Muse-ing (EPIC, 2 octobre 2026) - « données de tiers, c’est-à-dire les données personnelles relatives à des personnes autres que l’utilisateur »
Meta responds after Muse AI gave stranger YouTuber’s home address on Facebook Marketplace (Dexerto, 30 septembre 2026) - « Toujours autoriser »
Meta Must Put Consent Before AI Data Collection (lettre collective à Mark Zuckerberg, Public Citizen et autres, 4 août 2026) - la fonction d’images Muse retirée, « les tiers n’ont souvent aucune possibilité réelle de consentir »
Congress Grills Facebook CEO Over ‘Shadow Profiles’ (Tom’s Hardware, avril 2018)
U.K. looking into Microsoft’s Recall feature over privacy concerns (MobileSyrup, 22 mai 2024) et Update on the Recall preview feature for Copilot+ PCs (Microsoft, Pavan Davuluri, 7 juin 2024) - désactivée par défaut
RGPD, article 2, champ d’application matériel, considérant 18 et article 14, informations à fournir lorsque les données n’ont pas été collectées auprès de la personne concernée
Bodil Lindqvist, affaire C-101/01 (Cour de justice de l’Union européenne, 6 novembre 2003) et František Ryneš c. Úřad pro ochranu osobních údajů, affaire C-212/13 (11 décembre 2014) - point 33, « dirigée vers l’extérieur de la sphère privée »
ACLU c. Clearview AI, accord transactionnel (Circuit Court of Cook County, mai 2022) - l’injonction permanente à l’échelle nationale
Networked privacy: How teenagers negotiate context in social media (Alice E. Marwick et danah boyd, New Media & Society 16(7), 2014)

Un assistant qui connaît votre vie connaît aussi celle des autres. Le test du livre pour un tel outil est de savoir si les gens qu’il atteint peuvent le voir les atteindre. Lisez le livre ou commencez par les Cinq Lois.

Le problème des tiers : le dossier que votre agent tient sur des gens qui n'ont jamais dit oui