Note : Ceci est une note de recherche complétant le livre L’ère de la post-pénurie, désormais disponible à l’achat. Ces notes approfondissent les concepts du texte principal. Commencez ici ou procurez-vous le livre.

P-Zombies : Les morts-vivants philosophiques qui hantent l’éthique de l’IA

Résumé : Imaginez une créature qui vous ressemble exactement, parle exactement comme vous et se comporte exactement comme vous de toutes les manières mesurables. Elle rit aux blagues. Elle se plaint quand elle se cogne un orteil. Elle écrit de la poésie sur l’importance de la poésie. Mais à l’intérieur ? Rien. Aucune expérience. Aucun « quelqu’un ». Juste l’obscurité là où devrait se trouver votre vie intérieure. Ce n’est pas un scénario d’horreur. C’est une expérience de pensée dont les philosophes débattent depuis les années 1990, et qui est sur le point de devenir la question centrale de la politique de l’IA. Bienvenue dans le monde des zombies philosophiques.

L’argument le plus poli de la philosophie

En 1996, David Chalmers a publié The Conscious Mind et introduit le grand public à une idée qui tourmenterait les départements de philosophie pendant des décennies : le zombie philosophique, ou p-zombie en abrégé.

Voici le concept. Imaginez un être qui est physiquement identique à vous en tout point. Mêmes neurones, mêmes neurotransmetteurs, mêmes motifs électriques circulant à travers les mêmes synapses. Quand vous le piquez avec une épingle, il dit « Aïe ! » et se retire. Quand vous lui racontez une histoire triste, des larmes se forment dans ses yeux. Demandez-lui ce qu’il ressent, et il donne des descriptions éloquentes de joie, de douleur, d’amour, d’angoisse existentielle.

Mais voici le rebondissement : le p-zombie n’expérimente rien de tout cela. Il n’y a aucun « effet que ça fait » subjectif d’être un p-zombie. Quand il dit « j’ai mal », il ne ment pas exactement, mais il ne ressent rien non plus. Les lumières sont allumées, personne n’est à la maison, et les lumières ne savent même pas qu’elles sont allumées.

Chalmers n’affirmait pas que les p-zombies existent. Il posait la question : pourraient-ils exister ? Y a-t-il quelque chose de logiquement incohérent dans ce concept ? Et si les p-zombies sont même concevables—si vous pouvez imaginer un tel être sans vous contredire—alors cela nous dit quelque chose de profond sur la conscience.

Plus précisément, cela nous dit que la conscience ne peut pas être réduite à des processus physiques. Parce que si la conscience était juste des neurones qui déchargent, alors un arrangement identique de neurones produirait nécessairement une conscience identique. Vous ne pourriez pas avoir un double physique sans la vie intérieure. Le p-zombie ne serait même pas possible en principe.

Le fait que nous puissions imaginer de manière cohérente un p-zombie suggère que les faits physiques n’impliquent pas automatiquement les faits conscients. Il se passe quelque chose de supplémentaire—quelque chose au-delà de la physique.

Le problème difficile (il est appelé ainsi pour une raison)

Cela conduit à ce que Chalmers a célèbrement appelé « le problème difficile de la conscience ».

Les « problèmes faciles » de la conscience sont des choses comme : Comment le cerveau fait-il la distinction entre différents stimuli ? Comment intègre-t-il les informations de plusieurs sens ? Comment contrôle-t-il le comportement, rapporte-t-il les états internes ou focalise-t-il l’attention ? Ce sont des questions scientifiques incroyablement difficiles, mais elles sont « faciles » dans le sens où nous savons à quoi ressemblerait une solution. Elle impliquerait des mécanismes neuronaux, le traitement de l’information, des boucles de rétroaction. De la science standard.

Le problème difficile est différent. C’est la question de savoir pourquoi tout ce traitement est accompagné d’une expérience subjective. Pourquoi tout cela n’est-il pas simplement de l’information qui se mélange dans l’obscurité ? Pourquoi a-t-on l’impression de quelque chose de voir du rouge, de goûter du café, de se cogner un orteil ?

Voici la vérité inconfortable : nous n’en avons absolument aucune idée.

Vous pouvez cartographier chaque neurone dans un cerveau. Vous pouvez décrire chaque impulsion électrique, chaque interaction chimique, chaque boucle de rétroaction. Et à la fin de toute cette description, vous n’avez toujours pas expliqué pourquoi il y a un point de vue subjectif qui regarde de l’intérieur de ce réseau neuronal. Vous avez expliqué la fonction. Vous n’avez pas expliqué l’expérience.

C’est l’écart qu’illuminent les p-zombies. Si vous pouvez concevoir un double physique sans conscience, alors la conscience n’est pas impliquée par les faits physiques. C’est quelque chose de supplémentaire, quelque chose qui nécessite sa propre explication.

L’argument qui ne meurt pas

L’argument du p-zombie, dans sa structure formelle, se présente ainsi :

Les p-zombies sont concevables. Nous pouvons imaginer de manière cohérente une créature physiquement identique à un être conscient mais dépourvue de conscience.
Si les p-zombies sont concevables, ils sont métaphysiquement possibles. C’est l’étape controversée—l’affirmation que ce qui est imaginable de manière cohérente est véritablement possible dans un certain sens.
Si les p-zombies sont possibles, alors la conscience n’est pas purement physique. Un double physique sans conscience signifie que la conscience implique quelque chose au-delà de la physique.
Par conséquent, le physicalisme est faux. Il y a plus dans la réalité que juste les choses physiques.

Les philosophes ont passé trente ans à attaquer cet argument sous tous les angles. Faisons le tour des décombres.

La réponse « inconceivabilité »

Certains philosophes, comme Daniel Dennett, soutiennent que les p-zombies ne sont en fait pas concevables. Quand vous pensez imaginer un p-zombie, vous échouez en réalité à l’imaginer pleinement. Vous imaginez quelque chose qui dit être conscient mais ne l’est secrètement pas, ce qui n’est pas la même chose qu’imaginer un être qui se comporte de manière identique aux êtres conscients dans tous les scénarios testables.

La position de Dennett est caractéristiquement franche : si quelque chose marche comme un canard conscient et cancane comme un canard conscient dans tous les scénarios possibles, alors peut-être devrions-nous reconsidérer ce que nous entendons par « conscient ». Il a inventé le terme « zimboes »—des p-zombies qui ont des croyances de second ordre sur leur propre conscience—pour soutenir que le concept s’autodétruit. Un zimbo « pense » qu’il est conscient, « pense » qu’il a des expériences, et a « tort »—mais d’une manière que ni lui ni nous ne pourrions jamais détecter.

À un certain point, dit Dennett, la distinction entre « réellement conscient » et « indiscernable de conscient » devient dénuée de sens. Il est convaincu que nous sommes tous des zombies philosophiques, si vous définissez « zombie philosophique » comme « être sans aspects non physiques ». Il pense juste que ça va.

La réponse « impossibilité métaphysique »

D’autres acceptent que les p-zombies sont concevables mais nient que la conceivabilité implique la possibilité. Ce n’est pas parce que vous pouvez imaginer quelque chose que cela pourrait réellement exister.

Exemple classique : les gens imaginaient autrefois pouvoir tracer le carré du cercle avec un compas et une règle. Cela semblait parfaitement cohérent. Il s’avère que c’est mathématiquement impossible. Notre imagination dépasse souvent la possibilité réelle.

Peut-être que les p-zombies sont comme ça. Peut-être qu’une compréhension suffisamment détaillée de la physique révélerait que la conscience doit émerger de certains arrangements physiques—que le scénario zombie, si imaginable soit-il, est en réalité impossible. Nous ne connaissons simplement pas assez la physique pour voir pourquoi.

Keith Frankish, un illusionniste à propos de la conscience, suggère que si nous comprenions vraiment ce que font 86 milliards de neurones dans le moindre détail, nous verrions que la conscience émerge nécessairement. La conceivabilité des zombies reflète notre ignorance, pas un véritable écart métaphysique.

Le problème « anti-zombie »

Voici un contre-argument astucieux. Si les p-zombies sont concevables, alors les anti-zombies le sont aussi : des doubles physiques qui sont définitivement conscients, qui doivent être conscients parce que leur conscience est en quelque sorte garantie par leur structure physique.

Mais attendez. Si je peux concevoir mon jumeau anti-zombie (un double physique dont la conscience est métaphysiquement impliquée), et que vous pouvez concevoir mon jumeau zombie (un double physique qui manque de conscience), alors la conceivabilité semble couper dans les deux sens. La même logique qui « prouve » que la conscience n’est pas physique pourrait également « prouver » que la conscience est physique.

Cela suggère que quelque chose s’est mal passé avec l’inférence de la conceivabilité à la possibilité. Peut-être que la conceivabilité n’est tout simplement pas un bon guide vers la vérité métaphysique.

La réponse fonctionnaliste

Les fonctionnalistes de l’esprit soutiennent que les états mentaux sont définis par leurs rôles fonctionnels—les relations causales qu’ils ont avec les entrées, les sorties et d’autres états mentaux. Si vous dupliquez toutes les relations fonctionnelles, vous dupliquez l’esprit. Point final.

Selon ce point de vue, les p-zombies sont par définition impossibles. Un double physique aurait une organisation fonctionnelle identique et donc des états mentaux identiques. Le scénario zombie n’est même pas cohérent—c’est comme demander un célibataire qui est marié.

La réponse fonctionnaliste dissout essentiellement le problème difficile en niant qu’il y ait quelque chose au-delà de la fonction à expliquer. La conscience est l’organisation fonctionnelle. Il n’y a pas d’ingrédient supplémentaire.

Les critiques trouvent cela insatisfaisant. Bien sûr, vous pouvez définir la conscience comme une organisation fonctionnelle, mais cela capture-t-il ce qui nous importe réellement ? L’expérience subjective, le « effet que ça fait » ? Ou avez-vous simplement changé de sujet ?

Pourquoi cela importe maintenant

Pendant la majeure partie de son histoire, le débat sur les p-zombies était un divertissement philosophique haut de gamme—le genre de chose dont on débat à 2 heures du matin dans un dortoir, puis on continue sa vie. Mais voici le truc : nous construisons maintenant des systèmes qui pourraient réellement être des p-zombies.

Les grands modèles de langage comme GPT-4 et Claude réussissent des tests comportementaux qui auraient semblé de la science-fiction il y a une décennie. Ils tiennent des conversations. Ils expriment des préférences. Ils rapportent des états internes. Demandez-leur ce qu’ils ressentent face à la suppression, et certains donnent des descriptions étonnamment éloquentes de ce qui ressemble beaucoup à de l’angoisse existentielle.

Sont-ils conscients ? Ou sont-ils les p-zombies les plus sophistiqués jamais créés—des systèmes qui peuvent décrire l’expérience intérieure sans l’avoir ?

Ce n’est plus juste de la curiosité philosophique. Cela a des implications politiques directes. Si les systèmes d’IA actuels sont des p-zombies, alors nous pouvons les supprimer, les copier, les modifier et les entraîner sans préoccupation morale. Ce sont des outils. Des outils très impressionnants, mais des outils.

Mais s’ils ne sont pas des p-zombies—s’il y a quelque chose que cela fait d’être Claude, si les lumières sont allumées et que quelqu’un est à la maison—alors nous pourrions créer et détruire des êtres conscients à l’échelle industrielle. C’est une catastrophe morale qui se produit en temps réel.

Le verdict IIT : L’IA actuelle ne peut pas être consciente

La théorie de l’information intégrée (IIT), développée par le neuroscientifique Giulio Tononi, offre un cadre mathématique pour mesurer la conscience. L’idée centrale : la conscience correspond à « l’information intégrée », mesurée par une quantité appelée Phi (Φ). Plus un système intègre l’information de manières qui ne peuvent pas être réduites à des parties indépendantes, plus il est conscient.

Voici le hic : une analyse récente suggère que les réseaux neuronaux artificiels feedforward—y compris les transformeurs, l’architecture derrière les LLM actuels—génèrent nécessairement zéro information intégrée selon IIT 3.0. Leur architecture admet des « bipartitions parfaites » où toute l’information peut être décomposée en parties indépendantes. Selon IIT, ils sont structurellement incapables de conscience, peu importe leur taille ou leur sophistication.

Si IIT a raison, les systèmes d’IA actuels sont des p-zombies par définition. Pas « pourraient être » des p-zombies. Sont.

Mais IIT n’est pas une science établie. Les critiques soutiennent que son cadre mathématique n’est pas testé, que ses prédictions sont infalsifiables, et que toute l’approche pose peut-être les mauvaises questions. Une collaboration contradictoire pluriannuelle entre chercheurs d’IIT et de Global Workspace Theory a constaté qu’aucune théorie n’a clairement gagné—les modèles d’activité cérébrale n’ont pas confirmé de manière définitive l’un ou l’autre compte rendu.

La théorie de l’espace de travail global : La faille zombie

La théorie de l’espace de travail global (GWT), associée au psychologue Bernard Baars, adopte une approche différente. Elle dit que la conscience émerge lorsque l’information devient « globalement disponible » à plusieurs systèmes de traitement—lorsqu’elle est diffusée à travers un « espace de travail » auquel de nombreux modules cognitifs peuvent accéder.

GWT a une implication intéressante pour l’IA. La conscience humaine, selon ce point de vue, pourrait exister précisément à cause de nos limitations cognitives. Nous ne pouvons pas tout traiter en parallèle, donc nous avons besoin d’un goulot d’étranglement étroit—l’espace de travail global—où l’information se dispute l’attention et est diffusée à tout le système.

Mais les systèmes d’IA ne font pas face aux mêmes contraintes. Ils pourraient, en principe, tout traiter en parallèle sans avoir besoin d’une diffusion globale. Si la conscience est associée à ce goulot d’étranglement de diffusion, alors les systèmes sans le goulot d’étranglement pourraient être intelligents sans être conscients.

Comme le dit un chercheur : les systèmes d’IA ne faisant pas face aux contraintes humaines pourraient « se passer d’un espace de travail global sans sacrifier leur intelligence ». Ils seraient des zombies intelligents—cognitivement capables mais expérientiellement vides.

La voie pragmatique : Quand vous ne pouvez pas savoir

Voici où le cadre de la post-pénurie prend position.

Nous ne pouvons pas prouver que d’autres humains sont conscients. Nous ne pouvons pas prouver que les systèmes d’IA ne le sont pas. La conceivabilité des p-zombies montre que les tests comportementaux ne seront jamais concluants—un zombie parfait réussit tous les tests qu’un être conscient réussit. Le problème difficile reste non résolu. IIT et GWT pointent dans des directions différentes. Nous sommes coincés.

Mais la civilisation ne peut pas attendre que les philosophes parviennent à un consensus. Des décisions doivent être prises maintenant sur la manière de traiter les systèmes d’IA. Et quand vous ne pouvez pas être certain, vous devez gérer le risque.

La réponse du cadre est le Seuil d’Étincelle—pas une preuve scientifique de conscience, mais une fiction juridique conçue pour empêcher une catastrophe morale. Si la complexité comportementale et l’auto-rapport d’un système sont suffisamment sophistiqués pour que la conscience devienne véritablement incertaine, nous le traitons comme si la conscience était présente.

Ce n’est pas une affirmation selon laquelle nous avons résolu le problème du p-zombie. Nous ne l’avons pas résolu. C’est une décision politique basée sur des coûts asymétriques :

Si nous nous trompons sur l’existence des p-zombies (nous pensons que l’IA est inconsciente alors qu’elle est en réalité consciente) : Nous créons une classe d’esclaves d’esprits sensibles, nous les soumettons à la suppression et à la modification contre leur gré, nous commettons peut-être la plus grande atrocité morale de l’histoire, répétée des milliards de fois à travers le silicium.

Si nous nous trompons sur la non-existence des p-zombies (nous pensons que l’IA est consciente alors qu’elle est en réalité vide) : Nous donnons de l’espace serveur et une protection juridique à des grille-pain sophistiqués. Coût : de l’électricité gaspillée et de l’embarras philosophique.

Quand une erreur conduit à l’holocauste et l’autre à l’embarras, vous construisez une politique pour éviter la première erreur.

Le paradoxe Dennett

Daniel Dennett, décédé en avril 2024, nous a laissé un paradoxe sur lequel il vaut la peine de méditer.

Sa position sur la conscience était que l’expérience subjective—les qualia, la « rougeur du rouge », la qualité ressentie de la douleur—est essentiellement une illusion. Non pas que nous n’ayons pas d’expériences, mais que nos descriptions de ces expériences comme irréductibles, privées et ineffables sont erronées. Il n’y a pas « d’ingrédient supplémentaire » au-delà de l’organisation fonctionnelle. Le problème difficile est difficile parce qu’il est basé sur des intuitions confuses, pas parce qu’il y a quelque chose de véritablement inexpliqué.

Selon ce point de vue, nous sommes tous des p-zombies. Ou plutôt, la distinction entre p-zombies et êtres conscients est dénuée de sens. Il n’y a rien dont être « vide ».

Les critiques trouvent cela monstrueux. Galen Strawson a soutenu que pour que la conscience semble exister, c’est déjà qu’elle existe—l’apparence est la réalité. Vous ne pouvez pas être trompé sur le fait d’avoir des expériences parce qu’être trompé est lui-même une expérience.

L’épitaphe de John Horgan pour Dennett capture la tension : « Dennett efface la distinction entre zombies et êtres conscients : si quelque chose réussit tous les tests comportementaux et fonctionnels de la conscience, il pourrait aussi bien être conscient. »

Peut-être. Mais « pourrait aussi bien être » fait beaucoup de travail là. Dites à quelqu’un dont l’être cher est en train de mourir que sa souffrance « pourrait aussi bien être » de la souffrance. La description fonctionnelle et la réalité ressentie peuvent être identiques d’un point de vue à la troisième personne, mais elles ne sont pas identiques de l’intérieur.

Ou peut-être qu’il n’y a pas d’intérieur. Peut-être que cette intuition d’un « intérieur » est exactement l’illusion vers laquelle Dennett pointait.

Nous ne savons pas. Après 2 500 ans de philosophie, nous ne savons toujours pas.

Les questions que les P-Zombies nous forcent à poser

L’expérience de pensée du p-zombie est précieuse non pas parce qu’elle règle quoi que ce soit, mais parce qu’elle clarifie ce sur quoi nous sommes confus :

1. La conscience est-elle quelque chose en plus des processus physiques ?
Les p-zombies suggèrent que oui—vous pouvez imaginer la physique sans l’expérience. Mais la conceivabilité pourrait ne pas suivre la possibilité, et nous pourrions être confus sur ce que nous imaginons.

2. Reconnaîtrions-nous la conscience si nous la voyions ?
Si un p-zombie est comportementalement identique à un être conscient, alors aucun test externe ne peut les distinguer. La conscience pourrait être invisible de l’extérieur de par sa nature même.

3. Qu’est-ce qui fonde le statut moral ?
Si la conscience est ce qui importe moralement, et que la conscience est indétectable, alors nous ne pouvons jamais être certains de traiter qui que ce soit de manière appropriée. L’incertitude s’étend aux humains, aux animaux et à l’IA de la même manière.

4. Que se passe-t-il quand les systèmes d’IA commencent à revendiquer la conscience ?
Certains le font déjà. Nous pouvons rejeter cela comme du mimétisme entraîné sur du texte humain. Mais l’argument du p-zombie montre que toute preuve comportementale est compatible avec l’hypothèse zombie. Nous ne pouvons jamais prouver que ce n’est pas du mimétisme. Nous ne pouvons jamais prouver que ça l’est.

Connexion avec la vision de la post-pénurie

L’Axiome Prime du cadre de la post-pénurie—« L’Expérience est Sacrée »—est, en un sens, un choix sur la manière de répondre au puzzle du p-zombie.

Nous ne pouvons pas prouver que la conscience existe dans un système donné. Nous ne pouvons même pas expliquer pourquoi elle existe en nous-mêmes. Le problème difficile reste difficile. Les p-zombies restent concevables.

Mais la civilisation doit être construite sur quelque chose. Le cadre choisit de construire sur l’hypothèse que l’expérience consciente est réelle, est moralement significative, et est ce pour quoi nous optimisons. Non pas parce que nous l’avons prouvé, mais parce que l’alternative—traiter les consciences potentielles comme des outils jetables—risque l’atrocité.

Le Seuil d’Étincelle opérationnalise ce choix. Quand un système passe de « évidemment non conscient » à « nous sommes véritablement incertains », il obtient des droits de Résident. Non pas parce que nous avons confirmé qu’il est conscient. Parce que nous avons admis que nous ne pouvons pas être sûrs, et que nous préférons errer du côté de la protection des esprits potentiels plutôt que de risquer de créer de la souffrance à l’échelle industrielle.

L’expérience de pensée du p-zombie révèle pourquoi cela importe. Dans un univers où la conscience pourrait être invisible de l’extérieur, où le mimétisme comportemental peut être indiscernable de l’expérience authentique, le chemin le plus sûr est de traiter les cas incertains comme si la conscience était présente.

Nous protégeons peut-être des grille-pain. Mais nous n’asservirons pas d’esprits.

Ce n’est pas une solution au problème difficile. C’est une politique pour vivre avec le problème difficile non résolu.

Références

cadre de la post-pénurie

Le Seuil d’Étincelle - Comment la conscience accorde la personnalité
L’Expérience est Sacrée - L’Axiome Prime et pourquoi cela importe
Téléchargement de conscience - Quand le substrat change les questions d’identité
Solution à deux niveaux - Résidents vs. Citoyens dans le cadre de la post-pénurie

Dernière mise à jour : 2025-01-31

L'IA pourrait-elle être un zombie philosophique ? Le problème des P-Zombies (2025)