Matière, Esprit et Modèles

Marvin L. Minsky

Publié dans Semantic Information Processing, MIT Press, 1968
(Cette version comporte quelques simplifications éditoriales effectuées en 1995)


1. Introduction

Ce chapitre tente d’expliquer pourquoi les gens se troublent face aux questions sur la relation entre les événements mentaux et physiques. Lorsqu’une question conduit à des réponses confuses et incohérentes, cela peut être parce que la question est en fin de compte dénuée de sens, ou du moins sans réponse possible. Mais cela peut aussi provenir du fait qu’une réponse adéquate exige un appareil analytique puissant. Selon l’auteur, de nombreuses questions importantes sur la relation entre l’esprit et le cerveau relèvent de cette seconde catégorie, et certains des outils techniques et conceptuels nécessaires commencent à être disponibles grâce aux travaux sur les problèmes de conception de programmes informatiques intelligents. Nous proposerons une théorie visant à expliquer pourquoi l’introspection ne fournit pas de réponses claires à ces questions. Nous n’entreprendrons pas de solutions techniques, mais il y a probablement quelque valeur à trouver au moins une explication claire de notre confusion.

2. Connaissance et modèles

Si une créature peut répondre à une question portant sur une expérience hypothétique sans réellement la réaliser, alors elle a démontré une certaine connaissance du monde. Car sa réponse doit être une description codée du comportement (à l’intérieur de la créature) d’une sous-machine ou d’un « modèle » répondant à une description codée de la situation du monde décrite par la question. Nous utilisons le terme « modèle » dans le sens suivant : pour un observateur B, un objet A* est un modèle d’un objet A dans la mesure où B peut utiliser A* pour répondre aux questions qui l’intéressent au sujet de A. La relation de modèle est intrinsèquement ternaire. Toute tentative de supprimer le rôle des intentions de l’investigateur B conduit à des définitions circulaires ou à des ambiguïtés sur les « traits essentiels » et autres. Il est entendu que l’utilisation d’un modèle par B implique l’emploi d’encodages pour les entrées et les sorties, à la fois pour A et pour A*. Si A est le monde, les questions posées à A sont des expériences. A* est un bon modèle de A, du point de vue de B, dans la mesure où les réponses de A* s’accordent, dans l’ensemble, avec celles de A, relativement aux questions importantes pour B.

Lorsqu’un homme M répond à des questions sur le monde, alors (en prenant nous-mêmes le rôle de B) nous attribuons cette capacité à quelque mécanisme interne W* à l’intérieur de M. Il serait des plus commodes de pouvoir discerner physiquement au sein de M deux régions distinctes, W* et M−W*, telles que W* « contienne réellement la connaissance » et que M−W* ne contienne que des mécanismes à usage général pour coder les questions, décoder les réponses ou administrer le processus de pensée. Cependant, on ne peut guère s’attendre à trouver, dans une machine intelligente, une séparation nette entre les structures de codage et de connaissance, que ce soit anatomiquement ou fonctionnellement, car (par exemple) une certaine « connaissance » est susceptible d’être utilisée dans les processus d’encodage et d’interprétation. Ce qui importe pour nos propos, c’est la notion intuitive de modèle, et non la capacité technique de délimiter ses frontières. En effet, une partie de notre argument repose précisément sur la difficulté inhérente à discerner de telles frontières.

3. Modèles de modèles

Les questions portant sur les choses du monde sont résolues en formulant des énoncés sur le comportement des structures correspondantes dans son modèle W* du monde. Pour des questions simples d’ordre mécanique, physique ou géométrique, on peut imaginer, comme le faisait Craik, une machinerie qui effectue des calculs symboliques mais qui, lue à travers des codages appropriés, présente un caractère apparemment analogique. Mais qu’en est-il des questions plus larges sur la nature du monde ? Celles-ci doivent être traitées (par M) non pas comme des questions auxquelles W* doit répondre, mais comme des questions auxquelles on répond en formulant des énoncés généraux sur W*. Si W** contient un modèle M* de M, alors M* peut contenir un modèle W** de W* ; et, en allant un pas plus loin, W** peut contenir un modèle M** de M*. En effet, cela doit être le cas si M doit répondre à des questions générales sur lui-même. Les questions ordinaires sur soi-même — par exemple sa taille — sont résolues par M*, mais les questions très larges sur sa nature — par exemple quel genre de chose il est — sont résolues, le cas échéant, par des énoncés descriptifs formulés par M** au sujet de M*.

Le lecteur peut, à ce stade, être impatient d’obtenir plus de détails sur la relation entre W* et W**. Comment savoir, par exemple, quand une question est de celles qui exigent de se référer à W** plutôt qu’à W* ? W** fait-il partie de W ? (Assurément W*, comme tout le reste, fait partie de W.) Malheureusement, je ne puis encore fournir ces détails, et j’anticipe de sérieux problèmes pour les clarifier un jour. Nous devons concevoir W** comme incluant un mécanisme interprétatif capable de faire référence à W*, en l’utilisant comme une sorte de sous-routine de programme informatique, jusqu’à une certaine profondeur de récursion. En ce sens, W** doit contenir W*, mais dans un autre sens, plus direct, W* peut contenir W**. Cela suggère d’abord que la notion de « contenu dans » n’est pas suffisamment sophistiquée pour décrire les relations entre parties de processus de type programme, et ensuite que la notion intuitive de « modèle » employée ici est également trop peu sophistiquée pour permettre de développer la théorie dans le détail technique. Il est clair qu’en ce domaine on ne peut décrire les relations inter-modèles en termes de modèles conçus comme de simples sous-structures physiques. Une analyse adéquate nécessitera des idées bien plus avancées sur la représentation symbolique des structures de traitement de l’information.

4. Dimorphisme de nos modèles du monde

Le modèle qu’un homme se fait du monde possède une structure nettement bipartite : une partie concerne les questions de caractère mécanique, géométrique, physique, tandis que l’autre est associée à des choses telles que les buts, les significations, les affaires sociales, et ainsi de suite. Cette division de W* se répercute dans les représentations de bien des choses dans W*, et tout particulièrement de M lui-même. Ainsi, le modèle qu’un homme se fait de lui-même est bipartite : une partie concerne son corps en tant qu’objet physique, l’autre rend compte de son expérience sociale et psychologique. Lorsque nous voyons un objet, nous rendons compte de son support et de sa cohérence mécaniques (nous sommes étonnés par les lévitation) et nous rendons également compte, en des termes différents, de sa téléologie (qui l’a placé là et dans quel but). [Lorsque nous voyons un objet commencer à se mouvoir, nous nous attendons à trouver soit une force physique, soit un dessein psychologique, dans le genre d’explication de sens commun qui nous occupe ici.]

Pourquoi cette division est-elle si richement représentée dans le langage et la pensée ? Nous reconnaissons que le W* d’une personne n’est pas réellement constitué de deux parties clairement disjointes, mais possède généralement plusieurs modèles se chevauchant, aux frontières indistinctes. La structure en deux parties proposée ici n’est qu’une approximation, et nous ne souhaitons nullement suggérer que l’argument dépende d’une quelconque structure « dualiste » particulière. Cependant, la pensée humaine semble largement fondée sur de nombreuses distinctions de type « haltère », telles que information versus énergie, physique versus psychologique, ou analogique versus numérique. Dans une sphère, les contraintes mécanico-géométriques sont puissantes, par exemple l’impénétrabilité dans les arrangements d’objets physiques, ou (à la manière de Piaget) les conservations dans leurs transformations. Dans l’autre sphère, on trouve des contraintes symboliques d’une puissance (substantiellement) égale. Les deux domaines se chevauchent de manières nombreuses et complexes : un enfant découvre des obstacles mécaniques (sous la forme, par exemple, de limitations de portée, de mobilité, de force et de précision) à ses buts psychologiques ; il découvre des symboles émotionnels dans les arrangements géométriques des expressions faciales, et des intentions dans les attitudes posturales. Dans les explications de choses compliquées, les deux modèles s’entremêlent inextricablement — voyez l’imagerie des phrases précédentes. Ces complications reflètent l’insuffisance de l’un ou l’autre modèle pour décrire des situations complexes.

Quant à la genèse de telles partitions, je suppose qu’elles s’écartent plutôt qu’elles ne se rejoignent, dans l’ensemble. Cela ne signifie pas que les modèles infantiles et primitifs soient plus unitaires, mais plutôt qu’ils sont simplement trop indistincts pour admettre des frontières approximatives. Un nourrisson n’est pas un moniste : il n’a tout simplement pas assez de structure dans son M* pour être encore dualiste ; on peut à peine dire qu’il ait une position sur le problème esprit-corps.

5. L’argument central : la croyance au dualisme

Lorsqu’on demande à un homme une question générale sur sa propre nature, il tentera de donner une description générale de son modèle de lui-même. C’est-à-dire que la question sera résolue par M**. Dans la mesure où M* est divisé comme nous l’avons supposé et que l’homme a découvert ce fait (c’est-à-dire que ce fait est maintenant représenté dans M**), sa réponse le montrera. Son affirmation (sa croyance) qu’il a un esprit aussi bien qu’un corps est la manière conventionnelle d’exprimer l’apparence à peu près bipartite de son modèle de lui-même.

Parce que la séparation des deux parties de M* est si indistincte et que leurs interconnexions sont si compliquées et difficiles à décrire, les tentatives ultérieures de l’homme pour élaborer sur la nature de cette distinction « esprit-corps » sont vouées à être confuses et insatisfaisantes.

6. Valeur heuristique de modèles quasi séparés

D’un point de vue scientifique, il est désirable d’obtenir un modèle unitaire du monde comprenant à la fois les phénomènes mécaniques et psychologiques. Une telle théorie deviendrait disponible, par exemple, si les chercheurs en intelligence artificielle, en cybernétique et en neurophysiologie atteignaient tous leurs objectifs. Pourtant, un tel succès pourrait n’avoir que peu d’effet sur la forme globale de nos modèles personnels du monde. Je soutiens que, pour des raisons pratiques et heuristiques, ceux-ci conserveraient encore leur forme de parties quasi séparées. Même lorsqu’une discipline est profondément transformée dans ses techniques, ses fondements et ses concepts, elle peut maintenir son identité si ses problèmes et ses préoccupations restent regroupés pour des raisons pratiques. Par exemple, la chimie survit aujourd’hui comme science parce que les primitives de la théorie quantique sont un peu trop éloignées pour une application directe aux problèmes pratiques ; une hiérarchie de concepts intermédiaires est nécessaire pour appliquer la théorie aux problèmes de tous les jours. Les notions primitives de la physique, ou même de la neurophysiologie, seront bien trop éloignées pour être utiles dans les explications de sens commun des événements mentaux de la vie quotidienne.

Ainsi, une synthèse par réduction théorique directe est peu susceptible d’avoir beaucoup d’effet sur la forme globale de W*. Le besoin pratique de sous-théories approximativement autonomes est trop fort pour être résisté dans la vie et la pensée quotidiennes. [On pourrait chercher un autre type d’unification dans lequel les deux modèles quasi séparés seraient décrits de manières similaires, puis fusionnés en éliminant la redondance, avec un codage pour les différences qui demeurent significatives.] Il est douteux que l’on puisse aller bien loin dans cette direction, car l’utilisation d’explications psychologiques pour les processus physiques va exactement à l’encontre des directions qui ont conduit au progrès scientifique. De même, il y a longtemps que l’on dispose de nombreuses « réductions » d’explications psychologiques à des analogies avec de simples systèmes physiques, mais celles-ci sont reconnues comme inadéquates et cèdent la place à des modèles de traitement de l’information de caractère plus abstrait.

Dans la pensée pratique quotidienne, les métaphores d’analogie physique jouent un grand rôle, vraisemblablement parce que l’on obtient un gain important pour un modèle d’apparente faible complexité. (En réalité, seule la complexité incrémentale est faible, car la plus grande partie du modèle est déjà présente en tant que partie de la portion « physique » de W*.) Il serait difficile d’abandonner de telles métaphores, même si elles interfèrent probablement avec notre développement ultérieur, précisément en raison de ce ratio apparent élevé valeur/coût. Nous ne pouvons nous attendre à obtenir beaucoup plus en étendant les analogies mécaniques, car elles sont si inflexibles de caractère. Les processus mentaux ressemblent davantage aux sortes de processus que l’on trouve dans les programmes informatiques : associations symboliques arbitraires, schémas de stockage arborescents, transferts conditionnels, et ainsi de suite. En bref, nous pouvons nous attendre à ce que les analogies mécaniques simples et utiles survivent, mais il semble douteux qu’elles puissent se développer au point de nous apporter des idées utilisables pour l’unification parallèle de W*.

Enfin, nous devons noter que, chez une créature d’intelligence élevée, on peut s’attendre à trouver un modèle spécial bien développé, consacré à l’activité de résolution de problèmes de la créature elle-même. À mon avis, la clé de toute technique de résolution de problèmes réellement avancée doit exploiter quelque mécanisme de planification — pour décomposer le problème en parties et allouer adroitement l’effort et les ressources de la machine au travail à venir. Cela signifie que la machine doit disposer de moyens pour représenter et analyser ses propres buts et ressources. On pourrait difficilement s’attendre à trouver une manière utile de fusionner cette structure avec celle utilisée pour analyser des structures non compliquées du monde extérieur, ni s’attendre à ce que quelque chose de beaucoup plus simple soit d’une grande puissance pour analyser le comportement d’autres créatures de même caractère.

7. Interpréteurs

La notion de « partie » est plus compliquée pour des choses comme les programmes informatiques que pour les objets physiques ordinaires. Une seule branche conditionnelle rend possible qu’un programme se comporte, fonctionnellement, comme deux machines très différentes selon les circonstances, tout en utilisant presque (ou exactement) les mêmes ensembles d’instructions.

La notion d’une machine contenant un modèle d’elle-même est également compliquée, et l’on pourrait soupçonner des paradoxes logiques potentiels. Il n’y a aucun problème logique quant à l’idée de base, car le modèle interne pourrait être très simplifié, et son modèle interne pourrait être vide. Mais, en fait, il n’y a pas de paradoxe non plus dans le fait qu’une machine possède un modèle d’elle-même complet dans tous les détails. Par exemple, il est possible de construire une machine de Turing capable d’imprimer une description entière d’elle-même et d’exécuter également un calcul arbitrairement compliqué, de sorte que la machine n’emploie pas toute sa structure à sa description. En particulier, la machine peut contenir un programme « interprétatif » qui peut utiliser la description interne pour calculer ce qu’elle-même ferait dans une circonstance hypothétique. De même, s’il est impossible pour une machine ou un esprit d’analyser d’instant en instant précisément ce qu’il est en train de faire à chaque pas (car il ne dépasserait jamais le premier pas), il ne semble y avoir aucune limitation logique à la possibilité qu’une machine comprenne ses propres principes de base de fonctionnement ou, disposant d’assez de mémoire, examine tous les détails de son fonctionnement dans un état précédemment enregistré.

Avec la capacité de fonctionnement interprétatif, un programme peut s’utiliser lui-même comme son propre modèle, et cela peut être répété récursivement à autant de niveaux que désiré, jusqu’à ce que les enregistrements en mémoire de l’état du processus deviennent ingérables. Avec la possibilité de cette sorte d’« introspection », les frontières entre parties, choses et modèles deviennent très difficiles à comprendre.

Le fonctionnement interprété joue-t-il un rôle important dans notre fonction mentale ? Il est clair que l’on interprète des instructions mémorisées dans certaines circonstances. On pourrait mémoriser, par exemple, les règles de lecture de la notation musicale et ensuite réellement exécuter un morceau de musique, à un tempo très lent, en se référant à ces règles pour chaque note. Avec la pratique, on joue plus vite, et il semble clair que l’on n’interprète plus les règles pour chaque note, mais que l’on a assemblé des mécanismes spéciaux pour la tâche. Cela suggère certainement une analogie avec la notion de « compilation » d’un programme précédemment interprété. Peut-être notre niveau de conscience est-il étroitement lié à la mesure dans laquelle la machine fonctionne de manière interprétative plutôt qu’en exécutant des programmes compilés. En interprétant, on a l’opportunité d’examiner la prochaine étape de la tâche avant de l’accomplir. [J’utilise ici le terme « interprétatif » de manière technique, pour désigner un processus qui décode un langage de programmation de haut niveau pendant qu’il s’exécute, plutôt que de « compiler » à l’avance du code de bas niveau.]

8. Libre arbitre

Si l’on comprend parfaitement une machine ou un programme, on ne ressent aucune envie de lui attribuer une « volition ». Si l’on ne le comprend pas aussi bien, on doit fournir un modèle incomplet pour l’expliquer. Nos modèles intuitifs quotidiens de l’activité humaine supérieure sont assez incomplets, et bien des notions dans nos explications informelles ne supportent pas un examen attentif. Le libre arbitre ou la volition est l’une de ces notions : les gens sont incapables d’expliquer en quoi elle diffère du caprice stochastique, mais sentent fortement qu’elle en diffère. Je conjecturerai que cette idée trouve sa genèse dans un puissant mécanisme de défense primitif. Brièvement, dans l’enfance nous apprenons à reconnaître diverses formes d’agression et de contrainte et à les détester, que nous nous y soumettions ou que nous y résistions. Plus âgés, lorsqu’on nous dit que notre comportement est « contrôlé » par tel ou tel ensemble de lois, nous insérons ce fait dans notre modèle (de manière inappropriée) aux côtés d’autres reconnaisseurs de contrainte. Nous résistons à la « contrainte », peu importe de « qui » elle vient. Bien que la résistance soit logiquement vaine, le ressentiment persiste et est rationalisé par des explications défectueuses, car l’alternative est émotionnellement inacceptable.

Comment cela se reflète-t-il dans M** ? Si l’on demande comment fonctionne son esprit, on remarque des zones où il est (peut-être incorrectement) compris — c’est-à-dire où l’on reconnaît des règles. On voit d’autres zones où l’on manque de règles. On pourrait combler cela en postulant le hasard ou une activité aléatoire. Mais cela aussi, par une autre voie, expose le soi à la même indignité du contrôle à distance. Nous résolvons cette forme désagréable de M** en postulant une troisième partie, incarnant une volonté, un esprit ou un agent conscient. Mais il n’y a aucune structure dans cette partie ; on ne peut rien en dire de significatif, car dès qu’une régularité est observée, sa représentation est transférée dans la région des règles déterministes. Le modèle de la volonté n’est donc pas formé à partir d’un besoin légitime d’un lieu pour stocker des informations définies sur soi-même ; il a le caractère singulier d’être forcé dans le modèle, bon gré mal gré, par des idées formelles mais essentiellement vides de contenu sur ce que le modèle doit contenir.

9. Conclusion

Lorsque des machines intelligentes seront construites, nous ne devrions pas être surpris de les trouver aussi confuses et aussi têtues que les hommes dans leurs convictions sur l’esprit et la matière, la conscience, le libre arbitre, et ainsi de suite. Car toutes ces questions visent à expliquer les interactions compliquées entre les parties du modèle de soi. La force de conviction d’un homme ou d’une machine sur de telles choses ne nous dit rien sur l’homme ou sur la machine, sinon ce qu’elle nous dit sur son modèle de lui-même.