Rapport au monde· Esprit et conscience
Peu importe le support
Axe: Une machine peut-elle penser — Une machine pourrait-elle un jour véritablement penser ?
Penser, c'est traiter de l'information d'une certaine manière, quel que soit le support qui réalise ce traitement. Si une machine accomplit les mêmes fonctions qu'un cerveau, rien ne permet de lui refuser la pensée.
Philosophes 3
Turingexplicite
Turing juge la question « une machine peut-elle penser ? » trop dépendante de l'usage des mots pour être tranchée, et la remplace par une épreuve, le : un interrogateur dialogue à l'aveugle avec un humain et une machine ; s'il ne parvient plus à les distinguer, il n'y a plus de raison de refuser à l'une ce qu'on accorde à l'autre. À l'objection qu'il manquerait toujours à la machine la conscience de ce qu'elle dit, il répond que la pousser mène au solipsisme : je ne sais qu'autrui pense que par son comportement, et refuser cette même preuve aux seules machines est arbitraire. Le support importe donc peu, une machine universelle pouvant simuler n'importe quelle machine à états discrets.
« Computing Machinery and Intelligence », Mind (1950)
Chalmersexplicite
Chalmers soutient que ce qui porte l'expérience est l'invariance organisationnelle : c'est l'organisation fonctionnelle qui compte, non la matière qui la réalise. Sa position ici ne découle d'aucun physicalisme : c'est parce que la conscience est pour lui une donnée fondamentale, reliée à l'organisation par une loi de la nature, qu'elle suit cette organisation quel que soit le support.
« Absent Qualia, Fading Qualia, Dancing Qualia » (1995) · The Conscious Mind (1996)
Dennettexplicite
Pour Dennett, comprendre n'est pas un éclat intérieur qui s'ajouterait au traitement de l'information : c'est ce que fait un système dont le comportement présente des régularités assez fines pour qu'on gagne à lui prêter des états mentaux, ce qu'il nomme la stratégie de l'interprète. Contre la , il répond que l'homme au manuel n'est qu'un rouage : ce n'est pas lui qui comprendrait le chinois, mais le système entier, pièce, règles et registres compris. Chercher dans le cerveau un lieu où la compréhension aurait enfin lieu, ce serait reconduire le théâtre cartésien qu'il passe son œuvre à démonter.
La Stratégie de l'interprète (1987) · Consciousness Explained (1991)
Argument
- Nous n'attribuons jamais un état mental en inspectant une matière : nous l'attribuons au rôle qu'il joue dans ce qu'un être fait. Il évite ce qui l'a blessé, hésite, apprend, se corrige. C'est ainsi que nous reconnaissons la douleur d'un chien et la peur d'un enfant.
- Or le même rôle est tenu par des matières et des architectures très différentes, ce qu'on appelle la : le poulpe, dont le système nerveux ne ressemble pas au nôtre, hésite et apprend ; et chez l'homme même, après une lésion, une fonction se réinstalle ailleurs dans le cerveau sans que le vécu correspondant disparaisse.
- Ce qui varie sans que l'état mental change n'est pas ce qui le constitue : si le support peut varier tandis que la douleur reste la douleur, ce n'est pas le support qui fait la douleur.
- Reste ce qui n'a pas varié : l'organisation, c'est-à-dire un réseau de relations entre ce qui entre, ce qui se transforme au-dedans et ce qui sort. Rien dans cette organisation ne mentionne le carbone, le neurone ni le vivant.
Donc Donc exiger une matière particulière n'est pas une exigence philosophique mais un préjugé de support : ce qui réalise l'organisation pense, fût-ce en silicium.
Voir la pageObjectionAttaque le raisonnement
- L'argument tient que toute réalisation de la bonne organisation suffit, quel qu'en soit le support : c'est le pas décisif, et il n'est assorti d'aucune restriction.
- Faisons-le jouer jusqu'au bout : que la population entière d'un pays, munie de téléphones et de consignes, reproduise exactement les relations causales de vos neurones, une personne par neurone. L'organisation, ce réseau de rôles causaux, est la même, à la vitesse près.
- Il faudrait alors dire qu'un sujet apparaît au-dessus de cette foule, avec ses douleurs et ses souvenirs, dont aucun participant n'a la moindre idée. La conclusion n'est pas seulement étrange : rien, dans l'argument, ne dit pourquoi elle serait vraie.
- Ou bien on l'accepte, et « penser » ne veut plus dire ce que nous voulions dire ; ou bien on la refuse, et c'est qu'autre chose que l'organisation compte : la vitesse, la matière, la manière dont les parties tiennent ensemble.
Donc La prouve que beaucoup de supports conviennent, non que tous conviennent : l'argument franchit ce pas sans le justifier.
Voir la pageObjectionAttaque la position Expérience de pensée
- Dans la pièce, tout ce que le fonctionnalisme demande est réuni : les mêmes entrées, les mêmes états intermédiaires, les mêmes sorties qu'un locuteur chinois. L'organisation est réalisée intégralement.
- Pourtant, celui qui applique les règles ne comprend rien : il ne sait même pas de quoi parlent les feuillets qu'il rend. Il a la forme des signes, jamais leur sens.
- Si l'organisation était ce qui fait la compréhension, elle serait là, présente dans la pièce. Elle n'y est pas.
Donc Donc réaliser la bonne organisation ne suffit pas à penser : il manque quelque chose que le programme, par construction, ne peut fournir.
Voir la pageArgument Expérience de pensée
- De l'esprit d'autrui, je n'ai aucun accès direct : je n'observe que des conduites, des paroles, des réactions, et c'est sur cette seule base que je lui accorde une vie intérieure.
- Si, dans un échange prolongé, rien ne distingue les réponses d'une machine de celles d'une personne, le critère que j'emploie partout ailleurs est satisfait.
- Refuser malgré cela la pensée à la machine suppose un critère supplémentaire, que je n'exige d'aucun de mes semblables et que je serais bien en peine d'énoncer.
Donc Donc ce qui réalise la conduite d'un être pensant doit être tenu pour pensant : le support ne fait pas partie du critère.
Voir la page- Descriptif Expérience de penséeLa chambre chinoise
Enfermé dans une pièce, on répond parfaitement en chinois en suivant un manuel, sans comprendre un mot : exécuter un programme, est-ce jamais comprendre, ou seulement en donner tous les signes ?
un esprit qui comprend - Descriptif Expérience de penséeLe jeu de l'imitation
Si, dans une conversation à l'aveugle, rien ne distingue la machine d'une personne, faut-il lui accorder la pensée, ou réussir à passer pour un esprit ne prouve-t-il jamais qu'il y en a un ?
une conversation - DescriptifUne intelligence sans corps
Un programme traite des signes hors de tout monde ; mais comprendre une situation, agir avec à-propos, suppose peut-être un corps vivant qui l'habite, que la machine désincarnée n'a pas.
une intelligence désincarnée - DescriptifPeu importe le support ?
Si l'organisation exacte de votre cerveau était reproduite par tout un peuple s'échangeant des messages, cet attroupement penserait-il vraiment, ou certaines matières seules donnent-elles un esprit ?
le support de la pensée - DescriptifPenser, ou ressentir
Raisonner est une chose, éprouver en est une autre : une machine pourrait tout calculer sans que « cela fasse quelque chose » d'être elle, la pensée sans la moindre conscience.
le ressenti d'une machine - PrescriptifMoraleLui devrait-on quelque chose ?
Si une machine pensait, aurait-elle des intérêts, une dignité, des droits, ou resterait-elle une chose dont on dispose sans lui rien devoir ?
une machine pensante