La chambre chinoise
Sur l'axe: Une machine peut-elle penser · un esprit qui comprend
Enfermé dans une pièce, on répond parfaitement en chinois en suivant un manuel, sans comprendre un mot : exécuter un programme, est-ce jamais comprendre, ou seulement en donner tous les signes ?
Ce problème est mis en évidence par l'expérience de pensée La chambre chinoise :
Vous êtes enfermé dans une pièce. Par une fente, on vous glisse des feuillets couverts de signes chinois, que vous ne comprenez pas le moins du monde. Mais vous disposez d'un épais manuel, écrit dans votre langue, qui vous dit : « à tel signe, réponds tel autre ». Vous suivez les règles, vous renvoyez des feuillets, et au-dehors un lecteur chinois trouve vos réponses parfaites : pour lui, la pièce comprend le chinois. Vous, pourtant, vous n'avez rien compris. Une machine qui manie nos mots, un agent conversationnel qui répond si bien, fait-il autre chose que vous dans cette pièce ?
Searle, Esprits, cerveaux et programmes (1980)
Exécuter un programme, aussi parfait soit-il, suffit-il à comprendre, ou manier des symboles selon leur seule forme reste-t-il aveugle à leur sens ?
Votre choix ci-dessus est enregistré dans votre profil. Voir mon profil →
Justification
La : enfermé dans une pièce, Searle manipule des symboles chinois selon un manuel de règles, et ses réponses passent pour celles d'un locuteur, sans qu'il comprenne un mot. Un programme n'est qu'une syntaxe, un jeu de règles portant sur des formes ; comprendre exige en plus une sémantique, un rapport au monde que la manipulation formelle ne fournit jamais. Il n'en conclut pourtant pas que seul le vivant pense : le cerveau est une machine, et un artefact qui reproduirait ses pouvoirs causaux penserait. Ce qu'il refuse n'est donc pas la machine pensante, mais l'idée qu'exécuter le bon programme y suffise.
« Minds, Brains, and Programs » (1980)
Justification
Turing juge la question « une machine peut-elle penser ? » trop dépendante de l'usage des mots pour être tranchée, et la remplace par une épreuve, le : un interrogateur dialogue à l'aveugle avec un humain et une machine ; s'il ne parvient plus à les distinguer, il n'y a plus de raison de refuser à l'une ce qu'on accorde à l'autre. À l'objection qu'il manquerait toujours à la machine la conscience de ce qu'elle dit, il répond que la pousser mène au solipsisme : je ne sais qu'autrui pense que par son comportement, et refuser cette même preuve aux seules machines est arbitraire. Le support importe donc peu, une machine universelle pouvant simuler n'importe quelle machine à états discrets.
La question initiale, « les machines peuvent-elles penser ? », me paraît trop dénuée de sens pour mériter qu'on en discute.« Computing Machinery and Intelligence », Mind (1950)
« Computing Machinery and Intelligence », Mind (1950)