La chambre chinoise
Searle · Esprits, cerveaux et programmes · 1980
Vous êtes enfermé dans une pièce. Par une fente, on vous glisse des feuillets couverts de signes chinois, que vous ne comprenez pas le moins du monde. Mais vous disposez d'un épais manuel, écrit dans votre langue, qui vous dit : « à tel signe, réponds tel autre ». Vous suivez les règles, vous renvoyez des feuillets, et au-dehors un lecteur chinois trouve vos réponses parfaites : pour lui, la pièce comprend le chinois. Vous, pourtant, vous n'avez rien compris. Une machine qui manie nos mots, un agent conversationnel qui répond si bien, fait-il autre chose que vous dans cette pièce ?
Exécuter un programme, aussi parfait soit-il, suffit-il à comprendre, ou manier des symboles selon leur seule forme reste-t-il aveugle à leur sens ?
Ce qu'elle fait dans le débat
Objecte à Peu importe le supportattaque la position
Dans la pièce, toute l'organisation requise est réalisée, et pourtant personne ne comprend un mot de chinois : réaliser le bon programme ne suffit donc pas à comprendre.
- Dans la pièce, tout ce que le fonctionnalisme demande est réuni : les mêmes entrées, les mêmes états intermédiaires, les mêmes sorties qu'un locuteur chinois. L'organisation est réalisée intégralement.
- Pourtant, celui qui applique les règles ne comprend rien : il ne sait même pas de quoi parlent les feuillets qu'il rend. Il a la forme des signes, jamais leur sens.
- Si l'organisation était ce qui fait la compréhension, elle serait là, présente dans la pièce. Elle n'y est pas.
Donc Donc réaliser la bonne organisation ne suffit pas à penser : il manque quelque chose que le programme, par construction, ne peut fournir.