← Voir l'axe · Une machine peut-elle penser

La réponse des systèmes

Aucun neurone ne comprend le français, et pourtant vous comprenez : chercher la compréhension dans le composant, c'est la chercher là où elle n'est jamais.

Objecte à Pas par simple programme

Dennett · Vues de l'esprit · 1981

1. L'argument conclut de ce qu'aucune partie ne comprend à ce que l'ensemble ne comprend pas. C'est un pas qu'on refuse partout ailleurs : aucune de vos cellules ne lit ces lignes, aucun de vos neurones ne parle français.
2. La compréhension n'est donc jamais dans un composant, mais dans le système entier, dans l'organisation qui les relie : la chercher chez celui qui exécute les règles, c'est se donner d'avance la réponse.
3. Restent les pouvoirs causaux du cerveau vivant, invoqués pour marquer la différence. Mais tant qu'on ne dit pas lesquels, ni pourquoi une autre matière ne les aurait pas, ce n'est pas une explication : c'est un nom donné à l'écart que l'on veut maintenir.
4. Et le critère se retourne : notre cerveau nous paraît comprendre parce que nous le connaissons du dedans. Vu du dehors, il n'est qu'un assemblage de composants dont pas un ne comprend quoi que ce soit.

Donc La médiane ne tient qu'en accordant à la matière cérébrale un privilège qu'elle ne définit pas : ou bien l'organisation suffit, ou bien il faut nommer ce qui manque.