Pas par simple programme

1. Un programme se définit entièrement par la syntaxe, c'est-à-dire par la forme de ses symboles : on l'exécute correctement en suivant des règles qui ne parlent que de la figure et de la place des signes, jamais de ce qu'ils désignent. C'est précisément ce qui permet à un même programme de tourner sur des machines quelconques.
2. Or comprendre, ce n'est pas manier des signes, c'est savoir de quoi l'on parle, atteindre la sémantique et non la seule syntaxe : les signes doivent se rapporter à autre chose qu'eux, ce qu'on appelle l'intentionnalité. Un système qui ne dispose que de la forme n'a, par lui-même, aucun moyen d'atteindre le sens, et ajouter des règles n'y change rien, puisque ce sont encore des règles sur des formes.
3. On objectera que la simulation, si elle est parfaite, revient au même. Mais simuler n'est pas reproduire : la simulation d'un orage ne mouille personne, celle d'une digestion ne nourrit pas. Il n'y a aucune raison de faire une exception pour la compréhension.
4. Le cerveau, lui, produit bel et bien de la pensée : il ne se contente donc pas d'exécuter un programme, il a des pouvoirs causaux propres, tenant à ce qu'il est et non seulement à ce qu'il calcule. Rien n'interdit qu'un artefact les possède un jour, mais il devra les reproduire, non les simuler.

Donc Donc exécuter un programme ne sera jamais penser, sans que la pensée soit pour autant le privilège du vivant : ce qui manque à nos machines n'est pas la vie, ce sont les pouvoirs causaux du cerveau, ou l'engagement d'un corps dans un monde.

1. L'argument conclut de ce qu'aucune partie ne comprend à ce que l'ensemble ne comprend pas. C'est un pas qu'on refuse partout ailleurs : aucune de vos cellules ne lit ces lignes, aucun de vos neurones ne parle français.
2. La compréhension n'est donc jamais dans un composant, mais dans le système entier, dans l'organisation qui les relie : la chercher chez celui qui exécute les règles, c'est se donner d'avance la réponse.
3. Restent les pouvoirs causaux du cerveau vivant, invoqués pour marquer la différence. Mais tant qu'on ne dit pas lesquels, ni pourquoi une autre matière ne les aurait pas, ce n'est pas une explication : c'est un nom donné à l'écart que l'on veut maintenir.
4. Et le critère se retourne : notre cerveau nous paraît comprendre parce que nous le connaissons du dedans. Vu du dehors, il n'est qu'un assemblage de composants dont pas un ne comprend quoi que ce soit.

Donc La médiane ne tient qu'en accordant à la matière cérébrale un privilège qu'elle ne définit pas : ou bien l'organisation suffit, ou bien il faut nommer ce qui manque.