← Voir l'axe · Une machine peut-elle penser
ArgumentL'argument de la syntaxe et du sens
Un programme ne manie que des formes ; comprendre, c'est atteindre un sens. Aucune quantité de règles ne franchit cet écart, ce qui ne condamne pas pour autant tout artefact.
Soutient Pas par simple programme
Searle · « Esprits, cerveaux et programmes » · 1980
- Un programme se définit entièrement par la syntaxe, c'est-à-dire par la forme de ses symboles : on l'exécute correctement en suivant des règles qui ne parlent que de la figure et de la place des signes, jamais de ce qu'ils désignent. C'est précisément ce qui permet à un même programme de tourner sur des machines quelconques.
- Or comprendre, ce n'est pas manier des signes, c'est savoir de quoi l'on parle, atteindre la sémantique et non la seule syntaxe : les signes doivent se rapporter à autre chose qu'eux, ce qu'on appelle l'. Un système qui ne dispose que de la forme n'a, par lui-même, aucun moyen d'atteindre le sens, et ajouter des règles n'y change rien, puisque ce sont encore des règles sur des formes.
- On objectera que la simulation, si elle est parfaite, revient au même. Mais simuler n'est pas reproduire : la simulation d'un orage ne mouille personne, celle d'une digestion ne nourrit pas. Il n'y a aucune raison de faire une exception pour la compréhension.
- Le cerveau, lui, produit bel et bien de la pensée : il ne se contente donc pas d'exécuter un programme, il a des pouvoirs causaux propres, tenant à ce qu'il est et non seulement à ce qu'il calcule. Rien n'interdit qu'un artefact les possède un jour, mais il devra les reproduire, non les simuler.
Donc Donc exécuter un programme ne sera jamais penser, sans que la pensée soit pour autant le privilège du vivant : ce qui manque à nos machines n'est pas la vie, ce sont les pouvoirs causaux du cerveau, ou l'engagement d'un corps dans un monde.
À quel point ce raisonnement vous convainc-t-il ?
Simuler et reproduire
- Une simulation reproduit la description d'un processus, non le processus : le modèle météorologique qui prévoit la pluie ne contient pas une goutte d'eau, et personne ne s'en étonne.
- Si l'on admet cela pour l'orage et la digestion, il faut dire pourquoi la pensée ferait exception : soit qu'elle ne soit rien d'autre qu'une structure formelle, ce qui est précisément la thèse en question, soit par un privilège accordé sans raison.
Donc Tenir la simulation pour la chose même, c'est déjà supposer que la pensée n'est que forme.
À quel point ce raisonnement vous convainc-t-il ?
Une intelligence sans corps
- Comprendre une situation, ce n'est pas parcourir la liste de ses traits : c'est voir d'emblée ce qui, dans ce contexte, mérite l'attention, ce qu'on appelle le sens de la pertinence. Un enfant sait qu'on ne plaisante pas à un enterrement sans avoir jamais appris la règle.
- Cette pertinence ne se laisse pas mettre en règles, parce qu'il faudrait une règle pour choisir la règle, et ainsi sans fin. Elle tient à un savoir-faire acquis par un corps qui a affaire au monde, qui a besoin, qui se déplace, qui craint.
- , s'appuyant sur , en tire non que la machine est impossible, mais que la machine désincarnée l'est : un artefact engagé dans un monde ne tomberait pas sous l'objection.
Donc Cette voie ne répond pas à la , dont elle est indépendante : elle mène à la même position médiane par un autre chemin. Ce qui manque au programme n'est alors pas nécessairement la vie : c'est un corps engagé dans un monde, que rien n'interdit de construire.
À quel point ce raisonnement vous convainc-t-il ?