Le jeu de l'imitation
Sur l'axe: Une machine peut-elle penser · une conversation
Si, dans une conversation à l'aveugle, rien ne distingue la machine d'une personne, faut-il lui accorder la pensée, ou réussir à passer pour un esprit ne prouve-t-il jamais qu'il y en a un ?
Ce problème est mis en évidence par l'expérience de pensée Le jeu de l'imitation :
Turing juge la question « une machine peut-elle penser ? » trop vague, et propose de la remplacer par une épreuve. Un juge dialogue par écrit, sans les voir, avec un être humain et une machine ; à lui de deviner qui est qui. Si, au fil de l'échange, le juge ne parvient plus à démasquer la machine, à quel titre lui refuser la pensée ? Turing y voit moins une preuve qu'un critère opératoire, et parie qu'un jour les machines s'y illustreront. Ce qu'on nomme aujourd'hui « test de Turing » en est une version libre : des programmes tiennent la conversation au point de tromper, mais l'épreuve est-elle vraiment franchie, ou n'a-t-elle jamais mesuré ce qu'il fallait ?
Turing, Les ordinateurs et l'intelligence (1950)
Ne pas pouvoir distinguer une machine d'une personne à la conversation prouve-t-il qu'elle pense, ou le comportement ne prouve-t-il jamais la présence d'un esprit ?
Votre choix ci-dessus est enregistré dans votre profil. Voir mon profil →
Justification
Turing juge la question « une machine peut-elle penser ? » trop dépendante de l'usage des mots pour être tranchée, et la remplace par une épreuve, le : un interrogateur dialogue à l'aveugle avec un humain et une machine ; s'il ne parvient plus à les distinguer, il n'y a plus de raison de refuser à l'une ce qu'on accorde à l'autre. À l'objection qu'il manquerait toujours à la machine la conscience de ce qu'elle dit, il répond que la pousser mène au solipsisme : je ne sais qu'autrui pense que par son comportement, et refuser cette même preuve aux seules machines est arbitraire. Le support importe donc peu, une machine universelle pouvant simuler n'importe quelle machine à états discrets.
La question initiale, « les machines peuvent-elles penser ? », me paraît trop dénuée de sens pour mériter qu'on en discute.« Computing Machinery and Intelligence », Mind (1950)
« Computing Machinery and Intelligence », Mind (1950)
Justification
La : enfermé dans une pièce, Searle manipule des symboles chinois selon un manuel de règles, et ses réponses passent pour celles d'un locuteur, sans qu'il comprenne un mot. Un programme n'est qu'une syntaxe, un jeu de règles portant sur des formes ; comprendre exige en plus une sémantique, un rapport au monde que la manipulation formelle ne fournit jamais. Il n'en conclut pourtant pas que seul le vivant pense : le cerveau est une machine, et un artefact qui reproduirait ses pouvoirs causaux penserait. Ce qu'il refuse n'est donc pas la machine pensante, mais l'idée qu'exécuter le bon programme y suffise.
« Minds, Brains, and Programs » (1980)