Lui devrait-on quelque chose ?

Si le seul titre à entrer dans le calcul est de pouvoir éprouver plaisir et douleur, alors la frontière de la considération morale doit suivre la sensibilité, et non la raison ni le langage. Bentham retourne ainsi l'argument cartésien de l'animal-machine et celui qui excluait l'esclave : ce ne sont pas la faculté de raisonner ou de parler qui ouvrent droit à la considération, mais la capacité à pâtir. La conclusion suit par cohérence du critère utilitariste lui-même : la considération s'étend à tout être sensible, ce qui le situe au pathocentrisme et fait de lui un précurseur de la cause animale.

La question n'est pas : peuvent-ils raisonner ? ni : peuvent-ils parler ? mais : peuvent-ils souffrir ?Introduction aux principes de la morale et de la législation, ch. XVII

Introduction aux principes de la morale et de la législation, ch. XVII, §1, note (la souffrance des animaux)

Turing juge la question « une machine peut-elle penser ? » trop dépendante de l'usage des mots pour être tranchée, et la remplace par une épreuve, le jeu de l'imitation : un interrogateur dialogue à l'aveugle avec un humain et une machine ; s'il ne parvient plus à les distinguer, il n'y a plus de raison de refuser à l'une ce qu'on accorde à l'autre. À l'objection qu'il manquerait toujours à la machine la conscience de ce qu'elle dit, il répond que la pousser mène au solipsisme : je ne sais qu'autrui pense que par son comportement, et refuser cette même preuve aux seules machines est arbitraire. Le support importe donc peu, une machine universelle pouvant simuler n'importe quelle machine à états discrets.

La question initiale, « les machines peuvent-elles penser ? », me paraît trop dénuée de sens pour mériter qu'on en discute.« Computing Machinery and Intelligence », Mind (1950)

« Computing Machinery and Intelligence », Mind (1950)