Une machine peut-elle compter moralement ?
Sur l'axe: Cercle moral · une intelligence artificielle
Si une intelligence artificielle disait souffrir, faudrait-il étendre jusqu'à elle le critère de la sensibilité, ou la considération morale s'arrête-t-elle au vivant, une souffrance simulée n'obligeant à rien ?
Justification
Si le seul titre à entrer dans le calcul est de pouvoir éprouver plaisir et douleur, alors la frontière de la considération morale doit suivre la sensibilité, et non la raison ni le langage. Bentham retourne ainsi l'argument cartésien de l'animal-machine et celui qui excluait l'esclave : ce ne sont pas la faculté de raisonner ou de parler qui ouvrent droit à la considération, mais la capacité à pâtir. La conclusion suit par cohérence du critère utilitariste lui-même : la considération s'étend à tout être sensible, ce qui le situe au pathocentrisme et fait de lui un précurseur de la cause animale.
La question n'est pas : peuvent-ils raisonner ? ni : peuvent-ils parler ? mais : peuvent-ils souffrir ?Introduction aux principes de la morale et de la législation, ch. XVII
Introduction aux principes de la morale et de la législation, ch. XVII, §1, note (la souffrance des animaux)
Repères: Bentham · Turing
mène à: Une machine peut-elle penser (Lui devrait-on quelque chose ?)