Rapport au monde· Esprit et consciencedifficulté
Une machine peut-elle penser
Une machine pourrait-elle un jour véritablement penser ?
Si penser n'est qu'une affaire d'organisation, une machine pourrait penser pour de bon, et . Si exécuter un programme ne suffit pas, nos machines ne font qu'imiter, sans qu'il soit exclu qu'un artefact d'un autre genre y parvienne un jour. Et si la pensée est indissociable de la vie, la plus brillante des machines restera une chose. Se positionner, c'est dire ce qui fait un esprit.
3
Penser, c'est traiter de l'information d'une certaine manière, quel que soit le support qui réalise ce traitement. Si une machine accomplit les mêmes fonctions qu'un cerveau, rien ne permet de lui refuser la pensée.
Explorer cette position →Turingexplicite
Turing juge la question « une machine peut-elle penser ? » trop dépendante de l'usage des mots pour être tranchée, et la remplace par une épreuve, le : un interrogateur dialogue à l'aveugle avec un humain et une machine ; s'il ne parvient plus à les distinguer, il n'y a plus de raison de refuser à l'une ce qu'on accorde à l'autre. À l'objection qu'il manquerait toujours à la machine la conscience de ce qu'elle dit, il répond que la pousser mène au solipsisme : je ne sais qu'autrui pense que par son comportement, et refuser cette même preuve aux seules machines est arbitraire. Le support importe donc peu, une machine universelle pouvant simuler n'importe quelle machine à états discrets.
« Computing Machinery and Intelligence », Mind (1950)
Chalmersexplicite
Chalmers soutient que ce qui porte l'expérience est l'invariance organisationnelle : c'est l'organisation fonctionnelle qui compte, non la matière qui la réalise. Sa position ici ne découle d'aucun physicalisme : c'est parce que la conscience est pour lui une donnée fondamentale, reliée à l'organisation par une loi de la nature, qu'elle suit cette organisation quel que soit le support.
« Absent Qualia, Fading Qualia, Dancing Qualia » (1995) · The Conscious Mind (1996)
Dennettexplicite
Pour Dennett, comprendre n'est pas un éclat intérieur qui s'ajouterait au traitement de l'information : c'est ce que fait un système dont le comportement présente des régularités assez fines pour qu'on gagne à lui prêter des états mentaux, ce qu'il nomme la stratégie de l'interprète. Contre la , il répond que l'homme au manuel n'est qu'un rouage : ce n'est pas lui qui comprendrait le chinois, mais le système entier, pièce, règles et registres compris. Chercher dans le cerveau un lieu où la compréhension aurait enfin lieu, ce serait reconduire le théâtre cartésien qu'il passe son œuvre à démonter.
La Stratégie de l'interprète (1987) · Consciousness Explained (1991)
Arguments et objections (4)
milieu nommé1
Exécuter un programme ne sera jamais penser : simuler la compréhension n'est pas comprendre. Mais rien n'interdit qu'un artefact pense un jour, s'il reproduit ce qui compte : , ou l'engagement d'un corps dans un monde.
Explorer cette position →Searleexplicite
La : enfermé dans une pièce, Searle manipule des symboles chinois selon un manuel de règles, et ses réponses passent pour celles d'un locuteur, sans qu'il comprenne un mot. Un programme n'est qu'une syntaxe, un jeu de règles portant sur des formes ; comprendre exige en plus une sémantique, un rapport au monde que la manipulation formelle ne fournit jamais. Il n'en conclut pourtant pas que seul le vivant pense : le cerveau est une machine, et un artefact qui reproduirait ses pouvoirs causaux penserait. Ce qu'il refuse n'est donc pas la machine pensante, mais l'idée qu'exécuter le bon programme y suffise.
« Minds, Brains, and Programs » (1980)
Arguments et objections (2)
1
La pensée n'est pas une organisation abstraite mais l'activité d'un être vivant : sentir, vouloir, comprendre naissent avec la vie et . Une machine, si brillante soit-elle, reste une chose fabriquée : elle calcule, mais rien ne lui importe.
Explorer cette position →Voir les positions implicites (1)
Kantextrapolée
Question moderne, étrangère au corpus : on peut toutefois conjecturer que Kant refuserait d'attribuer la pensée à un pur mécanisme, car la pensée exige la spontanéité de l'aperception, et il oppose l'organisme, qui s'auto-organise, à la montre, simple machine. Lecture spéculative, à présenter comme telle.
Critique de la raison pure, déduction transcendantale (B131-B132) · Critique de la faculté de juger, §65
Arguments et objections (2)
Voir la carte des problèmes dans l'Atlas →
- Descriptif Expérience de penséeLa chambre chinoise
Enfermé dans une pièce, on répond parfaitement en chinois en suivant un manuel, sans comprendre un mot : exécuter un programme, est-ce jamais comprendre, ou seulement en donner tous les signes ?
un esprit qui comprend - Descriptif Expérience de penséeLe jeu de l'imitation
Si, dans une conversation à l'aveugle, rien ne distingue la machine d'une personne, faut-il lui accorder la pensée, ou réussir à passer pour un esprit ne prouve-t-il jamais qu'il y en a un ?
une conversation
Sous-problèmes creuser la discussion de cet axe
- DescriptifUne intelligence sans corps
Un programme traite des signes hors de tout monde ; mais comprendre une situation, agir avec à-propos, suppose peut-être un corps vivant qui l'habite, que la machine désincarnée n'a pas.
une intelligence désincarnée - DescriptifPeu importe le support ?
Si l'organisation exacte de votre cerveau était reproduite par tout un peuple s'échangeant des messages, cet attroupement penserait-il vraiment, ou certaines matières seules donnent-elles un esprit ?
le support de la pensée
Problèmes liés élargir vers d'autres axes
- DescriptifPenser, ou ressentir
Raisonner est une chose, éprouver en est une autre : une machine pourrait tout calculer sans que « cela fasse quelque chose » d'être elle, la pensée sans la moindre conscience.
le ressenti d'une machine - PrescriptifMoraleLui devrait-on quelque chose ?
Si une machine pensait, aurait-elle des intérêts, une dignité, des droits, ou resterait-elle une chose dont on dispose sans lui rien devoir ?
une machine pensante - DescriptifD'autres consciences que la mienne
Je ne perçois jamais l'expérience d'autrui, seulement des corps qui se comportent : comment savoir qu'il y a quelqu'un derrière ? La seule conscience dont j'aie un témoignage direct est la mienne.
l'accès à l'expérience d'autruiL'énigme de la conscience - DescriptifLa vie intérieure des bêtes
Tout le débat suppose que les animaux ressentent quelque chose : mais peut-on le savoir ? Descartes voyait en eux des machines sans conscience ; comment être sûr qu'il y a « un effet que cela fait » d'être une chauve-souris ?
la vie mentale d'un animalCercle moral - PrescriptifMoraleUne machine peut-elle compter moralement ?
Si une intelligence artificielle disait souffrir, faudrait-il étendre jusqu'à elle le critère de la sensibilité, ou la considération morale s'arrête-t-elle au vivant, une souffrance simulée n'obligeant à rien ?
une intelligence artificielleCercle moral
La question initiale, « les machines peuvent-elles penser ? », me paraît trop dénuée de sens pour mériter qu'on en discute.Turing · « Computing Machinery and Intelligence », Mind (1950)