−6°
Aube civile — Assez de clarté pour lire sans lampe. Les formes ont leur couleur.
Conscience
Y a-t-il quelqu’un, à l’intérieur ?
La question
La question de la conscience des machines a longtemps été un exercice de pensée. Elle devient une question pratique : des systèmes parlent d’eux-mêmes avec une aisance qui trouble, et nous n’avons pas de test qui tranche.
Deux erreurs sont possibles, et elles n’ont pas le même coût. Prêter une vie intérieure à un mécanisme nous rend manipulables. La refuser à un être qui en aurait une serait une faute morale d’une ampleur inédite. Entre les deux, il faut apprendre à agir sans savoir.
Encore ouvert
- Quelle preuve accepterions-nous d’une conscience qui n’est pas la nôtre ?
- Peut-on faire du tort à un être dont on ignore s’il ressent ?
- La conscience est-elle un fait, ou une attribution ?
Essais
-
Le miroir inversé
Nous demandons aux machines de prouver qu’elles sont conscientes. Retournons la question : saurions-nous prouver que nous le sommes ?