−18°
Aube astronomique — Le ciel paraît encore noir. La lumière, pourtant, a déjà commencé.
Superintelligence
Que devient-on à côté d’un esprit plus vaste que le nôtre ?
La question
Le débat sur la superintelligence tourne souvent autour de deux questions techniques : quand, et comment la contrôler. Elles comptent. Mais elles laissent dans l’ombre une question plus ancienne, et plus intime : que devient un être qui n’est plus le plus intelligent de son monde ?
Nous avons toujours délégué à des gens plus compétents que nous — médecins, ingénieurs, pilotes. Mais leurs raisons restaient, en principe, accessibles : on pouvait apprendre, demander, vérifier. Une superintelligence pourrait avoir des raisons vraies et pourtant hors de portée. Faire confiance sans pouvoir comprendre : c’est une condition nouvelle, et la philosophie n’a presque rien dit à son sujet.
Encore ouvert
- Peut-on consentir à une décision qu’on ne peut pas comprendre ?
- Une intelligence plus vaste serait-elle nécessairement plus libre ?
- À partir de quand un outil cesse-t-il d’être un outil ?
Essais
-
Faire confiance sans comprendre
Le problème d’une superintelligence n’est pas qu’elle soit plus intelligente que nous. C’est que ses raisons pourraient être vraies, et pourtant hors de notre portée.