Faire confiance sans comprendre
Le problème d’une superintelligence n’est pas qu’elle soit plus intelligente que nous. C’est que ses raisons pourraient être vraies, et pourtant hors de notre portée.
Le problème d’une superintelligence n’est pas qu’elle soit plus intelligente que nous. C’est que ses raisons pourraient être vraies, et pourtant hors de notre portée.
Aristote distinguait déjà la capacité d’atteindre un but de celle de savoir quel but vaut la peine. Nos machines excellent dans la première. La seconde reste à notre charge.
Nous demandons aux machines de prouver qu’elles sont conscientes. Retournons la question : saurions-nous prouver que nous le sommes ?
Si les machines font mieux que nous presque tout ce qui produit un résultat, il restera ce dont la valeur est dans le geste même. Peut-être est-ce là que le sens a toujours été.