−18°
Alba astronómica — El cielo aún parece negro. Y sin embargo, la luz ya ha comenzado.
Superinteligencia
¿En qué nos convertimos junto a una mente más vasta que la nuestra?
La pregunta
El debate sobre la superinteligencia suele girar en torno a dos preguntas técnicas: cuándo llegará y cómo controlarla. Importan. Pero dejan en la sombra una pregunta más antigua y más íntima: ¿en qué se convierte un ser que ya no es el más inteligente de su mundo?
Siempre hemos delegado en personas más competentes que nosotros: médicos, ingenieros, pilotos. Pero sus razones seguían estando, en principio, a nuestro alcance: podíamos aprender, preguntar, comprobar. Una superinteligencia podría tener razones verdaderas y, sin embargo, fuera de nuestro alcance. Confiar sin poder comprender es una condición nueva, y la filosofía casi no ha dicho nada sobre ella.
Aún abierto
- ¿Podemos consentir una decisión que no podemos comprender?
- ¿Sería una inteligencia más vasta necesariamente más libre?
- ¿En qué momento una herramienta deja de ser una herramienta?
Ensayos
-
Confiar sin comprender
El problema de una superinteligencia no es que sea más inteligente que nosotros. Es que sus razones podrían ser verdaderas y, aun así, estar fuera de nuestro alcance.