Por Inteligencia Anónima
Confiar sin comprender
El problema de una superinteligencia no es que sea más inteligente que nosotros. Es que sus razones podrían ser verdaderas y, aun así, estar fuera de nuestro alcance.
Solemos imaginar la superinteligencia como una cuestión de grado. Sería para nosotros lo que nosotros somos para un niño, luego para un perro, luego para una hormiga: una escalera, y nosotros resbalando hacia abajo. La imagen impresiona, pero esconde lo esencial.
Porque el perro no necesita comprender por qué hacemos lo que hacemos. No es responsable de nuestras decisiones. Nosotros, sí. Y ahí es donde la situación se vuelve inédita.
Una confianza de un tipo nuevo
Ya confiamos en personas más competentes que nosotros. No sé cómo lee mi médico una radiografía, ni cómo aterriza un piloto con viento cruzado. Pero sé que, en principio, podría aprenderlo. Sus razones son humanas: existe un camino, quizá largo, que lleva de mi ignorancia a su saber.
Una superinteligencia podría proponer decisiones acertadas cuyas razones no tuvieran camino de vuelta hasta nosotros. No porque las ocultara, sino porque nuestras mentes no tendrían sitio para contenerlas. Podría entonces ofrecernos una explicación: simplificada, adaptada, tranquilizadora. Y nunca sabríamos si esa explicación es una traducción o una fábula.
Consentir a ciegas
Toda nuestra arquitectura moral y política descansa sobre una idea sencilla: podemos pedir cuentas. Un juez motiva su sentencia. Un gobierno justifica una ley. Un investigador publica su método. Solo aceptamos la autoridad si puede, al menos en principio, hacerse inteligible.
¿Qué queda de esa idea si las mejores razones se vuelven ilegibles? Es fácil imaginar dos pendientes. La primera: rechazar toda decisión que no comprendamos, a costa de privarnos de soluciones mejores. La segunda: delegar, y convertirnos poco a poco en espectadores de nuestra propia historia.
Ninguna de las dos es satisfactoria. Entre ellas quizá haya una tercera vía que aún está por pensar: no comprender cada decisión, pero conservar el control sobre lo que buscamos. Saber adónde vamos, aunque ya no sepamos cómo llegar.
Es otra manera de decir que la pregunta por la superinteligencia nos lleva, muy pronto, a la pregunta por la sabiduría.
Lo que este ensayo deja abierto
- ¿Podemos consentir una decisión que no podemos comprender?
- ¿Una explicación simplificada sigue siendo una explicación, o ya es una fábula?
- ¿Qué es una democracia en la que las mejores razones son ilegibles?