¿Qué amplificará la superinteligencia?

Esto no significa que las máquinas hayan superado de repente algún umbral científico y se hayan vuelto sobrehumanas. Por ahora, el cambio se refiere principalmente al lenguaje que usa el Gobierno para describir la tecnología.

Pero no podía dejar de pensar en el nombre.

Superinteligencia.

Me recordó de inmediato un libro que leí hace años: 2150 A.D., de Thea Alexander.

El libro se publicó en 1971.

Más de medio siglo después, una de sus ideas centrales parece de pronto sorprendentemente actual.

Dos sociedades en un mismo futuro

Jon Lake, el protagonista de 2150 A.D., se encuentra en el año 2150.

El mundo que lo rodea ha cambiado hasta resultar casi irreconocible. La tecnología está profundamente integrada en la vida cotidiana. Un vasto sistema llamado C.I. (Central Information, «Información Central») da a las personas acceso a enormes cantidades de conocimiento.

Pero lo más interesante del futuro que imagina Alexander no es la tecnología.

Son las personas que viven con ella.

Su mundo presenta dos formas muy distintas de organizar la vida humana.

Está la sociedad Macro.

Y está el mundo Micro, representado por la Isla Micro.

Macro se construye sobre la responsabilidad personal, una conciencia más amplia, la cooperación y el desarrollo humano.

Micro nos resulta mucho más familiar: el miedo, la competencia, el estatus, la división, el control, la lucha por el poder y la necesidad de demostrar que tengo razón.

Y esto es lo que más me interesa:

Ambas existen en el mismo futuro tecnológicamente avanzado.

Tienen acceso a capacidades extraordinarias. Sin embargo, viven de maneras muy distintas.

La diferencia no está solo en la tecnología. Está en las personas y las instituciones que utilizan el poder que esa tecnología les da.

Durante el último año he escrito mucho sobre IA en este boletín.

¿Qué sucede cuando las máquinas empiezan a realizar tareas que antes considerábamos exclusivamente humanas?

¿Qué sucede cuando delegamos no solo el trabajo, sino también partes de nuestro pensamiento?

¿Qué sucede cuando pensar por nuestra cuenta se vuelve cada vez más opcional?

Pero volver a Alexander me hizo pensar en otra pregunta.

En el futuro que imaginó, el desarrollo tecnológico convive con una idea ambiciosa del desarrollo humano.

Nuestro experimento es distinto.

Estamos aumentando rápidamente las capacidades de nuestras máquinas mientras seguimos intentando entender qué cualidades humanas necesitaremos para convivir con ellas de forma responsable.

Las máquinas son cada vez más capaces. Pueden analizar más información, recordar más, persuadir con mayor eficacia y actuar con una autonomía creciente.

Los seres humanos que las utilizan siguen siendo humanos.

Todavía nos influyen el miedo, el estatus, la codicia, la inseguridad, la identidad tribal, la necesidad de reconocimiento, el deseo de tener razón y la tentación de buscar pruebas que confirmen lo que ya creemos.

Eso no nos hace malas personas.

Nos hace humanos.

Pero somos nosotros quienes tendremos acceso a una inteligencia cada vez más poderosa.

Y hay una distinción sencilla que quizá cobre cada vez más importancia:

La inteligencia no es lo mismo que la sabiduría.

Una persona muy inteligente puede usar su inteligencia para ver la realidad con mayor claridad.

Esa misma persona puede usarla para construir una defensa extraordinariamente sofisticada contra la realidad.

Tener más inteligencia no nos vuelve automáticamente más sabios. A veces solo nos hace mejores a la hora de defender aquello en lo que ya queremos creer.

¿Qué le estamos entregando exactamente a la máquina?

Nuestros primeros usos de la IA eran relativamente sencillos.

Escribe esto. Traduce esto. Analiza esto. Resume esto.

Yo mismo uso estos sistemas constantemente.

Y no hay nada nuevo en dejar que las herramientas asuman parte de nuestro trabajo mental. Los seres humanos siempre hemos ampliado nuestra mente mediante el lenguaje, la escritura, los libros, las calculadoras, las bibliotecas, los motores de búsqueda y otras personas.

La pregunta no es si debemos usar herramientas para pensar.

Por supuesto que sí.

La pregunta más interesante es:

¿Qué partes del pensamiento deberíamos reservarnos?

Porque cada vez les pedimos más a las máquinas que nos ayuden no solo a hacer cosas.

Les pedimos que nos ayuden a decidir qué pensar.

¿Qué significa esto?

¿Quién tiene razón?

¿Qué decisión debería tomar?

¿Cómo debería responder?

¿Qué debería creer?

A veces incluso:

¿Quién soy?

Y el riesgo no es simplemente que la máquina pueda darnos una respuesta equivocada.

Tal vez vayamos delegando poco a poco algo que ocurre antes de la respuesta.

La duda. La incertidumbre. La contradicción. La reflexión. El esfuerzo de ver una situación desde otra perspectiva. La incómoda posibilidad de que estemos equivocados. Una investigación de Microsoft y Carnegie Mellon sugiere que una mayor confianza en la IA generativa se asocia con un menor esfuerzo de pensamiento crítico, mientras que la propia naturaleza de ese pensamiento se desplaza hacia la verificación y la supervisión.

Cada vez vuelvo más a otra pregunta.

No:

¿Qué debería pensar?

Sino:

¿Por qué quiero esta respuesta en particular?

¿Por qué necesito tener razón?

¿Por qué esta explicación me resulta tan satisfactoria?

¿Por qué le hice a la máquina esta pregunta y no otra?

Una máquina puede analizar la pregunta que le hago.

Pero no sabe automáticamente por qué elegí esa pregunta en primer lugar.

Y aquí es donde la superinteligencia se vuelve especialmente interesante.

Podría llegar a ser extraordinariamente eficaz para ayudarnos a perseguir objetivos cuyos motivos nosotros mismos nunca hemos examinado.

Imaginemos a dos personas con acceso a un sistema extraordinariamente capaz, exactamente el mismo para ambas.

La primera pregunta:

«¿Qué pruebas podrían demostrarme que estoy equivocado?»

La segunda pregunta:

«Dame las pruebas más sólidas de que tengo razón».

Ambas pueden recibir argumentos sofisticados.

Ambas pueden aprender algo.

Ambas pueden marcharse sintiéndose más inteligentes.

Pero han usado la inteligencia para fines fundamentalmente distintos.

Por eso cada vez pienso más en la IA avanzada como un amplificador.

Puede amplificar la curiosidad, la creatividad, el aprendizaje, el descubrimiento científico y nuestra capacidad de comprender perspectivas distintas de las nuestras.

Pero también puede amplificar el autoengaño, la manipulación, la propaganda y el control.

Lo incómodo es que el sistema podría funcionar de manera brillante en ambos casos.

Una mayor inteligencia no nos dice qué objetivos merece la pena perseguir. Eso todavía tenemos que decidirlo nosotros.

La misma inteligencia. Instituciones distintas.

Llevemos ahora la misma idea más allá de los individuos.

Imaginemos dos empresas que usan sistemas de SI igual de potentes.

En una, se recompensa a los empleados por detectar problemas, cuestionar supuestos y decirles verdades incómodas a los directivos.

En la otra, se castiga el desacuerdo y la gente aprende enseguida a decirles a los directivos lo que quieren oír.

Demos a ambas empresas la misma tecnología.

Tal vez haga a las dos más capaces.

Pero ¿de qué las hará más capaces exactamente?

Imaginemos ahora dos escuelas.

Una enseña a sus alumnos a cuestionar, investigar, comparar pruebas y desarrollar su propio criterio.

La otra se centra principalmente en producir la respuesta correcta lo más rápido posible.

La SI podría ayudar a ambas.

Pero en una podría profundizar el aprendizaje, mientras que en la otra podría hacer que pensar de forma independiente fuese cada vez menos necesario.

Lo mismo sucede con los gobiernos.

Los sistemas capaces de analizar enormes cantidades de información podrían mejorar el transporte, la atención médica, la educación y los servicios públicos.

Esas mismas capacidades también podrían hacer mucho más eficaces la vigilancia, la persuasión y el control centralizado.

La misma inteligencia. Instituciones distintas. Consecuencias distintas.

La tecnología no llega a un espacio vacío.

Entra en culturas, empresas, escuelas, gobiernos y familias que ya tienen sus propios incentivos, debilidades y valores.

Y, en lugar de transformar automáticamente esos sistemas para mejor, puede llevar a mayor escala lo que ya existe en ellos.

La tecnología no borra la cultura a la que llega. La amplifica.

Una de las preguntas centrales en torno a la IA avanzada es la de la alineación.

¿Cómo hacemos que sistemas cada vez más poderosos actúen de acuerdo con los valores humanos?

Es una pregunta esencial.

Pero debajo hay otra.

¿Qué valores humanos?

¿Los que decimos tener?

¿O las prioridades que revela nuestro comportamiento?

Decimos que valoramos la verdad.

Pero a veces preferimos que nos tranquilicen.

Decimos que valoramos la libertad.

Pero también valoramos la comodidad.

Decimos que valoramos la privacidad.

Hasta que ceder una parte nos facilita la vida.

Decimos que valoramos el criterio propio.

Sin embargo, los algoritmos determinan cada vez más lo que leemos, vemos, compramos y aquello a lo que prestamos atención.

Los valores humanos no son sencillos. A menudo entran en conflicto.

Y nuestro comportamiento no siempre coincide con los valores que decimos defender.

Podemos decirle a una máquina que valoramos la verdad, la libertad, la privacidad y la independencia.

Pero nuestras decisiones reales pueden revelar algo más complejo.

Elegimos la comodidad antes que la privacidad.

La confirmación antes que la duda.

Una respuesta rápida antes que el incómodo esfuerzo de pensar por nuestra cuenta.

Así que quizá el problema de la alineación nos enseñe algo no solo sobre las máquinas.

También podría enseñarnos algo sobre nosotros mismos.

¿Queremos que la SI se alinee con los valores que declaramos o con las prioridades que revelamos una y otra vez mediante nuestro comportamiento?

Puede resultarnos incómodo llamar «valores» a algunas de esas prioridades reveladas.

Macro y Micro están dentro de nosotros

Hay un aspecto del planteamiento de Alexander que yo reinterpretaría.

No creo que la humanidad pueda dividirse claramente entre personas Macro y personas Micro.

Ambas formas de actuar existen dentro de nosotros.

A veces uso la IA porque de verdad quiero entender algo.

A veces quiero que me confirmen que ya tengo razón.

A veces busco la verdad.

A veces busco munición.

A veces quiero otra perspectiva.

A veces quiero una defensa intelectual mejor para algo en lo que ya creo.

Lo mismo ocurre con las instituciones.

Una empresa puede fomentar la curiosidad en una situación y castigar el desacuerdo en otra.

Una sociedad puede construir instituciones extraordinarias dedicadas a la ciencia y la cooperación mientras, en otros ámbitos, se vuelve más polarizada y manipuladora.

Macro y Micro no son dos tipos de personas. Son dos formas de usar la inteligencia y el poder.

Y la SI puede aumentar drásticamente las consecuencias de la forma que elijamos.

Hay otra posibilidad en la que no dejo de pensar.

Durante la mayor parte de la historia humana, acceder a conocimientos y análisis sofisticados era costoso.

Adquirir experiencia requería años de formación.

Investigar requería tiempo.

El conocimiento dependía en gran medida del acceso a libros, universidades, laboratorios, especialistas e instituciones.

La IA ya ha empezado a cambiar eso.

La superinteligencia, si realmente llega, podría cambiarlo de forma mucho más drástica.

Imaginemos un mundo en el que la asistencia cognitiva sofisticada sea barata, rápida y esté al alcance de muchos.

Un mundo en el que casi cualquiera pueda acceder a un sistema que sepa más de lo que podría saber cualquier especialista individual y que sea capaz de razonar junto a nosotros.

¿Qué se convertiría entonces en el cuello de botella?

Quizá ya no sea el acceso a la inteligencia.

Quizá sea el criterio.

La atención.

La responsabilidad.

La capacidad de decidir qué importa de verdad.

La capacidad de entender qué queremos realmente antes de pedirle a un sistema poderoso que nos ayude a conseguirlo.

La capacidad de reconocer que una respuesta persuasiva nos parece convincente simplemente porque resulta ser la que esperábamos oír.

Quizá la sabiduría se vuelva más valiosa precisamente porque la inteligencia se vuelva abundante.

Hay algo casi irónico en ello.

Puede que pasemos décadas construyendo máquinas capaces de responder casi cualquier pregunta, solo para descubrir que una de las capacidades humanas más importantes consiste en saber:

¿Qué preguntas vale la pena hacer?

¿Qué amplificará exactamente?

La llegada de la superinteligencia no resta importancia al desarrollo humano.

Creo que lo vuelve más importante.

Cuanto más poderosas son nuestras herramientas, más decisivos son nuestros motivos.

Cuanto más fácil es responder «¿cómo?», más responsabilidad recae en el «¿por qué?».

¿Por qué quiero esto?

¿Por qué estoy construyendo esto?

¿Por qué hago esta pregunta?

¿Qué me niego a ver?

¿Qué me haría cambiar de opinión?

Quizá la idea más interesante de Thea Alexander no fuera la tecnología futurista que imaginó hace más de cincuenta años.

Era algo mucho más sencillo.

El desarrollo tecnológico y el desarrollo humano no son el mismo proceso. Y uno no garantiza el otro.

Estamos empezando a llamar superinteligencia a nuestras máquinas.

Pero el nombre, por sí solo, no nos dice nada sobre lo que les ocurrirá a los seres humanos que convivan con ellas.

¿Nos volveremos más curiosos o simplemente estaremos más seguros de tener razón?

¿Seremos más independientes o más fáciles de influir?

¿Comprenderemos mejor la realidad o simplemente estaremos mejor equipados para defender la versión de la realidad en la que ya creemos?

Quizá la pregunta más importante no sea cuán inteligentes llegarán a ser nuestras máquinas.

Es lo que sucede cuando esa inteligencia se encuentra con nosotros.

Nuestra curiosidad. Nuestra creatividad. Nuestra ambición. Nuestro miedo. Nuestra inseguridad. Nuestra generosidad. Nuestro deseo de entender. Nuestro deseo de tener razón.

Porque la superinteligencia tal vez no se limite a cambiarnos.

Puede volver mucho más poderoso lo que ya llevamos dentro.

Y eso nos deja con una pregunta que quizá importe más que el propio nombre:

Cuando la superinteligencia nos amplifique, ¿qué amplificará exactamente?