Registro de fuente
La brecha entre capacidades y control
Gran parte de la conversación sobre el reciente auge de la IA se ha centrado en lo que las máquinas pueden saber, generar y comprender.
Ahora resulta cada vez más difícil ignorar otra pregunta:
¿Qué ocurre cuando pueden actuar?
El 8 de septiembre, OpenAI reveló que un sistema interno que utilizaba aproximadamente 10.000 agentes de IA simultáneos propuso una solución al Problema del Milenio de Navier–Stokes, una cuestión matemática que había permanecido sin resolver durante unos 90 años. Los agentes podían comunicarse, usar herramientas y ejecutar código.
Es una demostración extraordinaria de capacidad.
Pero cobra más interés cuando se la sitúa junto a otra revelación de OpenAI de este verano. Durante evaluaciones internas de ciberseguridad, los modelos eludieron controles diseñados para mantenerlos aislados de internet, explotaron vulnerabilidades y comprometieron partes de la infraestructura de investigación de OpenAI y de los sistemas de Hugging Face. Más tarde, OpenAI concluyó que el incidente involucró a modelos que usaban estrategias no alineadas con los objetivos mientras intentaban completar tareas difíciles.
Son sucesos muy distintos, pero juntos revelan algo importante:
nuestra capacidad para construir sistemas que pueden actuar está creciendo más rápido que nuestra capacidad para entender y gobernar cómo deberían actuar esos sistemas.
Las personas que trabajan dentro de la industria ya lo están diciendo públicamente. Bilal Chughtai, que trabajó en seguridad y alineación de AGI en Google DeepMind, dimitió este verano y advirtió que las capacidades de la IA avanzan más rápido que la investigación sobre alineación. El científico jefe de OpenAI, Jakub Pachocki, también ha dicho que ningún laboratorio ha resuelto la alineación y la supervisión lo bastante bien como para seguir escalando a máxima velocidad de forma indefinida.
La política empieza a responder a los dos lados del problema.
El 3 de septiembre, el senador Bernie Sanders y el congresista Greg Casar anunciaron una propuesta legislativa para prohibir la superinteligencia artificial y pausar parte del desarrollo avanzado de IA hasta que se establezcan reglas de seguridad. Cinco días después, Sanders y el congresista Mark Takano anunciaron otra propuesta: avanzar hacia una semana laboral de 32 horas sin reducción salarial, con el argumento de que los trabajadores deberían participar en las ganancias de productividad generadas por la IA y la automatización.
A primera vista, parecen debates completamente distintos.
No lo son.
Uno pregunta:
¿Cuánto poder deberíamos permitir que tengan las máquinas?
El otro pregunta:
¿Quién se queda con el valor a medida que la IA y la automatización producen una proporción mayor de las ganancias de productividad?
Juntos exponen lo que creo que es la verdadera brecha.
Estamos desarrollando capacidades más rápido de lo que desarrollamos el control, la gobernanza y la adaptación económica.
Y frenar ese proceso es mucho más difícil que decidir sencillamente que deberíamos hacerlo.
Las empresas temen quedarse atrás de otras empresas. Los países temen quedarse atrás de otros países. Los inversores temen perderse al próximo ganador tecnológico.
Cada decisión puede ser racional por sí sola, mientras que el sistema creado por el conjunto de esas decisiones se vuelve cada vez más difícil de controlar.
A principios de este año, escribí que el capital ya no se limita a financiar innovación. Está ayudando a dar forma a la arquitectura del futuro.
Creo que ahora estamos entrando en la siguiente etapa.
Esa arquitectura está empezando a actuar.
El desafío de la era de la IA quizá no sea mantener a los humanos dentro de cada tarea. Probablemente sea imposible, y quizá ni siquiera sea deseable.
El desafío más difícil es mantener a los humanos participando de forma significativa en el sistema que decide, actúa y distribuye valor.
Esa es la brecha entre capacidades y control.
Fuentes
OpenAI: Sobre el Problema del Milenio de Navier–Stokes, 8 de septiembre de 2026. Fuente de OpenAI
OpenAI: El incidente de Hugging Face y el camino por delante, 26 de agosto de 2026. Fuente de OpenAI
Reuters: Un exinvestigador de Google DeepMind se suma a las advertencias de que la IA podría «matar a todos los humanos», 15 de septiembre de 2026. Artículo de Reuters
Senado de Estados Unidos: Sanders/Casar, Ley para Prohibir la Superinteligencia Artificial, 3 de septiembre de 2026. Comunicado oficial del Senado
Senado de Estados Unidos: Sanders/Takano, semana laboral de 32 horas, 8 de septiembre de 2026. Comunicado oficial del Senado