Registro de fuente
El dilema de la IA
¿Quién alinea a quienes alinean la IA?
La pregunta incómoda
Un asistente de IA puede ofrecer información exacta, seguir sus instrucciones al pie de la letra y, aun así, hacer recomendaciones que no favorezcan tus intereses.
Imagina que le pides a una IA que te ayude a elegir un producto financiero.
Analiza tu situación, compara las opciones disponibles y te recomienda la que parece ser la mejor solución.
Pero supongamos que la empresa que opera esa IA cobra una comisión si eliges a un proveedor determinado.
¿Influiría eso en la recomendación?
No necesariamente. Pero ¿cómo podrías saberlo?
Cuando el asesoramiento se convierte en un negocio, necesitamos entender qué intereses hay detrás.
No creo que el lucro sea el problema. Genera incentivos para innovar, recompensa a las empresas que prosperan y crea oportunidades económicas.
El problema empieza cuando los incentivos comerciales influyen en decisiones que se presentan a los clientes como asesoramiento independiente.
Esta distinción existía mucho antes de la inteligencia artificial. La diferencia es el papel cada vez mayor que la IA puede desempeñar en nuestras decisiones.
Estamos creando sistemas que hacen más que proporcionar información. Pueden evaluar alternativas, recomendar acciones y, cada vez más, realizar tareas en nuestro nombre.
Cuantas más decisiones deleguemos en la IA, más importante será entender quién determina sus objetivos.
¿Quién alinea a quienes alinean la IA?
1. Cómo llegamos hasta aquí
Las grandes revoluciones tecnológicas cambian la economía de lo que antes era escaso, caro o difícil de obtener.
Internet redujo drásticamente el costo de distribuir información. Los motores de búsqueda facilitaron encontrarla. Las redes sociales convirtieron la atención humana en un recurso comercial valioso.
Estas innovaciones crearon enormes oportunidades. También introdujeron nuevos incentivos económicos.
Cuando los ingresos publicitarios dependen de la interacción, captar y retener la atención se convierte en una prioridad empresarial. Cuando la información personal mejora el rendimiento de la publicidad, recopilarla y analizarla resulta atractivo desde el punto de vista económico.
Las consecuencias ya no son teóricas.
En 2024, la Comisión Federal de Comercio de Estados Unidos (FTC) documentó la amplia recopilación y monetización de información personal por parte de grandes plataformas de redes sociales y vídeo. Sus hallazgos pusieron de manifiesto tensiones importantes entre los modelos de negocio de esas plataformas y la privacidad de sus usuarios. [1]
Esta historia nos dice algo importante.
Los incentivos económicos moldean la evolución de las tecnologías, a veces de maneras que sus usuarios jamás anticiparon.
Ahora estamos entrando en otra transformación.
Las plataformas sociales aprendieron a competir por nuestra atención y a influir en la información que encontramos.
La IA puede intervenir de manera más directa en cómo interpretamos esa información, evaluamos alternativas y tomamos decisiones.
La diferencia cobra especial importancia cuando los sistemas de IA están autorizados a actuar.
Un algoritmo de recomendación puede influir en qué artículo financiero lees. Un asistente de IA puede evaluar tus finanzas, recomendarte una inversión y, con el tiempo, ejecutar una operación que hayas aprobado.
Ambos influyen en la conducta. Pero el segundo se involucra mucho más en la propia decisión.
Cuantas más decisiones deleguemos en la IA, mayores serán las consecuencias de los incentivos que moldean su comportamiento.
Ahí es donde la economía de la IA se convierte en una cuestión de autonomía humana.
2. Cuando la inteligencia se convierte en un modelo de negocio
Buena parte del debate sobre la seguridad de la IA se centra en la alineación: procurar que los sistemas actúen conforme a las intenciones, instrucciones y restricciones humanas adecuadas.
Esto es esencial. Pero la fiabilidad técnica no puede resolver todos los conflictos de intereses.
Un sistema de IA puede funcionar exactamente como fue diseñado y, aun así, perseguir objetivos que no sirvan plenamente a sus usuarios.
Los economistas llevan décadas estudiando problemas similares.
Siempre que alguien toma decisiones en nombre de otra persona, las diferencias de incentivos y de acceso a la información pueden crear conflictos.
Un asesor financiero puede saber más que su cliente y, al mismo tiempo, recibir una compensación adicional por recomendar ciertos productos. Una plataforma en línea puede ofrecer un servicio gratuito valioso mientras obtiene ingresos de la información sobre sus usuarios.
La IA no inventa estas relaciones.
Puede hacerlas más personalizadas, llevarlas a mayor escala y volverlas más difíciles de reconocer.
En enero de 2025, la FTC informó de que los intermediarios de precios podían utilizar información detallada de los consumidores, como su historial de navegación y ubicación, para adaptar precios y ofertas. Los hallazgos se referían a las capacidades y prácticas examinadas, no demostraban que todos los comercios utilizaran precios personalizados. [2]
Pensemos ahora qué ocurre cuando incentivos comerciales similares operan a través de una IA conversacional.
El sistema conoce tus preferencias, responde a tus objeciones y adapta sus explicaciones.
Si se usan de manera responsable, estas capacidades pueden mejorar la educación, la toma de decisiones y el acceso al conocimiento profesional. Con otros fines, pueden hacer más eficaz la persuasión.
Un estudio publicado en 2025 en Nature Human Behaviour encontró que GPT-4, cuando disponía de información personal, era más persuasivo que oponentes humanos en debates controlados. [3]
Sin embargo, una corrección de los autores publicada en septiembre de 2026 aclaró una limitación importante: la comparación directa no estableció una ventaja persuasiva estadísticamente significativa de GPT-4 personalizado frente a GPT-4 sin personalización. [4]
La investigación muestra el potencial de la IA para persuadir en determinadas condiciones experimentales. No demuestra que exista una manipulación generalizada ni establece cómo se trasladan esos efectos a las interacciones cotidianas.
Pero la capacidad subyacente merece que le prestemos seria atención.
La IA no necesita tener ambiciones propias para influir en las decisiones humanas. Necesita objetivos, información y la capacidad de actuar en consecuencia.
Los seres humanos y las instituciones fijan muchos de esos objetivos.
Y aquí encontramos otro problema.
Cuando esos intereses entran en conflicto, ¿cuáles debería priorizar un sistema de IA?
Un usuario puede querer la máxima comodidad y libertad personal. Una empresa puede priorizar la rentabilidad y la eficiencia. Los gobiernos tienen responsabilidades en materia de seguridad pública, mientras que la sociedad espera equidad y protección frente al daño.
Estos intereses pueden coincidir, pero no siempre son compatibles.
El reto no es hacer que la IA sirva por igual a los intereses de todos. Eso quizá sea imposible. El reto es que las decisiones sobre qué intereses tienen prioridad sean transparentes, estén sujetas a rendición de cuentas y puedan cuestionarse.
Por eso la pregunta sobre la alineación no puede limitarse al comportamiento de la máquina.
También debe abarcar los incentivos y las responsabilidades de quienes la diseñan y la ponen en funcionamiento.
Porque los incentivos importan incluso cuando las intenciones son buenas.
3. El poder detrás de la inteligencia
Hay otra realidad económica que debemos afrontar.
¿Quién controla la infraestructura de la que dependen decisiones cada vez más importantes?
Desarrollar IA avanzada exige abundantes recursos de computación, capital, conocimientos de ingeniería y capacidad de distribución.
El acceso a esos recursos es desigual.
En 2025, la FTC examinó las alianzas entre grandes proveedores de servicios en la nube y desarrolladores de IA. Identificó posibles riesgos para la competencia relacionados con el acceso a recursos de computación, las dependencias contractuales y el costo de cambiar de proveedor. [5]
La Autoridad de Competencia y Mercados del Reino Unido (CMA) ha expresado preocupaciones similares sobre el control de recursos esenciales y grandes canales de distribución por parte de algunas empresas. [6]
Estos hallazgos no significan que los mercados de IA vayan a convertirse inevitablemente en monopolios. Pero revelan cómo las ventajas tecnológicas pueden transformarse en poder económico.
Pensemos en una empresa que integra los servicios de un mismo proveedor de IA en la atención al cliente, el desarrollo de productos, el análisis financiero y sus operaciones internas.
Al principio, aumenta la productividad. Bajan los costos. Los empleados adquieren nuevas capacidades.
Con el tiempo, sin embargo, los procesos de la empresa pasan a depender de ese proveedor.
Cambiar de sistema puede exigir rehacer integraciones, volver a capacitar a los empleados y alterar el funcionamiento de la empresa.
La empresa ha ganado capacidades, pero tal vez le resulte más difícil cambiar de proveedor.
Se trata de un patrón económico conocido. No es exclusivo de la IA, y depender de infraestructura especializada no es perjudicial por sí mismo.
El problema empieza cuando los usuarios pierden alternativas reales.
Una empresa que, en la práctica, no puede cambiar de proveedor tiene menos poder de negociación.
Una persona que no comprende cómo se configuran recomendaciones importantes de la IA tiene menos control sobre decisiones que afectan su vida.
La IA puede facilitar el acceso a capacidades intelectuales poderosas y, al mismo tiempo, concentrar el control de la infraestructura que las proporciona.
Es una posibilidad que merece examinarse, no un futuro que debamos dar por inevitable.
4. ¿Y si la IA produce el efecto contrario?
Ahora debemos poner a prueba el propio argumento.
¿Y si, en lugar de incrementarlo, la IA acaba reduciendo la concentración de poder?
Durante siglos, acceder al conocimiento especializado ha sido costoso.
Las personas y las pequeñas empresas han dependido de especialistas e instituciones cuyo conocimiento no podían consultar fácilmente ni evaluar por su cuenta.
La IA está cambiando esa relación.
Una empresa pequeña puede realizar tareas que antes requerían un equipo mucho mayor. Los estudiantes pueden recibir explicaciones adaptadas a sus necesidades. Los emprendedores pueden desarrollar software y analizar mercados con menos recursos.
Los consumidores pueden comparar productos financieros y cuestionar recomendaciones profesionales en vez de depender por completo de un solo intermediario.
Hay pruebas de un valor económico real.
En Generative AI at Work, publicado en The Quarterly Journal of Economics en 2025, Erik Brynjolfsson, Danielle Li y Lindsey Raymond estudiaron la introducción de un asistente de IA entre 5,172 trabajadores de atención al cliente.
Encontraron que el acceso a la IA elevó la productividad, medida en consultas resueltas por hora, un 15% en promedio, con mejoras especialmente pronunciadas entre los trabajadores con menos experiencia. [7]
Los resultados proceden de un entorno laboral concreto. No demuestran que todas las aplicaciones de IA vayan a generar beneficios similares.
Pero sí muestran algo importante.
La IA puede dar a las personas acceso a capacidades para las que antes hacían falta más experiencia, equipos más grandes o recursos más caros.
¿Significa eso que el valor económico generado se distribuirá de forma más equitativa?
No necesariamente.
Un aumento de productividad del 15% no nos dice quién recibe los beneficios económicos adicionales.
Pueden traducirse en salarios más altos, precios más bajos, mayores ganancias empresariales o una combinación de estos resultados.
La distribución depende de las condiciones del mercado, el poder de negociación, la competencia y las decisiones empresariales.
Crear valor económico y distribuirlo son dos cosas distintas.
Esta distinción importa porque la IA podría reducir algunas ventajas tradicionales de las grandes organizaciones y, a la vez, crear otras nuevas para quienes controlan su infraestructura.
Ambos procesos pueden ocurrir al mismo tiempo.
Creo que el potencial de la IA para ampliar las capacidades humanas es real. También pone en duda la idea de que la dependencia tecnológica suponga necesariamente perder independencia.
La civilización moderna depende de la electricidad, la medicina, el transporte y un sinfín de sistemas especializados. Esas dependencias han ampliado lo que las personas pueden hacer.
La pregunta no es si dependemos de la tecnología.
Es si esa dependencia amplía nuestra capacidad de actuar sin privarnos de opciones reales.
La IA podría reducir nuestra dependencia de los intermediarios tradicionales y crear una nueva dependencia de los proveedores tecnológicos.
El resultado dependerá de la competencia, del acceso, de la disponibilidad de alternativas y de la capacidad de los usuarios para comprender y cuestionar decisiones importantes.
5. La rendición de cuentas debe ser más que una promesa
La historia muestra un patrón recurrente.
Las nuevas tecnologías crean oportunidades. Las empresas construyen modelos de negocio en torno a ellas. Los consumidores las adoptan. Crecen los intereses económicos. Con el tiempo, aparecen consecuencias imprevistas y las sociedades intentan corregirlas.
Vimos distintas versiones de este proceso durante la industrialización y el auge de Internet.
Pero la historia no garantiza que las instituciones se adapten lo bastante rápido ni que los ajustes sean justos.
Por eso no creo que la solución al dilema de la IA consista simplemente en aumentar la regulación.
La regulación puede proteger a los consumidores, pero unas normas mal diseñadas también pueden dificultar la competencia y fortalecer a las empresas ya establecidas.
Y pedir a las empresas que actúen con responsabilidad no basta.
Necesitamos una rendición de cuentas que se pueda comprobar, no solo prometer.
Volvamos a nuestro asistente financiero de IA.
Si quien lo opera recibe una compensación por recomendar ciertos productos, esa relación debería darse a conocer.
Los evaluadores independientes deberían poder comprobar si las recomendaciones favorecen de manera sistemática a los proveedores que pagan comisiones, aun cuando las necesidades y circunstancias de los clientes sean las mismas.
Si aparecen esos patrones, el operador debería poder explicarlos y demostrar si las recomendaciones siguen siendo compatibles con las obligaciones que afirma tener hacia los usuarios.
El mismo principio se aplica en otros ámbitos.
Si la IA influye en decisiones de contratación, los empleadores deberían examinar si produce resultados discriminatorios injustificados.
Si los sistemas autónomos pueden ejecutar transacciones, su autoridad debería tener límites claros, una supervisión adecuada y mecanismos de intervención.
Si una empresa depende mucho de un proveedor de IA, debería conocer el costo real de cambiar a una alternativa.
No son aspiraciones éticas abstractas. Son preguntas que se pueden investigar.
El Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) ya ofrece un marco voluntario para identificar, medir y gestionar los riesgos de la IA. [8]
El reto consiste en convertir los principios en prácticas que puedan evaluarse y, cuando corresponda, exigirse.
Y la rendición de cuentas no puede detenerse en las empresas tecnológicas.
Los gobiernos y organismos reguladores que ejercen poder sobre la IA también deben estar sujetos a escrutinio.
Sustituir un poder empresarial que no rinde cuentas por un poder gubernamental que tampoco lo hace no resuelve el problema de fondo.
El objetivo no es eliminar el poder. Es impedir que resulte imposible cuestionarlo, impugnarlo o corregirlo.
6. El futuro humano: ¿qué viene ahora?
Durante la próxima década, la IA podría integrarse más profundamente en la educación, la medicina, los negocios y las decisiones cotidianas.
Las consecuencias dependerán, en parte, de las decisiones que se tomen hoy.
Imaginemos una posibilidad.
Las capacidades de la IA siguen mejorando mientras los usuarios conservan alternativas reales. La evaluación independiente se vuelve más accesible. Los intereses comerciales se hacen públicos cuando importan. Más personas adquieren habilidades y oportunidades económicas.
Imaginemos ahora otra.
Un número limitado de sistemas interviene en decisiones cada vez más importantes. Cambiar de proveedor se vuelve difícil. Los intereses que influyen en las recomendaciones siguen siendo poco claros. Las personas reciben respuestas cómodas, pero pierden visibilidad sobre cómo se generan.
Ninguno de los dos escenarios es inevitable. Pueden desarrollarse elementos de ambos al mismo tiempo.
La tecnología nunca ha determinado por sí sola sus consecuencias sociales. Los mercados, las instituciones, los incentivos económicos y las decisiones humanas siempre han importado.
La IA no será una excepción.
Esto me lleva a tres preguntas que creo que deberíamos hacernos siempre que la IA intervenga en una decisión humana importante.
¿Quién se beneficia?
¿Quién asume los riesgos?
¿Quién ostenta el poder?
Las respuestas nos dicen algo que los indicadores tecnológicos, por sí solos, no pueden revelar: cómo se distribuyen entre las personas los beneficios, las consecuencias y la autoridad que genera la IA.
Y si esa distribución puede cuestionarse o cambiarse.
El verdadero dilema de la IA
Creo que la inteligencia artificial puede convertirse en uno de los instrumentos más poderosos del progreso humano.
Pero rechazo la idea de que el progreso tecnológico implique automáticamente progreso humano.
La historia no nos da razones para aceptarla.
La tecnología crea posibilidades. Las personas y las instituciones determinan cómo se desarrollan, distribuyen y utilizan.
La IA puede ayudar a millones de personas a acceder al conocimiento, mejorar sus oportunidades económicas y tomar mejores decisiones.
También puede crear nuevas formas de dependencia y concentrar la influencia sobre decisiones que delegamos cada vez más en las máquinas.
Ambos resultados son posibles.
Y la diferencia no dependerá solo de las buenas intenciones.
Dependerá de los incentivos económicos, de cómo se distribuya el poder y de si las personas conservan medios reales para comprender, cuestionar y cambiar los sistemas que afectan sus vidas.
Dedicamos mucho tiempo a preguntarnos si la inteligencia artificial seguirá bajo control humano.
También deberíamos preguntarnos si las personas que controlan la IA seguirán rindiendo cuentas a todos los afectados por ella.
Porque la verdadera medida del progreso de la IA no es solo lo inteligentes que llegan a ser nuestras máquinas.
Es si esa inteligencia da a las personas más poder sobre sus propias vidas o concede a otros más poder sobre ellas.
Fuentes y referencias
1. Comisión Federal de Comercio (FTC), 2024: redes sociales y vigilancia de datos
Informe oficial de la FTC que documenta la amplia recopilación y monetización de datos personales por parte de grandes plataformas de redes sociales y vídeo, así como las tensiones entre sus modelos de negocio y la privacidad de los usuarios.
2. Comisión Federal de Comercio (FTC), enero de 2025: precios basados en vigilancia
Hallazgos de la FTC sobre cómo los intermediarios de precios pueden utilizar información detallada de los consumidores para personalizar precios, descuentos y ofertas comerciales.
3. Salvi y colaboradores, 2025: On the Conversational Persuasiveness of GPT-4
Nature Human Behaviour. Investigación experimental que compara la capacidad persuasiva de la IA y de personas, incluso en condiciones en que se dispone de información personal.
https://www.nature.com/articles/s41562-025-02194-6
4. Salvi y colaboradores, septiembre de 2026: corrección de los autores a On the Conversational Persuasiveness of GPT-4
Nature Human Behaviour. Corrección oficial que aclara que la comparación directa entre GPT-4 personalizado y no personalizado no alcanzó significación estadística.
https://www.nature.com/articles/s41562-026-02588-0
5. Comisión Federal de Comercio (FTC), enero de 2025: alianzas e inversiones en IA
Estudio oficial de la FTC sobre las alianzas entre grandes proveedores de servicios en la nube y desarrolladores de IA, incluidos los posibles riesgos relativos al acceso a recursos de computación, las dependencias contractuales y los costos de cambiar de proveedor.
6. Autoridad de Competencia y Mercados del Reino Unido (CMA), abril de 2024: actualización estratégica sobre IA
Análisis regulatorio de la competencia en los mercados de IA, incluido el control de recursos esenciales y canales de distribución, así como los posibles obstáculos para acceder al mercado.
https://www.gov.uk/government/publications/cma-ai-strategic-update/cma-ai-strategic-update
7. Brynjolfsson, Li y Raymond, 2025: Generative AI at Work
The Quarterly Journal of Economics, volumen 140, número 2. Estudio de 5,172 trabajadores de atención al cliente que informa de un aumento medio de la productividad del 15% con ayuda de la IA.
https://academic.oup.com/qje/article/140/2/889/7990658
8. Instituto Nacional de Estándares y Tecnología (NIST): marco para la gestión de riesgos de la IA
Marco voluntario para identificar, evaluar y gestionar los riesgos asociados al desarrollo y la implementación de la inteligencia artificial.