La nueva muerte: cuando los algoritmos te borran

El miedo de Altman no es la inteligencia artificial en sí; es el miedo a que la IA pueda convertirse en ti. En una discusión reciente en un evento de la Reserva Federal, Altman advirtió que la suplantación de identidad impulsada por la IA (voces y videos deepfake) es una de las mayores amenazas emergentes. "Estoy muy nervioso de que tengamos una importante e inminente crisis de fraude... En este momento, es una llamada de voz. Pronto será un video... indistinguible de la realidad", dijo. La realidad misma, advierte, pronto podría no demostrar nada: ni la autenticidad de las palabras, ni las identidades, ni siquiera el hecho de la muerte. "Lo que me aterroriza es que todavía hay algunas instituciones financieras que aceptan huellas de voz como autenticación... La IA ha derrotado por completo a la mayoría de las formas en que las personas se autentican", señaló Altman. En resumen, la tecnología que puede falsificar su voz, su rostro y sus movimientos avanza tan rápidamente que la línea entre usted y una falsificación se está desdibujando.

Aquí reside una escalofriante paradoja de nuestra era transhumanista: podrías morir y nadie se daría cuenta. La IA ahora puede hacerte “hablar” incluso después de que te hayas ido, imitando perfectamente tu voz, tus expresiones y tu forma de hablar. Se vería y sonaría como tú... pero no eres tú. Y a la inversa, es posible que estés muy vivo y, sin embargo, el sistema te considere “muerto”, es decir, efectivamente borrado. Imagínese:

Estás prohibido: los algoritmos ocultan silenciosamente tus publicaciones a los demás, haciéndote invisible en línea. Tu actividad está marcada como sospechosa; tal vez una IA decidió que eres un robot. No pasó una verificación de identidad KYC (Conozca a su cliente): una máquina no cree que usted es quien dice. Peor aún, su identidad ya ha sido robada por un robot de inteligencia artificial que se hace pasar por usted: un perfil falso con su nombre que los usuarios o las plataformas creen que es su verdadero yo.

Bienvenido al infierno digital: existes, pero no tienes visibilidad ni autenticidad. Estás allí, pero en realidad no estás allí. En este escenario, morir significa no ser reconocido por el algoritmo.

Estos no son sólo experimentos mentales o hipótesis de un futuro lejano. La suplantación y el “borrado” impulsados ​​por la IA están ocurriendo ahora. Éstos son algunos de los ejemplos más impactantes de los últimos años que muestran que el peligro es real y global:

“Mamá, necesito ayuda…” – A principios de 2023, una pareja canadiense de ancianos recibió una llamada frenética de alguien que hablaba exactamente como su nieto, afirmando que estaba en la cárcel después de un accidente automovilístico y necesitaba dinero para la fianza. Presa del pánico, se apresuraron a retirar dinero en efectivo. Estuvieron a punto de entregar 6.000 dólares antes de que interviniera el gerente del banco: otro cliente había informado de una llamada similar y descubrió que la voz era una IA falsa. En otro caso ese año, los estafadores tuvieron éxito: clonaron la voz de un hombre (posiblemente de un clip suyo en YouTube) y convencieron a sus padres de que estaba en problemas legales. Los aterrorizados padres enviaron alrededor de 21.000 dólares a los impostores a través de un cajero automático de Bitcoin antes de darse cuenta de que en realidad nunca habían hablado con su verdadero hijo. La voz estaba lo suficientemente cerca como para engañarlos por completo. Estas llamadas de socorro generadas por IA se han vuelto tan convincentes que incluso las personas conocedoras de la tecnología tienen dificultades para discernir la realidad.

Atraco al CEO deepfake: en 2024, los empleados de una sucursal de una empresa multinacional en Hong Kong se unieron a una videollamada con lo que parecía ser su director financiero (CFO). Dio instrucciones urgentes para transferir fondos, y ellos obedecieron, enviando la asombrosa cantidad de 200 millones de dólares de Hong Kong (alrededor de 25,6 millones de dólares) a cuentas designadas. Sólo más tarde supieron la verdad: todas las personas en esa videoconferencia, excepto el empleado victimizado, eran falsos. Los estafadores habían utilizado tecnología deepfake para crear avatares de vídeo realistas del director financiero y otros colegas, combinados con voces clonadas, para escenificar toda la reunión. “Todo el mundo parecía real”, dijo la policía de Hong Kong, y la empresa se vio despojada de más de 25 millones de dólares. Fue uno de los primeros casos importantes en los que se utilizó una videoconferencia totalmente falsa para cometer fraude corporativo, y subraya cómo incluso ver ya no es creer.

Influencers clonados e impostores virtuales: en plataformas sociales como TikTok y Onlyfans, las personas generadas por IA han comenzado a prosperar y a engañar. Influencers totalmente ficticios están acumulando seguidores e incluso “relaciones” con fans involuntarios. Por ejemplo, un modelo creado por IA conocido como "TheRRRealist" supuestamente ganaba hasta 15.000 dólares al mes vendiendo contenido explícito en Onlyfans, a pesar de no ser una persona real en absoluto. En Reddit, una persona falsa en línea llamada "Claudia" (una mujer joven generada por dos estudiantes de informática) logró vender imágenes de "ella misma" desnuda a numerosos usuarios, muchos de los cuales no tenían idea de que ella no era real. Los creadores de Claudia revelaron que con las modernas herramientas de imágenes de IA, podían producir fotografías muy realistas que engañaban a las personas para que pagaran, hasta que finalmente se descubrió la estafa. Y más allá del fraude financiero, pensemos en la manipulación emocional: las personas estaban formando apegos a algo (o alguien) que no existe. Ahora tenemos streamers y chatbots deepfake que pueden coquetear, dar consejos de vida e incluso decir “te amo” a clientes que pagan, todo bajo la apariencia de una persona que se siente humana. Hoy podría ser un influencer ficticio; mañana podría ser tu avatar diciendo cosas que nunca dijiste.

De hecho, mañana su avatar digital podría empezar a hablar en su nombre, sin su consentimiento. Y si mueres, ese avatar podría continuar publicando, hablando e interactuando como tú, tal vez incluso mediante un modelo de suscripción para quien quiera “acceder” al difunto. En 2023, cuando se le preguntó sobre esta capacidad de deepfake de rápido crecimiento, Sam Altman confesó: “Me aterroriza lo bien que se está poniendo esto”.

¿Qué pasa si alguien empieza a imitarte mientras aún estás vivo? ¿Podría un imitador de IA efectivamente robarte la vida (social, financiera y legalmente) antes de que te des cuenta?

¿Cómo demostrarías que eres tú? Si una voz o un avatar sintético pueden imitarte perfectamente, ¿qué evidencia podrías ofrecer de que eres el “real”? Nuestras tradicionales pruebas de identidad (voces, fotografías, vídeos) se están volviendo discutibles.

¿Quieres “vivir” como un robot después de la muerte? Algunos pueden encontrar consuelo en los avatares digitales de sus seres queridos fallecidos, pero si usted fuera el que se fue, ¿consentiría que una IA usara su voz e imagen para fingir que todavía está aquí?

¿Qué pasa si tu yo robot dice o hace cosas que nunca harías? Un avatar póstumo podría empezar a expresar puntos de vista o a participar en acciones con las que no estarías de acuerdo. Esencialmente, una versión tuya que está fuera de tu control.

¿La muerte ya es realmente el fin? Asumimos que nuestra muerte es nuestra salida. Pero, ¿qué pasa si después de tu muerte biológica comienza una nueva “vida” en la que no tienes voz y que es llevada a cabo por algoritmos que decidieron mantenerte cerca?

Existe una corriente de pensamiento transhumanista que sueña con la inmortalidad digital: cargar la mente o preservar la personalidad en la IA para vivir para siempre. Pero la realidad emergente parece menos una salvación y más una pesadilla de pérdida de control. Querías salvarte, pero lo que podrías conseguir es algo completamente distinto:

Un caparazón comercializado de su identidad: su imagen y voz empaquetadas como un producto. Un servicio de suscripción para "tú": tal vez tus amigos o fans paguen para escucharte (o lo que te parezca) contar nuevas historias o darles mensajes personalizados mucho después de que te hayas ido. Una IA que habla por ti, indefinidamente: continúa generando contenido en tu nombre para siempre, sin siquiera pedirte permiso (porque no estás ahí para dártelo).

En este escenario, la muerte no es una conclusión pacífica; se convierte en una especie de violación de derechos de autor. Tu voz, tu rostro y tu historia son replicados y propiedad de otra persona. Ya no controlas quién eras, en qué te conviertes ni cómo te recuerdan. Otros pueden duplicar, manipular y monetizar infinitamente tu esencia.

Conclusión: morirás, pero tal vez no cuando tu corazón deje de latir. Quizás realmente mueras el día en que el algoritmo ya no te reconozca. O, perversamente, mueres el día en que el algoritmo decide que no te dejará ir: ese falso yo es demasiado útil, demasiado rentable, para dejarlo descansar.

Sí, el abismo es profundo, pero la cuerda ya está bajando.

Credenciales de contenido: una marca de nacimiento para cada píxel. La Coalición para la Procedencia y Autenticidad del Contenido (C2PA) está incorporando “Credenciales de Contenido” en cámaras, suites de edición y plataformas de publicación. El estándar firma criptográficamente cada captura y cada edición, para que cualquiera pueda hacer clic en Información y rastrear toda la cadena de custodia, desde la lente hasta la pantalla. Las principales redacciones y Adobe, Nikon y Microsoft han comenzado a enviar prototipos de hardware y formatos de archivo que incorporan estas pruebas de forma predeterminada. En resumen: tu futuro selfie puede llevar un certificado de nacimiento infalsificable, y llegará un deepfake... sin credenciales.

Marcas de agua que susurran "Soy sintético". OpenAI ya ha incorporado marcas de agua en su motor de voz y está probando silenciosamente marcas de agua de imágenes dentro de la nueva función “ImageGen” de ChatGPT. Los marcadores se encuentran por debajo de la percepción humana pero por encima de la detección automática, lo que permite a los bancos, tribunales y plataformas sociales escanear una carga y saber, instantáneamente, si fue generada por IA. No es perfecto, pero es un comienzo: un polen digital que se adhiere a cada sílaba y píxel clonado.

Leyes con dientes reales. La Ley de IA de la UE, que entrará en vigor por fases hasta 2026, obliga a cualquier sistema que pueda producir “contenido audiovisual sintético” a etiquetarlo claramente. Los modelos considerados “riesgos sistémicos” deben publicar resúmenes de capacitación, someterse a pruebas contradictorias y enfrentar multas de hasta 35 millones de euros (o el 7 % de los ingresos globales) por ocultar la verdad. Están surgiendo proyectos de ley similares en Estados Unidos, Japón y Brasil. La regulación finalmente está corriendo para seguir el ritmo del código.

Identidad sin reliquias de contraseña. Los inicios de sesión mediante impresión de voz están en peligro de extinción (OpenAI insta públicamente a los bancos a eliminarlos gradualmente). En cambio, las claves de acceso, los tokens de hardware y las billeteras a prueba de conocimiento cero se están generalizando, permitiéndole demostrar “yo soy yo” sin tener que entregar datos biométricos en bruto. Si un atacante clona su voz, aún no tendrá su secreto criptográfico.

Revisa la insignia. Busque íconos de Credenciales de contenido en imágenes y videos; sin placa, sin confianza. Retirar contraseñas de voz. Cámbielos por claves FIDO2 o claves de acceso vinculadas a su dispositivo. Congela tu gemelo digital. Utilice servicios que le avisen cuando aparezca una nueva cuenta o solicitud de préstamo a su nombre. Entrena el ojo. Siga a los verificadores de hechos y conozca los detalles de las imágenes de IA: reflejos extraños, aretes que no coinciden, manos que olvidan la física. La habilidad sigue siendo un escudo. Vota con tus clics. Las plataformas notan el compromiso. Recompensar a los medios verificados; matar de hambre a las falsificaciones.

El mismo ingenio que forjó el deepfake está forjando el antídoto. Los estándares, las marcas de agua y las leyes nunca serán impecables, pero aumentan el costo del engaño y devuelven el poder a lo auténtico.

Su sombra digital aún puede ser suya: anclada en la criptografía, protegida por políticas e iluminada por un público más sabio en cuanto a la ilusión. El final no es el borrado inevitable; es un futuro negociado donde la identidad está firmada tanto por la carne como por las matemáticas.

Mantén firme ese pensamiento: en el siglo de los yoes espectrales, la esperanza está simplemente a un sello verificado de distancia.