Privacidad con IA: una hermosa ilusión

¿Está seguro de que la conversación sincera que tuvo con ChatGPT quedará solo entre usted y la máquina? Según los investigadores, aproximadamente una cuarta parte de los adultos estadounidenses ya han utilizado chatbots de IA como ChatGPT, a veces para discutir problemas personales, desde peleas en las relaciones hasta fiascos financieros. Lo tratan como a un confidente o terapeuta virtual, que les revela secretos a altas horas de la noche. Pero el director ejecutivo de OpenAI, Sam Altman, ha destrozado rotundamente esta ilusión de privacidad. En una entrevista reciente en This Past Weekend con Theo Von, Altman advirtió: "Una conversación con ChatGPT no es lo mismo que con un terapeuta, médico o abogado. No está protegida por la confidencialidad legal. Si un tribunal lo solicita, se nos podría exigir que presentemos los registros de chat". Sí, has leído bien: tus confesiones de medianoche sobre la depresión o esa pequeña “zona gris” algún día podrían resonar no en una acogedora ventana de conversación, sino en una sala del tribunal. El propio Altman insiste en que esto es "muy jodido" y dice que necesitamos nuevas leyes porque "muchas personas utilizan la IA como asesor personal o incluso como terapeuta". Pero hasta que existan esas leyes, ChatGPT no es un sacerdote o médico digital; es más bien un micrófono abierto al universo legal, uno que podría transmitir sus palabras con la primera citación oficial. Así que pregúntate claramente: ¿estarías listo ahora mismo para entregarle a un fiscal capturas de pantalla de tus chats de IA más personales?

Una de las diferencias clave entre hablar con ChatGPT y hablar con un profesional autorizado es la siguiente: sus conversaciones con IA no tienen privilegios legales. Si habla con un terapeuta, médico o abogado, las estrictas leyes de confidencialidad generalmente protegen sus conversaciones. En los tribunales, no se puede obligar a esos profesionales a revelar lo que usted les dijo en la mayoría de los casos. No es así con la IA. Como enfatizó Sam Altman: "En este momento, si hablas con un terapeuta, un abogado o un médico... existe un privilegio legal para ello... Y aún no lo hemos descubierto cuando hables con ChatGPT". Todo lo que escribe en ChatGPT se almacena en servidores y se puede recuperar, y ni la IA ni OpenAI tienen ningún deber legal especial de mantenerlo en secreto ante los tribunales o las autoridades.

Esta brecha en la protección está empezando a generar alarmas. Altman calificó la brecha de privacidad como un "problema enorme" y señaló que debe resolverse rápidamente con nuevas políticas. Incluso admitió que a veces siente "miedo de usar ciertas cosas de IA" porque no está seguro de quién podría ver esa información personal. Cuando incluso el director ejecutivo de OpenAI está nervioso por escribir sus secretos, sabes que algo no está bien.

No es difícil ver por qué la gente le abre el corazón a ChatGPT. La IA está disponible las 24 horas del día, los 7 días de la semana, es siempre educada y nunca te juzga visiblemente. Los usuarios jóvenes, especialmente, han empezado a utilizar ChatGPT como una especie de terapeuta virtual o confidente, pidiendo consejo sobre problemas de salud personal, emocional o incluso mental. De hecho, es posible que los chatbots de IA ya sean uno de los mayores proveedores de apoyo a la salud mental en la actualidad, simplemente porque muchas personas recurren a ellos en busca de orientación y consuelo. Sam Altman de OpenAI notó esta tendencia: cada vez más personas – “especialmente jóvenes” – utilizan ChatGPT para obtener apoyo psicológico, asesoramiento médico y financiero que podrían dudar en abordar con una persona real.

Sin embargo, este hábito emergente de tratar a una IA como un diario, un terapeuta o un mejor amigo conlleva serios riesgos de los que la mayoría de los usuarios no se dan cuenta en este momento. Cuando escribes tus sentimientos a las 2 a.m. ante una IA, se siente privado y anónimo. Solo eres tú y la pantalla. La IA no va a chismorrear sobre ti, ¿verdad? Esta sensación de “oyente seguro” lleva a las personas a compartir detalles extraordinariamente sensibles: sobre su salud, vida amorosa, adicciones, problemas económicos, lo que sea. Hay una ilusión de anonimato y seguridad. Después de todo, el chatbot no es una persona real... es como hablar contigo mismo, o eso parece.

Pero esa ilusión puede ser peligrosa, porque legal y técnicamente, tu chat es todo menos anónimo. Sus mensajes están vinculados a su cuenta y dispositivo. Se guardan en bases de datos. Incluso pueden usarse para entrenar aún más modelos de IA (a menos que usted opte por no participar). Y como hemos establecido, si las cosas se ponen feas, esos troncos se pueden extraer y examinar. Su sincero chat de IA podría convertirse efectivamente en un registro escrito de su vida privada. Como lo expresó claramente un abogado de tecnología en las redes sociales: usar ChatGPT para asuntos delicados es “generar evidencia detectable”. No obtienes asesoramiento protegido ni empatía bajo juramento de secreto: estás creando una transcripción que se puede leer en el tribunal.

Analicemos algunos de los riesgos que a menudo se pasan por alto al tratar a ChatGPT como un confidente:

Sin protección legal: las conversaciones con médicos, abogados o terapeutas autorizados están protegidas por la ley; Las conversaciones con IA no tienen tal protección. No están cubiertos por el privilegio médico-paciente, el privilegio abogado-cliente ni ninguna regla de confidencialidad. A los ojos de la ley, contarle sus problemas a ChatGPT está más cerca de publicarlos en un foro público que susurrar en un confesionario. Evidencia en la sala del tribunal: cualquier cosa que le diga al chatbot (cualquier cosa) podría potencialmente exigirse como prueba si alguna vez termina en una disputa o investigación legal. Todo lo que se necesita es una orden judicial o una citación para obligar a las empresas de inteligencia artificial a entregar los chats de usuarios relevantes. Esas peroratas furiosas que escribió sobre su jefe, la admisión de ese plan “técnicamente no legal” sobre el que estaba reflexionando o las dudas personales que expresó: todo es un juego limpio en los tribunales. Vulnerabilidad juvenil: Es posible que los adolescentes y los adultos jóvenes, en particular, no comprendan esta falta de privacidad. Crecieron con la tecnología y podrían ver la IA como un espacio fresco y seguro para desahogarse. Eso los hace especialmente vulnerables. Un joven de 15 años podría confesar sentimientos de depresión o detallar comportamientos riesgosos en ChatGPT, sin imaginar nunca que esas palabras podrían ser leídas por otra persona, pero legalmente, esas confesiones no están protegidas. Es una falsa sensación de seguridad que podría volver en su contra. La ilusión del anonimato: podrías pensar que eres anónimo detrás de una pantalla. Pero si su cuenta ChatGPT está vinculada a su correo electrónico o teléfono, o si la está usando en un dispositivo vinculado a usted, se pueden rastrear sus chats hasta usted. Incluso eliminar un chat no es garantía de que desaparezca para siempre (como veremos más adelante). En resumen, los chats de IA parecen privados, pero en realidad son registros permanentes.

Altman lo resumió: "La gente debería entender: una conversación con ChatGPT no es como hablar con un terapeuta. No es legalmente secreto". Si las autoridades llaman a la puerta, se pueden entregar esos registros de chat. Y ahora mismo, la mayoría de los usuarios no tienen ni idea de esto.

Todas estas advertencias pueden parecer abstractas. Quizás estés pensando: "Claro, técnicamente es posible que se puedan ver mis chats, pero ¿eso realmente va a suceder?" Desafortunadamente, ya estamos viendo casos iniciales de conversaciones privadas sobre IA que se convierten en evidencia pública, con o sin el consentimiento del usuario. Aquí hay algunos escenarios, algunos hipotéticos y otros demasiado reales, que muestran cómo los chats de ChatGPT pueden volverse en contra de las personas:

En el tribunal de divorcios: imagine que un cónyuge que atraviesa un divorcio complicado decide utilizar ChatGPT como caja de resonancia. Podrían preguntar: "¿Cómo puedo ocultarle una cuenta bancaria a mi esposa?" o "¿Cuál es la mejor manera de mudarme en secreto con mis hijos?" Simplemente están desahogando o explorando ideas, no necesariamente planeando hacerlo. Pero si el equipo legal del otro cónyuge se entera de esos registros de chat, podrían citarlos. De hecho, los abogados de divorcios ya están advirtiendo a sus clientes: cualquier cosa que le cuente a una IA sobre su divorcio puede usarse en su contra. Incluso una consulta casual como "¿Puedo mudarme fuera del estado sin decírselo a mi ex?" podría tergiversarse como prueba de mala fe. Y no asumas que tus chats son seguros solo porque no los entregaste: si tu ex tiene acceso a tus dispositivos o copias de seguridad en la nube, es posible que ya tenga capturas de pantalla de tus confesiones de IA. No es un riesgo teórico; es muy real en los tribunales de familia de todo el mundo.

Fugas en el lugar de trabajo: otro ángulo a considerar es cómo sus chats supuestamente privados podrían filtrarse de otras maneras. Por ejemplo, a principios de 2023, los ingenieros de Samsung aprendieron esto de la manera más difícil. Varios empleados pegaron código interno confidencial e información comercial en ChatGPT (con la esperanza de obtener ayuda con la programación), pero esos datos no permanecieron privados: ahora estaban en los servidores de OpenAI, fuera del control de Samsung. En cuestión de semanas, fragmentos de esos chats confidenciales supuestamente aparecieron en datos externos, causando un gran pánico. Samsung acabó prohibiendo ChatGPT en los dispositivos de la empresa tras esta filtración “accidental”. El incidente destacó que cualquier cosa que ingreses en una IA podría ser vista por entrenadores de IA, otros usuarios (en forma agregada) o incluso motores de búsqueda si compartes el chat. De hecho, un informe reciente mostró que miles de conversaciones ChatGPT compartidas terminaron indexadas en Google porque los usuarios presionaron "Compartir" y esos enlaces eran públicos. Algunos de esos chats incluían preocupaciones privadas de las personas, planes de trabajo e incluso borradores de cartas de renuncia, todo ello abierto en línea. No requiere una orden judicial ni un hacker para perder el control de sus chats de IA; una simple configuración incorrecta o una falla pueden derramar la información. Una vez más, la lección es que lo que le dices a ChatGPT no necesariamente se queda en ChatGPT.

Cada uno de estos ejemplos resalta un punto: sus conversaciones con IA no son tan privadas como cree. Ya sea por obligación legal, habilidad para la investigación o lagunas técnicas, las palabras que le susurró a esa amigable IA podrían resurgir cuando menos las espere. Lo que está en juego va desde la vergüenza personal hasta el peligro legal. Como lo expresó claramente un abogado en X (anteriormente Twitter): si pega un contrato o le pide a ChatGPT una estrategia legal, "no está recibiendo asesoramiento legal... Está generando evidencia detectable. Nadie está obligado a protegerlo... ChatGPT no está [obligado por la ética], y puede usarse en su contra". En términos más sencillos: cualquier cosa que usted diga a ChatGPT puede y será utilizada en su contra en un tribunal de justicia: la advertencia clásica, ahora aplicada a la IA.

Ante esta desconcertante realidad, ¿qué se puede hacer? El propio Sam Altman no quiere que la gente entre en pánico y abandone el uso de estas herramientas de inteligencia artificial potencialmente útiles. En cambio, está instando a la sociedad a actualizar nuestras leyes y normas para ponerse al día con la tecnología. Estas son algunas de las medidas e ideas clave que se proponen para proteger a los usuarios en la era de los asistentes de IA:

Confidencialidad legal para chats de IA: Altman sugiere que creemos nuevas normas legales que traten sus conversaciones con IA de manera similar a las conversaciones con profesionales como terapeutas o abogados. Esto podría significar promulgar leyes que otorguen una forma de privilegio o derecho de privacidad sobre nuestras interacciones con el chatbot. Por ejemplo, tal vez los mensajes de un usuario de IA no puedan usarse en los tribunales sin cumplir con un estándar muy alto, similar a cómo funciona el privilegio conyugal o el privilegio médico-paciente. Esto requeriría el reconocimiento legislativo o judicial de un nuevo tipo de comunicación privilegiada. Es un concepto novedoso, pero a medida que la IA se integra en la vida cotidiana, los legisladores de varios países están empezando a debatirlo.

Límites al uso y retención de datos: otro enfoque legal es prohibir el uso de datos de chat de IA sin el consentimiento del usuario, excepto en circunstancias extremas. Es posible que se solicite a las empresas que eliminen las conversaciones de los usuarios después de un breve período o que las almacenen solo en forma cifrada, a menos que el usuario acepte explícitamente lo contrario. De la misma manera que su terapeuta no grabaría su sesión y se la entregaría a los anunciantes, tal vez las empresas de inteligencia artificial deberían enfrentar reglas estrictas sobre cómo registran y utilizan sus chats. Altman ha señalado que los términos de OpenAI podrían cambiarse si las leyes exigieran una mayor privacidad, y parece abierto a ello. Leyes de privacidad más estrictas (como el GDPR de Europa) también podrían obligar a los proveedores de inteligencia artificial a permitir que los usuarios realmente eliminen datos. El objetivo sería garantizar que, de forma predeterminada, sus conversaciones de IA permanezcan entre usted y el algoritmo, a menos que decida compartirlas.

Transparencia de las empresas de IA: mientras tanto, las propias empresas tienen una responsabilidad ética. Altman cree que los desarrolladores de IA deben ser honestos con los usuarios acerca de estas limitaciones de privacidad. Eso significa advertencias y exenciones de responsabilidad más claras: cada vez que abra ChatGPT, debería recordarle "No comparta información confidencial; este chat no es legalmente privado". Las empresas podrían informar a los usuarios que sus chats podrían revisarse (para moderación o capacitación) y entregarse a las autoridades si fuera necesario. Actualmente, esta advertencia existe en letra pequeña, pero debe ser fuerte y clara. La esperanza es evitar que los usuarios, especialmente los jóvenes o vulnerables, confíen ingenuamente a la IA sus secretos más oscuros.

Educación del usuario e higiene digital: más allá de las leyes y las políticas de la empresa, mucho se reduce a educar a los usuarios. Las escuelas, los padres y los medios de comunicación deben difundir el mensaje: trate su chat de IA como un registro público, no como un diario privado. Piénselo dos veces antes de revelar detalles de identificación o intenciones ilegales o cualquier cosa que no quiera leer en voz alta en el tribunal. Los expertos en ciberseguridad recomiendan practicar una buena “higiene en línea” incluso con IA: utilice cuentas anónimas si es posible, desactive el historial de chat cuando se hable de algo delicado y evite compartir nombres reales, direcciones o detalles específicos que puedan rastrearse hasta usted. Recuerde que cualquier persona con acceso a su dispositivo puede tomar capturas de pantalla, así que proteja sus dispositivos y cuentas en la nube si le preocupan miradas indiscretas en su vida personal. En resumen, no incluyas nada que no incluirías en un correo electrónico. No enviarías por correo electrónico a un extraño tu diario o tus confesiones, ¿verdad? La misma precaución debería aplicarse aquí.

La franca advertencia de Altman – “necesitamos nuevas leyes para proteger la privacidad de los usuarios, porque muchos utilizan la IA como asesor personal o terapeuta” – ha puesto esta cuestión en el centro de atención. De hecho, los legisladores están empezando a tomar nota, pero los cambios legales suelen ser lentos. Mientras tanto, cada uno de nosotros tiene que proteger su propia privacidad cuando tratamos con IA. Es un poco irónico: finalmente tenemos estos chatbots súper inteligentes que se sienten como humanos empáticos y queremos confiar en ellos como lo haríamos con un amigo. Pero hasta que la sociedad se ponga al día, usar una IA como confidente es como gritar tus secretos en un dispositivo de grabación.

Transhumanista o no, cualquiera que interactúe con la IA debería recordar que todavía vivimos en un sistema legal muy humano. Las palabras que le susurras a la IA pueden tener consecuencias reales. Estamos en un territorio inexplorado, donde nuestras conversaciones informales con una máquina podrían ser leídas por abogados, jueces o funcionarios gubernamentales que nunca debieron verlos. La comodidad y conveniencia de ChatGPT hacen que sea fácil olvidar ese riesgo.

Hasta que llegue el día en que las leyes concedan a las conversaciones de IA la privacidad de una sesión de terapia o un confesionario, debes cuidar de ti mismo. Disfrute de ChatGPT por lo que hace genial: generar ideas, aprender cosas nuevas, entretenimiento e incluso algunos consejos generales sobre la vida, pero no lo trate como una bóveda sagrada para sus secretos. Es más bien un altavoz conectado a una base de datos en la nube. Entonces, antes de derramar su alma ante la máquina, hágase esa pregunta nuevamente: ¿Me parece bien que este chat se lea en voz alta en el tribunal o se lo muestre a mi peor enemigo? De lo contrario, probablemente sea mejor mantenerlo entre usted y un profesional humano real sujeto a la confidencialidad, o simplemente mantenerlo completamente desconectado.

En esta extraña nueva era de relaciones entre humanos y IA, un poco de paranoia saludable ayuda mucho. ChatGPT puede parecer tu amigo, pero recuerda: no es legalmente tu amigo. Hasta que las leyes de privacidad se pongan al día, trate cada chat como potencialmente público. El objetivo no es asustar a todos y alejarlos de la IA, sino capacitarlos para que la utilicen de manera inteligente y segura. Como dice el refrán en el mundo legal: todo lo que diga puede ser usado en su contra y será usado en su contra. Eso ahora incluye todo lo que le digas a una IA. Así que habla con ChatGPT, claro, solo ten cuidado con tu boca (y el teclado), porque nunca sabes quién podría estar escuchando.