El consejero delegado de OpenAI, Sam Altman, ha lanzado una importante advertencia a los millones de usuarios de su producto estrella, ChatGPT: las conversaciones mantenidas con el chatbot no están protegidas por el secreto profesional. En un momento en que cada vez más personas recurren a la inteligencia artificial como apoyo para su salud mental, Altman subraya que esta práctica carece de las garantías legales de confidencialidad que sí ofrece la terapia con un profesional humano.
La declaración, realizada a través de sus redes sociales, pone de manifiesto una brecha crítica entre la percepción del usuario y la realidad técnica y legal de estas herramientas. Mientras que la tecnología avanza a pasos agigantados para ofrecer conversaciones cada vez más empáticas y fluidas, los marcos legales que protegen la privacidad de los datos más sensibles de una persona no han evolucionado al mismo ritmo.
Una advertencia desde la cúpula de OpenAI
El debate sobre los límites de la IA en el ámbito de la salud mental cobró un nuevo impulso a raíz de un mensaje publicado por Sam Altman en la red social X. «Estoy muy entusiasmado con el potencial de la IA para mejorar la atención sanitaria», escribió Altman. «Pero esto es un recordatorio: no existe confidencialidad legal (como con un médico) para tus conversaciones con ChatGPT. Por favor, tened cuidado».
Este mensaje de cautela, proveniente del máximo responsable de la empresa que lidera la revolución de la IA generativa, es especialmente significativo. No niega el potencial futuro de estas tecnologías en el campo de la salud, un área en la que OpenAI confirma estar trabajando, pero sí traza una línea roja muy clara sobre el uso de sus productos actuales como sustitutos terapéuticos. La advertencia es directa: la sensación de estar en un espacio seguro y privado puede ser una ilusión.
El creciente recurso a la IA como apoyo emocional
La advertencia de Altman no surge en el vacío, sino que responde a una tendencia creciente. La facilidad de acceso, la disponibilidad 24 horas al día y la ausencia de juicio han convertido a los chatbots como ChatGPT en un recurso atractivo para personas que buscan un desahogo emocional o un primer contacto con el apoyo psicológico.
Un estudio reciente del Instituto de Inteligencia Artificial Centrada en el Ser Humano de Stanford (HAI) confirma este fenómeno. La investigación, titulada «La IA como herramienta de salud mental: promesas y peligros», revela que un número considerable de usuarios comparte información personal y sensible con estos modelos.
La Dra. Eleni Linos, profesora de Stanford y coautora del estudio, explicó en unas declaraciones al New York Times que «los usuarios a menudo desarrollan una falsa sensación de privacidad e intimidad con los chatbots. Olvidan que detrás de la interfaz amigable hay un sistema complejo que procesa y almacena sus datos». Esta desconexión es el principal foco de riesgo para la privacidad.
La brecha legal: la gran diferencia con un terapeuta humano
La diferencia fundamental entre hablar con un psicólogo y conversar con ChatGPT reside en la protección legal. Cuando un paciente acude a terapia, sus confidencias están amparadas por el secreto profesional, un pilar ético y legal que obliga al terapeuta a no revelar la información compartida. En muchos países, esta protección está reforzada por leyes muy estrictas, como la Ley de Portabilidad y Responsabilidad de Seguros Médicos (HIPAA) en Estados Unidos.
Esta protección no existe en el caso de ChatGPT. Al no ser una entidad sanitaria ni un profesional colegiado, OpenAI no está sujeta a las mismas obligaciones legales. Esto tiene dos implicaciones directas y muy serias:
- Uso de datos: La información puede ser utilizada por la compañía, como se detalla en sus políticas.
- Requerimientos legales: Más importante aún, las fuerzas del orden o un tribunal podrían emitir una orden judicial (una citación o «subpoena») para que OpenAI entregue el historial de conversaciones de un usuario si fuera relevante para una investigación. Lo que se le cuenta a ChatGPT no es legalmente «privilegiado».
¿Qué pasa realmente con tus datos en ChatGPT?
Para entender el alcance del problema, es útil consultar la política de privacidad de OpenAI. La compañía es transparente al respecto: las conversaciones de los usuarios pueden ser revisadas y utilizadas para entrenar y mejorar sus modelos de inteligencia artificial. El objetivo es hacer que la IA sea más precisa, segura y útil.
Existe una opción en la configuración de la cuenta para solicitar que las conversaciones no se usen para el entrenamiento de modelos. Sin embargo, incluso al desactivar esta opción, OpenAI conserva todos los historiales de chat durante un periodo de 30 días. Según la empresa, esto se hace para monitorizar posibles abusos o usos indebidos de la plataforma, y transcurrido ese plazo, los datos se eliminan de forma permanente. A pesar de ello, durante ese mes, los datos existen y son accesibles para la compañía.
Un mercado en auge y el futuro de la IA en la salud
El interés por las soluciones tecnológicas para el bienestar emocional ha creado un mercado muy lucrativo. El sector de la salud mental digital fue valorado en más de 15.000 millones de dólares (unos 13.800 millones de euros) en 2023, con proyecciones de un crecimiento continuo.
En este contexto, han surgido empresas especializadas en chatbots diseñados específicamente para la salud mental, como Woebot o Wysa. Estas plataformas suelen operar bajo marcos de privacidad más estrictos y, en algunos casos, con supervisión clínica. Sin embargo, la popularidad y versatilidad de modelos de propósito general como ChatGPT hacen que muchas personas los usen «fuera de etiqueta» para este fin.
OpenAI es consciente de este potencial y, según informes, ha explorado internamente el desarrollo de modelos especializados para el sector sanitario. No obstante, a día de hoy, no existe un producto oficial y verificado para el uso terapéutico dirigido al público general.
En definitiva, el mensaje de Sam Altman es un llamado a la prudencia y a la alfabetización digital. La inteligencia artificial promete revolucionar muchos aspectos de nuestra vida, incluida la sanidad, pero es crucial que los usuarios comprendan las limitaciones y los riesgos de la tecnología en su estado actual. Por ahora, ChatGPT puede ser una herramienta de gran utilidad para múltiples tareas, pero no es, ni legal ni técnicamente, un terapeuta confidencial.
