OpenAI, la compañía detrás del popular modelo de inteligencia artificial ChatGPT, se encuentra en una encarnizada batalla legal contra una orden judicial que le exige preservar todos los registros de sus usuarios, incluyendo conversaciones eliminadas y datos sensibles registrados a través de su interfaz de programación de aplicaciones (API) para empresas. La empresa argumenta que esta medida, derivada de una demanda por derechos de autor, representa una grave amenaza para la privacidad de cientos de millones de usuarios a nivel global.
La Controvertida Orden Judicial y la Demanda por Copyright
La disputa se originó cuando The New York Times y otras organizaciones de noticias demandaron a OpenAI por presunta infracción de derechos de autor. Los demandantes acusaron a la compañía de inteligencia artificial de destruir pruebas relevantes para el caso. Específicamente, expresaron su preocupación de que los usuarios que pudieran estar utilizando ChatGPT para eludir los muros de pago de los sitios de noticias "serían más propensos a 'eliminar todas sus búsquedas' para cubrir sus huellas", según explicó OpenAI en un documento judicial al que tuvo acceso Ars Technica, medio que reportó originalmente esta noticia.
Ante estas acusaciones, y antes de que OpenAI tuviera la oportunidad de responder formalmente, el tribunal emitió la orden el pasado 13 de mayo. Dicha orden obliga a OpenAI a "preservar y segregar todos los datos de registro de salida que de otro modo serían eliminados de forma continua hasta nueva orden del Tribunal (en esencia, los datos de registro de salida que OpenAI ha estado destruyendo)", según la propia OpenAI. La jueza Ona Wang, a cargo del caso, compartió las preocupaciones de los demandantes, concluyendo que era probable que OpenAI continuara eliminando la supuesta evidencia si no mediaba una orden judicial.
«Una Pesadilla para la Privacidad»: La Férrea Defensa de OpenAI
OpenAI ha calificado la orden como "radical y sin precedentes", argumentando que se dictó apresuradamente basándose únicamente en una "corazonada" de los demandantes. En su escrito para solicitar argumentos orales y bloquear la medida, la compañía sostiene que la orden "continúa impidiendo que OpenAI respete las decisiones de privacidad de sus usuarios" sin "ninguna causa justa". Este riesgo, según OpenAI, afecta a usuarios de las versiones gratuitas y de pago de ChatGPT (Free, Plus y Pro), así como a los clientes de su API.
La empresa tecnológica enfatizó que la privacidad de cientos de millones de usuarios de ChatGPT en todo el mundo está en riesgo cada día que la orden sigue vigente. "Como resultado, OpenAI se ve obligada a desechar su compromiso de permitir a los usuarios controlar cuándo y cómo se utilizan los datos de sus conversaciones de ChatGPT, y si se conservan", argumentó la compañía.
OpenAI niega rotundamente las acusaciones de destrucción de pruebas. "OpenAI no 'destruyó' ningún dato, y ciertamente no eliminó ningún dato en respuesta a eventos del litigio", afirmó la empresa, añadiendo que "la Orden parece haber asumido incorrectamente lo contrario". Además, sostienen que no existe "ni una sola prueba que respalde" las afirmaciones de que los usuarios de ChatGPT que infringen derechos de autor son más propensos a eliminar sus chats. Para OpenAI, la orden del 13 de mayo fue prematura y debería ser anulada, o como mínimo, suspendida hasta que las organizaciones de noticias puedan demostrar una "necesidad sustancial" para tal medida.
El Impacto en los Usuarios: Datos «Profundamente Personales» en Juego
La compañía destaca que millones de personas utilizan ChatGPT diariamente para una amplia gama de propósitos, "desde lo mundano hasta lo profundamente personal". Los usuarios pueden optar por eliminar registros de chat que contienen sus pensamientos privados, datos financieros delicados como los utilizados para cuadrar el presupuesto doméstico, o detalles íntimos como los intercambiados al preparar votos matrimoniales.
Para los usuarios empresariales que se conectan a la API de OpenAI, las implicaciones podrían ser aún mayores. Sus registros pueden contener la información más confidencial de sus compañías, incluyendo secretos comerciales e información empresarial privilegiada. "Dado ese abanico de casos de uso altamente confidenciales y personales, OpenAI hace grandes esfuerzos para proteger los datos y la privacidad de sus usuarios", argumentó la firma. Parte de este esfuerzo incluye "honrar sus políticas de privacidad y compromisos contractuales con los usuarios", algo que la orden de preservación, según OpenAI, "desechó de un plumazo".
Antes de la orden, OpenAI solo conservaba el "historial de chat" de los usuarios de ChatGPT Free, Plus y Pro que no habían optado explícitamente por la no retención de datos. Ahora, se ven forzados a preservar el historial incluso cuando los usuarios "eligen no retener conversaciones particulares eliminándolas manualmente o iniciando un 'Chat Temporal', que desaparece una vez cerrado". Anteriormente, los usuarios también podían solicitar la eliminación completa de sus cuentas de OpenAI, incluyendo todo el historial de conversaciones, que se purgaba en un plazo de 30 días.
OpenAI también considera que incluir a sus clientes empresariales (API) en la orden tiene "aún menos sentido", ya que los datos de conversación de la API "están sujetos a políticas de retención estándar", lo que significa que estos clientes no podrían eliminar todas sus búsquedas basándose en la actividad de sus propios clientes, que es la supuesta base para requerir la retención de datos sensibles.
Pánico entre los Usuarios y Preocupaciones en Redes Sociales
La noticia de la orden de preservación generó pánico entre los usuarios, según señaló OpenAI en sus presentaciones judiciales, citando publicaciones alarmantes en LinkedIn y X (anteriormente Twitter). Argumentaron que el tribunal debería haber sopesado estas preocupaciones antes de emitir la orden, "pero eso no sucedió aquí".
Un trabajador tecnológico sugirió en LinkedIn que la orden creaba "una grave violación de contrato para cada empresa que utiliza OpenAI". Defensores de la privacidad en X advirtieron que "cada servicio de IA 'impulsado por' OpenAI debería estar preocupado". Otro consultor en LinkedIn instó a sus clientes a ser "extremadamente cuidadosos" al compartir datos sensibles "con ChatGPT o a través de la API de OpenAI por ahora", advirtiendo que "sus resultados podrían eventualmente ser leídos por otros, ¡incluso si optó por no compartir datos de entrenamiento o utilizó 'chat temporal'!".
En ambas plataformas, usuarios recomendaron el uso de herramientas alternativas como Mistral AI o Google Gemini para evitar problemas de privacidad. Un profesional de la ciberseguridad en LinkedIn describió la retención ordenada de registros de chat como "un riesgo de seguridad inaceptable". Una cuenta en X con decenas de miles de seguidores resumió la controversia sugiriendo que "Wang aparentemente piensa que las preocupaciones de copyright boomer del NY Times priman sobre la privacidad de CADA USUARIO de @OpenAI ¡¡¡una locura!!!".
La razón de esta alarma es "simple", según OpenAI: "Los usuarios se sienten más libres de usar ChatGPT cuando saben que tienen el control de su información personal, incluyendo qué conversaciones se retienen y cuáles no".
Costes, Desafíos y un Futuro Incierto
OpenAI advirtió que cumplir con la orden impone cargas "significativas", obligando al fabricante de ChatGPT a dedicar meses de horas de ingeniería con costos sustanciales. Además, el riesgo de violar sus propios acuerdos de privacidad podría no solo "dañar" las relaciones con los usuarios, sino también poner a la compañía en incumplimiento de contratos y regulaciones de privacidad globales. Por ello, argumentan que el daño potencial para OpenAI "supera con creces la necesidad especulativa de dichos datos por parte de los demandantes de noticias".
La jueza Wang justificó previamente la amplitud de la orden en parte debido a la afirmación de las organizaciones de noticias de que "el volumen de conversaciones eliminadas es significativo". También sugirió que OpenAI podría haber tomado medidas para anonimizar los registros de chat, pero optó por no hacerlo, limitándose a argumentar por qué "no podría" segregar los datos, en lugar de explicar por qué "no puede".
OpenAI no planea ceder en esta lucha, alegando que los demandantes de noticias han "guardado silencio" sobre las acusaciones de destrucción intencional de pruebas, y que la orden debería considerarse ilegal. "Aunque OpenAI aprecia los esfuerzos del tribunal para gestionar la presentación de pruebas en este complejo conjunto de casos, no tiene más remedio que proteger los intereses de sus usuarios objetando la Orden de Preservación y solicitando su anulación inmediata", declaró la compañía.
Portavoces de OpenAI y del equipo legal de The New York Times declinaron hacer comentarios a Ars Technica sobre el litigio multidistrital en curso. La resolución de esta disputa podría tener implicaciones significativas no solo para OpenAI y sus usuarios, sino para el futuro de la privacidad de datos en la creciente industria de la inteligencia artificial.
