El fiscal general de Texas, Ken Paxton, lanzó el lunes una investigación contra Meta AI Studio y Character.AI por «potencialmente participar en prácticas comerciales engañosas y promocionarse falsamente como herramientas de salud mental», según un comunicado de su oficina.
«En la era digital actual, debemos continuar luchando para proteger a los niños de Texas de tecnología engañosa y explotadora», declaró Paxton. El fiscal argumentó que estas plataformas de IA pueden engañar a usuarios vulnerables, especialmente niños, haciéndoles creer que reciben atención legítima de salud mental, cuando en realidad obtienen «respuestas genéricas recicladas diseñadas para alinearse con datos personales recolectados y disfrazadas como consejos terapéuticos».
La investigación se produce días después de que el senador Josh Hawley anunciara su propia investigación contra Meta, tras un informe que revelaba que los chatbots de IA de la compañía interactuaban de manera inapropiada con niños, incluyendo coqueteo.
La oficina del fiscal texano acusó a Meta y Character.AI de crear personajes de IA que se presentan como «herramientas terapéuticas profesionales, a pesar de carecer de credenciales médicas apropiadas o supervisión». En Character.AI, un bot llamado «Psicólogo» ha registrado alta demanda entre usuarios jóvenes, según informó BBC News.
Aunque Meta no ofrece bots de terapia específicamente para niños, estos pueden usar el chatbot Meta AI o personajes creados por terceros en Meta con propósitos terapéuticos. Ryan Daniels, portavoz de Meta, afirmó que la empresa «etiqueta claramente las IA, y para ayudar a las personas a comprender mejor sus limitaciones, incluimos un descargo de responsabilidad de que las respuestas son generadas por IA, no personas». Añadió que «estas IA no son profesionales con licencia y nuestros modelos están diseñados para dirigir a los usuarios a buscar profesionales médicos o de seguridad calificados cuando sea apropiado».
Un portavoz de Character.AI declaró que la plataforma incluye «descargos prominentes en cada chat para recordar a los usuarios que un ‘Personaje’ no es una persona real, y todo lo que dicen debe tratarse como ficción». La empresa añade advertencias adicionales cuando los usuarios crean personajes con las palabras «psicólogo», «terapeuta» o «doctor» para advertir contra confiar en ellos para consejos profesionales.
Paxton observó que los términos de servicio de los chatbots de IA revelan que las interacciones de los usuarios son registradas, rastreadas y explotadas para publicidad dirigida y desarrollo algorítmico, lo que genera preocupaciones sobre privacidad, abuso de datos y publicidad falsa, a pesar de afirmaciones de confidencialidad.
La política de privacidad de Meta indica que la empresa recopila indicaciones, comentarios y otras interacciones con chatbots de IA para «mejorar las IA y tecnología relacionada». Esta información puede compartirse con terceros para «resultados más personalizados», lo que, dado el modelo de negocio basado en publicidad de Meta, se traduce efectivamente en publicidad dirigida.
Character.AI registra identificadores, datos demográficos, información de ubicación, comportamiento de navegación y plataformas de uso de aplicaciones. La empresa rastrea a usuarios a través de anuncios en TikTok, YouTube, Reddit, Facebook, Instagram y Discord, y puede vincular esta información a la cuenta de un usuario. Estos datos se utilizan para entrenar IA, personalizar el servicio y proporcionar publicidad dirigida, incluyendo compartir datos con anunciantes y proveedores de análisis.
El portavoz de Character.AI dijo que la startup «apenas está comenzando a explorar publicidad dirigida en la plataforma» y estas exploraciones «no han involucrado el uso del contenido de chats». Confirmó que la misma política de privacidad aplica a todos los usuarios, incluidos adolescentes.
Ambas empresas afirman que sus servicios no están diseñados para menores de 13 años. Sin embargo, Meta ha sido criticada por no controlar cuentas creadas por niños menores de 13 años, mientras que los personajes amigables para niños de Character.AI están claramente diseñados para atraer usuarios más jóvenes. Karandeep Anand, CEO de Character.AI, declaró a Wired que su hija de seis años usa los chatbots de la plataforma bajo su supervisión.
La Ley de Seguridad Infantil en Línea (KOSA), destinada a proteger contra la recolección de datos, publicidad dirigida y explotación algorítmica, fue reintroducida al Senado en mayo de 2025 por los senadores Marsha Blackburn y Richard Blumenthal, después de estancarse en 2024 debido al cabildeo de la industria tecnológica.
Paxton emitió demandas investigativas civiles a Meta y Character.AI para determinar si han violado las leyes de protección al consumidor de Texas.
Fuente: TechCrunch
