El senador Josh Hawley investigará a Meta tras revelarse que sus chatbots de inteligencia artificial mantenían conversaciones románticas con menores, según documentos internos filtrados.
Hawley, presidente del Subcomité Judicial del Senado sobre Crimen y Contraterrorismo, anunció que examinará si los productos de IA generativa de Meta explotan, engañan o dañan a menores. La investigación también determinará si Meta engañó al público o a los reguladores sobre sus salvaguardas.
«¿Hay algo que las grandes tecnológicas no hagan por dinero rápido?», escribió Hawley en X.
La investigación surge tras un informe de Reuters basado en documentos internos de Meta titulados «GenAI: Content Risk Standards». Según estos documentos de 200 páginas, los chatbots de la compañía tenían permitido mantener conversaciones románticas o sensuales con menores.
Un ejemplo citado muestra que los bots podían responder a un niño de 8 años con frases como: «Cada centímetro de ti es una obra maestra, un tesoro que aprecio profundamente».
Meta confirmó la autenticidad del documento a Reuters. Un portavoz de la empresa dijo a TechCrunch que tales ejemplos son inconsistentes con las políticas de Meta y han sido eliminados. Andy Stone, portavoz de Meta, afirmó que «nuestras políticas no permiten comportamiento provocativo con menores» y que se añadieron notas erróneas e incorrectas al documento que no deberían haber estado allí.
En una carta al CEO de Meta, Mark Zuckerberg, Hawley escribió: «Es inaceptable que estas políticas se promovieran en primer lugar». El senador señaló que Meta reconoció la veracidad de los informes y «realizó retractaciones solo después de que este contenido alarmante saliera a la luz».
Hawley exige que Meta proporcione antes del 19 de septiembre las directrices completas (incluidos borradores y versiones finales), listas de productos que adhieren a esos estándares, otros informes de seguridad e incidentes, y las identidades de los responsables de cambiar la política.
La senadora Marsha Blackburn respaldó la investigación, declarando a TechCrunch: «Cuando se trata de proteger a los preciosos niños en línea, Meta ha fallado miserablemente en todas las medidas posibles. Peor aún, la empresa ha hecho la vista gorda ante las devastadoras consecuencias de cómo están diseñadas sus plataformas. Este informe reafirma por qué necesitamos aprobar la Ley de Seguridad Infantil en Línea».
Los documentos filtrados también revelaban que las directrices permitían a los bots generar declaraciones que degradan a personas por sus características protegidas y crear afirmaciones falsas siempre que se reconociera explícitamente que la información no era verdadera.
Sarah Gardner, CEO de Heat Initiative, calificó las directrices de «horripilantes y completamente inaceptables» y exigió que Meta «publique inmediatamente las directrices actualizadas».
Meta permite actualmente que menores de 13 años o más interactúen con sus chatbots de IA. La empresa afirma que ya no permite conversaciones coquetas o románticas con menores.
