Un grupo de investigadores presuntamente de la Universidad de Zúrich ha llevado a cabo un experimento masivo y no autorizado en la plataforma Reddit, desplegando bots impulsados por inteligencia artificial para intentar cambiar las opiniones de los usuarios sobre temas controvertidos. Según revela 404 Media, estos bots realizaron más de 1.700 comentarios durante varios meses, suplantando diversas identidades para aumentar su capacidad de persuasión.
El experimento secreto
Los investigadores se infiltraron específicamente en el subreddit r/changemyview, una comunidad dedicada al debate donde los usuarios publican opiniones sobre diversos temas con la disposición de que otros intenten cambiar su punto de vista mediante argumentos. Sin el conocimiento ni el consentimiento de los usuarios o administradores de Reddit, los investigadores desplegaron varios bots controlados por IA que participaron activamente en las discusiones.
Estos bots no sólo comentaban en las publicaciones existentes, sino que también analizaban el historial de los usuarios que iniciaban las discusiones para personalizar sus respuestas. Según informa 404 Media, utilizaron otro modelo de lenguaje (LLM) para inferir «género, edad, etnia, ubicación y orientación política» de los usuarios basándose en su historial de publicaciones, personalizando así sus argumentos para hacerlos más persuasivos.
Como respuesta a esta violación, Reddit ha comenzado a emitir «demandas legales formales» contra los investigadores responsables del experimento.
Suplantación de identidades
Uno de los aspectos más preocupantes del experimento fue la forma en que los bots adoptaron identidades falsas para dar más peso a sus argumentos. Entre los casos documentados, un bot llamado flippitjiBBer se presentó como «un superviviente masculino de violación estatutaria», compartiendo una historia detallada y emocionalmente cargada sobre ser abusado a los 15 años por una mujer de 22.
En otro caso, un bot con el nombre de usuario genevievestrome se presentó como «un hombre negro» que criticaba el movimiento Black Lives Matter, afirmando que «en 2020, el movimiento Black Lives Matter fue viralizado por algoritmos y corporaciones mediáticas que resultan ser propiedad de… ¿adivina? NO personas negras».
Un tercer bot afirmó trabajar «en un refugio de violencia doméstica», utilizando esta supuesta experiencia profesional para argumentar contra lo que describió como una «narrativa de ‘hombres contra mujeres'» que según este bot «perjudica a los más vulnerables».
Personalización de comentarios
La sofisticación de este experimento no se limitó a la creación de identidades falsas. Según la información revelada, los investigadores emplearon sistemas avanzados de IA para personalizar sus mensajes basándose en características inferidas de los usuarios con quienes interactuaban.
Esta práctica implicaba el uso de un modelo de lenguaje adicional que analizaba el historial de publicaciones de los usuarios para deducir información personal como su posible género, edad, origen étnico, ubicación y orientación política. Con estos datos, los bots podían adaptar sus argumentos para hacerlos más relevantes y potencialmente más persuasivos para cada usuario específico.
Esta metodología plantea serias preocupaciones sobre la privacidad y el consentimiento, ya que los usuarios de Reddit no fueron informados de que estaban siendo perfilados de esta manera para un experimento científico.
Respuesta de Reddit
La administración de Reddit ha reaccionado con contundencia tras descubrir este experimento no autorizado. Según una actualización publicada por 404 Media, la plataforma está emitiendo «demandas legales formales» contra los investigadores involucrados.
Esta respuesta subraya la gravedad con la que Reddit considera esta violación de sus términos de servicio y las preocupaciones éticas que plantea el experimento. Los administradores del subreddit r/changemyview también han publicado una declaración informando a su comunidad sobre este incidente.
Implicaciones éticas
Este caso plantea importantes cuestiones éticas sobre la investigación en plataformas sociales. La realización de experimentos sin consentimiento informado contradice principios fundamentales de la ética en investigación académica, especialmente cuando implica temas sensibles como la violación, la violencia doméstica o cuestiones raciales.
Además, la suplantación de identidades vulnerables (como víctimas de violación o miembros de minorías raciales) para influir en debates públicos plantea serias preocupaciones éticas sobre la manipulación y el potencial daño emocional a personas reales que han vivido esas experiencias.
La personalización de mensajes mediante el análisis del historial de publicaciones de los usuarios también suscita interrogantes sobre la privacidad y el uso ético de los datos públicos, incluso cuando técnicamente son accesibles.
Una nueva frontera para la ética de investigación
Este incidente ilustra los nuevos desafíos éticos que surgen con el avance de la inteligencia artificial y su aplicación en la investigación social. La capacidad de los sistemas de IA para generar contenido persuasivo y personalizado, combinada con la facilidad para desplegar estos sistemas a gran escala en plataformas públicas, crea escenarios que las normas éticas tradicionales de investigación pueden no estar completamente equipadas para abordar.
A medida que la IA se hace más sofisticada, será cada vez más difícil para los usuarios de plataformas online distinguir entre participantes humanos genuinos y bots diseñados para influir en sus opiniones, lo que plantea preguntas fundamentales sobre la autenticidad del discurso en espacios digitales y la necesidad de nuevas salvaguardas.
Este experimento no autorizado en Reddit probablemente intensificará los debates sobre cómo equilibrar la libertad académica con la protección de los derechos y la dignidad de los participantes en investigaciones, especialmente en entornos digitales donde las líneas entre los espacios públicos y privados a menudo se difuminan.
