Una reciente investigación ha revelado que la tecnología de generación de voz artificial de la startup ElevenLabs fue "muy probablemente" utilizada en una operación de influencia rusa destinada a socavar el apoyo europeo a Ucrania, según un informe publicado por la empresa de inteligencia Recorded Future.
La operación de desinformación
La campaña, denominada "Operation Undercut", utilizó videos de "noticias" falsos o engañosos con voces generadas por inteligencia artificial para difundir mensajes contra Ucrania en múltiples idiomas europeos. Los videos atacaban a políticos ucranianos acusándolos de corrupción y cuestionaban la utilidad de la ayuda militar occidental al país.
Un ejemplo destacado fue un video que afirmaba que "ni siquiera los sistemas de interferencia pueden salvar a los tanques Abrams estadounidenses", intentando desacreditar la efectividad del equipamiento militar enviado a Ucrania.
El papel de la tecnología AI
Los investigadores de Recorded Future confirmaron el uso de la tecnología de ElevenLabs utilizando el propio clasificador de voz AI de la empresa. La tecnología permitió a los creadores de la campaña generar voces convincentes en varios idiomas europeos, incluyendo inglés, francés, alemán y polaco, evitando así el acento ruso que se detectaba en algunas grabaciones realizadas por humanos.
Los responsables
El informe atribuye la campaña a la Social Design Agency, una organización rusa que fue sancionada por el gobierno estadounidense en marzo por operar "una red de más de 60 sitios web que suplantaban a organizaciones de noticias genuinas en Europa". Según el Departamento de Estado, estas actividades se realizaron "en nombre del Gobierno de la Federación Rusa".
ElevenLabs y controversias previas
No es la primera vez que la tecnología de ElevenLabs se ve envuelta en controversias. La empresa fue señalada por estar detrás de una llamada robotizada que suplantaba al presidente Biden para desalentar la participación en unas primarias en enero de 2024. En respuesta, ElevenLabs implementó nuevas funciones de seguridad, incluyendo el bloqueo automático de voces de políticos.
Crecimiento y valoración
A pesar de las controversias, ElevenLabs ha experimentado un crecimiento significativo desde su fundación en 2022. La empresa aumentó sus ingresos anuales recurrentes de 25 millones de dólares (≈23 millones €) a 80 millones (≈74 millones €) en menos de un año, y podría alcanzar pronto una valoración de 3.000 millones de dólares (≈2.800 millones €).
Medidas de seguridad
ElevenLabs afirma mantener políticas estrictas contra la "suplantación no autorizada, dañina o engañosa" y utiliza diversas herramientas para hacer cumplir estas normas, incluyendo moderación tanto automatizada como humana. Sin embargo, este incidente plantea nuevas preguntas sobre la efectividad de estas medidas.
Según Recorded Future, el impacto general de la campaña de desinformación en la opinión pública europea fue mínimo, aunque el caso ilustra los crecientes desafíos que presenta el uso malicioso de las tecnologías de inteligencia artificial en operaciones de influencia estatal.
