Meta se encuentra nuevamente en el centro de la polémica. La Junta de Supervisión independiente de la compañía ha emitido un contundente informe criticando la gestión de la empresa frente al creciente problema de las estafas que utilizan "deepfakes" –vídeos manipulados mediante inteligencia artificial– de celebridades para engañar a los usuarios. Según la Junta, Meta no está haciendo lo suficiente para combatir estos fraudes, permitiendo que una cantidad significativa de contenido engañoso prolifere en sus plataformas, Facebook e Instagram.
La Dura Acusación de la Junta de Supervisión
Las estafas que emplean "deepfakes" de personajes famosos se han convertido en un dolor de cabeza cada vez más prominente para Meta en los últimos años. Ahora, la Junta de Supervisión, un organismo creado para revisar las decisiones de moderación de contenido de la empresa, ha intervenido con una decisión tajante, confirmando las críticas que ya habían expresado otros observadores: Meta no aplica con el rigor necesario sus propias normativas y facilita que los estafadores se salgan con la suya.
"Meta está probablemente permitiendo cantidades significativas de contenido fraudulento en sus plataformas para evitar una posible aplicación excesiva de sus normas sobre un pequeño subconjunto de patrocinios genuinos de celebridades", escribió la Junta en su reciente dictamen, según recogió Engadget. Además, el organismo señaló que "los revisores a gran escala no están facultados para hacer cumplir esta prohibición sobre contenido que establece una persona falsa o pretende ser una persona famosa para estafar o defraudar".
El Caso de Ronaldo Nazário: Un Ejemplo Flagrante
La conclusión de la Junta se deriva del análisis de un caso particular que involucra un anuncio de un juego de estilo casino en línea llamado Plinko. Dicho anuncio utilizaba un vídeo manipulado con inteligencia artificial del exfutbolista brasileño Ronaldo Nazário. A pesar de que el anuncio, según la Junta, mostraba "signos obvios de ser falso" y fue denunciado como estafa más de 50 veces, Meta no lo eliminó.
La compañía tecnológica finalmente retiró el anuncio, pero no la publicación de Facebook subyacente que lo promovía, hasta que la Junta de Supervisión aceptó revisar el caso. Para entonces, el contenido fraudulento ya había acumulado más de 600.000 visualizaciones. Este episodio, según la Junta, pone de manifiesto "fallos fundamentales" en la forma en que Meta aborda la moderación de contenido relacionado con estafas denunciadas que involucran a celebridades y figuras públicas.
Fallos Sistémicos en la Moderación de Contenido
La Junta de Supervisión profundiza en las razones de esta ineficacia. Según el informe, Meta comunicó a sus miembros que "aplica la política solo bajo escalada para asegurar que la persona representada en el contenido no respaldó realmente el producto". Asimismo, la interpretación individual de los revisores sobre qué constituye una "persona falsa" podría variar entre regiones, introduciendo inconsistencias en la aplicación de las normas.
El resultado de esta aproximación, de acuerdo con la Junta, es que una cantidad "significativa" de contenido fraudulento probablemente esté escapando a los controles de Meta. Esta situación es especialmente preocupante dado que la tecnología para crear "deepfakes" es cada vez más barata y accesible, lo que facilita la proliferación de este tipo de engaños. Un "deepfake" es un vídeo o imagen manipulado digitalmente mediante algoritmos de inteligencia artificial, que permite superponer rostros o generar voces de manera muy realista, haciendo creer que una persona dijo o hizo algo que en realidad nunca ocurrió.
Recomendaciones y la Respuesta Defensiva de Meta
Ante esta situación, la Junta de Supervisión ha formulado una única pero crucial recomendación a Meta: la empresa debe actualizar sus directrices internas, empoderar a los revisores de contenido para que puedan identificar y actuar contra estas estafas, y formarlos específicamente en los "indicadores" de contenido manipulado mediante inteligencia artificial.
En respuesta a estas críticas, un portavoz de Meta declaró que "muchas de las afirmaciones de la Junta son simplemente inexactas". La compañía también señaló una prueba que comenzó el año pasado y que utiliza tecnología de reconocimiento facial para combatir las estafas de tipo "celeb-bait" (cebo de celebridades).
"Las estafas han crecido en escala y complejidad en los últimos años, impulsadas por despiadadas redes criminales transfronterizas", afirmó el portavoz, según la información de Engadget. "A medida que esta actividad se ha vuelto más persistente y sofisticada, también lo han hecho nuestros esfuerzos para combatirla. Estamos probando el uso de tecnología de reconocimiento facial, aplicando enérgicamente medidas contra las estafas y capacitando a las personas para que se protejan a través de muchas herramientas y advertencias de seguridad diferentes en la plataforma. Si bien apreciamos las opiniones de la Junta de Supervisión en este caso, muchas de las afirmaciones de la Junta son simplemente inexactas y responderemos a la recomendación completa en 60 días de acuerdo con los estatutos".
Un Problema de Gran Escala y Creciente Preocupación
El caso de Ronaldo Nazário no es un hecho aislado. La propia Junta de Supervisión destacó la magnitud del problema al señalar que encontró miles de anuncios en vídeo promocionando la aplicación Plinko en la Biblioteca de Anuncios de Meta. Varios de estos anuncios presentaban "deepfakes" de IA, incluyendo vídeos con otra estrella del fútbol brasileño, Cristiano Ronaldo, e incluso con el propio CEO de Meta, Mark Zuckerberg.
La proliferación de estas estafas es un problema grave. A principios de este año, se informó que docenas de páginas publicaban anuncios con "deepfakes" de Elon Musk y personalidades de Fox News promocionando suplementos que supuestamente curaban la diabetes. Algunas de estas páginas publicaron repetidamente cientos de versiones de estos anuncios con, aparentemente, pocas repercusiones. Aunque Meta deshabilitó algunas de las páginas tras la denuncia periodística, anuncios fraudulentos similares persisten en Facebook. La actriz Jamie Lee Curtis también criticó públicamente a Mark Zuckerberg por no eliminar un anuncio de Facebook manipulado con su imagen; Meta retiró el anuncio después de las publicaciones de la actriz.
Ecos Externos: Otras Voces de Alarma
La Junta de Supervisión no es la única entidad que ha dado la voz de alarma sobre las estafas en las plataformas de Meta. The Wall Street Journal informó recientemente que Meta "representó casi la mitad de todas las estafas reportadas en Zelle para JPMorgan Chase entre los veranos de 2023 y 2024". Además, el periódico señaló que "reguladores británicos y australianos han encontrado niveles similares de fraude originados en las plataformas de Meta".
Según dicho informe, Meta se muestra "reacia" a añadir fricción a su proceso de compra de anuncios y que la compañía "se resiste" a prohibir anunciantes, incluso aquellos con un historial probado de llevar a cabo estafas. Esta postura podría estar contribuyendo a la persistencia del problema, a pesar de los esfuerzos que la compañía asegura estar implementando.
Conclusión: Un Desafío Persistente para Meta
La decisión de la Junta de Supervisión y los informes externos pintan un panorama preocupante sobre la capacidad y la voluntad de Meta para atajar eficazmente las estafas que utilizan "deepfakes" de celebridades. Mientras la tecnología de IA sigue avanzando y haciéndose más accesible, la presión sobre Meta para que implemente medidas más robustas y transparentes no hará más que aumentar. La respuesta formal de la compañía a las recomendaciones de la Junta en los próximos 60 días será clave para entender si se producirá un cambio significativo en su estrategia contra este tipo de fraudes que afectan tanto a figuras públicas como a usuarios anónimos.
