Pinterest ha anunciado finalmente medidas contra la proliferación de contenido generado por inteligencia artificial de baja calidad que ha invadido su plataforma. La popular red social de "pins" implementará un sistema de etiquetado para identificar imágenes creadas o modificadas por IA y ofrecerá a los usuarios la posibilidad de reducir la cantidad de este tipo de contenido en su experiencia de navegación.
Tras numerosas quejas de su base de usuarios, la empresa reveló el miércoles su plan para comenzar a etiquetar imágenes generadas y modificadas por IA, además de introducir próximamente una nueva opción que permitirá a los usuarios reducir la cantidad de "pins" generados por inteligencia artificial que ven en la plataforma.
Pinterest toma medidas contra la invasión de contenido generado por IA
El anuncio de Pinterest llega en un momento crítico para la plataforma. Según informa TechCrunch, estas nuevas funciones son un indicador de la seria amenaza que representa la IA generativa para plataformas construidas sobre contenido generado por usuarios, crowdsourcing y compartición social.
La tecnología de IA ha facilitado que actores malintencionados inunden estas plataformas con imágenes falsas que ahogan el contenido creado por humanos, devaluando la experiencia general. Este tipo de contenido generado por IA y de baja calidad —comúnmente denominado "AI slop" o "bazofia de IA"— ha provocado un rechazo entre la fiel base de clientes de Pinterest.
La plataforma, que durante años se caracterizó por ser un espacio para guardar imágenes aspiracionales en áreas como moda, decoración del hogar, viajes, arte, recetas, bricolaje, belleza, consejos para padres y más, se ha visto amenazada por este fenómeno que podría potencialmente destruir la esencia del sitio.
Nuevas etiquetas identificarán el contenido modificado por inteligencia artificial
Una de las principales novedades anunciadas es un sistema de etiquetado. Cuando los usuarios hagan clic en una imagen para verla ampliada, verán una etiqueta "AI modified" (modificado por IA) en la esquina inferior izquierda si la imagen ha sido creada o alterada con inteligencia artificial.
La compañía ha explicado que analizará los metadatos de las imágenes para determinar qué es IA y qué no, pero también ha desarrollado su propio sistema de clasificadores que detectará automáticamente el contenido de IA que "no tiene marcadores obvios".
"Si su contenido se etiqueta incorrectamente, los creadores podrán apelar a Pinterest", asegura la compañía en su publicación oficial. Este sistema de verificación y apelación busca mantener un equilibrio justo entre la identificación de contenido artificialmente generado y el respeto al trabajo de los creadores humanos.
Control para los usuarios: la opción de ver menos contenido generado por IA
Quizás lo más importante es que Pinterest proporcionará a los usuarios mayor control sobre la cantidad de contenido generado por IA que ven, a través de una función que se lanzará próximamente.
Cuando esté disponible, los usuarios podrán seleccionar una opción "ver menos" en los pins generados por IA en ciertas categorías —como belleza y arte— que son particularmente propensas a verse inundadas de contenido artificial. Con el tiempo, la plataforma extenderá esta opción a otras categorías.
Esta opción se encontrará en el menú de tres puntos en la esquina inferior derecha de un pin. Al hacer clic, se enviará una señal a los sistemas de Pinterest para recomendar menos contenido de IA al usuario. Sin embargo, la empresa no especificó cuándo estará disponible esta nueva configuración de control, limitándose a informar que llegará "pronto".
El impacto del "AI slop" en la experiencia de los usuarios de Pinterest
Para una web como Pinterest, la avalancha de contenido AI podría resultar fatal. Algunos usuarios ya han declarado muerta la plataforma debido a la cantidad de imágenes generadas por IA que han invadido el sitio.
En Reddit, por ejemplo, los usuarios llevan meses protestando contra la invasión de este tipo de contenido de baja calidad en Pinterest, señalando un enorme aumento de este material. Aseguran que las imágenes generadas por IA se han extendido por todo el sitio, tanto al navegar por contenido, realizar búsquedas o ver sugerencias de tableros.
Los medios de comunicación también han documentado el declive de la plataforma en artículos que cuestionan si la IA ya ha arruinado Pinterest o si todavía puede solucionarse el problema.
El fenómeno del "AI slop" se ha convertido en un problema generalizado que afecta a diversas plataformas basadas en contenido visual, pero Pinterest se ha visto particularmente afectada debido a su naturaleza como repositorio de imágenes inspiradoras. La invasión de contenido generado artificialmente amenaza el valor fundamental de la plataforma: ofrecer inspiración auténtica y humana.
El futuro de Pinterest con la IA generativa
A pesar de los problemas actuales, Pinterest no rechaza completamente la IA generativa. La empresa ha indicado que planea introducir más herramientas en los próximos meses para construir sobre su trabajo con IA, añadiendo que todavía cree que la IA generativa puede ser inspiradora cuando se implementa de manera reflexiva.
Matt Madrigal, CTO de Pinterest, declaró en un comunicado: "A medida que las personas encuentran contenido generado por IA en Pinterest, estamos capacitando a nuestros usuarios para tomar decisiones más informadas sobre el contenido que ven. El contenido de IA generativa en Pinterest debería mejorar la capacidad de los usuarios para descubrir y actuar según su inspiración, y estamos abordando intencionalmente este nuevo panorama de una manera reflexiva que beneficie a todos en Pinterest".
La estrategia de Pinterest parece centrarse en encontrar un equilibrio entre aprovechar las capacidades de la IA para enriquecer la experiencia de usuario y evitar que el contenido generado artificialmente degrade la calidad de la plataforma. Este enfoque podría marcar el camino para otras redes sociales que enfrentan desafíos similares en la era de la IA generativa.
El éxito de estas nuevas medidas será crucial para el futuro de Pinterest, que necesita recuperar la confianza de sus usuarios y mantener su posición como una de las principales plataformas de descubrimiento e inspiración visual en internet.
