Google ha anunciado que comenzará a incluir marcas de agua digitales en todas las imágenes que sean modificadas utilizando las funciones de inteligencia artificial generativa de su editor Magic Editor. Esta medida, que entra en vigor esta semana, busca aumentar la transparencia en el uso de la IA para la edición de fotografías.
Nueva función de transparencia
La implementación se centrará específicamente en las imágenes alteradas mediante la función Reimagine, disponible en Magic Editor para los dispositivos Pixel 9. Esta característica, que fue presentada en 2024, utiliza inteligencia artificial generativa para realizar modificaciones significativas en fotografías digitales, permitiendo ediciones que van más allá de los ajustes tradicionales.
SynthID: La tecnología detrás de las marcas de agua
Para implementar estas marcas de agua digitales, Google utilizará SynthID, una tecnología desarrollada por su división DeepMind. Esta herramienta, que actualmente se encuentra en versión beta, permite insertar marcas de agua digitales directamente en el contenido generado por IA sin comprometer la calidad visual de la imagen original. Además de imágenes, SynthID también puede trabajar con archivos de texto y video.
Funcionamiento y verificación
Los usuarios podrán verificar la presencia de estas marcas de agua de dos maneras:
- A través de la función 'About this Image', que mostrará la información en los metadatos de la foto
- Mediante el propio sistema SynthID, que puede escanear imágenes para detectar la presencia de estas marcas de agua
Limitaciones técnicas
Google ha señalado que existen algunas limitaciones en el sistema. En particular, cuando las ediciones realizadas son muy pequeñas o sutiles, como cambiar el color de una flor en el fondo de una imagen, es posible que SynthID no pueda aplicar o detectar la marca de agua de manera efectiva.
Contexto y motivación
Esta iniciativa forma parte de un esfuerzo más amplio de Google para aumentar la transparencia en las herramientas de edición con IA dentro de Google Photos. La decisión se alinea con los principios de IA publicados por la compañía, que enfatizan la importancia de la transparencia y la responsabilidad en el desarrollo y uso de tecnologías de inteligencia artificial.
La medida llega en un momento en que la comunidad tecnológica y los defensores digitales han estado solicitando métodos universales para ayudar al público a distinguir entre fotografías originales e imágenes modificadas o generadas por IA, especialmente dado el creciente realismo de las imágenes creadas o modificadas mediante inteligencia artificial.
Esta implementación de marcas de agua digitales representa un paso significativo hacia una mayor transparencia en el uso de la IA en la edición de imágenes, estableciendo un precedente que podría influir en cómo otras empresas tecnológicas abordan desafíos similares en el futuro.
