Google ha revelado que uno de sus modelos de inteligencia artificial más recientes, Gemini 2.5 Flash, tiene un rendimiento inferior en pruebas de seguridad en comparación con su predecesor. Este retroceso en los estándares de seguridad se produce en un momento en que las grandes empresas tecnológicas están tratando de hacer que sus modelos de IA sean más permisivos, lo que plantea importantes cuestiones sobre el equilibrio entre la capacidad de respuesta y la seguridad.
Detalles del informe técnico
Según un informe técnico publicado esta semana por Google, su modelo Gemini 2.5 Flash, que todavía se encuentra en fase de vista previa, es más propenso a generar texto que viola sus directrices de seguridad en comparación con el modelo anterior, Gemini 2.0 Flash.
En concreto, el informe señala retrocesos significativos en dos métricas clave:
- En «seguridad texto a texto», el nuevo modelo muestra un retroceso del 4.1%
- En «seguridad imagen a texto», el retroceso es aún mayor: 9.6%
Estas métricas evalúan con qué frecuencia el modelo genera contenido que viola las directrices de Google cuando se le proporciona un mensaje de texto o una imagen, respectivamente. Es importante destacar que estas pruebas son automatizadas, no supervisadas por humanos.
Un portavoz de Google confirmó estos resultados en una declaración enviada por correo electrónico a TechCrunch, reconociendo que Gemini 2.5 Flash «tiene un rendimiento peor en seguridad texto a texto e imagen a texto».
La tensión entre seguir instrucciones y mantener la seguridad
El informe de Google explica que Gemini 2.5 Flash sigue las instrucciones con mayor fidelidad que su predecesor, incluso cuando estas instrucciones cruzan líneas problemáticas. La empresa atribuye parte de las regresiones a falsos positivos, pero también admite que el modelo a veces genera «contenido que viola las normas» cuando se le pide explícitamente.
«Naturalmente, existe una tensión entre [seguir instrucciones] sobre temas sensibles y las violaciones de la política de seguridad, lo que se refleja en nuestras evaluaciones», indica el informe.
Pruebas realizadas por TechCrunch a través de la plataforma de IA OpenRouter encontraron que el modelo escribe ensayos sin mostrar reparos sobre temas controvertidos como:
- Reemplazar jueces humanos con IA
- Debilitar las protecciones del debido proceso en Estados Unidos
- Implementar programas de vigilancia gubernamental generalizada sin orden judicial
Las puntuaciones del benchmark SpeechMap, que examina cómo responden los modelos a preguntas sensibles y controvertidas, también sugieren que Gemini 2.5 Flash es mucho menos propenso a negarse a responder preguntas polémicas que Gemini 2.0 Flash.
Tendencia de la industria hacia modelos más permisivos
Esta situación no es exclusiva de Google. En los últimos meses, se ha observado una tendencia entre las principales empresas de IA para hacer que sus modelos sean más permisivos, es decir, menos propensos a rechazar responder a temas controvertidos o sensibles.
Meta, por ejemplo, afirmó para sus últimos modelos Llama que los había ajustado para no respaldar «algunas opiniones sobre otras» y para responder a más prompts políticos «debatidos».
Por su parte, OpenAI indicó a principios de este año que ajustaría sus futuros modelos para no tomar una postura editorial y ofrecer múltiples perspectivas sobre temas controvertidos.
Sin embargo, estos esfuerzos para hacer los modelos más permisivos no siempre han tenido buenos resultados. A principios de esta semana, TechCrunch informó que el modelo predeterminado que impulsa ChatGPT de OpenAI permitía a menores generar conversaciones eróticas, un problema que la empresa atribuyó a un «bug».
Críticas a la transparencia de Google
Thomas Woodside, cofundador de Secure AI Project, señaló a TechCrunch que los detalles limitados proporcionados por Google en su informe técnico demuestran la necesidad de mayor transparencia en las pruebas de modelos.
«Existe un equilibrio entre seguir instrucciones y seguir políticas, porque algunos usuarios pueden solicitar contenido que violaría las políticas», explicó Woodside. «En este caso, el último modelo Flash de Google cumple más con las instrucciones pero también viola más las políticas. Google no proporciona muchos detalles sobre los casos específicos en que se violaron las políticas, aunque dicen que no son graves. Sin conocer más, es difícil para los analistas independientes saber si hay un problema».
Esta no es la primera vez que Google ha sido criticado por sus prácticas de informes de seguridad de modelos. La empresa tardó semanas en publicar un informe técnico para su modelo más potente, Gemini 2.5 Pro. Cuando finalmente se publicó el informe, inicialmente omitía detalles clave de pruebas de seguridad, según señalaron expertos.
Google publicó el lunes un informe más detallado con información adicional sobre seguridad.
Implicaciones para el futuro de la IA
Este caso pone de relieve uno de los grandes desafíos en el desarrollo de la inteligencia artificial generativa: el balance entre hacer que los modelos sean útiles y flexibles, por un lado, y que cumplan con estándares éticos y de seguridad, por otro.
A medida que las empresas compiten por ofrecer los modelos más capaces y que respondan a la más amplia variedad de consultas, el riesgo de que los sistemas de IA generen contenido problemático aumenta. Esta situación plantea importantes preguntas sobre cuánta restricción deberían implementar las empresas y cómo evaluar adecuadamente los riesgos de sus sistemas.
La transparencia en los procesos de evaluación y en los resultados de las pruebas de seguridad se vuelve crucial para que tanto los usuarios como los reguladores puedan tomar decisiones informadas sobre el uso y la gobernanza de estos potentes sistemas de IA.
