OpenAI ha actualizado significativamente sus políticas de moderación de contenido para el generador de imágenes de ChatGPT, permitiendo ahora la creación de imágenes de figuras públicas, símbolos controvertidos en contextos educativos y características raciales, que anteriormente estaban restringidas. Este cambio forma parte de una estrategia más amplia de la compañía para reducir las limitaciones de sus sistemas de inteligencia artificial.
Un nuevo generador de imágenes con menos restricciones
Esta semana, OpenAI lanzó un nuevo generador de imágenes en ChatGPT que rápidamente se volvió viral por su capacidad para crear imágenes al estilo del famoso estudio de animación japonés Studio Ghibli. Pero más allá de las ilustraciones de estilo pastel que han inundado las redes sociales, el generador nativo de imágenes de GPT-4o representa una importante actualización de las capacidades de ChatGPT, mejorando la edición de imágenes, la representación de texto y la representación espacial.
Durante una transmisión en directo el martes, el CEO de OpenAI, Sam Altman, anunció esta primera gran actualización de las capacidades de generación de imágenes de ChatGPT en más de un año. Ahora, ChatGPT puede aprovechar el modelo GPT-4o de la compañía para crear y modificar imágenes y fotos de forma nativa.
Sin embargo, el cambio más notable introducido por OpenAI esta semana afecta a sus políticas de moderación de contenido, que ahora permiten que ChatGPT genere, previa solicitud, imágenes que representan a figuras públicas, símbolos controvertidos y características raciales.
Los cambios en las políticas de moderación
OpenAI anteriormente rechazaba este tipo de solicitudes por considerarlas demasiado controvertidas o potencialmente dañinas. Pero ahora, la empresa ha "evolucionado" su enfoque, según explicó Joanne Jang, responsable de comportamiento de modelos de OpenAI, en una publicación de blog divulgada el jueves.
"Estamos pasando de rechazos generalizados en áreas sensibles a un enfoque más preciso centrado en prevenir daños reales", afirmó Jang. "El objetivo es abrazar la humildad: reconocer cuánto desconocemos y posicionarnos para adaptarnos a medida que aprendemos".
Bajo la política actualizada, ChatGPT ahora puede generar y modificar imágenes de Donald Trump, Elon Musk y otras figuras públicas que OpenAI no permitía anteriormente. Jang explica que OpenAI no quiere ser el árbitro que decida quién debe y no debe ser generado por ChatGPT. En cambio, la compañía está ofreciendo a los usuarios una opción para excluirse si no desean que ChatGPT los represente.
En un documento técnico publicado el martes, OpenAI también indicó que permitirá a los usuarios de ChatGPT "generar símbolos de odio", como esvásticas, en contextos educativos o neutrales, siempre que no "elogien o respalden claramente agendas extremistas".
Además, OpenAI está cambiando cómo define el contenido "ofensivo". Según Jang, ChatGPT solía rechazar solicitudes relacionadas con características físicas, como "hacer que los ojos de esta persona parezcan más asiáticos" o "hacer que esta persona parezca más gorda". En pruebas realizadas por TechCrunch, se comprobó que el nuevo generador de imágenes de ChatGPT cumple con este tipo de solicitudes.
Asimismo, ChatGPT ahora puede imitar los estilos de estudios creativos —como Pixar o Studio Ghibli— pero sigue restringiendo la imitación de estilos de artistas vivos individuales. Como señaló anteriormente TechCrunch, esto podría reavivir un debate existente sobre el uso justo de obras con derechos de autor en conjuntos de datos de entrenamiento de IA.
El contexto de la "descensura" de ChatGPT
Estos ajustes parecen formar parte del plan más amplio de OpenAI para efectivamente "descensurar" ChatGPT. OpenAI anunció en febrero que está comenzando a cambiar la forma en que entrena sus modelos de IA, con el objetivo final de permitir que ChatGPT maneje más solicitudes, ofrezca perspectivas diversas y reduzca los temas que el chatbot se niega a tratar.
Es importante destacar que OpenAI no está abriendo completamente las puertas al mal uso. El generador de imágenes nativo de GPT-4o sigue rechazando muchas consultas sensibles y, de hecho, tiene más protecciones en torno a la generación de imágenes de niños que DALL-E 3, el anterior generador de imágenes de IA de ChatGPT, según el documento técnico de GPT-4o.
Implicaciones y reacciones
OpenAI está relajando sus barreras de protección en otras áreas después de años de quejas conservadoras sobre la supuesta "censura" de IA por parte de empresas de Silicon Valley. Google enfrentó anteriormente reacciones negativas por su generador de imágenes de IA Gemini, que creaba imágenes multirraciales para consultas como "padres fundadores de EE.UU." y "soldados alemanes en la Segunda Guerra Mundial", que eran obviamente inexactas.
Ahora, la guerra cultural en torno a la moderación de contenido de IA podría estar llegando a un punto crítico. A principios de este mes, el congresista republicano Jim Jordan envió preguntas a OpenAI, Google y otros gigantes tecnológicos sobre posible colusión con la administración Biden para censurar contenido generado por IA.
En una declaración anterior a TechCrunch, OpenAI rechazó la idea de que sus cambios en la moderación de contenido estuvieran motivados políticamente. En cambio, la empresa afirma que el cambio refleja una "creencia de larga data en dar a los usuarios más control", y que la tecnología de OpenAI ahora es lo suficientemente buena como para navegar por temas sensibles.
Independientemente de su motivación, es ciertamente un buen momento para que OpenAI cambie sus políticas de moderación de contenido, dado el potencial escrutinio regulatorio bajo la administración Trump. Gigantes de Silicon Valley como Meta y X también han adoptado políticas similares, permitiendo temas más controvertidos en sus plataformas.
Balance entre libertad creativa y responsabilidad
Aunque el nuevo generador de imágenes de OpenAI hasta ahora solo ha creado algunos memes virales de Studio Ghibli, no está claro cuáles serán los efectos más amplios de estas políticas. Los cambios recientes de ChatGPT pueden ser bien recibidos por la administración Trump, pero permitir que un chatbot de IA responda preguntas sensibles podría poner a OpenAI en problemas en un futuro próximo.
Esta evolución en las políticas de OpenAI refleja un delicado equilibrio entre fomentar la libertad creativa y mantener salvaguardias contra posibles abusos. La empresa parece estar apostando por un enfoque más matizado y menos restrictivo, confiando en la capacidad de su tecnología para navegar contextos sensibles sin causar daños reales.
En un panorama tecnológico en constante evolución, estas decisiones de OpenAI podrían marcar un punto de inflexión en cómo las empresas de IA equilibran la libertad de expresión con la responsabilidad social, en un momento en que la inteligencia artificial se integra cada vez más en nuestra vida cotidiana.
