El director ejecutivo de Hugging Face, Clement Delangue, ha expresado su preocupación por el creciente dominio de los modelos de inteligencia artificial de código abierto procedentes de China, advirtiendo específicamente sobre el riesgo de que estos sistemas puedan propagar la censura a nivel mundial.
Preocupaciones sobre la censura
En una reciente entrevista en podcast, Delangue señaló que los modelos de IA chinos responden de manera significativamente diferente a ciertas preguntas en comparación con los sistemas desarrollados en Occidente. "Si creas un chatbot y le haces una pregunta sobre Tiananmen, no te va a responder de la misma manera que si fuera un sistema desarrollado en Francia o Estados Unidos", explicó.
El ejecutivo manifestó su inquietud ante la posibilidad de que, si China "se convierte en el país más fuerte en IA, serán capaces de difundir ciertos aspectos culturales que quizás el mundo occidental no querría ver propagados".
Ejemplos concretos de censura
La presencia de censura en los modelos chinos no es una preocupación infundada. TechCrunch ha verificado que algunos modelos, como el QwQ-32B de Alibaba, se niegan a responder preguntas sobre eventos históricos sensibles para el gobierno chino, como la masacre de la Plaza de Tiananmen.
DeepSeek, otro modelo chino que ha ganado notoriedad por sus capacidades de razonamiento, también implementa una extensa censura sobre temas considerados sensibles por las autoridades chinas.
Contexto regulatorio en China
Las empresas chinas de IA se encuentran en una posición complicada, ya que el gobierno exige que sus modelos "encarnen valores socialistas fundamentales" y cumplan con su extenso sistema de censura. Esta situación plantea un dilema para las compañías occidentales que consideran utilizar estos modelos en sus productos.
La paradoja de Hugging Face
Es importante señalar que Hugging Face, la plataforma más grande del mundo para modelos de IA, aloja actualmente varios modelos chinos. De hecho, el CTO de la empresa anunció recientemente que el modelo predeterminado en HuggingChat es el Qwen2.5-72B-Instruct, desarrollado por el gigante chino del comercio electrónico Alibaba.
Perspectivas futuras
Delangue ha pronosticado que China comenzará a liderar la carrera global de IA en 2025. Esta predicción, combinada con sus advertencias sobre la censura, subraya la importancia de mantener un equilibrio en el desarrollo global de la IA.
"Es importante que la IA esté distribuida entre todos los países, que no haya uno o dos países que sean mucho más fuertes que los demás", enfatizó Delangue en el podcast.
Implicaciones para el futuro de la IA
La situación actual plantea importantes interrogantes sobre el futuro desarrollo de la inteligencia artificial a nivel global. La combinación de avances técnicos significativos con restricciones en la libertad de expresión podría tener consecuencias de largo alcance para la evolución de esta tecnología y su impacto en la sociedad global.
La comunidad internacional de IA deberá encontrar un equilibrio entre aprovechar los avances técnicos de los modelos chinos y mantener los valores de libertad de expresión y acceso a la información que caracterizan al desarrollo tecnológico occidental.
