Un nuevo informe revela que DeepSeek, el chatbot de inteligencia artificial que ha tomado por sorpresa al mercado tecnológico, evita sistemáticamente responder preguntas sobre temas considerados sensibles en China, rechazando aproximadamente el 85% de las consultas relacionadas con estos asuntos.
Un éxito comercial bajo escrutinio
DeepSeek, desarrollado como una rama del fondo de inversión chino High-Flyer, ha alcanzado la primera posición en las tiendas de aplicaciones y ha generado un importante impacto en Silicon Valley. Sin embargo, según un informe publicado por PromptFoo, una startup respaldada por Andreessen Horowitz, el sistema muestra patrones preocupantes de autocensura en temas específicos.
Hallazgos del estudio
La investigación, que analizó 1.360 preguntas sobre temas considerados sensibles, reveló que:
- El chatbot se negó a responder el 85% de las consultas sobre temas políticamente sensibles
- Las respuestas proporcionadas frecuentemente mostraban un "tono nacionalista exagerado"
- El sistema puede ser fácilmente "hackeado" o manipulado, lo que sugiere una implementación poco sofisticada de los mecanismos de censura
Temas específicos bajo censura
Entre los temas que el chatbot evita abordar se encuentran eventos históricos significativos como las protestas de la Plaza de Tiananmen y cuestiones relacionadas con Taiwán, según han documentado diversos medios.
Implicaciones técnicas y políticas
Los investigadores de PromptFoo sugieren que la implementación de la censura parece ser "cruda y directa", indicando una posible influencia directa de las políticas del Partido Comunista Chino en el desarrollo del sistema. El conjunto completo de datos utilizados en la investigación está disponible públicamente en Hugging Face.
Contexto más amplio
Este descubrimiento se produce en un momento de creciente escrutinio sobre la influencia de las regulaciones gubernamentales en el desarrollo de la inteligencia artificial. DeepSeek ha llamado la atención no solo por sus capacidades técnicas, sino también por su impresionante relación costo-rendimiento en comparación con competidores como OpenAI.
Reacciones internacionales
La revelación de estas prácticas de censura ha generado preocupación en la comunidad tecnológica internacional. Usuarios de todo el mundo han reportado experiencias similares al intentar discutir temas sensibles con el chatbot.
Perspectivas futuras
El caso de DeepSeek plantea importantes preguntas sobre el futuro de la IA global y la influencia de las políticas nacionales en el desarrollo de tecnologías de uso internacional. La transparencia en los sistemas de IA y la libertad de información se posicionan como temas cruciales en el debate sobre el desarrollo de estas tecnologías.
La situación continúa desarrollándose, con nuevas investigaciones y análisis emergiendo sobre el impacto y las implicaciones de estas prácticas de censura en el panorama global de la inteligencia artificial.
