Microsoft permite ejecutar localmente el nuevo modelo abierto GPT-OSS-20B de OpenAI en Windows

Droids

Updated on:

Microsoft ha puesto a disposición de los usuarios de Windows el nuevo modelo abierto de OpenAI, gpt-oss-20b, a través de Windows AI Foundry. La compañía también llevará este modelo ligero a macOS próximamente mediante sus esfuerzos de foundry local.

OpenAI lanzó ayer este modelo GPT gratuito y abierto que puede ejecutarse en un PC. Para funcionar localmente, el gpt-oss-20b requiere un ordenador o portátil con al menos 16GB de VRAM, lo que significa necesitar GPUs de gama alta de Nvidia o GPUs Radeon con suficiente VRAM.

El modelo está optimizado para la ejecución de código y el uso de herramientas. Según Microsoft, el gpt-oss-20b es «perfecto para construir asistentes autónomos o integrar IA en flujos de trabajo del mundo real, incluso en entornos con ancho de banda limitado». La empresa ha pre-optimizado el modelo para inferencia local y sugiere que el soporte para más dispositivos llegará pronto.

Amazon adoptó con igual rapidez los nuevos modelos GPT-OSS de peso abierto para sus servicios en la nube. Esta es la primera vez que un modelo de OpenAI puede ejecutarse localmente en Windows, y también la primera vez que Amazon, el mayor competidor de Microsoft en la nube, tiene acceso a los últimos modelos de OpenAI.

Fuente: The Verge