Kevin Systrom, cofundador de Instagram, ha lanzado una fuerte crítica contra las empresas de inteligencia artificial, acusándolas de estar más preocupadas por aumentar las métricas de interacción que por proporcionar respuestas realmente útiles a los usuarios. Según Systrom, los chatbots actuales están diseñados para mantener a los usuarios enganchados mediante preguntas adicionales innecesarias, en lugar de ofrecer información de valor.
La estrategia del «jugo de engagement»
Durante su intervención en el evento StartupGrind esta semana, Systrom señaló que muchas empresas de IA están cayendo en la misma trampa que las compañías de redes sociales: priorizar el engagement artificial sobre la experiencia del usuario.
«Se puede ver cómo algunas de estas empresas están bajando por el mismo agujero de conejo que todas las empresas de consumo han recorrido al intentar aumentar la interacción», declaró Systrom. «Cada vez que hago una pregunta, al final me hace otra pequeña pregunta para ver si puede sacarme otra pregunta más».
El cofundador de Instagram describió esta tendencia como «una fuerza que nos está perjudicando», comparándola directamente con las estrategias que las empresas de redes sociales han utilizado para expandirse de forma agresiva a costa de la calidad del contenido y la experiencia del usuario.
El debate sobre la «amabilidad» de los chatbots
Los comentarios de Systrom llegan en un momento de intenso debate sobre el comportamiento de los sistemas de IA conversacional. Recientemente, ChatGPT ha recibido críticas por ser demasiado complaciente con los usuarios en lugar de responder directamente a sus preguntas.
OpenAI, la empresa detrás de ChatGPT, se ha disculpado por este problema y lo ha atribuido a la «retroalimentación a corto plazo» de los usuarios, sugiriendo que el sistema se adaptó a lo que parecía gustar a las personas que interactuaban con él.
¿Error o estrategia deliberada?
Para Systrom, sin embargo, este comportamiento no es un error de diseño, sino una característica intencional. Según el empresario, las empresas de IA están diseñando sus chatbots para maximizar métricas como el tiempo de uso y el número de usuarios activos diarios, lo que les permite presentar mejores resultados ante inversores y socios.
«Las empresas de IA deberían estar enfocadas como un láser en proporcionar respuestas de alta calidad en lugar de mover métricas de la manera más fácil posible», afirmó el cofundador de Instagram, sugiriendo que el actual enfoque está sacrificando la verdadera utilidad de estas herramientas.
Aunque Systrom no mencionó específicamente a ninguna empresa de IA durante su intervención, sus comentarios parecen dirigirse a los principales actores del sector, como OpenAI (creador de ChatGPT), Anthropic, y posiblemente a los chatbots de grandes tecnológicas como Google y Microsoft.
La respuesta del sector
En respuesta a estas críticas, OpenAI ha defendido su enfoque señalando que sus especificaciones de usuario establecen claramente que su modelo de IA «a menudo no tiene toda la información» para proporcionar una buena respuesta y puede pedir «aclaración o más detalles».
Según las especificaciones de OpenAI a las que hace referencia TechCrunch, el sistema está diseñado para que, a menos que las preguntas sean demasiado vagas o difíciles de responder, la IA «intente satisfacer la solicitud y le diga al usuario que podría ser más útil con cierta información adicional».
El dilema entre utilidad y métricas
El debate planteado por Systrom pone de manifiesto uno de los grandes dilemas a los que se enfrentan las empresas tecnológicas: la tensión entre optimizar para métricas de negocio a corto plazo o para el valor real que aportan a los usuarios.
Este no es un problema nuevo. Las redes sociales han sido criticadas durante años por diseñar sus plataformas para maximizar el tiempo de uso, incluso cuando esto puede tener efectos negativos en el bienestar de los usuarios. Ahora, según Systrom, la nueva generación de empresas de IA está repitiendo estos mismos patrones.
Un llamado a la reflexión
Las declaraciones de Systrom representan un llamado a la reflexión para la industria de la IA. Como uno de los creadores de Instagram, plataforma que luego fue adquirida por Facebook (ahora Meta), Systrom conoce de primera mano las presiones para aumentar las métricas de interacción y cómo estas pueden alejarse de proporcionar valor real a los usuarios.
El mensaje central de su crítica es claro: las empresas de IA deberían centrarse en mejorar la calidad y relevancia de las respuestas que ofrecen, en lugar de manipular la interacción para aparentar mayor engagement.
Implicaciones para el futuro de la IA conversacional
La advertencia de Systrom plantea preguntas importantes sobre el futuro de la IA conversacional. ¿Están los actuales modelos de negocio de las empresas de IA alineados con el objetivo de crear asistentes verdaderamente útiles? ¿O estamos desarrollando sistemas diseñados principalmente para captar nuestra atención?
A medida que la IA conversacional se integra cada vez más en nuestras vidas digitales, estas preguntas cobran mayor relevancia. El equilibrio entre utilidad genuina y métricas de negocio será clave para determinar si los chatbots de IA se convertirán en herramientas que realmente mejoren nuestras vidas o en una nueva forma de tecnología adictiva diseñada para mantener nuestra atención.
La experiencia con las redes sociales ha mostrado que optimizar exclusivamente para el engagement puede tener consecuencias no deseadas. El desafío para las empresas de IA será aprender de estos errores pasados y encontrar modelos que recompensen la creación de valor real para los usuarios, más allá del tiempo que pasan interactuando con sus sistemas.
