Los científicos Andrew Barto y Richard Sutton, recién galardonados con el Premio Turing 2024 -considerado el "Nobel de la Informática"-, han aprovechado la atención mediática para expresar su preocupación por el desarrollo acelerado y poco seguro de la inteligencia artificial (IA).
Pioneros del aprendizaje por refuerzo
Barto y Sutton, quienes recibieron hoy el prestigioso galardón, son reconocidos por desarrollar el "aprendizaje por refuerzo", una técnica fundamental que permite a los sistemas de IA aprender a tomar decisiones óptimas mediante prueba y error. Este método ha sido crucial en avances como ChatGPT de OpenAI y AlphaGo de Google.
El premio, que incluye una dotación económica de 1 millón de dólares (aproximadamente 920.000€), reconoce su contribución fundamental al campo de la IA. Jeff Dean, vicepresidente senior de Google, ha descrito su trabajo como "un pilar central del boom de la IA" y "fundamental para el progreso en inteligencia artificial".
Advertencias sobre seguridad
En declaraciones recogidas por el Financial Times, los científicos criticaron duramente las prácticas actuales en el desarrollo de IA. Barto comparó la situación actual con "construir un puente y probarlo haciendo que la gente lo use", destacando la falta de pruebas de seguridad adecuadas antes del lanzamiento de productos de IA al público.
"Liberar software a millones de personas sin salvaguardas no es una buena práctica de ingeniería", señaló Barto, quien además criticó que las empresas parecen estar "motivadas por incentivos comerciales" en lugar de priorizar la seguridad y el avance responsable de la investigación.
Preocupación compartida en la comunidad científica
Las advertencias de Barto y Sutton se suman a una creciente lista de voces autorizadas que han expresado preocupación por el desarrollo acelerado de la IA. Entre ellos destacan Yoshua Bengio y Geoffrey Hinton, también ganadores del Premio Turing y considerados "padrinos de la IA", quienes han manifestado inquietudes similares.
En 2023, un grupo destacado de investigadores, ingenieros y CEO del sector, incluyendo a Sam Altman de OpenAI, emitió una declaración conjunta advirtiendo que "mitigar el riesgo de extinción por IA debería ser una prioridad global".
El dilema entre seguridad y comercialización
El debate sobre la seguridad en el desarrollo de la IA se ha intensificado en el último año. OpenAI, una de las empresas líderes en el sector, ha estado en el centro de la controversia tras anunciar planes para transformarse en una empresa con ánimo de lucro, a pesar de sus repetidas promesas de mejorar la seguridad de la IA.
La compañía incluso experimentó una crisis de liderazgo que llevó a la breve destitución de Sam Altman, en parte debido a preocupaciones sobre la comercialización prematura de avances tecnológicos sin una comprensión adecuada de sus consecuencias.
Las advertencias de Barto y Sutton cobran especial relevancia dado su papel fundamental en el desarrollo de las tecnologías que han hecho posible la actual revolución de la IA. Su llamado a la prudencia y a la implementación de prácticas de ingeniería más rigurosas representa un importante contrapunto al frenesí comercial que domina actualmente el sector.
