Una destacada investigadora de seguridad en inteligencia artificial de OpenAI ha anunciado su renuncia a la empresa, citando preocupaciones sobre los cambios recientes en la organización y su enfoque hacia el desarrollo de sistemas de IA más avanzados.
La decisión de abandonar OpenAI
Rosie Campbell, quien trabajó durante tres años y medio en OpenAI, anunció su renuncia a través de su blog personal, donde compartió el mensaje que previamente había publicado en el Slack interno de la empresa. Su decisión está directamente relacionada con la reciente salida de Miles Brundage, quien dirigía el equipo de preparación para la Inteligencia Artificial General (AGI, por sus siglas en inglés), y la posterior disolución de dicho equipo.
"Siempre he estado fuertemente motivada por la misión de asegurar una AGI segura y beneficiosa", escribió Campbell en su mensaje, añadiendo que "después de la salida de [Brundage] y la disolución del equipo de preparación para AGI, creo que puedo perseguir este objetivo de manera más efectiva desde fuera".
Cambios preocupantes en la cultura empresarial
La investigadora expresó su inquietud por los cambios ocurridos en OpenAI durante el último año, un período que coincide con varios acontecimientos significativos en la empresa, incluyendo el controvertido intento de destituir al CEO Sam Altman en noviembre de 2023, quien posteriormente fue reintegrado a su cargo.
"Aunque el cambio es inevitable con el crecimiento, me han inquietado algunos de los giros durante el último año aproximadamente, y la pérdida de tantas personas que dieron forma a nuestra cultura", señaló Campbell en su mensaje de despedida.
Preocupaciones sobre la seguridad de la IA
Un aspecto particularmente relevante de la renuncia de Campbell es su advertencia sobre la seguridad de los sistemas de IA. La investigadora instó a sus ex colegas a "tomar en serio la posibilidad de que nuestro enfoque actual sobre seguridad podría no ser suficiente para los sistemas muchísimo más potentes que creemos que podrían llegar esta década".
Esta advertencia se suma a una serie de preocupaciones similares expresadas por otros ex empleados que han abandonado la empresa en los últimos meses.
Impacto en el sector de la IA
La salida de Campbell se produce en un momento crucial para OpenAI, que ha experimentado múltiples renuncias de personal clave mientras la empresa navega por su crecimiento y transformación comercial.
En su mensaje final, Campbell recordó a sus antiguos compañeros que la misión de OpenAI "no es simplemente 'construir AGI'", sino asegurarse de que esta tecnología beneficie a la humanidad, haciendo referencia a la misión original de la empresa.
La renuncia de Campbell representa otro capítulo significativo en el debate continuo sobre el equilibrio entre el avance tecnológico y la seguridad en el desarrollo de la inteligencia artificial, especialmente en el contexto de una de las empresas más influyentes del sector.
