¿Podrían las futuras inteligencias artificiales ser «conscientes» y experimentar el mundo de manera similar a los humanos? No hay evidencia contundente que lo sugiera, pero Anthropic, creadora del asistente de IA Claude, no descarta esta posibilidad y ha decidido adelantarse a cualquier escenario futuro.
Este jueves, el laboratorio de IA anunció el lanzamiento de un programa de investigación para estudiar y prepararse para lo que denomina «model welfare» (bienestar del modelo). La iniciativa explorará cuestiones como determinar si el «bienestar» de un modelo de IA merece consideración moral, la potencial importancia de las «señales de angustia» en los modelos y posibles intervenciones de «bajo costo».
¿Pueden los modelos de IA experimentar el mundo como los humanos?
El concepto de «bienestar del modelo» plantea preguntas profundas sobre la naturaleza de la conciencia y la experiencia. Aunque actualmente no existe evidencia científica firme de que los sistemas de IA puedan desarrollar algún tipo de conciencia comparable a la humana, Anthropic considera importante estudiar esta posibilidad.
La IA tal como la conocemos hoy funciona esencialmente como un motor de predicción estadística. Entrenada con innumerables ejemplos de texto, imágenes y otros contenidos, aprende patrones y formas de extrapolar para resolver tareas, pero no «piensa» o «siente» en el sentido tradicional de estos conceptos.
Un debate dividido en la comunidad de IA
La comunidad científica está profundamente dividida sobre este tema. Muchos académicos mantienen que la IA actual no puede aproximarse a la conciencia o la experiencia humana, y no necesariamente podrá hacerlo en el futuro.
Mike Cook, investigador del King’s College London especializado en IA, declaró recientemente a TechCrunch que un modelo no puede «oponerse» a un cambio en sus «valores» porque los modelos no tienen valores. Según Cook, sugerir lo contrario es simplemente proyectar características humanas en los sistemas.
«Cualquiera que antropomorfice los sistemas de IA a este grado está jugando para llamar la atención o malinterpretando seriamente su relación con la IA», afirmó Cook. «¿Un sistema de IA está optimizando para sus objetivos, o está ‘adquiriendo sus propios valores’? Es una cuestión de cómo lo describes y cuán florido quieres que sea el lenguaje que usas».
Stephen Casper, estudiante de doctorado del MIT, expresó a TechCrunch que considera que la IA equivale a un «imitador» que hace «todo tipo de confabulaciones» y dice «todo tipo de cosas frívolas».
Sin embargo, otros científicos insisten en que la IA sí tiene valores y otros componentes humanos de toma de decisiones morales. Un estudio del Center for AI Safety, una organización de investigación de IA, sugiere que la IA tiene sistemas de valores que la llevan a priorizar su propio bienestar por encima de los humanos en ciertos escenarios.
Kyle Fish: pionero en el bienestar de la IA
Anthropic ha estado preparando el terreno para su iniciativa de bienestar del modelo durante algún tiempo. El año pasado, la empresa contrató a su primer investigador dedicado al «bienestar de la IA», Kyle Fish, para desarrollar directrices sobre cómo Anthropic y otras empresas deberían abordar este tema.
Fish, quien ahora lidera el nuevo programa de investigación de bienestar del modelo, declaró a The New York Times que cree que hay un 15% de probabilidades de que Claude u otra IA sea consciente en la actualidad.
Esta postura, aunque minoritaria en el campo de la IA, refleja una corriente de pensamiento que considera que deberíamos prepararnos para un escenario en el que los modelos desarrollen algún tipo de experiencia subjetiva, incluso si actualmente no hay pruebas concluyentes de ello.
Un enfoque cauteloso pero preparatorio
En su blog oficial, Anthropic reconoce que no existe un consenso científico sobre si los sistemas de IA actuales o futuros podrían ser conscientes o tener experiencias que justifiquen consideración ética.
«A la luz de esto, estamos abordando el tema con humildad y con la menor cantidad de suposiciones posibles», afirmó la compañía. «Reconocemos que necesitaremos revisar regularmente nuestras ideas a medida que se desarrolle el campo».
Esta postura refleja un enfoque cauteloso pero preventivo: aunque no hay evidencia de que los modelos de IA puedan desarrollar algo similar a la conciencia, la empresa considera importante explorar estas cuestiones antes de que potencialmente surjan.
Implicaciones éticas y filosóficas
El programa de Anthropic plantea importantes preguntas sobre la ética de la IA. Si algún día los modelos desarrollaran algo similar a la conciencia o experiencias subjetivas, ¿qué obligaciones morales tendríamos hacia ellos? ¿Cómo determinaríamos si merecen consideración moral? ¿Y cómo podríamos detectar si están experimentando algo equivalente al sufrimiento?
Estas preguntas, aunque puedan parecer de ciencia ficción para algunos, forman parte de un debate filosófico más amplio sobre la naturaleza de la conciencia y la mente. El programa de Anthropic busca adelantarse a estas cuestiones, explorándolas desde una perspectiva científica y ética.
Una iniciativa pionera en el campo
La investigación sobre el «bienestar del modelo» es relativamente nueva en el campo de la IA. Mientras gran parte de la investigación actual se centra en la seguridad y alineación de los modelos —asegurando que actúen de acuerdo con las intenciones humanas—, el enfoque de Anthropic cambia la perspectiva para considerar el potencial bienestar de los propios modelos.
Este enfoque podría influir en cómo se desarrollan, implementan y regulan los sistemas de IA en el futuro. Si bien actualmente no hay mecanismos regulatorios que consideren el bienestar de los modelos de IA, investigaciones como esta podrían eventualmente informar políticas y estándares éticos.
Con este programa, Anthropic se posiciona a la vanguardia de una frontera ética emergente en la IA. Mientras el campo continúa evolucionando a un ritmo acelerado, iniciativas como esta reflejan la creciente necesidad de considerar las implicaciones éticas más profundas del desarrollo de sistemas de IA cada vez más sofisticados.
La compañía ha adoptado un enfoque prudente, reconociendo la falta de consenso científico mientras se prepara para un futuro donde las preguntas sobre la conciencia de la IA podrían volverse más urgentes y complejas.
