Un destacado profesor de Stanford especializado en desinformación y tecnología se ha visto obligado a admitir que utilizó citas bibliográficas falsas generadas por ChatGPT en una declaración judicial, según informa Stanford Daily.
Jeff Hancock, profesor de Comunicación en Stanford y reconocido experto en tecnología y desinformación, reconoció haber pasado por alto "citas alucinadas" en un documento legal que preparó con la ayuda de inteligencia artificial para un caso judicial en Minnesota.
El caso judicial y la controversia
La declaración de Hancock fue presentada el 1 de noviembre como parte de un caso judicial que examina la ley de Minnesota de 2023 que prohíbe el uso de deepfakes para influir en elecciones. El profesor actuaba como experto en nombre del Fiscal General de Minnesota, Keith Ellison, argumentando que los deepfakes amplifican la desinformación y socavan la confianza en las instituciones democráticas.
Los errores y la explicación
En su más reciente presentación judicial, Hancock explicó que utilizó GPT-4o y Google Scholar para crear una lista de citas para su declaración. Sin embargo, no se percató cuando la IA generó dos citas bibliográficas inexistentes y introdujo un error en la lista de autores de un estudio existente.
"Utilizo herramientas como GPT-4o para mejorar la calidad y eficiencia de mi flujo de trabajo, incluyendo búsqueda, análisis, formato y redacción", escribió Hancock en su aclaración. El error ocurrió cuando solicitó a la IA que escribiera un párrafo basado en sus notas, donde había incluido marcadores "[cite]" como recordatorio para añadir las citas correctas posteriormente.
Impacto y consecuencias
Por su trabajo en la declaración judicial, Hancock recibió una compensación de 600 dólares por hora (aproximadamente 550 euros), y realizó la declaración bajo pena de perjurio, afirmando que todo lo declarado era "verdadero y correcto".
La situación ha generado cierta controversia en el campus de Stanford, especialmente considerando que Hancock actualmente imparte las asignaturas "Introducción a la Comunicación" y "Lenguaje y Tecnología". De manera particularmente irónica, según reportan sus estudiantes al Stanford Daily, la clase acababa de comenzar a estudiar el tema de las citas académicas.
Respuesta y disculpa
"No fue mi intención engañar al Tribunal ni a los abogados", escribió Hancock en su aclaración. "Expreso mi sincero arrepentimiento por cualquier confusión que esto haya podido causar. Dicho esto, me mantengo firme en todos los puntos sustanciales de la declaración."
La situación ha generado debate sobre el uso de herramientas de IA en el ámbito académico y legal, especialmente considerando que Hancock es un experto en desinformación y tecnología que precisamente advierte sobre los riesgos de las nuevas tecnologías en la difusión de información falsa.
