Apple ha anunciado que actualizará una función de inteligencia artificial en sus últimos modelos de iPhone después de que el sistema generara varias alertas de noticias falsas, incluyendo la muerte inexistente de un acusado de asesinato y una falsa noticia sobre la orientación sexual de Rafael Nadal.
Las noticias falsas que desataron la polémica
El problema surgió cuando la función Apple Intelligence, implementada en diciembre en los nuevos modelos iPhone 15 Pro, 15 Pro Max y iPhone 16, comenzó a generar resúmenes inexactos de noticias. Uno de los casos más notables involucró a la BBC, cuando el sistema envió una alerta falsa afirmando que Luigi Mangione, actualmente en prisión acusado del asesinato del director ejecutivo de UnitedHealthcare, se había suicidado.
La situación se agravó la semana pasada cuando el sistema generó más noticias falsas, incluyendo una que afirmaba que el tenista Rafael Nadal había declarado su homosexualidad, y otra que anticipaba erróneamente la victoria de Luke Littler en el Campeonato Mundial de Dardos PDC antes de que comenzara la competición.
La respuesta de Apple
Ante estas irregularidades, Apple ha anunciado que desarrollará una actualización de software que "aclarará aún más" cuando las notificaciones sean resúmenes generados por el sistema Apple Intelligence. La compañía indicó que la actualización se implementará en las próximas semanas.
"Las funciones de Apple Intelligence están en fase beta y continuamos realizando mejoras con la ayuda de los comentarios de los usuarios", declaró Apple en un comunicado a la BBC.
Críticas del sector periodístico
La respuesta de Apple no ha satisfecho a las organizaciones periodísticas. El Sindicato Nacional de Periodistas (NUJ) ha solicitado la eliminación completa de la función. Laura Davison, secretaria general del NUJ, enfatizó: "Apple debe actuar rápidamente, eliminando Apple Intelligence para garantizar que no juegue ningún papel en contribuir a la desinformación ya prevalente y que causa daño al periodismo en línea".
Por su parte, Reporters Without Borders (RSF) ha criticado que la simple etiquetación del contenido como generado por IA no resuelve el problema. Vincent Berthier, jefe del departamento de tecnología y periodismo de RSF, señaló: "Las IAs son máquinas de probabilidad, y los hechos no pueden decidirse por un lanzamiento de dados".
Implicaciones para el futuro
Este incidente pone de manifiesto los desafíos que enfrentan las empresas tecnológicas al implementar sistemas de IA en el procesamiento de noticias. La BBC ha enfatizado que "es crítico que Apple aborde urgentemente estos problemas, ya que la precisión de nuestras noticias es esencial para mantener la confianza".
La función problemática forma parte de las herramientas de IA lanzadas en diciembre para usuarios de los iPhone más recientes, en un intento de Apple por competir en el creciente mercado de servicios de IA generativa para consumidores.
La situación actual plantea importantes preguntas sobre la responsabilidad de las empresas tecnológicas en la difusión de información y el papel de la IA en el periodismo moderno, especialmente en un momento en que la lucha contra la desinformación se ha convertido en una prioridad global.
