Apple en Controversia por Resúmenes de Noticias con IA que Generan Información Falsa

· 1 min read

article picture

Apple se encuentra en medio de una controversia después de que su nueva función de inteligencia artificial generara titulares falsos sobre un caso de asesinato de alto perfil, provocando fuertes críticas de organizaciones periodísticas.

Reporteros Sin Fronteras (RSF) ha solicitado a Apple que desactive la función "Apple Intelligence", que se lanzó globalmente la semana pasada como parte de la actualización iOS 18.2. La petición surge después de que la función creara un titular engañoso sugiriendo que el sospechoso de asesinato Luigi Mangione se había disparado, atribuyendo incorrectamente esta falsa información a BBC News.

En realidad, Mangione permanece bajo máxima seguridad en la Institución Correccional Estatal de Huntingdon en Pensilvania, tras ser acusado del asesinato en primer grado del CEO de seguros médicos Brian Thompson en Nueva York.

La BBC ha confirmado que presentó una queja formal ante Apple por este incidente. No es un caso aislado: The New York Times también experimentó un problema similar cuando la IA de Apple resumió incorrectamente un artículo sobre el Primer Ministro israelí Benjamin Netanyahu, creando una notificación que afirmaba que había sido arrestado.

Vincent Berthier, jefe del departamento de tecnología y periodismo de RSF, declaró que "las IAs son máquinas de probabilidad, y los hechos no pueden decidirse al azar". La organización argumenta que los servicios de IA generativa aún son demasiado inmaduros para producir información confiable.

La función de IA de Apple, que busca reducir la sobrecarga de notificaciones condensando alertas en breves resúmenes, está disponible en iPhone 15 Pro, modelos iPhone 16 y dispositivos seleccionados con los sistemas operativos más recientes. Aunque viene activada por defecto, los usuarios pueden desactivarla manualmente.

Hasta el momento, Apple no ha comentado sobre la controversia ni ha indicado si planea modificar o eliminar esta función.