ChatGPT, el popular modelo de lenguaje de OpenAI, está experimentando un fenómeno curioso: se detiene por completo cuando se mencionan ciertos nombres específicos. Esta situación ha llamado la atención de usuarios y expertos en tecnología.
Los nombres que causan el problema
Hasta el momento, se han identificado varios nombres que provocan que ChatGPT se detenga y muestre mensajes de error:
- Brian Hood
- Jonathan Turley
- Jonathan Zittrain
- David Faber
- Guido Scorza
La razón detrás del fenómeno
La causa de estas interrupciones radica en filtros implementados por OpenAI para prevenir la generación de información falsa sobre personas específicas. El caso más notable comenzó con Brian Hood, un alcalde australiano que amenazó con demandar a OpenAI después de que ChatGPT fabricara falsamente información sobre su supuesto encarcelamiento.
Consecuencias inesperadas
Esta medida de seguridad presenta varios problemas:
- Afecta a personas que comparten nombres con individuos bloqueados
- Puede utilizarse para interrumpir conversaciones de manera malintencionada
- Limita la capacidad de ChatGPT para procesar ciertos contenidos web
- Complica tareas cotidianas que involucren estos nombres
Un dilema técnico y ético
La situación plantea un desafío para OpenAI: equilibrar la necesidad de prevenir la desinformación con la funcionalidad del sistema. Los filtros actuales, aunque efectivos para prevenir difamaciones, crean nuevos problemas que requieren soluciones más sofisticadas.
Este fenómeno resalta las complejidades y limitaciones actuales de los sistemas de inteligencia artificial, especialmente en su interacción con información sobre personas reales.