Google ha implementado un polémico cambio en las directrices para los contratistas que evalúan las respuestas de su sistema de inteligencia artificial Gemini, según documentos internos obtenidos por TechCrunch.
Hasta hace poco, los contratistas que trabajan a través de GlobalLogic (una empresa propiedad de Hitachi) podían optar por no evaluar respuestas de IA sobre temas fuera de su área de experiencia. Por ejemplo, alguien sin formación médica podía abstenerse de calificar respuestas sobre cardiología.
Sin embargo, la semana pasada Google eliminó esta opción. Las nuevas directrices establecen explícitamente que "no se deben omitir prompts que requieran conocimiento especializado". En su lugar, se instruye a los contratistas a "evaluar las partes que entiendan" e incluir una nota aclarando su falta de experiencia en el tema.
Este cambio ha generado preocupación entre los contratistas sobre la precisión de Gemini en temas técnicos y sensibles. "¿No era el objetivo de poder omitir mejorar la precisión asignándolo a alguien más capacitado?", cuestionó un contratista en comunicaciones internas.
Bajo las nuevas reglas, los contratistas solo pueden omitir prompts en dos situaciones: cuando falte información crítica como el prompt completo o la respuesta, o cuando contengan contenido dañino que requiera formularios especiales de consentimiento para su evaluación.
Esta modificación podría tener implicaciones importantes en la calidad de las respuestas de Gemini sobre temas especializados como medicina, donde la precisión es fundamental. Google no ha respondido a las solicitudes de comentarios sobre este cambio en sus políticas.