Thomas Wolf, cofundador y director científico de Hugging Face, expresó su preocupación sobre el futuro de la inteligencia artificial, advirtiendo que los sistemas actuales se están convirtiendo en simples "aduladores en servidores" sin capacidad de pensamiento original.
En un ensayo publicado recientemente, Wolf cuestiona la dirección actual del desarrollo de la IA, argumentando que los paradigmas existentes no lograrán crear sistemas capaces de resolver problemas de manera creativa e innovadora, como lo hicieron Einstein o Newton en su momento.
"El error común es pensar que genios como Newton o Einstein eran simplemente buenos estudiantes a mayor escala", explicó Wolf. "Para crear un Einstein en un centro de datos, necesitamos sistemas que no solo conozcan todas las respuestas, sino que puedan formular preguntas que nadie más se ha atrevido a plantear".
Esta visión contrasta notablemente con las declaraciones optimistas de otros líderes del sector, como Sam Altman de OpenAI, quien ha sugerido que la IA superinteligente podría acelerar dramáticamente el descubrimiento científico.
Wolf señala que la IA actual funciona principalmente rellenando espacios entre conocimientos existentes, sin generar verdadero conocimiento nuevo mediante la conexión de hechos previamente no relacionados. Los sistemas actuales, según él, se están desarrollando como "estudiantes muy obedientes" en lugar de revolucionarios científicos.
El directivo también critica los métodos de evaluación actuales de la IA, que se centran en preguntas con respuestas claras y obvias. Propone desarrollar nuevas formas de medir el conocimiento y razonamiento que puedan determinar si una IA puede proponer enfoques audaces y formular preguntas no evidentes.
"No necesitamos un estudiante sobresaliente que pueda responder cada pregunta con conocimiento general", concluye Wolf. "Necesitamos un estudiante promedio que pueda ver y cuestionar lo que todos los demás pasaron por alto".