Ingeniería · IA · 26 de octubre de 2026

Una revisión crítica de 138 trabajos: Cambiar la respuesta de un modelo de IA no prueba que se haya entendido cómo decide

Por Redacción Adaptant · Fuente: arXiv 2610.20139 · publicada el 14 de octubre de 2026

Un estudio de 138 trabajos sobre una técnica para explicar modelos como GPT, Claude, Gemini o Llama (sparse autoencoders) distingue cuatro preguntas que suelen tratarse como una: si la herramienta encuentra lo que busca, si el nombre que le pone a cada señal interna es correcto, si el modelo realmente usa esa señal para decidir, y si sirve para controlarlo. Cada una necesita su propia prueba. El punto central: mover una señal interna y ver cambiar la respuesta no demuestra haber encontrado el mecanismo real, porque el cambio puede pasar por un camino que el modelo no usa por su cuenta.

Temasinterpretabilidad · metodología · epistemología · llm