La Frontera: una IA leyó por dentro a otra, y por qué el resultado tiene límites

Hoy se estrena La Frontera, una sección que sale todos los miércoles: tecnología avanzada explicada con objetos simples. Empezamos con una pregunta: ¿se puede saber qué hace una inteligencia artificial mirando sus números por dentro, sin hacerla funcionar?

Qué dice el trabajo

El 2 de noviembre de 2026, Takehi, Teoh, Zhang y Khattab publicaron en un blog el texto «Sparks of Weight-Space Programming» (blog de los autores (abre en una ventana nueva)). Según ellos, un modelo al que llaman GPT-6 Astra recibió los pesos crudos de una red neuronal chica, un perceptrón multicapa de 17.253 parámetros, y dedujo en cuál de cuatro juegos de Atari la habían entrenado: Breakout, Pong, Pac-Man o Freeway. Los «pesos» son los números que una red ajusta mientras aprende. El modelo no hizo correr la red ni recibió una lista de opciones. Es como reconocer una canción mirando las púas de una caja de música, sin girar la manivela.

Los autores declaran una afiliación al MIT CSAIL. Hasta donde llegamos a revisar, esa afiliación figura sólo en el propio blog. No encontramos un paper en arXiv ni una página institucional que la confirme.

Dos experimentos distintos

El mismo texto incluye un segundo resultado, y conviene separarlo. Con Qwen3.5-0.8B, un modelo de lenguaje mucho más grande, los autores dicen que modificaron el 0,016% de los pesos y que su puntaje en la prueba de matemática MATH-500 subió de 7,9% a 48,1%. También advierten que esas ediciones pueden destrabar habilidades que el modelo ya tenía, pero no agregarle capacidades que no tiene.

El ingeniero Matthew Honnibal criticó cómo se presentó el trabajo (Honnibal (abre en una ventana nueva)). Según él, la lectura directa de pesos sólo se hizo en redes chicas, de entre 17.000 y 172.000 parámetros. El resultado con Qwen no salió de leer números en crudo: se apoyó en código Python y en hasta 50 ejecuciones del modelo. Honnibal no discute que se haya identificado el juego. Lo que cuestiona es que se presenten como una misma hazaña dos cosas que se hicieron con métodos distintos.

Por otro lado, Simon Willison publicó que reprodujo con un modelo Qwen la lectura e interpretación de pesos (Simon Willison (abre en una ventana nueva)). No volvimos a revisar ese texto para esta nota, así que lo mencionamos como antecedente atribuido.

Por qué importa y qué no prueba

Si la técnica se puede escalar, podría ayudar a entender las IA por dentro: auditar qué aprendió un modelo sin depender sólo de cómo se comporta. Es una posibilidad, no un resultado. Lo que está demostrado, según los propios autores, vale para redes pequeñas y un conjunto acotado de juegos. Nadie mostró todavía que se pueda leer así el interior de los modelos grandes que usamos todos los días. Y como el trabajo es un post de blog reciente, sin revisión por pares, falta que otros grupos lo reproduzcan.