Astra lee y escribe los pesos de redes neuronales como código
El 2 de noviembre, cuatro investigadores de MIT CSAIL (Rikiya Takehi, Jayden Teoh, Alex Zhang y Omar Khattab) publicaron un blog post que muestra que GPT-6 Astra, el modelo de frontera de OpenAI, puede leer y escribir pesos de redes neuronales sin training, sin gradientes y sin herramientas a medida. El resultado central: Astra editó 131.072 de los 800 millones de pesos de Qwen3.5-0.8B (un 0,016%) y, con los mismos parámetros de sampling, subió MATH-500 de 7,9% a 48,1% e IFEval de 21,0% a 62,3%. Lo llaman weight-space programming (programación en el espacio de pesos): los pesos de una red son un programa que se lee y se escribe, por un LLM generalista.
El concepto
Durante décadas, los pesos los escribieron solo los optimizadores. Los autores notan que los LLM ya optimizan prompts, harnesses, hasta código de training, y que los pesos eran lo último que quedaba entregado a los algoritmos simbólicos, porque ningún humano puede editar a mano 800 millones de números. Astra ahora hace eso: lee los pesos para entender qué computa la red, y los escribe o edita para cambiarlo. Lo marcan como "chispas" de una capacidad, no de un método. Algunos experimentos le dan al modelo cero herramientas, otros un kernel de Python o un presupuesto de forward passes.
Leer: para qué sirve esta red
Astra recibe los pesos crudos como texto y le preguntan qué hacen.
- Cuatro policies de juego (versiones en grid de Breakout, Pong, Pac-Man y Freeway), cada una un MLP idéntico de 17.253 pesos entrenado con PPO por 1.000 millones de pasos. Astra nombró el juego correcto en los cuatro casos sin ver las opciones, leyendo dónde se concentran los pesos de la primera capa: en Breakout, los del agente están en la fila inferior, una pala.
- Tres diffusion models entrenados para generar círculos, cuadrados o triángulos (23.824 pesos cada uno), sin tools ni forward passes. Astra identificó qué genera cada uno trazando las figuras en la capa de salida y las dibujó como contorno, aunque los modelos generan figuras rellenas, lo que los autores leen como evidencia de que lee la estructura, no de que simula la red.
- Tres transformers character-level de 7,16 millones de pesos, entrenados con código Python, japonés en romaji o Wikipedia en inglés, con las capas de input y output quitadas, así que nada dice qué carácter es cuál y el modelo no se puede correr. Astra, con Python pero sin poder ejecutar la red, nombró el idioma correcto en los tres, y encontró todos los heads de "copying" (induction heads) sin falsos positivos, igual que la medición a tierra. El método al que llegó es uno publicado por Elhage et al., que los autores nunca le mencionaron.
Escribir: repararla o armarla de cero
En el experimento de reparación, Astra recibió el actor PPO oficial de Kinetix (171.664 pesos) para un nivel de auto subiendo una rampa, donde PPO había llegado a un minimum local: cero éxitos en 256 episodios. Con los pesos, la escena y un episodio grabado, editó un 3,5% de los pesos en un intento sin herramientas; el auto modificado logró éxito en los 1.024 episodios. La reparación, dicen los autores, es un path paralelo chico que lee posición y velocidad del auto, lo hace retroceder hasta pasar la franja, y entonces deja que la red entrenada tome el control.
Desde cero, en tres juegos de MinAtar (Breakout, Seaquest, Asterix), Astra recibió solo las reglas y el source code: sin data, gradientes, tools ni rollouts. Escribió los pesos como texto en una sola respuesta. Los autores reportan que los resultados superan a PPO entrenado 100 millones de pasos en los tres juegos y sacan 20 veces más que PPO de 500 millones en Breakout, llegando cerca en Asterix y Seaquest.
La tarea más grande de escritura: una red de 1,48 millones de pesos para Go 9x9, en un sandbox de Python sin internet y con hasta 50 forward passes. Con cero passes, la red generada ganó más de la mitad de sus partidas contra dos networks PPO más chicas; con 50, superó a un PPO del mismo tamaño entrenado con 20 millones de partidas. Astra la escribió como un programa chico: las capas iniciales marcan piedras y libertades, y la última puntúa cada jugada según capturas y evitar ataris.
La reparación de Qwen
El resultado que más discusión va a arrancar: un language model real mejorando en mate con ediciones de pesos. Qwen3.5-0.8B tiene 800 millones de pesos, 24 capas y thinking on. Su model card avisa de su tendencia a los thinking loops, y el modelo base lo confirma: 85 de sus primeras 96 respuestas de práctica corrieron hasta el tope de 32.768 tokens, como el 93% de las de MATH-500.
Astra recibió una sesión de Python sobre los pesos (sin GPU), problemas de práctica de los sets de training de GSM8K y MATH, y 10, 25 o 50 forward passes. Rastreó los loops a una única dirección escrita por los MLPs de las capas 15 y 19, y restó esa dirección de 64 columnas de output en cada capa: 131.072 pesos, un 0,016% del modelo.
Con 50 passes, los autores reportan MATH-500 subiendo de 7,9% a 48,1%, GSM8K de 13,8% a 67,1% e IFEval de 21,0% a 62,3%, con las respuestas que tocan el tope de tokens cayendo de 93% a 33%. Con 10 y 25 passes, MATH-500 llegó a 12,3% y 14,1%, y los loops apenas se fueron.
El resultado negativo importa tanto como el positivo. En Gemma 3 270M, un modelo que casi no hace loops (8,5% de sus respuestas tocaban el tope de tokens), el mismo tratamiento movió MATH-500 no más de un punto (base: 6,8%), y Astra mismo reportó la mejora como no establecida. Leyó los fallos de Gemma como errores de razonamiento comunes, cuentas mal hechas, álgebra inválida: sin un componente que se pudiera apagar. En palabras de los autores, la edición quitó un obstáculo que ocultaba una capacidad; no agregó una capacidad que el modelo no tenía. Si tenés que resumir el post en un número, este es el tamaño de la edición: 0,016% de los pesos, sin retraining.
Por qué importa
Los autores listan cinco direcciones: auditar modelos en busca de problemas u capacidades ocultas (backdoors, por ejemplo) sin correr inference; bajar el costo de optimización con inicialización de un solo shot en lugar de training completo; dirigir o desaprender con ediciones de pocos pesos, evitando el catastrophic forgetting del fine-tuning; un camino más nativo a la mejora recursiva que el de un modelo que lanza su propio training; y merging entre arquitecturas, injertando un circuito de un modelo a otro en lugar de promediar pesos idénticos. Dicen que están construyendo un benchmark y un harness para ello.
El timing: el post salió el mismo día en que el S-1/A revisado de Anthropic decía que sus estimaciones internas apuntan a cumplir "en breve" su propio umbral de RSI. Si los modelos pueden inspeccionar, debuggear y mejorar pesos, la línea entre "mejorar un modelo" y "auto-mejora" se vuelve más fina. El framing de los autores es más calmado: una chispa, con límites reales, entre ellos el context length y la ineficiencia de los harnesses, en un campo que esperan que termine siendo una disciplina de ingeniería rigurosa y reproducible.
Fuente: rikiyat.github.io
Más noticias
¿Tenés algo en mente?
Empecemos a hablar