Google saca dos sistemas TPU nuevos en un año: 8i Max y 8tx
Google anunció el 9 de noviembre de 2026 el TPU 8tx y el TPU 8i Max, el tercer y cuarto sistema de su octava generación de TPU, después del 8t y el 8i que llegaron en el Google Cloud Next de abril. Según la empresa, es la primera vez que saca cuatro sistemas TPU en un solo año. Los dos nuevos apuntan directo a los workloads agénticos: cada sistema del portafolio cubre una etapa distinta del ciclo de vida de la IA.
Por qué cuatro sistemas en vez de uno
Google ubica la octava generación como un pipeline completo: 8t para training a gran escala, 8i para razonamiento de baja latencia, 8tx para cómputo confidencial y 8i Max para context windows enormes y la mayor densidad de cómputo por rack. La pareja de abril fijó la línea base; los números son de Google: el 8t rinde hasta 2,7 veces más en training que la generación anterior, y el 8i mejora 80% la price performance de inferencia. Los dos sistemas de hoy responden a pedidos de clientes externos: seguridad a nivel de hardware para workloads regulados y margen de memoria para contextos de millones de tokens.
La empresa también pone un número en el negocio. Según el post, los TPU ya atienden cerca de 100 clientes, entre ellos labs de frontera, firmas de trading, retail y universidades, y los casos de uso ya pasan por encima de Google Cloud: los clientes pueden desplegar TPU directamente en sus propios data centers.
TPU 8tx: inferencia confidencial
El TPU 8tx usa el mismo silicio que el 8t, lo acompaña con CPU hosts AMD EPYC de 5ta generación y mueve el límite de seguridad al hardware: según Google, los datos y los pesos del modelo quedan cifrados e aislados incluso mientras el sistema los procesa. Aprovecha además la red de baja latencia Boardfly creada para el 8i, lo que le da hasta 2 veces menos latencia que el 8t con penalización de rendimiento casi nula, según la empresa.
La consecuencia práctica es lo interesante para equipos regulados: podés fine-tunear modelos con datos privados, destilar modelos grandes en chicos y entrenar agentes por reinforcement learning en un solo sistema, sin mover datos sensibles entre clusters. El anuncio apunta esto a empresas y gobiernos que corren modelos frontier o propietarios junto a sus datos más sensibles.
TPU 8i Max: dos chips, un solo paquete
El TPU 8i Max ataca la memoria, el cuello de botella. Google junta dos chips 8i de baja latencia en un solo paquete: el doble de cómputo, el doble de SRAM y el doble de ancho de banda HBM que un 8i a secas. Como el paquete mete el doble de silicio en el mismo espacio de rack, un data center despliega más cómputo por metro cuadrado y por vatio, según la compañía. El workload objetivo son las flotas de agentes que razonan sobre una codebase entera o horas de video a la vez, donde el ancho de banda de memoria se satura primero.
La parte de software
El hardware es solo la mitad. Junto con los dos sistemas, Google open sourceó varias piezas del stack. TorchTPU, que salió el mes pasado, corre código de PyTorch y modelos de Hugging Face de forma nativa en TPU, con backends para vLLM y SGLang. TPU Sync, la nueva capa de estado del modelo, unifica HBM de los chips, DRAM del host, almacenamiento compartido y la red en una sola jerarquía de memoria, y Google dice que corta la latencia de transferencia de KV y el time to first token en más de 90%. Un Agent Compute Engine suspende y retoma sesiones de agentes inactivas para bajar costos de infraestructura, y un TPU agent suite, en preview, se conecta a herramientas de coding como Claude Code y Cursor para diagnosticar cuellos de botella y autotunear kernels. Del lado cloud, Cloud Pathways (el runtime de DeepMind que corre Gemini) y GKE dynamic slicing pasaron a general availability; Google afirma que el dynamic slicing corta hasta 5 veces los tiempos de arranque de jobs y acelera la recuperación ante fallos hasta 4,5 veces. La empresa también dice que su stack de vLLM sobre TorchTPU llegó a price performance de estado del arte en los benchmarks InferenceX y AgentX.
Qué te llevás de esto
Si estás evaluando cómputo para agentes en producción, el anuncio te da cuatro opciones distintas dentro del portafolio de un solo vendor, una por etapa del workload. El detalle estratégico es el ritmo: cuatro sistemas en un año funciona porque Google vende sistemas, packaging, networking, memoria y seguridad alrededor de un chip, en vez de un chip a secas. Para equipos sentados sobre un stack GPU céntrico, la empuje de TorchTPU y PyTorch es lo que conviene mirar, porque va directo contra el argumento del lock-in de CUDA. Y para quien corre inferencia regulada, el 8tx es la primera opción TPU apuntada a workloads confidenciales.
Fuente: blog.google
Más noticias
¿Tenés algo en mente?
Empecemos a hablar