Modelos LLM

← Todas las noticias

El modo Ultrafast de OpenAI lleva a GPT-5.6 Sol a 14x de velocidad en preview

OpenAI presentó un nuevo modo llamado Ultrafast, pensado para que su modelo actual más potente, GPT-5.6 Sol, trabaje a un ritmo mucho más rápido. Según la empresa, el modo corre a 14x la velocidad del procesamiento estándar y puede producir hasta 750 tokens de output por segundo.

Esa cifra de tokens es el dato duro de la nota. La generación estándar se mide en tokens por segundo, y 750 queda por arriba de lo que la mayoría de los modelos frontier entregan en una corrida normal. OpenAI lo plantea como una forma de sacar más trabajo útil por segundo, sin sacrificar calidad a cambio de velocidad.

"Until now, getting real-time speed typically meant choosing a smaller or more specialized model", dijo la empresa en el post del blog que anunció el modo el jueves. "Ultrafast points to progress in a new direction: more useful work per second."

Para qué sirve

OpenAI apunta a un grupo de casos de uso donde la latencia realmente importa: incident response, atención al cliente y soporte, análisis de mercados financieros y e-commerce. El hilo en común es que la respuesta tiene que llegar rápido, no solo ser correcta.

El movimiento sigue un patrón que la competencia ya empezó a seguir. Anthropic, por ejemplo, lanza versiones aceleradas de sus modelos. Claude trae un fast mode, aunque no llega al throughput que OpenAI reclama acá.

Quién lo puede usar

Ultrafast está en preview. Corre sobre una alianza entre OpenAI y la chipmaker Cerebras, y por ahora el acceso queda limitado a un grupo chico de clientes. La empresa dice que va a ampliar la disponibilidad "a medida que crezca la capacidad".

Para un equipo que se pregunta si esto cambia algo, la lectura práctica por ahora es acotada. El claim de velocidad es un número de vendor, y el preview está cerrado para la mayoría, así que todavía no hay nada contra lo que correr benchmarks en producción. Si corrés workloads sensibles a la latencia como incident response o soporte de clientes en vivo, vale la pena mirarlo, porque ahí es donde 750 tokens por segundo se notarían en la factura y en el tiempo de respuesta. Si tu trabajo es en batch o offline, el GPT-5.6 Sol estándar es el modelo más relevante para comparar en costo, y el extra de velocidad te compra poco.

Fuente: techcrunch.com

Más noticias

← Todas las noticias