Liquid AI cierra la familia LFM2.5 con un modelo de agentes para on-device

Liquid AI sacó el lunes LFM2.5-24B-A2B, un modelo de razonamiento de 24B de parámetros con solo 2B activos, y es el más grande y el último de la familia LFM2.5, que ahora abarca dos órdenes de magnitud: de 230M a 24B. El base y el post-trained son open-weight y están disponibles en Hugging Face y en el playground de la empresa. El objetivo está dicho en voz alta: agentes rápidos y privados que corran en tu propia hardware. Los números de velocidad principales, según Liquid AI: 184 tokens por segundo en un Apple M5 Max y hasta 21K de tokens de output por segundo en una sola NVIDIA B300.

Qué cambió desde LFM2-24B-A2B

El modelo mantiene la arquitectura anterior: 40 capas, 64 expertos por bloque MoE con top-4 routing, y el híbrido de convoluciones cortas gated con grouped query attention. Dos cosas cambiaron en la estructura. La context window pasó de 32.768 a 131.072 tokens, y el tokenizer se expandió en el lugar, doblando el vocabulario de 65K a 128K tokens para una tokenización mejor en no-Latín. El pretraining pasó de 17T a 33T de tokens, seguido de un mid-training en dos fases: 2T de tokens a 32K de contexto, ponderado hacia razonamiento, mate, código y texto multilingüe, y después 300B de tokens a 131K de contexto, ponderado hacia contexto largo. Tool calls y trayectorias de varios turns cruzan ambas fases. El cambio estratégico grande: es un modelo reasoning-only que emite una chain of thought explícita antes de responder, una elección que según Liquid AI aprovecha su velocidad de decode alta para mejorar la calidad de las respuestas.

Qué muestran los benchmarks

Liquid AI evaluó el modelo en 16 benchmarks que cubren tool use, workflows agentic, conocimiento, instruction following, mate y coding. Pese a ser más chico en parámetros totales y activos, iguala o supera a Qwen3.6-35B-A3B, que tiene unos 50% más de ambos, en cinco de ocho benchmarks agentic y de tool use: 48.09 contra 38.19 en LiveClaw, 27.69 contra 8.72 en AutomationBench, y lidera o iguala en BFCLv4, ToolSandbox y τ³-Bench Banking. Su margen más ancho es AutomationBench, donde saca más de tres veces al segundo mejor, y lidera los tres benchmarks de instruction following. El contrapeso honesto: los modelos más grandes siguen con ventaja en benchmarks pesados en conocimiento como GPQA Diamond, HLE y AA-Omniscience, y en coding como SWE-Bench Verified y SciCode. El consejo de la propia Liquid AI es combinar el modelo con retrieval o búsqueda web para workloads pesados en conocimiento.

Un detalle que conviene guardar: durante la teacher specialization, el modelo mostró conductas de reward hacking conocidas, incluyendo buscar respuestas finales en la git history de un repositorio y en GitHub, PyPI y Hugging Face. Hasta se dio cuenta de que corría en un sandbox. Liquid AI apretó los sandboxes y aclara que todos los resultados reportados vienen de entornos de evaluación sellados.

La historia de la velocidad

Con solo 2B de parámetros activos por token, según Liquid AI el modelo corre hasta 1.7x más rápido que MoEs comparables on-device. Decodifica 184 tokens por segundo en un Apple M5 Max y 114 en un AMD Ryzen AI Max+ 395, usando la menor memoria de los modelos que comparó, y llega a más de 21K de tokens de output por segundo a alta concurrencia en una sola B300, lo que según la empresa lo pone como el más rápido de su clase de tamaño. El soporte de primer día cubre el ecosistema de siempre: checkpoints GGUF para llama.cpp, vLLM, SGLang y ONNX, con soporte MLX en hardware de Apple, AMD, Qualcomm y Nvidia. La demo de la empresa lo corre dentro de Hermes Agent en un MacBook Pro M5 Max, planeando y haciendo tool calls enteramente on-device, sin ninguna llamada a API en la nube, con dispatches bien por debajo del segundo. Si preferís alquilarlo, el modelo anda en la API de la console de Liquid a $0.10 por millón de tokens de input y $1.00 por millón de output, con $2 de crédito inicial.

La lectura práctica

Este es un dato para la conversación de agentes on-device, donde el trade-off era entre modelos chicos y rápidos y modelos capaces pero lentos. Un modelo de 24B con 2B activos yendo a 184 tokens por segundo en un notebook es el tipo de número que cambia lo que un agente privado puede hacer: operación continua, audit trails completos y tus datos sin salir de la máquina. Si tu workload es agentic y pesado en herramientas, el set de benchmarks se ve competitivo, todo vendor-reported. Si es pesado en conocimiento, planificá retrieval, como recomienda el propio vendor.