Volver a Modelos LLM

DeepMind verifica el código real de Signal con agentes de IA

Google DeepMind dice que sus investigadores guiaron agentes de IA para probar matemáticamente propiedades clave de seguridad del código real que sostiene el protocolo Signal, la capa de cifrado detrás de miles de millones de conversaciones privadas en apps como Signal y Google Messages. El sistema se llama AlphaProof Code, un framework agéntico pensado para formal verification (verificación formal, que es probar en términos matemáticos que el código se comporta como se especificó). Según la empresa, los agentes generaron más de seis millones de líneas de Lean, y la verificación completa llevó cuatro semanas.

La verificación formal es el estándar más alto de garantía de seguridad, y a la vez es difícil y muy laboriosa. Los expertos llevan décadas analizando protocolos criptográficos. Google DeepMind dice que esta es la primera vez que se usa IA para verificar formalmente un protocolo criptográfico ampliamente desplegado a esta profundidad, y también la primera vez que una implementación tipo Signal se verifica formalmente por cualquier método, con IA o sin ella.

Cómo corrió la verificación

AlphaProof Code divide el trabajo como lo haría un equipo de investigación. Expertos humanos trabajaron con una mezcla de modelos para traducir los objetivos de seguridad de Signal en especificaciones matemáticas formales, y un humano revisó cada una. Después, agentes corriendo sobre Gemini Carbon hicieron las pruebas: generaron los seis millones de líneas de Lean, el lenguaje que usa para chequear matemáticamente afirmaciones sobre código.

Con las pruebas terminadas, los agentes las auditaron y marcaron las partes que necesitaban una segunda mirada humana: apenas un 1% del codebase. Lean chequea el resto automáticamente, así que la revisión de los expertos se concentró en donde el juicio humano pesa de verdad.

Más allá de los documentos de diseño

La mayor parte de la verificación de protocolos se detiene en el nivel de diseño: probás la matemática del protocolo, no el código. En el mundo real, las vulnerabilidades suelen esconderse en la brecha entre el diseño y la implementación. El anuncio dice que AlphaProof Code probó que el código compilado cumple las propiedades de seguridad clave, entre ellas mantener los mensajes protegidos antes y después de que un dispositivo quede comprometido de forma temporal. La prueba apunta al código exacto que corre en los dispositivos, y eso es lo que la hace muy más compleja que la versión a nivel de diseño.

Las cuatro semanas son un número que reporta la empresa para esta tarea. Trabajo a esta escala le llevaba a equipos de expertos años.

Hecho para atrapar bugs, no solo para pasar

Para confirmar que el sistema distingue código correcto de código con bug, los investigadores reintrodujeron dos bugs reales, ya corregidos antes, en una copia aislada del código de Signal. En los dos casos, AlphaProof Code produjo una prueba chequeada por máquina de que la versión con bug no era segura.

Ehren Kret, CTO de Signal, enmarca el resultado en términos de confianza. Ante amenazas de seguridad cada vez más impulsadas por IA, tener el protocolo central de Signal verificado rigurosamente con automated theorem proving les da, dice, "aún mayor confianza de que nuestro código cumple sus garantías de privacidad."

Qué te llevás de esto

Google DeepMind va a open-sourcear los artefactos de verificación formal para uso de la comunidad, junto con el paper técnico. Los pasos siguientes que plantea son sistemas más amplios, desde firmware de dispositivos médicos hasta software de redes eléctricas, y combinar la verificación formal con agentes de defensa tipo CodeMender para contrarrestar la velocidad y escala de las amenazas cibernéticas agénticas.

Para un equipo que corre código de producción con datos sensibles, el número práctico es la curva de costo. Verificar formalmente código criptográfico desplegado era un proyecto de investigación de varios años. Por los números de la empresa, ahora entra en un trimestre. El alcance acá es un protocolo a una profundidad, y DeepMind se presenta a sí mismo con el escalado como investigación en curso. Lo que no cambia: una prueba chequeada por máquina es la garantía más fuerte que existe para código, y el costo de conseguirla bajó.

Fuente: deepmind.google

Más noticias

Volver a Modelos LLM

¿Tenés algo en mente?

Empecemos a hablar