Nvidia mete USD 250 millones de compute en la investigación de seguridad agéntica del Reino Unido
Nvidia anunció una donación de compute valuada en USD 250 millones, sobre cinco años, para investigación de seguridad agéntica y security en el Reino Unido. En números por año, son USD 50 millones anuales de access a compute, entregados a través de partners de la nube de Nvidia basados en UK, con la infraestructura hospedada dentro del país.
Quién recibe el compute
La mayor parte del compromiso va a la comunidad de investigación de AI safety y security de UK en general. Una porción está reservada para tres instituciones nombradas:
- BOLD, el British Open-Ended Learning and Discovery Lab liderado por la Universidad de Oxford, que trabaja en sistemas que aprenden, se adaptan y operan junto a personas.
- SOFAIR, el Science of Fundamental AI Research Lab de UCL, que explora arquitecturas open source de IA y formas más accesibles de armar y desplegar IA.
- Imperial College London, cuyo trabajo cubre safety engineering y robotics, incluida la IA física: robots y sistemas de agentes que perciben, razonan y actúan en el mundo real.
En qué se gasta la investigación
Los programas se enfocan en agentes seguros, seguridad de modelos abiertos y mitigaciones de amenazas en el mundo real. Concretamente, el release nombra sandboxes seguros, investigación reproducible y benchmarks de evaluación de seguridad. Parte del trabajo se correrá sobre las propias herramientas de safety de Nvidia: el runtime seguro y abierto OpenShell y el diseño de referencia Sentry, con resultados destinados a informar safeguards en el ecosistema de cómputo completo.
Algunos términos todavía están abiertos. La selección del proveedor, la arquitectura técnica y los términos comerciales del compute aún no se acuerdan, así que las primeras asignaciones concretas llegan después.
El contexto alrededor
La donación se apoya en la colaboración existente, incluida la supercomputadora Isambard-AI de la Universidad de Bristol, corriendo sobre Grace Hopper Superchips de Nvidia. El anuncio también llega con framing político de los dos lados: la ministra de IA de UK, Kanishka Narayan, lo describió como un voto de confianza en la investigación de AI safety de UK antes de la presidencia G20, y Jensen Huang lo enmarcó con la línea de que "AI capability and safety must advance together".
Para los que leen este sitio, el patrón debería ser conocido: este mes Nvidia también comprometió USD 1.000 millones de compute para investigación científica en EE.UU. El deal de UK es el par del lado de la seguridad, apuntando a agentes específicamente, que es donde se mueve buena parte de la discusión de riesgo práctico.
Qué significa en la práctica
La donación es infraestructura de investigación, no un producto ni un servicio que puedas comprar. Si armás o operás sistemas agénticos, la parte que te llega eventualmente son los benchmarks: evaluaciones de seguridad reproducibles y resultados de mitigación de amenazas publicados por los labs financiados. Si eso pasa a un ritmo útil depende de las asignaciones que todavía están en negociación.
Fuente: nvidianews.nvidia.com