Volver a Negocios y economía

El S-1 revisado de Anthropic avisa de una RSI 'inminente'

La sección de risk factors del S-1/A revisado de Anthropic, presentado el lunes 2 de noviembre, trae una frase que la mayoría de los inversores no esperaba. La empresa dice que "podría cumplirse de forma inminente" la definición de "progreso acelerado de manera drástica atribuible a la IA" de su Responsible Scaling Policy, el umbral que el laboratorio se fijó a sí mismo para la auto-mejora recursiva (RSI). Y agrega que ninguno de sus modelos actuales cruzó esa línea.

La RSI es el punto en el que la IA se vuelve lo bastante buena para entrenarse a sí misma y dispara una aceleración dramática de capacidades. En algunos círculos es el escenario sin vuelta; en otros, el futuro que prometía la tecnología como motor de productividad y de descubrimiento científico. El filing de Anthropic la trata como las dos cosas: una promesa y un riesgo.

Lo que dice el filing

El S-1 revisado es una actualización presentada en el marco de la IPO de Anthropic. Según TechCrunch, junto a los números financieros actualizados (revenue disparándose, y los gastos subiendo a la par), la empresa sumó declaraciones nuevas a la sección de Risk Factors. Primero reconoce que usa IA en su propio R&D, y después advierte: "Usar IA para ayudar a construir IA más capaz también podría representar un riesgo de seguridad considerable, particularmente si acelera drásticamente el ritmo de progreso."

Las declaraciones son específicas. Anthropic dice que su uso creciente de sistemas de IA para acelerar su propio R&D puede hacer que las capacidades de sus modelos avancen más rápido de lo que la empresa puede desarrollar, validar e implementar medidas de seguridad, alineamiento y safety. La empresa afirma que "en el pasado no identificó, y en el futuro podría no identificar, una aceleración significativa en su ritmo de desarrollo hasta después de que ocurriera". Eso es un claim sobre algo que ya habría pasado: dice que ya usó IA para desarrollar modelos cuyos saltos de capacidad no reconoció en el momento.

La segunda declaración es la que levanta atención. Anthropic dice que sus "estimaciones internas y nuestras expectativas sobre modelos futuros, más que nuestros modelos actuales, indican que podríamos cumplir de forma inminente" su propio umbral de RSI. No designó a ningún modelo actual como por encima de ese umbral y dice que sigue evaluando los datos de base.

El compromiso: humanos en el loop

Junto a la advertencia, el filing trae un compromiso. Anthropic dice que "no anticipa poder usar a Claude de forma plenamente autónoma para diseñar y construir sucesivas generaciones de modelos frontera de manera segura, sin supervisión ni comprensión humana significativas", si y cuando eso sea técnicamente posible, y que está considerando actualizar su Responsible Scaling Policy para mantener a los humanos en control del desarrollo de modelos frontera.

Cómo leerlo

Una salvedad: un S-1 funciona a la vez como documento de disclosure y como documento de marketing. Los escépticos señalan que un claim de estar cerca de un modelo que se pueda construir a sí mismo podría leerse como pitch. A principio de este año, muchos consideraban la RSI un buzzword o, a lo sumo, un objetivo demasiado difícil de definir o de demostrar.

Del lado de las capacidades, hay contexto. TechCrunch nota que el rendimiento de Claude en coding, matemática y cybersecurity creció en saltos grandes este año. Si las propias estimaciones internas de un laboratorio frontera apuntan a que el umbral está cerca, tal vez convenga creerlo y actuar, o gobernar, en consecuencia.

Para los que toman decisiones de IA día a día, el filing no cambia qué modelo comprar ni cuánto pagar por él. Lo que hace es mover el debate de la RSI de los escenarios de conferencias y los blogs a un documento regulatorio de una empresa que está por cotizar, con el timeline planteado como una estimación interna y no como especulación. Eso le da un estatus distinto al claim, y es uno que vale la pena seguir de cerca en las conversaciones de gobierno y de planificación.

Fuente: techcrunch.com

Más noticias

Volver a Negocios y economía

¿Tenés algo en mente?

Empecemos a hablar