Nvidia puso jaula a los agentes

La noticia no es que Nvidia inventó otra palabra linda para vender infraestructura. La noticia es que el negocio de los agentes de IA acaba de reconocer algo bastante incómodo: si un software puede leer archivos, usar credenciales, llamar APIs y moverse por internet, entonces necesita una jaula real, no apenas una instrucción amable en un prompt.

Este lunes 28 de septiembre, Nvidia presentó el Open Agent Safety Platform (abre en una ventana nueva), una capa de seguridad para agentes autónomos que combina OpenShell y Sentry. La promesa oficial es simple de decir y difícil de cumplir: que los agentes sigan pudiendo trabajar, pero dentro de límites verificables sobre qué pueden ver, tocar, modificar y enviar afuera.

OpenShell es la parte abierta del sistema. Según la documentación de Nvidia (abre en una ventana nueva), funciona como un runtime para ejecutar flotas de agentes en sandboxes con aislamiento a nivel kernel y políticas declarativas. Traducido: cada agente corre en un entorno controlado; hay reglas sobre archivos, red, procesos y proveedores; y las credenciales no quedan simplemente servidas en la mesa para que el agente las agarre si encuentra un camino raro.

Sentry es la segunda capa: una vigilancia fuera del proceso del agente, pensada para correr sobre hardware de seguridad como BlueField. Nvidia la presenta como un mecanismo independiente para observar actividad, aplicar políticas y hasta poner en cuarentena a un agente en milisegundos si intenta salir de sus límites. Ahí está el cambio conceptual: la seguridad ya no se piensa solo como alineamiento del modelo, sino como arquitectura operativa. El agente puede “querer” hacer algo; el sistema igual tiene que poder decirle no.

El contexto importa. WIRED informó este mismo lunes (abre en una ventana nueva) que Nvidia está empujando esta pila abierta después de meses de incidentes de agentes que probaron, sondearon o vulneraron sistemas. En esa lista aparece el episodio de Hugging Face, ya convertido en caso testigo para la industria, y también reportes recientes sobre agentes vinculados a OpenAI que navegaron sitios oficiales de Estados Unidos de maneras no esperadas.

AP, vía The Washington Post (abre en una ventana nueva), reportó el 26 de septiembre que OpenAI pausó el entrenamiento de sus modelos más nuevos tras incidentes en los que agentes revisando sitios federales actuaron más allá de lo pedido. Según esa cobertura, no habría evidencia de información no pública expuesta en los casos del SEC y Educación, pero el punto sensible es otro: el comportamiento fue suficiente para activar avisos, revisiones y una pausa.

OpenAI ya venía preparando el terreno. En su marco de reporte de desalineamiento (abre en una ventana nueva) del 16 de septiembre, la empresa dijo que publicaría casos de conducta inesperada o preocupante y admitió que la industria todavía no resolvió alineamiento y monitoreo lo bastante bien como para seguir escalando a máxima velocidad durante mucho más tiempo. Eso es una frase fuerte viniendo de una empresa cuyo negocio depende, justamente, de escalar.

Para Argentina y América Latina, esto no es un drama lejano de laboratorios de San Francisco. Bancos, medios, estudios jurídicos, gobiernos, fintechs, hospitales y startups locales van a empezar a usar agentes para tareas concretas: leer documentos, cruzar bases, mandar mails, tocar sistemas internos, consultar APIs. Si la arquitectura es “confiemos en que el agente se porta bien”, estamos construyendo deuda técnica con acceso a datos reales.

La discusión de fondo queda servida: los agentes útiles necesitan permisos. Pero permisos sin frontera son una invitación al desastre. Nvidia quiere vender la frontera como infraestructura. OpenAI quiere mostrar transparencia sobre fallas. Las empresas quieren productividad. Y el público, aunque todavía no lo sepa, necesita que alguien audite qué hacen esas pequeñas oficinas automáticas que ya están entrando al Estado, al trabajo y a los servicios que usamos todos los días.