Cuando pasamos de un simple chatbot a un agente de IA con capacidad de ejecutar código, realizar llamadas a APIs externas y modificar bases de datos, el panorama de riesgos cambia radicalmente. Un ataque de inyección de prompts indirecta o una simple alucinación de código puede llevar a un agente a borrar un volumen de almacenamiento o a exfiltrar credenciales.
Hasta ahora, la seguridad de estos agentes se ha confiado casi exclusivamente al software: sandboxes, políticas de IAM en la API o validación de inputs. Sin embargo, si el sistema operativo del host o el entorno de ejecución se ven comprometidos, el atacante puede deshabilitar estas protecciones. Aquí es donde entra la propuesta de Nvidia con su plataforma Open Agent Safety.
Aislamiento out-of-band: la DPU como policía de hardware
La novedad técnica de esta plataforma radica en su arquitectura de dos capas. Por un lado, tenemos OpenShell, un entorno de ejecución de código abierto que define los límites de lo que el agente de IA puede y no puede hacer. Por el otro, encontramos Sentry, el verdadero elemento diferencial para arquitectos de infraestructura.
Sentry es un watchdog (perro guardián) que no se ejecuta en la CPU del servidor principal donde corre el modelo de lenguaje, sino de manera aislada (out-of-band) en una DPU (Data Processing Unit) Nvidia BlueField-4.
Esta separación física y de cómputo aporta ventajas críticas:
- Independencia del host: Aunque un atacante logre comprometer el sistema operativo del servidor o el contenedor del agente de IA mediante una vulnerabilidad de día cero, no tiene acceso físico ni lógico para manipular la DPU BlueField-4.
- Latencia de respuesta mínima: Al procesar las reglas de seguridad directamente en el hardware de red de la DPU, Sentry puede interceptar comunicaciones no autorizadas y poner en cuarentena al agente en cuestión de milisegundos.
- Inspección de tráfico sin impacto: La monitorización del comportamiento del agente se realiza sin consumir ciclos de CPU/GPU destinados a la inferencia del modelo.
Cómo diseñar la seguridad de tus agentes hoy
Aunque las DPUs BlueField-4 representan hardware de gama alta destinado a centros de datos y despliegues empresariales masivos, la estrategia de diseño que propone este lanzamiento es aplicable a cualquier escala:
- Adopta el principio de mínimo privilegio en IA: No otorgues a un agente credenciales que le permitan interactuar directamente con tu infraestructura sin un proxy de control intermedio que valide cada acción.
- Implementa cortafuegos de aplicación independientes: Si no cuentas con hardware dedicado como una DPU, asegúrate de que el watchdog de seguridad corra en una máquina virtual o contenedor totalmente aislado, con un plano de red y permisos distintos al del agente de IA.
- Explora OpenShell: La apertura de este runtime como código abierto te permite estudiar cómo se estructuran las políticas de control de ejecución para integrarlas en tus pipelines de desarrollo de IA.
La seguridad de la IA ya no es solo una cuestión de filtrar la entrada y la salida de texto, sino de aplicar principios clásicos de segmentación de red y aislamiento de procesos por hardware.
Comentarios