NVIDIA desarrolla una nueva capa de seguridad para controlar agentes de inteligencia artificial
NVIDIA presentó una nueva plataforma de seguridad diseñada para establecer límites y supervisar el comportamiento de los agentes de inteligencia artificial mientras ejecutan tareas de manera autónoma.
La propuesta, denominada NVIDIA Open Agent Safety Platform, combina herramientas de software y hardware para controlar las acciones de los agentes desde el momento en que comienzan a trabajar hasta su ejecución en entornos empresariales.
OpenShell establece los límites
Uno de los componentes principales es OpenShell, un software de código abierto que crea un entorno seguro para ejecutar agentes de IA.
Los administradores pueden definir qué archivos, redes, herramientas, procesos y credenciales puede utilizar un agente. El sistema verifica estas restricciones antes de iniciar la ejecución y continúa aplicándolas mientras el agente desarrolla sus tareas.
Sentry añade una segunda capa de protección
La plataforma también incorpora NVIDIA Sentry, un sistema de supervisión independiente que funciona sobre los procesadores NVIDIA BlueField-4.
Sentry supervisa continuamente el comportamiento de los agentes y puede intervenir cuando detecta que uno intenta superar los límites establecidos. NVIDIA afirma que el sistema puede poner en cuarentena un agente que abandone su perímetro de seguridad en cuestión de milisegundos.
La seguridad sale del propio agente
Uno de los aspectos más importantes de la arquitectura es que los controles de seguridad no dependen exclusivamente del agente que está siendo supervisado.
OpenShell establece las políticas desde el entorno de ejecución, mientras que Sentry incorpora una capa independiente de vigilancia y aplicación de controles. Esta separación busca dificultar que un agente pueda modificar o evitar las restricciones que debe cumplir.
Un ecosistema que busca proteger la IA autónoma
NVIDIA indicó que más de 100 organizaciones participan en iniciativas relacionadas con la plataforma, incluyendo compañías de inteligencia artificial, ciberseguridad, infraestructura tecnológica y servicios empresariales.
Entre las organizaciones mencionadas se encuentran Anthropic, Cisco, CrowdStrike, Dell Technologies, HPE, JPMorganChase, Microsoft, Palo Alto Networks, Salesforce, SAP y ServiceNow.
La evolución hacia agentes capaces de ejecutar tareas de manera autónoma está aumentando la necesidad de establecer mecanismos que permitan supervisar sus acciones y limitar el acceso a información, herramientas y sistemas críticos.
Comentarios
Publicar un comentario