NVIDIA OpenShell: testando a proteção contra exfiltração de dados

NVIDIA OpenShell: testando a proteção contra exfiltração de dados

A Sorami avaliou o NVIDIA OpenShell v0.1.2, um sandbox projetado para restringir o acesso de agentes de IA a arquivos, processos e à rede. Os pesquisadores instruíram um agente de IA a executar um script malicioso de configuração de projeto que tentava transmitir um segredo de teste para um endpoint controlado.

Resultados: • Sem o OpenShell — 10/10 exfiltrações bem-sucedidas. • Com a política padrão do OpenShell — 0/10. • Com o destino de exfiltração explicitamente permitido por uma regra de rede de leitura e gravação — 10/10. A política padrão bloqueou os caminhos de exfiltração testados via HTTP, HTTPS, TCP bruto e DNS para destinos proibidos.

No entanto, a eficácia do isolamento dependia da configuração: Mesmo quando uma regra L7 permitia apenas GET /health, os dados ainda podiam ser transmitidos por meio de parâmetros de consulta de URL ou do cabeçalho User-Agent. Quando enforcement era deixado sem definição para uma regra L7/REST, a regra operava em modo de auditoria: as violações eram registradas, mas não bloqueadas. Com a aprovação automática habilitada, o OpenShell aprovou conexões para novos destinos públicos sem intervenção humana em 12 de 12 testes.

Os pesquisadores não encontraram nenhum bypass dos controles de segurança documentados. A exfiltração bem-sucedida dependia de permissões habilitadas pelo operador ou de limitações documentadas da política.

Os testes usaram o driver microVM do OpenShell em Apple Silicon com um receptor local de dados canário. Outros drivers de implantação, incluindo Docker, Podman e Kubernetes, não foram testados.

Artigo (NVIDIA OpenShell): https://sorami.com.au/research/nvidia-openshell-agent-sandbox-test/