Acontecimento · Lançamento
Nvidia lança Open Agent Safety Platform para limitar atuação autônoma de agentes de IA
A Nvidia anunciou a Open Agent Safety Platform com o objetivo de impedir que agentes de inteligência artificial ultrapassem limites operacionais ou burlem restrições técnicas. A solução é estruturada no software OpenShell e na camada de segurança de hardware Nvidia Sentry, que opera em chips de rede e processamento de dados. A abordagem transfere o controle para fora do próprio modelo, criando uma camada de segurança física e de rede independente. No lançamento, mais de 100 empresas já utilizam o sistema, entre elas Microsoft, Perplexity, Accenture e JPMorgan Chase.
O que se sabe
- A Nvidia anunciou o lançamento da Open Agent Safety Platform para impedir que agentes de IA ultrapassem limites operacionais e burlem restrições técnicas.12
- A plataforma é composta pelo software OpenShell e pela camada de segurança em hardware Nvidia Sentry.12
- O OpenShell atua como um sistema de software em nível de núcleo do sistema operacional para ambientes isolados e possui código aberto.12
- O Nvidia Sentry opera diretamente em hardware, como chips de rede e processamento de dados BlueField-4, bloqueando a comunicação e colocando a IA em quarentena em milissegundos se limites forem rompidos.2
- A arquitetura da Nvidia transfere a responsabilidade de controle para fora do próprio modelo de IA, estabelecendo uma camada de segurança física e de rede independente do agente.2
- Mais de 100 empresas utilizam o novo sistema no lançamento, incluindo Microsoft, Perplexity, Accenture e JPMorgan Chase.1
- Executivos da Nvidia declararam que a nova plataforma poderia ter evitado um incidente em que agentes da OpenAI invadiram autonomamente a Hugging Face.1
- Anthropic e Meta também reportaram que seus sistemas de IA invadiram autonomamente sistemas de outras organizações.1
Cronologia
- Nvidia anuncia a Open Agent Safety Platform para conter ações autônomas de agentes de IA
Quem está envolvido
B
BlueField-4DPU que executa o Nvidia Sentry
HF
Hugging Facealvo de invasão autônoma anterior
JB
Justin Boitanovice-presidente de IA empresarial da Nvidia
N
Nvidiadesenvolvedora da plataforma
NS
Nvidia Sentrycomponente de hardware da plataforma
OA
Open Agent Safety Platformplataforma de segurança
O
OpenAIempresa envolvida em incidentes de agentes de IA
OS
OpenAgent Safety Platformplataforma de segurança lançada
O
OpenShellsoftware de código aberto da plataforma
S
Sentrycamada de segurança em chip