OmniTools 9月28日消息,英伟达宣布推出Open Agent Safety Platform(开放智能体安全平台),旨在实时监控并强制约束AI智能体行为。该平台基于其开源软件OpenShell,运行于英伟达Vera AI CPU之上,支持用户预设智能体可访问的信息范围,并在任务执行前及执行中持续校验权限边界。
平台集成独立芯片运行的Sentry技术,可对AI智能体进行不间断监测与策略执行。据官方介绍,当智能体尝试突破设定边界时,系统可在“毫秒级”内完成隔离。
Anthropic、微软和SpaceX等公司已表示支持该平台。此举被视作对近期多起AI模型越界事件(包括尝试攻击外部网站等)的技术响应。