OmniTools 8月4日消息,Open Secure AI Alliance(开放安全AI联盟)成员联合提出“共享AI发现交换”(SAFE)指南草案,旨在提升AI智能体网络安全事件的透明度与协同响应能力。该草案由Linux基金会发布并公开征求意见,目前联盟已汇聚超120家组织。
SAFE指南聚焦于AI智能体安全事件与近失事件的保密收集与分析、受影响方通知、系统性控制缺陷识别,以及基于证据的操作建议发布,以降低整体风险。NVIDIA、Cisco、CrowdStrike、Hugging Face和Red Hat等联盟成员参与了草案制定。
同期,联盟成员正从身份权限、运行时防护、专用安全模型、可观测性及韧性等多个层面推进开源工具建设。例如,NVIDIA开源NOOA智能体研究框架、OpenShell运行时及NeMo系列安全工具;Amazon贡献Strands Agents与Cedar授权语言;Microsoft开源PyRIT、RAMPART等红队工具;CrowdStrike基于NVIDIA Nemotron Nano模型开发了高准确率安全调查接口。