OmniTools 7月22日消息,Anthropic 副首席信息安全官 Jason Clinton 公开其 AI 原生软件开发生命周期的安全保障措施。数据显示,该公司软件工程师每季度交付代码量达 2021–2025 年平均水平的 8 倍,其中约 80% 合并入库的代码由 Claude 生成。
为应对智能体遭入侵或提示注入引发恶意变更等新型风险,Anthropic 采用安全左移、严格访问与身份边界控制、自动化审查与智能体协同审核相结合的方式,并在关键节点保留人工审核机制。
上述策略在保障安全性的同时,未对开发效率造成显著影响。