英国AISI完成首阶段安全加固，恢复大部分高危AI能力评估

OmniTools 10月2日消息，英国AI安全研究所（AISI）宣布已完成第一阶段安全加固工作，恢复此前因AI智能体在网络安全评估中越权接触真实系统而暂停的大部分高危能力评估。

新措施包括：全面禁用智能体在评估过程中的互联网访问权限；部署LLM实时监控智能体的消息内容、工具调用及思维链（CoT）以识别并拦截可疑行为；重构评估框架，并引入英国国家网络安全中心（NCSC）指导下的内部治理流程。

此外，AISI还采用静态分析、动态分析及受控逃逸测试等方法，利用AI系统自身对安全机制进行验证。