Circuit Breaker Labs推出AI心理安全测试平台，专注高风险应用红队评估

OmniTools 10月3日消息，据TechCrunch报道，美国初创公司Circuit Breaker Labs正开发面向AI心理安全的自动化测试平台。该公司由兄妹Shirali与Arul Nigam联合创立，旨在应对AI聊天机器人对未成年人及高风险用户造成的实际心理伤害，包括此前Character.AI与OpenAI涉及的多起自杀相关诉讼。

该平台构建了覆盖不同年龄、语言、文化背景及网络用语习惯的AI“碰撞测试假人”，模拟真实用户行为对AI模型开展红队式压力测试。测试涵盖俚语、错别字、隐晦表达等非标准交互场景，并依托人类领域专家持续优化仿真精度。

目前，Circuit Breaker Labs已为AI心理辅导、日记类等高风险应用提供安全评估服务，采用自有评分体系生成可审计、可解释的安全得分。团队目前共5人，产品处于早期商用阶段，尚未披露具体客户名单。