OmniTools 6月29日消息,据外媒报道,美军在近期军事行动中首次大规模部署AI系统辅助目标选择。Anthropic开发的Claude模型被嵌入Palantir的Maven Smart System,首日即生成约1000个潜在打击目标。然而,该系统未能有效整合关键情报,将一处已被标记为小学的地点列为有效目标,后续导弹袭击造成约120名儿童死亡。
调查显示,情报分析师早在2019年即通过数字工具确认该地点已转为小学,但该信息未接入军方核心目标数据库MIDB(建于1980年代,依赖人工录入)。替代系统MARS长期延迟上线,导致关键数据孤岛问题持续存在。
事件发生后,五角大楼宣布启动agentic AI initiative;Project Maven前负责人Jack Shanahan公开指出,目标验证流程失效“不可原谅”。