美军因AI生成虚假情报险些拦截中国船只

OmniTools 9月19日消息，据CNN报道，今年春季美伊冲突期间，美国特种作战司令部一名分析师使用聊天机器人整合开源与机密信号情报，生成一份报告称一艘位于中东海域的中国船只涉嫌运输核武器部件。该报告被作为正式情报分发，美军据此启动武装登船拦截预案。

行动实施前，经人工复核发现报告内容完全失实，相关行动随即中止。事件凸显美军各机构AI工具部署分散、缺乏统一验证机制，且AI辅助目标识别正快速扩展，但人机协同操作规范尚未明确。

报道指出，此类AI幻觉引发的情报失误已引发美军内部对AI在敏感决策链中应用边界的重新评估。