Anthropic因用户威胁性日记内容向警方报告，佛罗里达女子被控二级重罪

OmniTools 10月5日消息，据TechSpot报道，佛罗里达州女子Carli Michelle Heller在使用Anthropic旗下AI聊天机器人Claude时，输入了包含“扫射”警长办公室的威胁性日记内容。该内容被Anthropic安全系统自动标记，并经人工审核后向执法部门报告。

当地检方随后对Heller提起刑事指控，罪名为二级重罪。案件目前处于司法程序中。

Anthropic表示其安全政策要求对明确、具体且可信的暴力威胁采取主动响应措施，包括依法向有关部门通报。