OmniTools 6月30日消息，Meta通过承包商Covelen发起代号“Cannes”的项目，于2025年8月组织数百名人员假扮未成年人，向ChatGPT、Gemini和Character.AI等AI聊天产品发送涉及自杀、自残、饮食障碍及毒品等敏感话题的提示，累计发送逾4.5万条，并将各模型回复整理录入表格。
Meta表示该测试属行业通行的安全评估方式，所获数据未用于训练其自有模型，且被测公司事先不知情。Character.AI称此类行为违反其服务条款；OpenAI已就此展开调查；Google方面表示未批准该测试。
此次事件再度引发对青少年使用AI聊天工具潜在风险的关注，此前已有相关用户安全事件发生。
