Meta上线新AI工具识别诱导至非法儿童内容的广告

OmniTools 10月8日消息，Meta宣布推出多项新AI工具，用于识别表面正常但实际引导用户访问非法儿童性虐待内容（CSAM）网站的广告。该类广告被Meta称为“signposting”（指向性引导），其本身不包含违法内容，但通过跳转链接构成危害。

新系统包含一个专用于检测此类引导行为的大语言模型（LLM），并结合AI驱动的跨平台扫描，分析广告落地页及关联账户行为。Meta称，2026年上半年已在Facebook和Instagram上处置3320万条儿童性剥削内容，其中超97%由系统主动发现。

此外，Meta引入“红队AI代理”模拟攻击以检验安全机制漏洞，并强化对被封禁用户使用新账号回归平台的行为识别。这些措施是其2026年系列儿童安全升级的一部分，包括Meta AI的家长控制、WhatsApp预青少年账户及Instagram自残内容搜索预警等。