Meta推出新AI工具，识别暗中导向儿童性虐待材料的广告

Meta周三宣布，其在2026年上半年对Facebook和Instagram上的3320万条儿童性剥削内容采取了行动。 与此同时，该公司正在推出新的AI工具，以查找可能被用来秘密将人们引导至非法儿童虐待材料的广告和账户。

该公司表示，Meta采取行动的内容中，超过97%是在用户举报之前由其系统发现的。在印度，Meta在同一时期对530万条儿童性剥削内容采取了行动，其中超过98%是在用户举报之前被检测到的。

Meta表示，其最新的AI工具针对的是利用看似无害的广告、将用户引导至Meta平台之外非法内容的人。

该公司推出了一套新的大语言模型（LLM）系统，用于检测其所谓的“signposting”。这指的是那些看起来可能正常、但被怀疑会将用户引导至网上别处的非法内容或其他有害活动的广告。Meta表示，这是其最近观察到不良行为者所使用的一种策略，他们不断改变手法以逃避检测。虽然这些广告本身可能并不包含非法材料，但它们仍可能成为通往托管儿童性虐待材料网站的入口。

因此，Meta表示，它现在不仅查看广告包含什么，还会查看广告将用户发送到何处。该公司可以利用这些信息屏蔽违反其规则的网站或其他目的地，并对这些目的地背后的账户采取措施。

Meta还在使用额外的AI驱动扫描，以查找早期系统可能遗漏的儿童剥削内容。该公司表示，随着对这些网络如何运作了解得更多，它将继续添加新的信号。

另一项新工具是一个用于测试Meta自身安全措施的“red-teaming AI agent”。它寻找不良行为者可能用来绕过该公司防护的弱点。Meta表示，这可以帮助其在新的滥用手法变得更加普遍之前发现它们。

此外，该公司正在改进其系统，以查找那些在先前账户被移除后、以新账户返回其平台的人。

这些新措施出台之际，Meta仍因旗下平台的儿童安全问题持续面临压力。该公司因其社交媒体服务可能给年轻用户带来的风险而面临诉讼以及立法者的批评。8月，Meta达成协议，支付最高$18 billion，以和解一起涉及美国29个州的儿童安全诉讼，回应有关儿童在线保护的关切。

Meta今年推出了多项儿童安全功能，包括Meta AI的家长控制、WhatsApp上的青春期前账户，以及当儿童在Instagram上搜索自残内容时向家长发出的提醒 。

9月，WhatsApp为家长新增了更多控制功能。他们可以限制青少年使用Channels的方式，控制谁可以看到其状态更新，并决定谁可以将他们的孩子添加到群组中。家长还可以选择接收有关某些群组活动的通知。

当您通过我们文章中的链接进行购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Lauren在TechCrunch负责报道媒体、流媒体、应用和平台。

您可以发送电子邮件至laurenf.techcrunch@gmail.com，或通过Signal向laurenforris22.25发送加密消息，从而联系Lauren或核实自称来自Lauren的联络。

查看简介