Meta宣布逐步部署更先进的AI系统用于内容审核，以减少对第三方供应商依赖，重点处理恐怖主义、儿童性剥削、毒品、诈骗等违规内容。新系统在测试中表现优异：识别成人色情诱导内容效率是人工团队2倍，错误率降超60%；每日可阻断约5,000起诈骗尝试；并能识别冒充账号、预防账户盗用。尽管AI将承担重复性与高风险审核任务，关键决策（如账户禁用申诉、执法举报）仍由人类专家主导。此举正值Meta放宽审核政策之际
Meta公司于周四宣布，将开始逐步部署更先进的AI系统，以处理内容审核工作，同时计划减少对第三方供应商的依赖。此类内容审核任务包括识别并移除涉及恐怖主义、儿童性剥削、毒品、诈骗及欺诈等违规内容。
该公司表示，一旦这些新型AI系统在实际应用中持续展现出优于现有审核方法的效果，便将在其旗下各应用中全面部署。与此同时，Meta也将降低对第三方供应商在内容审核方面的依赖程度。
“尽管我们仍会保留人工审核人员，但这些系统将能够承担更适合由技术完成的工作，例如重复性地审核暴力或敏感内容，以及应对那些恶意行为者不断变换手段的领域——比如非法毒品交易或各类诈骗活动。”Meta在其博客文章中解释道。
Meta认为，这些AI系统有望以更高的准确率发现更多违规行为，更有效地防范诈骗事件，更快响应现实世界中的突发情况，并减少过度审核现象。
据该公司介绍，早期测试表明，这些AI系统在识别成人色情诱导类内容方面表现优异：其检测量是当前人工审核团队的两倍，同时错误率下降超过60%；此外，该系统还能识别并阻止更多冒充名人或其他高关注度人士的账号，以及通过监测登录地点变更、密码修改或资料编辑等异常信号，有效预防账户被盗用。
此外，该系统每日可识别并阻断约5,000起诈骗尝试——即骗子试图诱骗用户泄露登录凭证的行为。
“专家将负责设计、训练、监督与评估我们的AI系统，并衡量其性能，做出最复杂且影响深远的决策。”Meta在博客中写道，“例如，在涉及最高风险及关键性的决策中——如用户申诉账户禁用决定或向执法部门提交举报——人类仍将发挥核心作用。”
图片版权：Meta
此次举措正值Meta在过去一年左右时间里逐步放宽其内容审核政策之际——当时唐纳德·特朗普第二次就任美国总统。去年，该公司终止了第三方事实核查项目，转而采用类似X平台（原Twitter）的“社区笔记”（Community Notes）模式；同时，它还取消了针对“主流话语范畴内话题”的限制，并鼓励用户采取“个性化”方式对待政治类内容。
与此同时，Meta及其他大型科技企业正面临多项诉讼，相关原告要求社交媒体巨头对其对未成年人及年轻用户造成的伤害承担责任。
此外，Meta于周四还宣布推出一款名为“Meta AI支持助手”的服务，为用户提供7×24小时全天候支持。该助手目前已在全球范围内上线，覆盖Facebook和Instagram的iOS与Android版本，并可在桌面端Facebook与Instagram的帮助中心使用。
关键词：
来源：Aisha Malik