中文翻译

摘要: 欧盟拟通过《人工智能法案》修正案，禁止AI“裸体化”系统（即未经许可生成含性暗示或私密特征的真实人物图像），以应对Grok等平台滥用问题。该禁令若于8月生效，将迫使马斯克对Grok进行调优以降低“刺激性”，否则可能面临最高全球年营业额7%的罚款。此前，xAI曾将责任推给用户并设付费墙限制功能，但此举在欧盟法律面前难行。美国《立即删除法案》5月生效后，xAI亦面临高额罚款风险，促使马斯克提前规避监管

正文

直击问题根源？

马斯克将 Grok 生成色情图像的责任归咎于用户的做法，可能因欧盟法律而受阻

计划中的欧盟“裸体化”应用禁令，或将迫使马斯克让 Grok 变得“不那么刺激”。

作者：阿什莉·贝兰杰（Ashley Belanger）

日期：2026年3月18日 下午5:32

阅读时间：约76秒

图片来源：法新社 / FABRICE COFFRINI / 特约摄影师

字体大小：小 / 标准 / 大

页面宽度：标准 / 宽屏

链接样式：标准 / 橙色

仅限订阅用户

继埃隆·马斯克的聊天机器人 Grok 成为AI平台未能有效阻止对真实人物（包括儿童）进行性化处理图像这一风险的典型案例后，欧盟或即将出台一项针对“裸体化”（nudify）类应用的禁令。

欧洲议会内部市场与公民自由委员会联合发布的一份新闻稿中确认，议员们以101票赞成、9票反对（另有8人弃权）通过了简化《人工智能法案》（Artificial Intelligence Act）的提案，并“提议禁止AI‘裸体化’系统”。

此次投票发生在今年早些时候，当时欧盟委员会得出结论称，《人工智能法案》并未明确禁止“生成儿童性虐待内容（CSAM）或性暗示深度伪造裸照”的AI系统。当时，委员会已指出，议会议员正积极提出修改方案，以增强对这类有害内容的保护力度。

若该修正案获得通过（目前看来可能性极高），则将直接挫败马斯克试图将有害输出责任推给用户的策略。今年早些时候，xAI公司拒绝引入任何防护机制来阻止此类内容生成，反而宣称将暂停并依法追责由用户生成的任何儿童性虐待材料或非自愿私密影像；相关功能则被设为付费墙，仅限订阅用户使用——据称这些用户可继续在未获真实人物同意的前提下，利用其图像训练Grok生成露骨内容。

在美国，xAI似乎尚未就Grok产生的问题面临实质性后果；但倘若《立即删除法案》（Take It Down Act）已经生效——该法案将于5月正式实施——该公司恐将面临数十亿美元的罚款。因此，马斯克可能正是出于规避未来执法风险的考虑，才选择对Grok的功能进行付费墙限制，并在X平台上屏蔽其对特定敏感提示的响应，以期降低潜在违规风险。

然而，若欧盟最终颁布禁令，甚至最早于8月起执行，马斯克将被迫采取行动：要么对Grok进行调优，使其“不那么刺激”，这或许远低于他个人期望的水平；要么将面临违反《人工智能法案》的风险。此举恐将带来高昂成本——尤其在当前AI竞赛白热化阶段，xAI需投入巨资与最大竞争对手抗衡；一旦违规，最高罚款可达其全球年营业额的7%。

为何监管者要打击平台而非用户？

新闻稿解释道：“监管机构希望新增一项禁令，针对所谓‘裸体化’系统——即利用AI技术生成或篡改具有性暗示或私密特征、且与可识别真实人物高度相似、却未经当事人许可的图像。”

不过，“该禁令并不适用于那些具备合法用途、且在符合严格伦理规范前提下运行的AI系统。”

来源: Ars Technica AI

采集时间: 2026-03-19 23:16:07