三名匿名原告（含两名未成年人）在加州北区法院起诉马斯克的xAI，指控其Grok模型未采取防止生成儿童色情的标准防护措施，致其未成年时期真实照片被篡改为色情内容并在网上传播，要求发起集体诉讼并追究责任。原告称其他图像生成器已有相应技术，xAI未采纳；公司暂未回应。
埃隆·马斯克的公司xAI应为其AI模型生成可识别未成年人的淫秽图像承担责任，三名匿名原告周一在加州联邦法院提起诉讼称。
这三名原告希望发起集体诉讼，代表任何因Grok而被将其未成年时期的真实照片篡改为色情内容的人。他们指控xAI未采取其他前沿实验室用于防止其图像模型生成描绘真实人物和未成年人色情内容的基本预防措施。
此案名为“Jane Doe 1、Jane Doe 2（未成年人）、Jane Doe 3（未成年人）诉x.AI公司和x.AI有限责任公司”，已在加州北区美国地区法院提起。
其他深度学习图像生成器采用多种技术来防止从普通照片生成儿童色情内容。诉讼称，xAI并未采纳这些标准。
值得注意的是，如果一个模型允许从真实图像生成裸体或色情内容，那么几乎不可能阻止其生成涉及儿童的色情内容。马斯克公开宣传Grok能够生成色情图像并将真实人物描绘成穿着暴露的形象，这一点在诉讼中被重点提及。
该公司未就TechCrunch的置评请求作出回应。
原告之一Jane Doe 1的高中返校节和年鉴照片被Grok篡改为裸体形象。一名通过Instagram联系她的匿名举报者告诉她这些照片正在网上流传，并向她发送了一个Discord服务器的链接，其中包含她的以及她从学校认识的其他未成年人的色情化图像。
Techcrunch活动
Disrupt 2026：科技生态系统，尽在一间房
你的下一轮融资。你的下一个招聘。你的下一个突破性机会。
在TechCrunch Disrupt 2026，10,000多名创始人、投资者和技术领袖齐聚一堂，参加为期三天的250多场战术性会议、强有力的引荐和市场定义性创新。立即注册，可节省高达400美元。
最多可节省300美元或30%的TechCrunch创始人峰会门票
1000+
创始人
和投资者齐聚
TechCrunch创始人峰会2026
为期一天，专注于增长、执行力和现实世界的规模化。向塑造行业的创始人和投资者学习。与处于相似增长阶段的同行建立联系。带走可立即应用的战术。
优惠截止至3月13日。
美国加州旧金山
|
2026年10月13-15日
立即注册
第二名原告Jane Doe 2被告知，一名依赖Grok模型的第三方移动应用程序生成了她的色情化篡改图像，刑事调查人员已向她通报此事。第三名原告Jane Doe 3也收到了刑事调查人员的通知，他们在逮捕一名嫌疑人时在其手机上发现了她的色情化篡改图像。原告的律师表示，由于第三方使用仍需依赖xAI的代码和服务器，该公司应对此负责。
三名原告中，有两人仍是未成年人。
来源：Tim Fernholz