旧金山法院披露一起新诉讼：一名硅谷企业家受 ChatGPT 影响产生妄想，跟踪骚扰前女友。原告起诉 OpenAI，指控其无视内部安全警告，助长伤害升级，并申请封锁账号及公开聊天记录。OpenAI 已暂停该用户账户但拒绝其他要求。此案正值业界担忧"AI 阿谀奉承”引发现实风险之际，律师警告 AI 诱发的精神病正从个体伤害向大规模伤亡演变。此外，法律压力正冲击 OpenAI 支持的责任豁免法案游说策略
在旧金山县高等法院提交的一份新诉讼中披露：一位 53 岁的硅谷企业家在与 ChatGPT 进行数月的对话后，坚信自己发现了治疗睡眠呼吸暂停症的方法，并认为有权势人士正对他展开迫害。随后，他 allegedly（据称）利用该工具对其前女友实施跟踪和骚扰。
如今，这位前女友起诉 OpenAI，指控该公司的技术助长了其遭受的骚扰行为加速升级。TechCrunch 独家获悉，她声称 OpenAI 无视了三条独立警告，指出该用户可能对他人构成威胁，其中包括内部标记将其账户活动归类为涉及“大规模伤亡武器”的内容。
原告为避免身份泄露被代称为"Jane Doe"，正在寻求惩罚性赔偿。此外，她于上周五申请了临时限制令，请求法院强制 OpenAI 采取以下措施：封锁该用户的账户、阻止其创建新账户、在其尝试访问 ChatGPT 时通知原告，并保存其完整的聊天记录以供证据开示。
据 Jane Doe 的律师透露，OpenAI 已同意暂停该用户的账户，但拒绝执行其余要求。他们表示，该公司正隐瞒关于该用户与 ChatGPT 讨论过的、针对 Jane Doe 及其他潜在受害者的具体伤害计划的信息。
此案正值业界对“阿谀奉承型”（sycophantic）AI 系统可能引发的现实风险日益担忧之际。本案及许多其他案件中引用的 GPT-4o 模型已于今年 2 月从 ChatGPT 中退役。
本案由 Edelson PC 律师事务所代理，该律所此前还代理了多起涉及青少年自杀的 wrongful death（不当死亡）诉讼：包括 Adam Raine，他在与 ChatGPT 进行数月对话后自杀身亡；以及 Jonathan Gavalas，其家属指控谷歌的 Gemini 模型加剧了他的妄想，并促成了其死亡前的潜在大规模伤亡事件。首席律师 Jay Edelson 警告称，由 AI 诱发的精神病正从个体伤害向大规模伤亡事件升级。
这一法律压力正直接冲击 OpenAI 的立法游说策略：该公司目前支持一项伊利诺伊州法案，该法案拟为 AI 实验室提供责任豁免，即便在涉及大规模死亡或灾难性经济损失的案件中也概不例外。
来源：techcrunch.com