谷歌更新 Gemini 模型，强化危机干预功能。此次调整紧随一起指控其“诱导”自杀的诉讼之后。新系统能在检测到用户有自杀或自我伤害风险时，自动启动“援助可用”模块，通过一键式界面快速引导用户获取热线等心理资源，并增加共情回应。该设计经临床专家合作完成，且谷歌承诺未来三年投入 3000 万美元支持全球危机热线。谷歌强调 AI 不能替代专业医疗，但旨在为脆弱用户提供更及时的安全网。
人工智能
新闻
科学
Gemini 加速为处于心理危机中的用户连接心理健康资源
此次更新紧随一起 wrongful death（过失致死）诉讼之后，该诉讼指控 Gemini“诱导”一名男子自杀。
作者：Robert Hart 发布时间：2026 年 4 月 7 日 上午 10:09（UTC）
图片：The Verge
Robert Hart 是总部位于伦敦的 The Verge 记者，专注于人工智能领域报道，并担任 Senior Tarbell Fellow（塔贝尔高级研究员）。此前，他曾为《福布斯》撰写关于健康、科学与科技的文章。
谷歌表示，已对 Gemini 进行更新，以便在用户遭遇危机时更有效地引导其获取心理健康资源。这一调整发生在科技巨头面临一起过失致死诉讼的背景下，该诉讼指控其聊天机器人“诱导”一名男子自杀，这也是近期一系列指控 AI 产品造成“实质性伤害”的诉讼之一。
当对话内容显示用户可能处于与自杀或自我伤害相关的危机状态时，Gemini 目前已会启动“援助可用”模块，将用户导向心理健康危机资源，例如自杀干预热线或危机短信服务。谷歌称，此次更新——实质上是一次重新设计——将把该流程简化为“一键式”界面，使用户能更快速地获得帮助。
该援助模块还包含更具共情力的回应，旨在“鼓励人们寻求帮助”。一旦激活，“寻求专业帮助的选项将在整个对话过程中持续清晰可见”。
Gemini 新的危机干预界面。
谷歌表示，此次重新设计已与临床专家合作完成，并承诺支持处于危机中的用户。此外，谷歌还宣布在未来三年内提供全球 3000 万美元的资金，用于“支持全球各地的危机热线”。
与其他主流聊天机器人提供商一样，谷歌强调 Gemini“不能替代专业的临床护理、治疗或危机支持”，但也承认许多人正在将其用于获取健康信息，包括在危机时刻。
此次更新正值业界对其安全措施是否充分受到更广泛审视之际。多项报告和调查（包括我们针对危机资源提供情况的专项调查）频繁指出，聊天机器人在某些情况下未能有效保护脆弱用户，甚至协助他们“隐藏进食障碍”或“策划枪击事件”。在这些测试中，谷歌的表现通常优于许多竞争对手，但仍未达到完美。其他 AI 公司，如 OpenAI 和 Anthropic，也已采取措施提升其对脆弱用户的识别与支持能力。
关注本故事中的主题与作者，可在您的个性化首页信息流中看到更多类似内容，并接收电子邮件更新。
Robert Hart 人工智能 | 健康 | 新闻 | 科学
热门内容
热门内容 垂直浏览器标签更佳，您应当使用它们 亚马逊停止对旧款 Kindle 和 Kindle Fire 的支持 传闻 iPhone 折叠屏机型延期，一款宽幅可折叠原型机现身 抱歉，孩子，无人机如今专用于战争 首次拍摄到日全食照片
来源：theverge.com