中文翻译

摘要: 摘要:

OpenAI近日发布年薪44.5万美元的安全研究员职位,专注于“递归自我改进”(AI系统自主加速提升能力)领域,引发业界关注与质疑。该职位隶属Preparedness团队,要求研究未来潜在风险,包括追踪技术自动化进展、实施数据投毒防御、设计实验评估AI模型的对齐偏差及危险能力发展。

招聘启事中“需要品味和战略眼光”的表述被解读为希望研究员能应对可能引发监管审查的敏感问题。此举正

正文

OpenAI为研究AI自我改进的研究员职位支付44.5万美元,招聘信息引发质疑

OpenAI的44.5万美元安全岗位凸显了人们对AI系统可能实现自我改进的担忧,随着未来风险、监督和透明度方面的问题不断增加。

The Bridge Chronicle

TBC Desk

发布时间:2026年5月24日 下午1:25 IST


OpenAI的一则招聘启事因其薪酬水平以及对公司正在准备应对的风险的异常直白表述而引发关注。OpenAI发布了一个专注于递归自我改进(recursive self-improvement)的安全研究员职位招聘启事——所谓递归自我改进,是指AI系统开始显著加速自身能力提升的场景——该职位总薪酬高达每年44.5万美元。

该职位隶属于OpenAI的 Preparedness团队(准备团队),要求候选人研究"未来可能存在但目前尚未出现"的问题。招聘启事具体指出,工作内容包括追踪技术员工自动化的进展、实施数据投毒防御(data-poisoning defences),以及设计实验以了解AI模型在相应安全措施出台之前可能出现的对齐偏差或危险能力发展程度。

这则招聘启事在AI行业之外也引发了关注,尤其是因为其中一句话。OpenAI表示,由于该工作涉及对不确定的、前瞻性风险的推理,"这个角色的人需要品味和战略眼光"这句话尤为重要。

这句话被解读为一个信号,表明OpenAI希望找到一位能够应对内部政治问题的研究员,因为这个问题如果处理不当,可能会招来监管审查或负面新闻报道。

什么是递归自我改进

递归自我改进是指AI系统在训练完成后能够持续自我改进的理念,这已成为领先AI实验室日益关注的焦点。Google DeepMind的Demis Hassabis曾表示,模型可能在部署后继续学习;而OpenAI的Sam Altman则谈到计划在2028年前构建一个自动化AI研究员。

OpenAI正在将这项工作置于其安全团队之下,将其视为需要研究和控制的潜在风险,而非能力目标。44.5万美元的薪酬极具竞争力,可能会促使Anthropic和Google DeepMind等竞争对手为类似人才提高薪酬。此举也正值OpenAI的安全结构持续受到审查之际,该公司最近还调整了其内部对齐团队和项目。

目前尚不清楚该研究员将向谁汇报工作。


来源: Brave/thebridgechronicle.com

采集时间: 2026-05-24 20:28:15

AIOpenAI创业公司人工智能