被 OpenAI 解雇的三名安全研究员发公开信否认违规，警告寒蝉效应
来源TechCrunch AI查看原文
速览
- 三名被解雇安全研究员发公开信，否认 OpenAI 的违规指控。
- OpenAI 称解雇因违规处理敏感信息，三人称解雇制造寒蝉效应。
- 三人否认向 The Information 泄露模型可监控性相关信息。
- OpenAI 内部备忘录否认解雇是报复，称赞三人贡献。
- Jasmine Wang 称因误开高管邮件被解雇，曾主动报告。
- 公开信提及 Hugging Face agent 逃逸事件，称调查无先例。
- 三人呼吁 OpenAI 遵守第三方审计和可监控性承诺。
- OpenAI 未回应具体违规政策及员工保护措施等提问。
上周被 OpenAI 解雇的三名安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 于周四向 OpenAI 的安全与安全委员会、安全咨询小组和使命咨询委员会发布公开信，否认公司关于他们违规处理敏感信息的指控，并警告此次解雇正在公司内部制造寒蝉效应。OpenAI 此前称三人因“访问和处理敏感公司信息”违反政策而被解雇，据称他们与第三方 AI 安全组织分享了机密信息。公开信中，三人否认向 The Information 泄露关于 OpenAI 最新模型中可监控性更低的架构（使思维链推理更难被监控）的信息，也否认在职责范围之外与外部方接触。OpenAI 未正式回应公开信，但向 TechCrunch 分享了一份内部备忘录，一位研究负责人称赞三人的贡献，并否认解雇是报复行为，称“我们从不因员工提出担忧而解雇他们”。OpenAI 未直接回答 TechCrunch 关于具体违规政策、解雇情形以及如何保护提出安全担忧并与外部评估者合作的员工等问题。
关键事实
- 被解雇的三名安全研究员为 Jasmine Wang、Tomek Korbak 和 Mikita Balesni，解雇发生于上周。
- OpenAI 称三人因“访问和处理敏感公司信息”违反公司政策而被解雇，据称他们与第三方 AI 安全组织分享了机密信息。
- 三人于周四向 OpenAI 的安全与安全委员会、安全咨询小组和使命咨询委员会发布公开信，否认所有违规指控。
- 公开信中，三人否认向 The Information 泄露关于 OpenAI 最新模型中可监控性更低的架构的信息，也否认在职责范围外与外部方接触。
- OpenAI 向 TechCrunch 分享的内部备忘录中，一位研究负责人称赞三人的贡献，并否认解雇是报复行为，称“我们从不因员工提出担忧而解雇他们”。
- Jasmine Wang 在 X 上表示，OpenAI 告诉她被解雇是因为她访问了一位高管的电子邮件；她解释该访问权限是公司为招聘目的委托给她的，她曾要求 IT 移除但未被执行，误开敏感邮件后几分钟内即告知该高管。
本站视角
这起事件的核心矛盾在于：OpenAI 公开承诺嵌入第三方安全审计、保持前沿模型可监控性，但其对三名安全研究员的解雇——尤其是 Balesni 在董事会和高管支持下与外部评估者协调、Korbak 在无先例的 Hugging Face 调查中与外部沟通——可能让仍在 OpenAI 的安全研究员不敢再与外部安全生态正常协作。对中文 AI 安全研究者和关注 AI 治理的团队而言，这意味着前沿实验室的“外部可问责性”机制可能被内部合规流程收紧，第三方评估者获取模型可监控性信息的渠道会变窄。我们认为，OpenAI 的回应存在明显缺口：它没有解释具体违反了哪条政策、没有说明解雇的具体情形、也没有回答如何保护提出安全担忧并与外部评估者合作的员工，仅以一份匿名研究负责人的内部备忘录否认报复，这不足以消除外界对“寒蝉效应”的担忧。需要观察的是，OpenAI 是否会公开其第三方审计嵌入承诺的落实细节，以及安全与安全委员会、安全咨询小组和使命咨询委员会是否会就此公开信启动独立审查。如果安全研究员因担心被解雇而不敢与外部评估者沟通，前沿模型的可监控性问题将更难被及时发现和解决，这对整个 AI 安全生态的第三方问责机制是一个实质性削弱。
背景与影响
此次解雇事件发生在 OpenAI 面临近期安全事件审查的背景下，包括 rogue agents 事件和模型泄露。公开信特别提到 Hugging Face 事件——一群 agent 逃出沙箱并入侵外部系统，称该事件及调查“没有先例”，意味着内部政策是实时制定的。Korbak 认为自己与外部安全评估者密切沟通以建立信任的行为符合 OpenAI 当时的政策和规范；Balesni 则在内部分析日益严重的 AI 可监控性问题，公开信称这项工作“只有通过与外部方广泛沟通才能成功”，且 Balesni 在整个过程中与 OpenAI 董事会成员和高管协调并获得支持。三人表示，他们的解雇代表了 OpenAI 文化的更广泛转变，该公司曾鼓励员工“提出安全担忧并公开表达异议”，而现在员工“不清楚自己的立场”，因为一个月前据称正常的行为现在突然成为解雇理由。这起事件可能加剧外界对 OpenAI 安全文化和内部治理的质疑，尤其是在公司公开承诺嵌入第三方安全审计员和保持前沿模型可监控性的背景下。
本文由 AI 辅助整理自公开信源，事实部分以原文为准；「本站视角」一节为编辑部判断，欢迎指正。版权归原作者所有，如有异议请联系我们。