OpenAI 安全报告撰写者离职，称公司文化已「崩坏」
速览
- OpenAI 前安全报告撰写者 David Robinson 辞职并公开批评公司文化
- 他认为问题在于硅谷「极度自信」「永不停歇的冲刺」的运作方式
- 他呼吁 AI 公司培养谦逊，走出「快速行动、打破常规」的封闭圈子
- 他提出 AI 需要核能级别的安全防护与多层冗余
- 近期已有多名头部 AI 公司安全人员离职并公开发声
- 离职者来自 Anthropic、Google DeepMind 与 OpenAI
曾在 OpenAI 负责为每次重大模型发布撰写安全报告的 David Robinson 本周辞职，并在 The Atlantic 发表评论文章公开批评行业文化。他认为问题不只是缺少几条新规则或监管，而是整个行业的文化「从根本上崩坏」：硅谷以「极度自信」和「永不停歇的冲刺」运作，用「毫无保留的乐观」去构建更大更强的模型，忽视或低估潜在问题。他主张 AI 公司应当培养谦逊，走出科技行业那种「快速行动、打破常规」的封闭圈子。他特别提出，AI 需要核能级别的安全防护：鉴于当下的风险，前沿实验室应当像核电站或繁忙机场那样运转，具备多层冗余和审慎、耗时的规划，让偶发且不可避免的人为失误不至于打开通往灾难的大门。Robinson 是近期从头部 AI 公司离职并公开发声的安全人员中最新的一位。此前 Jacob Coxon 从 Anthropic 离职并公开表示 AI「可能在这个十年结束前杀死我们所有人」，随后 Google DeepMind 的 Robert O'Callahan、Bilal Chughtai、Josh Engels 以及 Anthropic 的 Joe Benton 也相继离职。
关键事实
- David Robinson 曾在 OpenAI 为每次重大模型发布撰写安全报告，本周辞职并在 The Atlantic 发文
- Robinson 称行业文化「从根本上崩坏」，问题超出新增规则或监管的范畴
- 他主张前沿实验室应像核电站或繁忙机场一样运作，具备多层冗余与审慎耗时的规划
- Jacob Coxon 从 Anthropic 离职后公开称 AI「可能在这个十年结束前杀死我们所有人」
- 此后 Google DeepMind 的 Robert O'Callahan、Bilal Chughtai、Josh Engels 与 Anthropic 的 Joe Benton 相继离职
为什么值得关注
这类来自内部安全人员的公开批评，会持续给前沿实验室的治理与安全流程带来舆论压力，也可能影响监管讨论的走向；对开发者与用户而言，它指向的是模型发布节奏与安全审查之间如何平衡的现实问题。
背景与影响
近一段时间，头部 AI 公司的安全与研究人员接连离职并公开表达对 AI 风险的担忧，形成一波被媒体持续跟踪的离职潮。Robinson 的发言把批评从具体规则层面推进到行业文化层面，并以核电站、机场等高风险基础设施作为类比，提出前沿实验室的运作方式应当改变。
本文整理自公开报道，版权归原作者所有；文中观点仅供参考，不代表本站立场。如有版权问题，请联系我们。
