AI资讯

OpenAI安全透明度负责人David Robinson离职,三名安全员工因泄密被解雇

来源量子位查看原文

速览

  • OpenAI安全透明度负责人David Robinson离职,继任者未定
  • 其团队负责system card等对外安全披露材料,是OpenAI安全工作的对外窗口
  • Robinson是《Preparedness Framework 2.0》主要起草人,该框架追踪生物化学、网络安全、AI自我改进三类能力
  • OpenAI解雇三名安全与对齐研究人员,理由是将敏感信息分享给外部AI安全机构
  • 被解雇者之一Korbak曾是OpenAI与METR、Redwood Research的技术联系人
  • Robinson离职前公开表示不认为竞相发展RSI是囚徒困境,称其疯狂且傲慢
  • OpenAI安全团队自Dario Amodei时期起人事变动频繁

OpenAI安全团队再现人事动荡。据BI报道,Safety Systems团队内负责「安全透明度」职能的David Robinson已离职,本人未公开说明原因,OpenAI也未公布继任者。Robinson的团队负责为每次重要模型发布撰写system card(风险说明书),并产出Deployment Safety Hub、安全研究博客与公开治理文件,他还是OpenAI《Preparedness Framework 2.0》的主要起草人。与此同时,据《华尔街日报》报道,OpenAI解雇了三名从事安全与模型对齐研究的员工Jasmine Wang、Tomek Korbak和Mikita Balesni,理由是内部调查发现三人将公司敏感信息分享给一家外部AI安全机构,其中包含OpenAI基础设施架构内容。Korbak此前担任OpenAI与第三方评估机构METR、Redwood Research之间的技术联系人。

关键事实

  • David Robinson是OpenAI Safety Systems团队内「安全透明度」职能负责人,据BI报道已离职,本人未公开说明原因,OpenAI未公布继任者
  • Robinson团队负责撰写system card,篇均几十页,并产出Deployment Safety Hub、安全研究博客和公开治理文件
  • Robinson是OpenAI《Preparedness Framework 2.0》的主要起草人,该框架新增生物与化学能力、网络安全能力、AI自我改进能力三类追踪能力
  • Deep Research System Card显示其生物学评估「接近」High能力门槛
  • Robinson近期还在招聘OpenAI首位Safety Transparency Editor,该岗位目前仍在招
  • 据《华尔街日报》报道,OpenAI解雇三名安全方向员工Jasmine Wang、Tomek Korbak和Mikita Balesni,理由是向外部AI安全机构分享敏感信息,含基础设施架构内容

本站视角

对中文开发者与国内做Agent、做安全对齐的团队来说,这件事的价值不在于「OpenAI又走了一个人」的八卦,而在于它暴露了前沿实验室在安全披露与商业节奏之间的结构性张力。Robinson的岗位本质是「对外解释安全」,这类角色在模型迭代加速时最容易被边缘化——新模型接连上线,system card却要几十页地写、要招专职编辑,投入产出比在内部很难被看见。我们认为,安全透明度负责人离职加上三名安全员工因「对外分享信息」被解雇,传递出的信号是OpenAI正在收紧安全信息的对外流动边界:一方面对外披露的窗口人物离开,另一方面与第三方评估机构的非正式沟通被定性为泄密。这对依赖OpenAI system card、Preparedness Framework等公开材料做风险评估的下游团队(包括国内做模型评测、做合规、做Agent安全护栏的团队)意味着,可获取的权威安全信息可能变少、变慢,需要更早建立自己的评估能力,而不是等官方文档。需要观察的是,Robinson的继任者何时到位、Safety Transparency Editor是否招到,以及OpenAI与METR、Redwood Research的合作是否因此降温。也要指出,本条消息的两个核心事实分别来自BI与《华尔街日报》,OpenAI官方均未就离职原因与解雇细节作出公开说明,被解雇员工也未在原文中发声,因此「因泄密被开」的定性目前仍是公司单方面说法,读者不宜将其当作已证实的完整事实。Robinson在X上「不认为竞相发展RSI是囚徒困境,它既疯狂又傲慢」的表态,则代表了一部分安全研究者对当前竞赛节奏的批评立场,这与公司层面的商业选择并不一致,这种内部分歧是否会随人事变动进一步公开化,值得持续跟踪。

背景与影响

OpenAI的安全团队长期处于高频人事变动之中。原文列举了此前多起事件:OpenAI解散「灾难风险应急」团队、GPU大神Scott Gray离职、一个月内跑掉4名高管(含前COO)、GPT-5.6发布后安全主管离职等。此次Robinson离职与三名安全员工被解雇几乎同期曝光,进一步加深了外界对OpenAI安全职能稳定性的疑虑。Robinson负责的「安全透明度」工作,本质是把内部复杂的评估、红队测试与部署决策翻译成公众可读的材料,system card是其中最常与公众见面的产出,被类比为食品包装上的「营养成分表」。他主导的《Preparedness Framework 2.0》为前沿模型风险设定了High与Critical两级门槛:达到High意味着模型可能显著放大现有严重危害路径,部署前必须配置足够安全措施;达到Critical则意味着模型可能凭空创造严重危害路径,是否继续开发将存在问题。Deep Research的生物学评估已「接近」High门槛。这意味着,在模型能力持续提升、新模型接连上线的同时,负责向外界解释安全工作的关键人物却先离开,且其正在招聘的Safety Transparency Editor岗位尚未补上,安全透明度职能短期内可能出现真空。三名被解雇员工将敏感信息分享给外部AI安全机构一事,则可能让OpenAI与METR、Redwood Research等第三方评估机构之间的协作关系变得更为敏感——Korbak正是此前的对接人。

本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。

编辑与审校

AI大海啸编辑部

负责选题、审校与「本站视角」的判断。

编辑流程与 AI 使用说明