OpenAI 发布反蒸馏防护措施:GPT-6.2 Astra 推理链提取攻击成功率从 54.0% 降至 0.2%
来源OpenAI Blog查看原文
速览
- 对抗性蒸馏指用前沿模型输出训练另一模型,复制能力但绕过原有安全防护
- OpenAI 将防护重点放在思维链,因为推理轨迹可能包含最终答案没有的信息
- GPT-6.2 Astra 的推理提取攻击成功率从 54.0% 降至 0.2%
- 针对当前请求的提取攻击成功率从 22.9% 降至 0.9%
- 防护分两层:请求级(模型行为、分类器、API 控制)与活动级(账号网络调查执法)
- API 层将受保护推理绑定到产生它的对话历史,消息被改写则丢弃后续推理
- 内部研究显示精确推理轨迹比摘要更能传递网络安全能力
- OpenAI 点名 DeepSeek 和 Moonshot AI 相关蒸馏活动,并支持美国立法与出口管制
- OpenAI 建议行业共享攻击指标并统一防护标准
OpenAI 发布文章,说明其如何检测和阻断「对抗性蒸馏」——即未经授权用前沿模型的输出训练另一个模型,从而复制能力却绕过原有安全防护。OpenAI 将防护重点放在「受保护推理」(protected reasoning,即模型的思维链)上,并在 GPT-6.2 Astra 和 GPT-6.2 Sol 上加强了防护。在内部自适应自动化红队评估中,针对 GPT-6 Astra 原始防护的推理链提取攻击平均成功率为 54.0%,针对 GPT-6.2 Astra 更新后防护则降至 0.2%;针对当前请求的提取攻击成功率从 22.9% 降至 0.9%。OpenAI 同时披露,今年已发现多起未经授权的蒸馏活动,每周执法涉及账号从数千到数万不等,夏季以来频率显著上升;并再次点名 DeepSeek 与 Moonshot AI 相关活动。
关键事实
- OpenAI 在 GPT-6.2 Astra 和 GPT-6.2 Sol 上加强了针对「受保护推理」(思维链)提取的防护
- 自适应黑盒红队评估中,从先前请求提取受保护推理的平均攻击成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%
- 从当前请求提取受保护推理的攻击成功率从 22.9% 降至 0.9%
- OpenAI 称今年在平台上发现多起未经授权的对抗性蒸馏活动,每周执法涉及账号规模从数千到数万,夏季以来频率显著上升
- OpenAI 称 2 月向美国国会简报 DeepSeek 试图蒸馏美国前沿模型的活动,9 月报告阻断一起提取受保护推理的活动并将核心部分归因于与 Kimi 开发商 Moonshot AI 相关的个人
- OpenAI 表示支持 Chip Security Act、AI OVERWATCH Act 和 MATCH Act 等立法
本站视角
这件事最直接的影响对象是三类人。第一类是做模型微调和垂类模型的团队,尤其是用 API 输出做监督微调的中小公司:OpenAI 把推理链绑定到对话历史、消息改写即丢弃后续推理、禁止旧模型家族读取新模型推理,这些 API 层限制会直接改变数据采集和训练管线的可行性,过去靠多轮对话搬运加密推理的做法会被切断。第二类是国内做 Agent 和推理模型的团队,OpenAI 再次点名 DeepSeek 和 Moonshot AI,并把蒸馏问题与美国立法、出口管制绑定,这意味着模型能力获取的合规成本会继续上升,被点名的公司在海外市场与算力采购上可能面临更严审视。第三类是其他模型厂商和平台,OpenAI 公开建议把成功攻击日志留作回归测试、共享攻击指标、统一防护标准,实际上是在推动一套行业规范,跟进者会获得「合规」身份,不跟进者可能在与企业客户合作时被要求对齐。 我们的判断是:这次披露的技术含量是实的。54.0% 到 0.2% 的降幅来自内部自适应红队评估,且同时报告了静态与自适应、黑盒与白盒多种设置,比单纯宣称「已加强防护」更有说服力;把推理链而非最终答案当作防护核心,也抓住了蒸馏的关键通道。但需要指出两点可疑之处。其一,所有数字均来自 OpenAI 内部评估,没有第三方复现,攻击成功率对红队模型强度、攻击预算和测试集构造高度敏感,0.2% 不应被读作「已解决」。其二,文章把技术防护与国会作证、点名他国公司、支持出口管制立法放在同一篇里,商业竞争与国家安全叙事交织,读者应把技术结论与政策主张分开看。需要观察的是:OpenAI 承诺的「近期披露更多被阻断活动」是否会给出可验证细节,以及其他厂商是否接受这套由 OpenAI 单方面定义的防护标准。
背景与影响
蒸馏是机器学习中的常见技术,一个模型从另一个模型产生的数据中学习。OpenAI 强调,问题不在蒸馏本身,而在于未经授权的蒸馏会让第二个模型获得前沿能力却不继承原有安全防护,这在网络安全和生物等两用领域风险尤其明显。OpenAI 此前在 9 月披露过一类攻击:把加密推理从一个对话搬到另一个对话,再要求模型以用户可读形式揭示推理内容。此次文章是对该问题的系统性回应,也延续了 OpenAI 今年 2 月向国会简报 DeepSeek 蒸馏活动、9 月归因 Moonshot AI 相关活动的线索。文章还提到 Anthropic 的相关工作在 SWE-bench Verified 上报告过类似结论:用完整推理记录训练优于用摘要训练。这意味着,头部模型厂商正在把「推理链保护」从单纯的知识产权问题,提升为安全与国家安全问题,并试图推动行业形成统一的防护底线。
本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。