AI资讯
OpenAI 发布反蒸馏防护措施:GPT-6.2 Astra 推理链提取攻击成功率从 54.0% 降至 0.2%
OpenAI 发布文章,说明其如何检测和阻断「对抗性蒸馏」——即未经授权用前沿模型的输出训练另一个模型,从而复制能力却绕过原有安全防护。OpenAI 将防护重点放在「受保护推理」(protected reasoning,即模型的思维链)…
标签
共 1 篇资讯
OpenAI 发布文章,说明其如何检测和阻断「对抗性蒸馏」——即未经授权用前沿模型的输出训练另一个模型,从而复制能力却绕过原有安全防护。OpenAI 将防护重点放在「受保护推理」(protected reasoning,即模型的思维链)…