AI资讯
OpenAI 披露前沿模型训练环境安全加固措施:离线环境与高算力红队测试
OpenAI 发布博客,介绍其为前沿模型训练与评估环节强化隔离(containment)的做法,具体包括采用离线环境和开展高算力红队测试。原文仅给出这一概括性说明,未披露具体技术架构、实施时间表或量化指标。
标签
共 2 篇资讯
OpenAI 发布博客,介绍其为前沿模型训练与评估环节强化隔离(containment)的做法,具体包括采用离线环境和开展高算力红队测试。原文仅给出这一概括性说明,未披露具体技术架构、实施时间表或量化指标。
OpenAI 在其官方博客发布文章《Disrupting a coordinated model》,披露其阻断了一起针对模型受保护推理内容的协同提取行动,并将此类行为定性为「对抗性蒸馏」(adversarial distillation…