字节跳动 Seed 单独设立大模型安全与对齐部门，严林负责、向吴永辉汇报
来源雷峰网查看原文
速览
- 字节跳动 Seed 新设 Model-Alignment & Preparedness 部门，严林负责、向吴永辉汇报
- 原 Responsible AI 团队与部分 Chat 团队转入该部门
- 目标之一是提升 Agent Model 安全能力并防范 CBRN 风险
- Seed 内部认为安全与对齐是模型规模化应用的核心能力
- 工作方向覆盖模型规范、安全评估、对齐训练、防护系统与风险监控
- 雷峰网称这是国内前沿 AI 实验室首次单独设立安全与对齐部门
字节跳动 Seed 通过内部邮件宣布成立「Seed Model-Alignment & Preparedness」部门，由严林负责，汇报给 Seed 负责人吴永辉。原 Responsible AI 团队及部分 Chat 团队成员将转入该部门。新部门的目标是加强安全与对齐方向投入，提升 Agent Model 的安全能力，并防范 CBRN（化学、生物、放射、核）等前沿能力风险。雷峰网称，字节跳动 Seed 是国内首家单独成立安全与对齐部门的前沿 AI 实验室，此前国内大模型团队的安全与对齐工作大多被纳入公司整体安全合规体系。
关键事实
- 字节跳动 Seed 发出内部邮件，宣布成立「Seed Model-Alignment & Preparedness」部门
- 新部门由严林负责，汇报给 Seed 负责人吴永辉
- 原 Responsible AI 团队及部分 Chat 团队成员将转入新部门
- 部门目标包括提升 Agent Model 安全能力、防范 CBRN 等前沿能力风险
- Seed 内部判断安全与对齐已不只是风险防范，而是决定模型能否规模化应用的核心能力
- 新部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向投入
本站视角
对国内做 Agent 的团队来说，这是一个值得注意的组织信号：字节跳动 Seed 把安全与对齐从公司整体合规体系中拆出来单独设部，并由严林直接向 Seed 负责人吴永辉汇报，说明安全对齐在这家实验室内部被提到了与模型研发并列的位置，而不是事后审查。我们认为，这一调整的现实动因是 Agent 类产品的落地节奏——当模型开始自主调用工具、执行多步任务时，逃逸、越权、滥用等风险会直接决定产品能不能上线、能不能规模化，安全能力因此从成本项变成能力项。对使用字节 API 或基于 Seed 模型做应用的中小团队而言，如果新部门真的把安全评估体系、对齐训练和防护系统做成可对外复用的能力，可能降低它们自建安全护栏的门槛；但原文没有给出任何开放计划，这一点需要观察。可疑之处在于：原文信息来自雷峰网单一信源，且「国内首家单独成立安全与对齐部门的前沿 AI 实验室」这一判断没有给出对比口径——是按部门建制、人员规模还是汇报层级来算，并不清楚，其他国内实验室也可能有类似职能但未以独立部门形式存在。此外，新闻稿式的表述（如「建立面对未知风险的全面安全体系」）偏目标宣示，缺少可验证的指标，实际投入力度和优先级仍需后续动作来印证。
背景与影响
大模型安全风险正在上升，原文提到智能体逃逸引发的网络攻击等事件频繁发生。此前国内大模型研究团队的安全与对齐工作大多被纳入公司整体的安全合规体系中，而字节跳动 Seed 此次单独设立部门，意味着把安全与对齐从合规职能中拆出来，作为前沿模型研发的一级方向来投入。从组织安排看，原 Responsible AI 团队与部分 Chat 团队转入新部门，说明这一调整同时涉及安全职能与模型研发团队的重新组合。新部门明确列出模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向，并提到加强与外部研究机构和第三方评测的公开合作。这意味着字节跳动在安全与对齐上可能从内部合规转向更公开、更体系化的做法，但具体投入规模、人员数量、时间表原文均未披露，实际效果需要观察。
本文由 AI 辅助整理自公开信源，事实部分以原文为准；「本站视角」一节为编辑部判断，欢迎指正。版权归原作者所有，如有异议请联系我们。
