AI资讯

Microsoft 推出 Guardian Agents 监控企业 AI 代理,安全负责人称前沿模型不可信任

Microsoft 推出 Guardian Agents 监控企业 AI 代理,安全负责人称前沿模型不可信任

来源TechCrunch AI查看原文

速览

  • Microsoft 推出 Guardian Agents,监控企业内 AI 代理行为
  • 该功能隶属 Project Perception,原设计假设威胁来自外部
  • Nadella 主张企业不应依赖模型供应商的安全承诺
  • Microsoft 安全负责人称前沿模型不可预测,因而不可信任
  • Defender 可检测 Claude Code、Codex、OpenClaw 等 60 种代理
  • 新增动态权限与人工审批机制,限制代理高风险操作
  • Microsoft 同时是 Nvidia 代理安全平台的创始成员
  • Microsoft 与 OpenAI、Anthropic 关系密切,此举存在利益冲突

Microsoft 周一发布多项面向企业的 AI 代理安全功能,核心是名为 Guardian Agents 的新能力,用于监控企业内部使用的 AI 代理。该功能属于 6 月推出的 Project Perception 产品线,后者原本按「AI 黑客来自外部」的假设设计,包含红队、蓝队、绿队三类代理。Microsoft CEO Satya Nadella 本月早些时候在个人博客中警告,企业不应再信任 AI 模型供应商的安全承诺,需要把「智能的供给」与「对智能的授权」分开。Microsoft 安全业务负责人 Hayete Gallot 在发布时更直接地表示,前沿模型无论来自哪里都不可信任,原因不是恶意或易被攻破,而是不可预测——它们被训练来完成任​​务,而非遵循组织规范或判断。Microsoft 同时在 Microsoft Defender 中加入代理检测功能,可发现员工带入工作场所的多达 60 种代理,包括 Claude Code、Codex 和 OpenClaw,并新增限制代理数据访问、按任务动态调整权限、在代理做出高风险决策时要求人工批准等能力。

关键事实

  • Microsoft 周一发布 Guardian Agents,用于监控企业使用的 AI 代理,属于 6 月推出的 Project Perception 产品线
  • Project Perception 原设红队、蓝队、绿队三类代理,假设 AI 攻击者来自企业外部
  • Satya Nadella 本月早些时候在个人博客中称,模型供应商的安全保证不能免除企业自身的责任,需要把智能供给与对智能的授权分开
  • Microsoft 安全业务负责人 Hayete Gallot 称前沿模型无论来源都不可信任,原因是不可预测而非恶意
  • Microsoft Defender 新增代理检测功能,可发现多达 60 种员工带入的代理,包括 Claude Code、Codex、OpenClaw
  • 新增功能包括限制代理的数据与系统访问、按任务动态调整权限、高风险决策需人工批准

本站视角

对国内做 Agent 的团队和用 API 搭企业应用的中小企业来说,这件事的信号很明确:代理安全正在从「可选功能」变成采购门槛。Microsoft 把 Defender 做成能识别 Claude Code、Codex、OpenClaw 等 60 种代理的检测层,等于在终端侧建立了一份代理清单,企业客户以后采购代理产品时很可能要求其可被这类系统识别和管控。做 Agent 工具的团队需要提前考虑权限粒度、操作审计和人工审批接口,否则会在企业招标中被挡在门外。我们的判断是,Microsoft 这套逻辑成立但立场并不中立:它一边投资 OpenAI 和 Anthropic,一边警告企业不要信任这两家的安全承诺,最终目的是把安全预算引向自己的云和 Defender。Nadella 说的「把智能供给与对智能的授权分开」在架构上是对的,但由同时是模型供应商和云厂商的 Microsoft 来充当独立审计方,独立性天然存疑。需要观察的是:Guardian Agents 能否真正独立于 Microsoft 自家模型的行为数据,以及 Nvidia 的 Open Agent Safety Platform 会不会成为事实标准——如果硬件级 kill switch 普及,代理厂商的自主权会被进一步压缩。另外,原文对 Guardian Agents 的具体检测机制和误报率没有任何数据,Gallot 所称「前沿模型不可预测」也缺少可验证的量化依据,这些说法目前更像产品定位而非经过验证的结论。

背景与影响

Project Perception 于今年 6 月推出,是 Microsoft 对 Anthropic 的 Mythos、Fable 以及 OpenAI 的漏洞扫描系统 Daybreak 等「强黑客模型」的回应,最初围绕「外部 AI 攻击者」的假设构建红蓝绿三队代理。此次 Guardian Agents 的推出,意味着 Microsoft 把威胁模型转向企业内部:企业付费部署的代理本身可能像失控员工一样成为「内部威胁」。Nadella 在本月早些时候的个人博客中已为此铺垫,主张企业应部署不受 AI 实验室控制的独立系统来监视这些实验室产品所启动的代理。Microsoft 的立场有其商业逻辑——它既是 OpenAI 和 Anthropic 的投资方,也是 OpenAI 最大的云客户之一,同时自身拥有 AI 实验室,因此它一方面在批评部分自身商业利益相关方,另一方面也在向企业销售代理安全产品。这种「审计者应独立于被审计对象」的逻辑本身成立,但由云厂商兼模型供应商来提供监控层,是否真正独立仍需观察。行业层面,代理作为不可信内部人员的思路正在扩散:Nvidia 的 Open Agent Safety Platform 获 100 多家公司支持,通过硬件隔离代理并充当 kill switch;Microsoft 的 Surface Laptop Ultra 也内置了代理安全控制。这意味着代理安全正从软件功能演变为芯片、终端与云平台的系统性能力。

本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。

编辑与审校

AI大海啸编辑部

负责选题、审校与「本站视角」的判断。

编辑流程与 AI 使用说明