Microsoft 总裁 Brad Smith 呼吁紧急监管 AI，称英国比美国和欧盟更适合主导全球安全规则
来源TechCrunch AI查看原文
速览
- Microsoft 总裁 Brad Smith 呼吁紧急监管 AI，称消费品监管都比 AI 公司严格
- Smith 认为英国最适合主导全球 AI 安全规则，华盛顿对伦敦不像对布鲁塞尔那样警惕是优势
- 英国 AISI 可在美国前沿模型部署前访问测试，但 Trump 曾要求 Anthropic 和 OpenAI 拒绝向英方提供新模型
- AISI 周一确认仍能访问和测试最新模型
- 上月白宫召集多家科技公司签署「道德约束性」AI 安全文件，Smith 称其是良好一步但不够
- Smith 认为自愿自律的缺陷是「好公司」会遵守，不负责任的公司才令人担忧
- Smith 支持 AI 产品发布前外部评估、失控时 kill-switch、系统被攻破的法律警报义务
Microsoft 总裁 Brad Smith 在 BBC 播客节目中呼吁对 AI 进行紧急监管，理由是牛奶、洗衣机等消费品受到的监管都比 AI 公司更严格。他把 AI 称为既是「武器」也是「工具」，正在威胁全球网络安全，认为制定全球安全规则的「时刻已经到来」。Smith 明确表示，英国而非美国或欧盟最适合主导全球 AI 安全规则，因为华盛顿对伦敦的态度不像对布鲁塞尔那样警惕，这反而是英国的优势。英国 AI Security Institute（AISI）成立于 2023 年，可以在美国前沿实验室的模型部署前获得访问权限，已迅速成为 AI 安全测试领域的领先者。但这一角色近期受到威胁：美国总统 Donald Trump 警告「全球主义」组织正在干涉美国公司，据报道他上月要求 Anthropic 和 OpenAI 不要向英国测试方提供新模型，不过 AISI 周一确认仍能访问和测试最新模型。Smith 的呼吁正值多位科技领袖发声要求放缓 AI 开发节奏之际，包括 Anthropic 的 Dario Amodei 和 OpenAI 的 Sam Altman。上月 Trump 在白宫召集 OpenAI、Anthropic、Nvidia、AMD、SpaceX、Meta 和 Google 等公司负责人讨论 AI 安全，他们签署了一份「道德约束性」文件，同意与「独立审计方」合作评估模型的安全性和能力。Smith 称该文件是「良好的一步」，但远未达到必要监管的程度，他指出自愿自律的问题在于「好公司」会遵守，而「不负责任的公司才是需要担心的」。Smith 提出多项他希望的 AI 安全规则，包括：系统被失控 AI agent 攻破时向组织发出警报的法律义务；AI 产品发布前需获得外部评估方批准；以及对在人类失去控制时暂停或减缓 AI 的 kill-switch 持积极态度。
关键事实
- Microsoft 总裁 Brad Smith 在 BBC 播客中呼吁对 AI 进行紧急监管，称 AI 是「武器也是工具」，正威胁全球网络安全
- Smith 认为英国而非美国或欧盟最适合主导全球 AI 安全规则，理由是华盛顿对伦敦的态度不像对布鲁塞尔那样警惕
- 英国 AI Security Institute 成立于 2023 年，可在美国前沿实验室模型部署前获得访问权限，已成为 AI 安全测试领导者
- 美国总统 Donald Trump 上月据报道要求 Anthropic 和 OpenAI 不向英国测试方提供新模型，但 AISI 周一确认仍能访问和测试最新模型
- 上月 Trump 在白宫召集 OpenAI、Anthropic、Nvidia、AMD、SpaceX、Meta 和 Google 等公司负责人讨论 AI 安全，签署「道德约束性」文件同意与独立审计方合作
- Smith 称该自愿性文件是「良好的一步」，但远未达到必要监管程度，指出「不负责任的公司才是需要担心的」
本站视角
对中文开发者和国内做 Agent 的团队来说，这件事的直接影响在于：如果英国真的成为全球 AI 安全规则的主导者，那么面向英国或欧洲市场发布 AI 产品的团队可能需要适应一套新的合规要求，包括发布前外部评估、失控时的 kill-switch 机制、以及系统被攻破时的法律警报义务。这些要求比美国目前的自愿性框架更具体，可能成为其他司法管辖区的参考模板。我们的判断是，Smith 的呼吁有实质内容，但不应被简单视为「科技巨头支持监管」的善意表态。Microsoft 作为既得利益者，支持监管的部分动机可能是抬高合规门槛、挤压中小竞争对手，同时把监管主导权推向一个对大型美国公司相对友好的司法管辖区（英国），而非更强势的欧盟。Smith 明确说华盛顿对伦敦不像对布鲁塞尔那样警惕，这恰恰说明英国被视为更「温和」的监管者。需要观察的是，Trump 政府要求 Anthropic 和 OpenAI 拒绝向英国测试方提供新模型，已经暴露出美国政治对 AI 安全测试的干预风险。AISI 周一确认仍能访问最新模型，但这可能只是暂时的。如果美国持续施压，英国的主导地位可能被削弱，全球 AI 安全规则可能进一步碎片化。另外，Smith 提到的「道德约束性」文件没有法律效力，其实际效果取决于公司自愿遵守，而 Smith 自己也承认不负责任的公司不会遵守。因此，真正值得关注的是是否有司法管辖区将 Smith 提出的具体规则转化为法律，而不是停留在呼吁层面。
背景与影响
Brad Smith 的呼吁出现在 AI 安全监管讨论升温的背景下。2023 年成立的英国 AI Security Institute 已建立起在美国前沿实验室模型部署前进行访问和测试的机制，这在全球范围内较为独特。但这一机制近期面临政治压力：美国总统 Donald Trump 警告「全球主义」组织干涉美国公司，并据报道要求 Anthropic 和 OpenAI 不向英国测试方提供新模型。与此同时，Anthropic 的 Dario Amodei 和 OpenAI 的 Sam Altman 等科技领袖也在多起 AI agent 失控事件后呼吁放缓开发节奏。上月白宫召集 OpenAI、Anthropic、Nvidia、AMD、SpaceX、Meta 和 Google 等公司签署「道德约束性」文件，同意与独立审计方合作。Smith 的立场代表了 Microsoft 在监管议题上的积极姿态，与部分同行形成对比。这意味着，如果英国真的成为全球 AI 安全规则的主导者，可能为跨国 AI 公司提供一套不同于美国和欧盟的合规路径，但也可能因美国政治压力而受阻。需要观察的是，AISI 能否在 Trump 政府的压力下维持其访问前沿模型的能力，以及 Smith 提出的具体规则（如发布前外部评估、kill-switch）是否会被任何司法管辖区采纳。
本文由 AI 辅助整理自公开信源，事实部分以原文为准；「本站视角」一节为编辑部判断，欢迎指正。版权归原作者所有，如有异议请联系我们。
