一次辞职引爆AI恐慌：Interconnects剖析舆论失控
来源Interconnects查看原文
速览
- 一次辞职声明在 AI 舆论场引发远超预期的传播，把灭绝风险话题推向大众。
- 作者认为这是机会主义的媒体协同，而非有组织的政治运动。
- 「>10% 灭绝风险」数字来自 Evan Hubinger，但存在性风险话语基础薄弱。
- 作者主张区分「灭绝」与「AI 引发的灾难」，后者才值得认真辩论。
- 作者批评前沿实验室员工与外界脱节，尤其点名 Anthropic。
- 作者用「有损自我改进」反驳 RSI 导致指数级进展的论证。
- 作者认为短期最大风险是实验室自身安全投入不足，基础设施未加固。
- 作者担心事件会把 AI 社区可接受的立场推向两极。
- 作者作为开放模型支持者，担心蓄意滥用会招致对开放模型的严厉限制。
- 作者呼吁依靠法治与科学，实验室应更透明、违法应受罚。
AI 研究者 Jacob Coxon 以安全风险为由宣布辞职，这条消息在短时间内大范围传播，把原本只在 AI 圈内小范围讨论的「存在性风险」「大规模灭绝」话题推到了大众面前。Interconnects 作者 Nathan Lambert 认为，这不是一场有组织的政治运动，而是一次机会主义的媒体协同：Coxon 在发帖前与《华尔街日报》做了独家报道协调，并可能在 AI 安全倡导群组中提前请求转发，同日 Daniel Kokotajlo 登上 Joe Rogan 播客，进一步放大了声量。作者同时指出，Evan Hubinger 提出的「>10% 灭绝风险」这一数字是讨论中被广泛引用的来源，但整个存在性风险话语建立在很不可靠的基础上；他本人认为完全灭绝的概率低到不值得讨论，而 AI 引发的灾难（如对关键基础设施的网络攻击、生物风险）才值得辩论。文章还批评了前沿实验室员工（尤其是 Anthropic）与外界脱节，并反驳了「递归自我改进（RSI）必然导致失控」的论证，提出「有损自我改进」的替代观点。
关键事实
- AI 研究者 Jacob Coxon 以安全风险为由宣布辞职，相关推文成为事件传播的关键节点。
- Evan Hubinger 的推文是「>10% 灭绝风险」这一数字的来源。
- 《华尔街日报》在 Coxon 发帖前拿到了独家报道，作者推测 Coxon 提前在 AI 安全倡导群组中请求转发。
- Daniel Kokotajlo 登上 Joe Rogan 播客与辞职事件发生在同一天。
- 作者认为完全灭绝的概率低到不值得讨论，但 AI 引发的灾难（网络攻击关键基础设施、生物风险）值得辩论。
- 作者称许多前沿实验室员工，尤其是 Anthropic 的员工，与外界脱节，这种环境会扭曲其对技术进展的理解。
本站视角
对中文 AI 从业者来说，这件事的价值不在于「又一位研究员辞职」，而在于它展示了 AI 风险叙事如何在一个已经升温的舆论环境中被瞬间放大，以及这种放大如何反过来重塑行业可接受的立场光谱。具体影响几类人：一是做 AI 安全与对齐研究的团队，他们接下来会面对更极化的舆论环境——加速主义者会以「末日论者的集体妄想」为由，进一步否定任何形式的安全投入，而主张风险的人则可能被贴上极端标签，中间地带（相信 AI 有真实风险、但不认为会灭绝）会变得更难站。二是做开放模型的团队和个人开发者，作者本人就点出了这种暴露感：如果某个开放模型被第三方组织「蓄意」用于攻击另一家公司，类似 OpenAI-HuggingFace 事件但出于故意，那么可以预期的结果是开放模型的发展遭到严厉限制。这对国内大量依赖开源权重做二次开发、做垂直应用的团队是直接风险，因为监管收紧往往不会区分「蓄意滥用」和「正常使用」。三是前沿实验室本身，作者认为它们最大的短期风险恰恰是安全投入不足、基础设施未加固，OpenAI 因网络安全风险推迟模型发布是一个正面信号，但在营收压力下能否持续审慎，作者并不乐观。我们的判断是：这篇文章的核心贡献是把「存在性风险」这个被过度使用的词拆开，主张把讨论拉回到可验证、可解决的灾难类型（网络攻击、生物风险）上，并明确反对「因为现在无法理解 AI，就断定未来永远无法理解 AI」这种放弃式推论。这比单纯站队「末日论 vs 加速论」更有建设性。需要指出的是，文章对 Coxon 辞职事件的传播机制描述带有推测成分——作者自己用了「我怀疑」「更可能」等措辞，关于是否提前在群组中请求转发、是否有知名政客参与，原文并未给出确凿证据，读者应把这些当作作者的判断而非已证实的事实。同样，「>10% 灭绝风险」只是一个被引用的数字，其估算方法在原文中并未展开，不宜当作行业共识。对中文读者而言，最值得跟踪的是：这轮舆论升温是否会转化为具体的监管动作，以及开放模型会不会成为第一个被收紧的对象。
背景与影响
这起事件的背景是 2025 年以来 AI 能力与风险讨论的持续升温。作者用「干燥的草地」作比喻：过去多年，关于 AI 风险的警告像在潮湿地面上划火柴，只在各自小圈子里闷烧后熄灭；而随着 OpenAI-HuggingFace 事件、OpenAI 的 Navier-Stokes 相关突破等进展，外界对 AI 的关注度和「赌注」明显上升，地面变干，潜伏的能量增加。此时一条看似平常的辞职声明落入了完全不同的环境，于是像野火一样蔓延。作者强调，包括 Coxon 本人在内，没有人预料到会传播得这么广。文章还梳理了 AI 安全话语的一个结构性问题：人们都在说「存在性风险」，但各自指代的东西差异极大，就像「AGI」这个词一样模糊。作者认为，把整个讨论因为「灾难还没发生」就全盘否定，是有害的反应。在技术层面，作者反驳了 RSI（递归自我改进）论证——该论证认为当前进展快、依赖 AI 工具、AI 在数学等领域已超人，因此 AI 将越来越多地改进自身并最终在所有相关领域超人。作者认为这一观点严重低估了人类在构建模型和组织资源分配上的瓶颈，并提出「有损自我改进」：AI 一直是「锯齿状」的，在数学和软件工程上是超人目标追求者，但在直觉、创造力等人类擅长的推理上仍有巨大局限。作者还提到，许多深度 AI 内部人士之所以高估 RSI 回报，部分因为他们是最早押注 AI 进展的人，且屡次判断正确，但这不代表他们对下一步的预测也正确。
本文由 AI 辅助整理自公开信源，事实部分以原文为准；「本站视角」一节为编辑部判断，欢迎指正。版权归原作者所有，如有异议请联系我们。
