Import AI 467：自维持AI病毒、算力涨价与AI创造力争议
来源Import AI查看原文
速览
- AI 蠕虫原型证明自维持、自我复制的 AI 网络威胁已非理论，整体攻击成功率约 37%。
- 该蠕虫用被感染 GPU 跑开源 LLM，不依赖可被撤销的 API，去中心化难以单点关停。
- Dwarkesh Patel 认为 AI 越强算力越贵，H100 年租金理论上可达当前现货价的 15 倍。
- 约 1337 名 AI 从业者联署，请求美国政府支持国际协作以调节 AI 发展速度。
- 影子评估显示 AI 擅长工程实现，但缺乏原创研究品味，两篇产出均被原作者拒稿。
- OpenAI 用内部版 Astra 解决十个数学与理论计算机科学开放问题。
- AI 能否自己提出有价值的问题，仍是判断自动化 AI 研发速度的关键变量。
本期 Import AI 汇总了四项进展。多伦多大学、Vector Institute、剑桥大学与 ServiceNow 的研究者构建了一个原型 AI 蠕虫病毒，利用被感染机器的 GPU 运行开源权重 LLM 进行推理，自主发现漏洞、发起攻击并自我复制，漏洞检测成功率约 80%、利用成功率约 53%、自我复制成功率 88%，完整攻击链整体成功率约 37%。Dwarkesh Patel 撰文判断，随着 AI 模型变强，算力价格可能被大幅推高，若一个达到人类水平的软件工程师能跑在 H100 上，按当前软件工程师市场价，该 H100 年租金应超过 25 万美元，是当前现货价的 15 倍。约 1337 名来自 OpenAI、Anthropic、Google DeepMind、Thinking Machines、Meta、Safe Superintelligence 等机构的人员联署声明，请求美国政府支持一项国际努力，开发「有意调节自动化 AI 发展前沿」所需的技术与治理工具。另有研究用「影子评估」方法测试 AI 能否完成未公开论文的研究问题，结果 Claude Opus 4.8 在 OpenClaw harness 中产出的两篇论文被原作者分别评为 2 分（Reject）和 1 分（Strong Reject）。OpenAI 则称用内部版 Astra 模型解决了数学与理论计算机科学领域的十个开放问题。
关键事实
- 多伦多大学、Vector Institute、剑桥大学与 ServiceNow 的研究者构建了可自我维持、自我复制的 AI 蠕虫原型，仅依赖单张 80GB 显存的 A100 上运行的开源权重 LLM，不依赖可被监控或撤销的厂商 API。
- 该蠕虫的漏洞检测成功率约 80%，漏洞利用成功率约 53%，自我复制成功率 88%，完整攻击链整体成功率约 37%。
- 研究者公开了推理图中的 5 个节点（Plan、Judge、Action、Summary、Progress），其余节点在公开版本中被隐去。
- Dwarkesh Patel 估算，若一个人类水平的软件工程师能跑在 H100 上，按当前软件工程师市场价，该 H100 年租金应超过 25 万美元，是当前现货价的 15 倍。
- 约 1337 名来自 OpenAI、Anthropic、Google DeepMind、Thinking Machines、Meta、Safe Superintelligence 等机构的人员联署声明，请求美国政府支持国际努力，开发调节自动化 AI 发展前沿的技术与治理工具。
- 一项「影子评估」研究让 Claude Opus 4.8 在 OpenClaw harness 中尝试两篇未公开 NeurIPS 2026 论文的研究问题，原作者将两篇产出分别评为 2 分（Reject）和 1 分（Strong Reject）。
本站视角
对中文开发者与安全团队而言，AI 蠕虫原型最直接的影响是威胁模型需要更新。过去防御方假设攻击者需要人工编写利用代码，而这项研究显示，一个跑在单张 A100 上的开源模型加上精心设计的 harness，就能以约 37% 的整体成功率完成检测、利用、复制三步。这意味着国内做云安全、主机安全、GPU 集群运维的团队，需要开始考虑「被感染节点被用于运行推理」这一新型资源滥用场景，尤其是那些托管大量开源权重模型、GPU 资源调度宽松的平台。我们认为，这项研究目前仍是原型，37% 的成功率距离实战化还有距离，论文隐去了部分推理图节点也说明可复现性有限，但它作为评估开源权重模型滥用风险的基准是有价值的，值得安全团队跟进。 对国内做 Agent 的团队来说，影子评估的结果值得警惕也值得借鉴。Claude Opus 4.8 在工程实现上没有问题，失败在于过早锁定研究路径、无法根据反馈调整、难以从死胡同退出。这恰好是国内许多 Agent 产品在长程任务上的通病。我们认为，这项研究的方法论——用未公开论文做「影子评估」——比结论本身更有价值，它提供了一种不易被训练数据污染的评测思路，国内做 Agent 评测的团队可以借鉴。需要指出的是，该研究只测试了两个案例、一个模型，样本量很小，结论不宜过度外推。 对关注算力成本的中小企业和用 API 的开发者，Dwarkesh 的判断需要辩证看待。他的 25 万美元年租金是理论推算，前提是 AI 能完全替代人类软件工程师，这个前提目前并不成立。但方向性判断值得重视：如果 AI 能力持续提升，推理算力的机会成本会上升，低价算力补贴可能难以长期维持。国内依赖低价 API 做应用层的团队，应当把算力成本上升纳入中长期假设。 对政策与治理层面，约 1337 人联署声明的意义在于前沿实验室首次集体承认「需要有能力调节发展速度」，但声明没有给出任何可操作机制，也没有承诺单方面行动。我们认为，这更像是一次立场表态而非治理方案，其实际约束力需要观察。原文中联署人数写作「~1337」，本身带有网络文化色彩，也提示这份声明的严肃性可能被其传播方式稀释。
背景与影响
本期 Import AI 的四条主线共同指向一个核心问题：AI 系统的自主能力正在以不同方式逼近现实。AI 蠕虫研究把「自主智能体」从概念验证推向可运行原型，其意义不在于当前 37% 的成功率有多高，而在于它展示了一条不依赖厂商 API、利用被感染算力自我维持的路径。Dwarkesh Patel 的算力价格判断则从经济学角度提出一个反直觉推论：AI 越强，算力作为生产要素越会被竞价推高，今天被视为大宗商品的 GPU 可能变成稀缺资源，直到机器人化重构供应链才可能回落。约 1337 人的联署声明反映出前沿实验室内部对「自动化 AI 研发」加速的担忧，但声明本身只是请求政府支持开发治理工具，并未提出具体机制。影子评估与 OpenAI 的数学成果形成对照：一边是 AI 在已定义问题上表现优异，一边是 AI 在需要提出新方向时表现不佳。这意味着，判断递归自我改进时间表的关键，可能不在于 AI 能否解决难题，而在于它能否自己提出值得解决的问题。
本文由 AI 辅助整理自公开信源，事实部分以原文为准；「本站视角」一节为编辑部判断，欢迎指正。版权归原作者所有，如有异议请联系我们。