在喜马拉雅山麓断网写代码:用 OpenCode + Ollama + Qwen3.5 9B 跑通本地编码 Agent
来源Latent Space查看原文
速览
- 断网状态下,本地模型加开源 Agent 能完成读文件、改代码、跑测试的完整闭环
- 关键前提是模型、依赖和测试工具必须提前下载到本地
- Qwen3.5 9B 用一行修复解决了累加 bug,五个测试通过
- Agent 曾误判测试框架为 pytest,实际项目用的是 unittest
- 下载体积不等于内存需求,6.6 GB 模型建议预留 12–16 GB 内存
- 第三方评测显示 OpenCode 通过率不差,但 token 消耗远高于 Goose
- 作者只验证了单文件小修,大仓库和陌生框架尚未测试
Thomson Reuters 首席工程师 RittikaJ 住在喜马拉雅山麓,常遇断电断网,于是实测能否在完全断网状态下用本地编码 Agent 干活。方案是开源编码 Agent OpenCode 1.19.4 搭配 Ollama 在 Mac 本地运行 Qwen3.5 9B,项目配置把主模型和小模型都指向本地 127.0.0.1:11434,并禁用联网工具。作者用一个有 bug 的记账脚本做测试:原程序把每次金额覆盖而非累加,输出 8.00 而非正确的 25.50,三个测试失败。断网后 Qwen 提出一行修改(total = Decimal(amount) 改为 total += Decimal(amount)),经权限确认后运行测试,五个测试全部通过,作者随后手动复跑确认。文章还给出 Qwen3.5 4B/9B/27B 的下载体积、基准分数,以及 OpenCode 在 Terminal-Bench Pro 上的第三方评测数据。
关键事实
- 作者是 Thomson Reuters 首席工程师,一年前搬到喜马拉雅山麓,当地存在网络和电力中断
- 方案为 OpenCode 1.19.4 + Ollama + Qwen3.5 9B,全部运行在同一台 Mac 上,模型请求走 http://127.0.0.1:11434/v1
- 启动 Ollama 时设置 OLLAMA_NO_CLOUD=1 和 OLLAMA_CONTEXT_LENGTH=65536,关闭云端功能
- Qwen3.5 9B 下载体积 6.6–7.6 GB;4B 为 3.3–4.0 GB;27B 为 17–20 GB
- Qwen 模型卡数据:Qwen3.5 9B 在 LiveCodeBench v6 得 65.6、BFCL-V4 得 66.1;4B 分别为 55.8 和 50.3;gpt-oss-20b 的 LiveCodeBench v6 为 74.6,BFCL-V4 未报告
- 测试项目为 expense_total.py,正确总额 25.50,初始程序输出 8.00,三个测试失败
本站视角
这件事对两类人最直接。第一类是网络不稳定地区的开发者,以及经常在飞机、火车上赶工的人:它证明断网不等于停工,只要提前把模型、依赖和测试跑通一次,就能在离线状态下完成小范围修改。第二类是国内做端侧 Agent 和私有化部署的团队:OpenCode 加 Ollama 这套组合全部开源、可审计,权限提示和禁用联网工具的设计,正好对应企业对数据不出本机的诉求。我们的判断是,这是一次可信的能力验证,但不是生产力承诺。理由有三:任务只有一行改动,测试是现成的,依赖是 Python 标准库,几乎排除了所有真实工程的复杂度;第三方评测里 OpenCode 的 token 消耗约为 Goose 的 40 倍,放到本地意味着更长的等待和更高的内存压力,而文章没有给出任何耗时数据;Qwen 模型卡上的分数是厂商自报,gpt-oss-20b 在 LiveCodeBench v6 上还高出 9 分,说明 9B 级别并非本地编码的最优解,选型仍需按内存和任务类型权衡。需要观察的是,作者承诺的 CSV 报表任务要求补完一个函数,比一行修复更能暴露本地小模型的真实水平;在那之前,把这类方案当作断网时的应急手段,而不是日常主力工作流,是更稳妥的定位。
背景与影响
本地运行大模型并非新事,Ollama 这类运行时已经把下载和启动模型的门槛降得很低;但把本地模型接入编码 Agent 的工作流,此前更多停留在演示层面。这篇文章的价值在于把整条链路拆开验证:OpenCode 负责读文件、提修改、执行命令,Ollama 负责在 localhost 上提供模型服务,opencode.json 把主模型和小模型都锁到本地地址并屏蔽联网工具,从而在物理断网后仍能完成一次真实的 bug 修复。作者同时给出了失败细节——Agent 误判测试框架、需要人工确认权限、内存需要预留余量——这些比成功截图更有参考价值。需要指出的是,这次验证的任务规模极小:单文件、一行改动、标准库依赖、现成测试。文章自己也承认,这不能说明模型在大型仓库或陌生框架上的表现,配套的 CSV 报表和日志分析两个练习尚未完成离线运行。另外,文中引用的 Terminal-Bench Pro 数据来自云端模型和不同配置,作者明确说明不能用来预测本地 Qwen3.5 9B 的表现。
本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。