The Verge 编辑开始实测本地 AI：从 Hermes、Qwen 到 Mac Studio，一场关于隐私与成本的个人实验
来源The Verge AI查看原文
速览
- The Verge 编辑以连载形式记录自己第一次认真使用本地 AI 的过程
- 隐私是他从云端转向本地的首要动因
- 他质疑本地 AI 的性价比：是否值得为高内存硬件花大钱
- 实验涉及 Hermes Agent、Qwen 模型、Mac Studio 与华硕 TUF A14
- Apple 正把本地 AI 能力作为新款 Mac 桌面的卖点
- 作者自认非专家，定位是替普通用户探路
The Verge 编辑 Antonio G. Di Benedetto 宣布开启一个连载式的个人实验：真正把 AI 用起来，但走本地路线而非云端。他给出的核心理由是隐私——不愿把最私密的数据交给云服务，而如今在本地跑能力较强的模型已经越来越可行。他提出的关键疑问是：这项技术是否真的有用到值得为一台配备大量昂贵内存的电脑或笔记本砸下大笔钱。他明确表示自己不是 AI 专家，会以「旅程」的形式记录进展，并让读者判断这条路是否值得走。文中提到的具体对象包括 Hermes Agent、Qwen 模型、Mac Studio，以及一台华硕 TUF A14 笔记本；Apple 对新款 Mac 桌面产品的宣传重点之一，正是它们在本地运行 AI 方面的表现。
关键事实
- The Verge 编辑 Antonio G. Di Benedetto 启动了一个关于本地 AI 的连载式实测记录
- 他此前迟迟没有常规性使用 AI，主要顾虑是把最私密的数据交给云服务
- 他认为在本地运行能力较强的模型正变得越来越可行
- 他提出的核心问题是：本地 AI 是否有用到值得为高内存电脑或笔记本支付高额费用
- 他自述不是 AI 专家，会以旅程形式记录并让读者自行判断是否值得跟进
- 文中涉及的具体对象包括 Hermes Agent、Qwen 模型、Mac Studio 和一台华硕 TUF A14 笔记本
本站视角
这篇内容的价值不在于技术突破，而在于它代表了一类正在成形的用户心态：想用 AI，但不愿把数据交出去。对国内做端侧和本地部署的团队来说，这是一个值得重视的信号——隐私正在从「合规话术」变成部分用户真实的购买理由，而这类用户愿意为硬件付费，前提是本地模型真的能干活。我们认为，The Verge 选择用连载日记而非评测的形式来做这件事，本身就说明本地 AI 目前的体验还不足以用一次跑分说清楚，门槛更多在配置、模型选择和踩坑上，而不是单纯的性能数字。需要指出的是，原文目前只给出了实验的动机和框架，没有提供任何实测数据、模型版本或对比结果，因此现在还不能据此判断本地 AI 的实际可用性；作者本人也明确表示自己不是 AI 专家，这类个人体验的结论外推需要谨慎。对中文开发者而言，更值得跟踪的是后续几期里他具体用了哪些模型、跑在什么配置上、哪些任务失败了——这些细节比「本地 AI 很酷」的结论有用得多。
背景与影响
本地运行大模型这件事，过去两年从极客玩具逐渐变成一条可选的实用路线。推动力来自两端：一是开源权重模型（如 Qwen 系列）能力持续提升，二是 Apple Silicon 的统一内存架构让消费级 Mac 能承载比过去更大的模型。对隐私敏感的用户来说，本地推理意味着数据不出设备，这是云 API 无法提供的属性。但代价同样明确——能跑动大参数模型的机器往往需要大容量内存，而内存正是近年整机成本上涨最明显的部件之一，这也是原文作者把「是否值得砸钱买高内存机器」当作核心疑问的原因。需要观察的是，这类个人实测能否给出可复用的结论：本地模型在真实任务上的完成度、速度与云端旗舰模型的差距，以及普通用户愿意为隐私支付多少溢价。
本文由 AI 辅助整理自公开信源，事实部分以原文为准；「本站视角」一节为编辑部判断，欢迎指正。版权归原作者所有，如有异议请联系我们。
