AI资讯

AI Snake Oil 作者撰文:AI 不应只做自动化,应转向人机协作的研究议程

AI Snake Oil 作者撰文:AI 不应只做自动化,应转向人机协作的研究议程

来源AI Snake Oil查看原文

速览

  • 硅谷主流把 AI 等同于自动化人类劳动,作者认为这是一种技术决定论
  • 自动化路线自身陷入三难:自主、可靠、通用三者不可兼得
  • 作者主张 AI 应转向人机协作,并提出四个具体研究方向
  • 白盒智能体需要过程轨迹数据,而这类数据目前只在编程领域充足
  • 低延迟是协作的前提,当前智能体反而破坏了程序员的「心流」状态
  • 现有基准测试只衡量模型独立完成任务,不衡量人机协作能力
  • 自动化议程占主导既有经济激励原因,也有 CS 内部的文化与美学原因
  • HCI 传统在 CS 中已被边缘化,需要提升地位并自我更新
  • 作者反对自上而下的自动化禁令,主张自下而上、市场驱动的路径
  • 定向政策工具包括研究资助、DARPA 式奖项、税收中性化、政府采购与竞争政策

斯坦福数字经济实验室经济学家 Gabriel Unger 与普林斯顿教授 Arvind Narayanan 在 AI Snake Oil 发表长文,批评当前硅谷主导的 AI 路线把「自动化人类劳动」当作唯一方向,认为这种技术决定论既在技术上不可靠,也在经济上难以持续。文章提出一个替代性研究议程:以「白盒智能体」「低延迟实时交互」「非回合制的持续协作」「人机团队评估」四个方向为核心,推动 AI 从替代人转向增强人。作者同时梳理了这段争论在计算机科学史中的脉络(Licklider 1960 年的《人机共生》、Engelbart 1962 年的《增强人类智力》),指出 HCI 传统如今在 CS 内部被边缘化,而自动化议程之所以占主导,既有劳动力成本与资本偏好的经济原因,也有基准测试易做、CS 文化把「端到端自主系统」视为美学理想的原因。文章最后给出自下而上的路径:新创公司与垂直行业产品、HCI 与 AI 教育的文化变革、以及税收、采购、竞争政策等定向政策工具。

关键事实

  • 文章作者为 Gabriel Unger(斯坦福数字经济实验室经济学家)与 Arvind Narayanan,发表于 AI Snake Oil / Normal Tech
  • 作者提出「自动化三难困境」:完全自主、在高风险场景中可靠、真正通用,三者只能取其二
  • 作者列出四个协作型 AI 研究方向:白盒智能体、低延迟实时交互、非回合制持续协作、人机协作评估
  • 作者指出当前 AI 训练数据严重偏向软件编程,因为开源代码仓库天然提供了完整的过程轨迹数据,而法律、医学、多数科学领域缺乏同类数据
  • Mira Murati 创立的 Thinking Machines 已发布面向协作智能体的架构(前端超低延迟多模态模型 + 后台更强模型),但尚未交付可用产品
  • OpenAI、Anthropic、Google 三家前沿实验室都在推进低延迟,其中 OpenAI 与 Cerebras 建立合作

本站视角

这篇文章的价值不在于披露了新事实,而在于它把「AI 到底该做自动化还是做增强」这个长期被当作哲学空谈的问题,拆成了可执行的技术研究议程,并且明确点名了谁该做什么。 具体影响谁:第一,做 Agent 的中文团队。文章提出的四个方向——白盒智能体、低延迟实时交互、非回合制持续协作、人机协作评估——几乎每一条都直接对应国内 Agent 产品当前的短板。尤其是「非回合制持续协作」:作者指出今天的编码智能体只支持「用户和智能体轮流行动」的轻微变体,一旦用户试图编辑智能体正在改的同一个文件,系统就会混乱。这是国内做 Coding Agent、办公 Agent 的团队可以直接拿去当需求清单的。第二,做垂直行业 AI 的团队。作者认为法律(Harvey AI)、医疗(OpenEvidence)这类受监管行业天然适合协作型 AI,因为法律本来就要求人在许多决策点介入,而前沿大模型实验室未必有能力自己搞定领域隐性知识。这对国内做法律、医疗、金融垂直 AI 的公司是一个明确的定位论据。第三,数据标注与数据采集行业。作者指出过程轨迹数据是白盒智能体的瓶颈,而目前只有编程领域有充足数据,这意味着一波针对法律、医学、科研的过程数据采集需求,也意味着 Meta 记录员工键击这类做法会继续扩散——这一点值得国内从业者警惕,因为它同时是机会和伦理风险。第四,AI 教育与大厂研究院。作者批评 AI 教学把「智能体就是模型」当作默认框架,人类只在标注和反馈环节偶尔出现,这直接指向课程设计与资助方向。 我们的判断:这是一篇立场鲜明的倡议文,不是中立综述,读者需要带着这个前提去读。它的核心论证——自动化路线陷入「自主、可靠、通用」三难——是本文最有说服力的部分,因为它不需要依赖任何未来预测,只靠当前工业界同时承诺这三件事这一事实就能成立。但文章也有明显的薄弱处:一是「低延迟协作会形成需求飞轮」纯属预测,作者自己承认市场上还没有真正的协作型智能体,Thinking Machines 也只有架构没有产品,所以这条因果链目前无法验证;二是文章把自动化议程的盛行部分归因于 CS 的文化与美学,这类解释难以证伪,也容易低估纯粹的经济激励;三是作者虽然反复声明不主张禁止自动化,但其政策建议(税收中性化、政府采购倾斜、竞争政策)在实际操作中很难不滑向对技术路线的行政分类,作者自己也承认「需要小心避免粗暴地把 AI 系统按自动化或增强分类」。 对中文读者而言,最值得跟进的是「白盒智能体」和「过程轨迹数据」这一组概念。它把一个模糊的「可解释性」诉求,变成了一个具体的、有商业价值的工程问题:如何为编程之外的职业采集过程数据,并让模型显式暴露来源、假设、方法与不确定性。如果这条路走通,它改变的不只是产品形态,还有整个 AI 训练数据的供给结构。反过来,如果三年内仍然只有编程领域有充足的过程轨迹数据,那么「AI 增强人类」在多数行业就仍是一句口号——这是判断这篇文章是实质路线图还是美好愿望的关键观察点。

背景与影响

这场争论并非新事。文章把当前的分歧追溯到 1940 至 1960 年代现代计算早期的三条路线:一条通向后来的人工智能,追求类人、通用、有能动性的机器;一条通向机器学习,强调在明确界定的任务上做窄而深的预测;第三条通向人机交互(HCI),明确以人机协作为目标。JCR Licklider 1960 年的《人机共生》与 Douglas Engelbart 1962 年的《增强人类智力》是这一路线的代表文献,鼠标、图形界面等个人计算的关键发明都出自这个社群。作者认为,今天 AI 是经典 AI 与机器学习的合流,而 HCI 的协作愿景反而成了少数派。 在经济学一侧,作者指出主流经济学家倾向于认为技术就是技术,其方向不可控,试图引导是天真甚至注定失败的;Acemoglu、Johnson、Brynjolfsson、Autor、Mullainathan 等人是明显的例外,但仍是少数派,且 Acemoglu 与 Johnson 的《权力与进步》在经济学界受到的回应常带有轻蔑意味。作者特别澄清,他们并不主张苏联式的自上而下命令,也不主张禁止自动驾驶或仓储机器人;他们认为许多高度常规化的工作本就应当自动化,20 世纪初芝加哥肉类加工厂与弗吉尼亚煤矿的案例说明自动化是社会进步。 文章提出的路径是自下而上的:一是等待新创公司与垂直行业产品满足对协作型智能体的未满足需求,作者预测随着更多工作者体验低延迟协作,会形成需求飞轮;二是推动 HCI 与 Human-Centered AI 在 CS 内部重新获得议程设置权,并改变 AI 教学大纲、基准设计与资助优先级;三是使用定向政策工具,包括研究资助与 DARPA 式奖项、缓解税收对自动化的偏向、政府作为 AI 大买方的采购权、要求「有效」而非走过场的人类监督、以及防止客户被锁定的竞争政策。 需要观察的是,作者对「低延迟协作会带来需求飞轮」的判断目前只是预测,尚无市场数据支撑;Thinking Machines 的架构也尚未落地为产品。此外,文章对自动化路线经济性的批评(数十亿美元资本开支对应不明确的 ROI)是作者立场,而非已证实的结论。

本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。

编辑与审校

AI大海啸编辑部

负责选题、审校与「本站视角」的判断。

编辑流程与 AI 使用说明