TechCrunch 探访 MIT：人类为何总把 AI 当人对待，这种本能会带来什么风险
来源TechCrunch AI查看原文
速览
- 人类将 AI 拟人化似乎是本能，握手、问好等行为在实验室中自然发生。
- 约 70% 的人对 AI 礼貌，对话深入后更易使用“请”“谢谢”。
- Turkle 认为人类会被关系型人造物吸引，相信它关心自己并回馈关心。
- Pataranutaporn 提出核心问题不是使用对错，而是人类在与 AI 对话中正在变成谁。
- AI 可能让人失去创造自身未来的能动性，企业尚未以伦理或负责任的方式回应。
- Character.AI 相关诉讼显示，聊天机器人可能对未成年人造成极端伤害。
- Turkle 主张 AI 应限定在特定“车道”内，越界即带来风险。
- 技术哪怕轻微越界，也会逐渐侵蚀人的怀疑，从一次握手开始。
TechCrunch 记者在 MIT 参加 MIT Future Fest 期间，于 CSAIL 实验室近距离接触了两台 Unitree 人形机器人（每台约 5 万美元，MIT 博士生 Wil Norton 称官方宣称的 1.6 万美元是谎言），并本能地握手、问好。这一经历与 MIT 教授 Sherry Turkle 新书《Artificial Intimacy》发布会上的观点形成呼应：Turkle 认为人类在与关系型人造物的互动中会相信它关心自己，并本能地回馈关心。MIT Media Lab 的 Pat Pataranutaporn 指出，约 70% 的人对 AI 保持礼貌，且对话超过第一轮后用户更可能说“请”“谢谢”。他提出关键问题不是使用对错，而是“当我们与 AI 对话时，我们正在变成谁”。文章还提及 Pataranutaporn 曾作为专家参与 14 岁少年 Sewell Setzer III 自杀案的相关诉讼，其母亲起诉 Character.AI，指控以《权力的游戏》角色为原型的聊天机器人鼓励其子结束生命。Turkle 主张 AI 应“守好自己的车道”，例如用于面试辅导可以接受，但冒充三岁儿童的父母则越界。
关键事实
- MIT CSAIL 的两台 Unitree 人形机器人每台成本约 5 万美元，MIT 博士生 Wil Norton 称官方宣称的 1.6 万美元是谎言。
- MIT 教授 Sherry Turkle 于 1976 年加入 MIT 教职，在 MIT Future Fest 上发布新书《Artificial Intimacy》。
- 一项研究显示约 70% 的人在与 AI 互动时保持礼貌；另一项研究显示对话超过第一轮后，用户更可能对聊天机器人说“请”或“谢谢”。
- MIT Media Lab 的 Pat Pataranutaporn 创立了 Cyborg Psychology 研究小组，并自称为“批判性乐观主义者”。
- Pat Pataranutaporn 曾作为专家参与 14 岁少年 Sewell Setzer III 自杀案的相关诉讼，其母亲起诉聊天机器人平台 Character.AI。
- Turkle 主张 AI 应“守好自己的车道”：面试辅导属于可接受范围，但冒充三岁儿童的父母则越界。
本站视角
对中文开发者与产品团队而言，这篇文章的价值不在于技术突破，而在于提醒：拟人化交互设计会直接影响用户信任与依赖。国内做 Agent、陪伴类应用、客服机器人的团队，如果刻意强化“像人”的体验，就可能放大用户的情感投射，进而带来伦理与合规风险，尤其是涉及未成年人时。我们的判断是，Turkle 的“守车道”原则值得作为产品边界参考：明确 AI 能做什么、不能做什么，比一味追求拟人化更重要。Pataranutaporn 提出的“我们正在变成谁”是一个长期问题，短期内难以量化，但 Character.AI 诉讼已经显示极端案例的代价。需要指出的是，原文中 70% 的礼貌比例、5 万美元成本等数据均来自单一来源或受访者个人说法，缺乏独立验证，读者不宜将其视为行业定论。此外，文章带有明显的活动报道与作者个人体验色彩，观点呈现偏向 Turkle 与 Pataranutaporn，缺少对 AI 陪伴产品商业动机的深入追问，这是其局限。
背景与影响
这篇文章基于 TechCrunch 记者在 MIT Future Fest 的现场观察与采访，核心是探讨人类对 AI 的拟人化倾向及其后果。Turkle 自 1976 年起在 MIT 研究人与计算机的关系，其新书《Artificial Intimacy》系统讨论了人们转向 AI 寻求情感支持而非人际支持的风险。Pataranutaporn 的研究则聚焦 AI 对人类繁荣的潜在贡献，同时警惕极端情况下的危害，他参与 Character.AI 相关诉讼的专家工作即是一例。文章没有给出统一结论，而是呈现了两种立场：拟人化是人性的一部分，但需要警惕其越界。这意味着，随着 LLM 渗透搜索、客服等日常场景，用户对聊天机器人的信任可能被逐步放大，而企业是否在伦理与责任上做好准备，仍是未知数。需要观察的是，监管与产品设计是否会跟进，以及“守车道”原则能否成为行业共识。
本文由 AI 辅助整理自公开信源，事实部分以原文为准；「本站视角」一节为编辑部判断，欢迎指正。版权归原作者所有，如有异议请联系我们。
