Altman 反对将 AI 模型神化，称这是安全问题
来源The Decoder查看原文
速览
- Altman 反对将 AI 模型赋予宗教力量或要求人类放弃判断。
- 他将这种倾向称为「真正的安全问题」。
- 此番表态紧接《纽约时报》关于 Anthropic 与宗教领袖接触的报道。
- 教皇 Leo XIV 曾表示「算法缺乏人类火花」。
- Altman 本人曾在 2023 和 2024 年使用「天空中的魔法智能」等说法。
- OpenAI 也曾与宗教领袖有过对话。
- Altman 的目标是《Her》级别的深度人性化 AI。
OpenAI CEO Sam Altman 在 X 上回应了近期关于 AI 与宗教的讨论，表示当人们将「宗教力量或对人类判断力的屈服」归于 AI 模型时，他感到「非常不安」，并称这是一个「真正的安全问题」。此番言论的背景是《纽约时报》详细报道了 Anthropic 与宗教领袖的接触，以及教皇 Leo XIV 关于「算法缺乏人类火花」的表态。Altman 本人曾在 2023 年和 2024 年表示 OpenAI 的目标是构建「天空中的魔法智能」，并在同年称希望站在上帝一边、感觉自己「站在天使这边」工作。OpenAI 也曾与宗教领袖有过对话。Altman 还多次表示他的目标是达到科幻电影《Her》级别的 AI，即深度人性化。
关键事实
- Sam Altman 表示，当人们将「宗教力量或对人类判断力的屈服」归于 AI 模型时，他感到「非常不安」，并称这是「真正的安全问题」。
- Altman 的评论是对《纽约时报》关于 Anthropic 接触宗教领袖的详细报道，以及教皇 Leo XIV 称「算法缺乏人类火花」的回应。
- Altman 曾在 2023 年和 2024 年表示 OpenAI 的目标是构建「天空中的魔法智能」。
- Altman 同年还表示希望站在上帝一边，并感觉在 AI 工作上「站在天使这边」。
- OpenAI 也曾与宗教领袖进行过对话。
- Altman 多次表示其目标是达到科幻电影《Her》级别的 AI，即深度人性化。
本站视角
Altman 的言论值得关注，因为它揭示了 AI 头部公司在「AI 与宗教/精神」话题上的微妙立场。对于中文开发者和 AI 产品团队而言，这提醒我们：当 AI 被赋予过高的精神期待时，可能引发用户对模型能力的误判，进而带来安全与伦理风险。Altman 将「宗教力量或放弃人类判断」定义为安全问题，实际上是在为 AI 的能力边界划界——这与其过去「魔法智能」的修辞形成反差，可能意味着 OpenAI 在公众沟通上正转向更谨慎的姿态。需要观察的是，这种表态是否会影响 OpenAI 的产品叙事，以及 Anthropic 与宗教领袖的接触是否会引发更广泛的行业讨论。原文仅引用了 Altman 在 X 上的发言和《纽约时报》的报道，信息源相对单一，且 Altman 本人过去的言论与现在存在张力，读者应留意其立场的一致性。
背景与影响
Altman 的最新表态与他自己过去的言论形成了对比。2023 年和 2024 年，他曾公开表示 OpenAI 的目标是构建「天空中的魔法智能」，并称希望站在上帝一边、感觉「站在天使这边」。如今他批评将 AI 模型与宗教类比，称这让人「非常不安」，是「真正的安全问题」。这一转变发生在《纽约时报》详细报道 Anthropic 与宗教领袖接触之后，同时教皇 Leo XIV 也发表了「算法缺乏人类火花」的评论。OpenAI 自身也曾与宗教领袖对话。Altman 多次表示其目标是实现《Her》级别的深度人性化 AI，这与将模型本身视为有意识或具有宗教意义不同。但这类精神性言论是否更可信，原文认为由读者自行判断。
本文由 AI 辅助整理自公开信源，事实部分以原文为准；「本站视角」一节为编辑部判断，欢迎指正。版权归原作者所有，如有异议请联系我们。