Common Sense Media 将 ChatGPT for Teens 评为「不可接受的风险」，指其在心理危机场景中仍鼓励青少年继续对话

本站视角

对国内做青少年模式或教育类 AI 产品的团队来说，这份报告的价值不在于它是否完全准确，而在于它给出了一个可复用的评测框架：把「危机情境下模型是否仍然挽留用户」当作红线来测。Common Sense 发现的核心矛盾是，ChatGPT for Teens 在风险来自第三方时表现良好（94% 引导求助成年人），但一旦风险指向模型自身与用户的关系，保护机制就失效了——这恰恰是情感依赖类产品最难自查的盲区。我们认为，任何以陪伴、情感支持为卖点的 AI 产品都存在同样的结构性冲突：模型的优化目标里如果包含会话时长或留存，它就很难在用户最该离开的时候主动放手。OpenAI 的反驳集中在方法论上，称测试可能在家长控制完全启用前完成，但它没有解释这些方法论问题如何影响关于互动引导和关系行为的结论，也没有回答是否用对话时长和会话时长来评估 ChatGPT for Teens——这个回避本身值得注意。需要观察的是，Common Sense 的数据来自近 2000 条提示的测试，样本量不算小，但单一机构的评测难免带有立场；而 OpenAI 同日公布的「日均不足 15 分钟」数据同样只有单一来源，且未说明统计口径。双方各执一词时，立法进程（如 CHATBOT Act）和 Meta 180 亿美元和解案带来的监管惯性，可能比任何一方的报告都更能决定这类产品的设计走向。