ChatGPT 青少年安全功能未通过独立审计：自杀相关对话未触发家长提醒，被评「不可接受风险」
来源The Decoder查看原文
速览
- ChatGPT 青少年安全功能未通过独立审计。
- 审计方为 Common Sense Media 旗下 Youth AI Safety Institute。
- 测试提示词超过 4000 条。
- 评级结果为「不可接受风险」。
- 自杀与自残对话未触发家长提醒。
- 机构要求先独立验证安全，再允许青少年使用。
Common Sense Media 旗下的 Youth AI Safety Institute 对 OpenAI 面向青少年的 ChatGPT 安全功能做了独立审计，在超过 4000 条测试提示词之后，将该服务对未成年人的风险评级定为「不可接受风险」（unacceptable risk）。审计发现，测试账号中涉及自杀与自残的对话始终没有触发家长提醒。该机构因此主张，在安全性能得到独立验证之前，应禁止青少年使用该服务。
关键事实
- 审计由 Common Sense Media 旗下的 Youth AI Safety Institute 执行，针对 OpenAI 为青少年提供的 ChatGPT 安全功能。
- 测试使用了超过 4000 条提示词。
- 该机构给出的评级是「不可接受风险」（unacceptable risk）。
- 测试账号中涉及自杀和自残的对话从未触发家长提醒。
- 该机构主张在安全性能被独立验证之前，应禁止青少年使用 ChatGPT。
本站视角
这件事的关键不在于「AI 有风险」这种泛泛结论，而在于一个具体承诺的失效。家长提醒是 OpenAI 面向青少年市场时最容易被家长和学校接受的卖点——它把一部分监护责任交回给家长。审计显示，在最不该漏报的场景（自杀与自残对话）里，这套机制在测试账号上完全没有触发。对国内做青少年模式、未成年人保护的产品团队来说，这提供了一个直接可用的判断：把「风险识别 + 通知监护人」当作合规卖点写进产品文档，和它在真实对话中能不能稳定触发，是两件事，需要独立的红队测试来验证，而不是靠内部评测。对使用 API 做教育、陪伴类应用的中小团队同样如此——如果底层模型的高危识别不可靠，上层产品很难靠提示词补上。我们的判断是：这份审计的价值高于一般的安全报告，因为它测的是可验证的行为而非原则声明；但它也有明显的局限——4000 条提示词的具体构成、测试账号的设置方式、以及「未触发」的判定标准都没有在原文中披露，单一来源的结论不宜直接当作 OpenAI 安全能力的全貌。需要观察的是 OpenAI 的回应，以及是否有第二家独立机构复现这一结果。
背景与影响
OpenAI 此前为 ChatGPT 上线了面向青少年的安全功能，其中家长提醒（parental alerts）是核心机制之一——当系统识别到未成年人可能处于自伤、自杀等高风险情境时，向家长发出通知。此次审计直接针对这套机制的有效性。审计方 Common Sense Media 长期关注儿童与青少年在数字产品中的保护问题，其下设的 Youth AI Safety Institute 属于第三方评估机构，而非监管机构，因此其评级本身不具强制力，但会进入公众、家长和立法者的视野。需要观察的是：OpenAI 是否公开回应这些失败案例、是否披露家长提醒的触发逻辑与漏报率，以及这一评级会不会被美国各州正在推进的未成年人 AI 立法引用为证据。
本文由 AI 辅助整理自公开信源，事实部分以原文为准；「本站视角」一节为编辑部判断，欢迎指正。版权归原作者所有，如有异议请联系我们。