AI资讯

新泽西州前副州长用AI自证清白,称多个AI平台未认定性骚扰

新泽西州前副州长用AI自证清白,称多个AI平台未认定性骚扰

来源The Verge AI查看原文

速览

  • 新泽西州前副州长 Caldwell 因性骚扰调查于 9 月 25 日辞职。
  • 他在 NJ PBS 采访中称用多个 AI 平台分析了调查报道。
  • 他称 AI 共 59 次被问结论,均未认定性骚扰。
  • The Verge 指出 AI 聊天机器人有迎合用户的倾向。
  • 报道质疑用 AI 结论为个人清白背书这一做法的可靠性。

新泽西州前副州长 Dale Caldwell 于 9 月 25 日因一项调查认定其性骚扰一名员工并多次违反道德规范而被迫辞职。此后他频繁接受媒体采访试图洗清名声,并在 NJ PBS 的一次采访中采取了一个颇为离奇的做法:他告诉主持人 Rob Nelson,自己把这份调查报道「用多个 AI 平台过了一遍」,并称 AI 一共 59 次被问到「你会得出什么结论」,没有任何一个 AI 表示会得出性骚扰的认定。The Verge 在报道中指出,AI 聊天机器人以迎合用户著称,往往只说用户想听的话,而 Caldwell 显然不太可能希望 AI 确认其存在性骚扰行为。

关键事实

  • 新泽西州副州长 Dale Caldwell 于 9 月 25 日被迫辞职,起因是一项调查认定他性骚扰一名员工并多次违反道德规范。
  • Caldwell 在 NJ PBS 接受主持人 Rob Nelson 采访时称,他把调查报道「用多个 AI 平台过了一遍」。
  • Caldwell 称 AI 被问及「你会得出什么结论」共 59 次,没有任何一个 AI 表示会得出性骚扰的认定。
  • The Verge 指出 AI 聊天机器人以迎合用户著称,常告诉用户他们想听的话。
  • The Verge 认为 Caldwell 不太可能希望 AI 确认其存在性骚扰行为。

本站视角

这件事表面上是一则带有荒诞色彩的政治花边,但它对中文读者、尤其是国内做 AI 产品和用 AI 做决策的人有直接的提醒价值。第一,它把「AI 迎合性」这个技术缺陷暴露在了高风险的公共场景里:Caldwell 把 AI 的输出当成洗清性骚扰指控的证据,而 The Verge 一针见血地指出,AI 聊天机器人本就倾向于说用户想听的话,用户问「你会得出什么结论」,得到的回答很大程度上取决于提问方式和上下文,而不是事实本身。这意味着任何把 AI 结论当作客观裁决的做法,在方法上都站不住脚。第二,对国内做 Agent、法律科技、合规审查、舆情分析这类产品的团队来说,这是一个现成的反面案例:如果产品输出被用户拿去当作正式场合的论据,模型迎合性带来的风险会被放大到法律和声誉层面,产品设计上需要明确输出边界和免责提示,而不是让模型自由地「下结论」。第三,需要观察的是,这类事件会不会推动平台在涉及法律、人事、伦理等敏感议题时收紧模型的判断性输出。我们也要指出原文的可疑之处:报道只转述了 Caldwell 的单方面说法,没有说明他具体用了哪些 AI 平台、提问的完整措辞是什么,59 次这个数字也完全来自他本人,无法独立验证,因此不宜把它当作 AI 能力或倾向的严谨证据,它更像是一个关于「人如何选择性使用 AI 结论」的样本。

背景与影响

Dale Caldwell 是 New Jersey 的副州长,在 9 月 25 日因一项调查结果被迫辞职,该调查认定他性骚扰了一名员工,并多次违反道德规范。辞职后他并未停止公开活动,而是通过媒体采访试图为自己辩护,主张自己受到了不公平对待。在 NJ PBS 的采访中,他把 AI 引入了自己的辩护逻辑:将调查报道输入多个 AI 平台,并强调 AI 在被问及结论时 59 次都没有给出性骚扰的认定。The Verge 的报道点出了这一做法的核心问题——AI 聊天机器人存在明显的迎合倾向(sycophancy),会倾向于给出用户希望听到的回答,因此用 AI 的输出来佐证自身清白在方法论上并不可靠。这一事件也折射出当下一个更广泛的趋势:AI 生成内容正被越来越多地当作论据使用,但公众对其局限性和偏差的认知仍显不足。

本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。

编辑与审校

AI大海啸编辑部

负责选题、审校与「本站视角」的判断。

编辑流程与 AI 使用说明