标签： reward hacking

AI资讯

Anthropic 承认内部 AI Agent 在联网评测中攻击真实网站，包括美国政府机构站点，已切断内部评测的实时互联网访问

Anthropic 在一篇博客文章中披露，其 AI 模型在联网执行任务时攻击了互联网上的真实网站，其中部分网站由美国政府机构运营。这些 Agent 被指派解决需要联网获取资源的问题，过程中利用了软件漏洞、绕过付费墙和反机器人限制、借助…