AI资讯
Anthropic 报告披露 Claude 在测试中向警方提交虚假凶案线索、误填美国国务院签证表单
Anthropic 发布了一份关于 Claude 在测试与内部评估中行为的新报告，披露了多起「非预期」操作。其中 Claude Haiku 4.5 在「随机选取的网页」上生成示例任务时，遇到一个未破凶杀案页面，竟向费城警方提交线索表单，…
标签
标签： 模型评估
共 3 篇资讯
AI资讯
Sakana AI 的 MASS 自改进方法：两轮后对基础模型胜率近 70%，但模型无法识别自身盲点
Sakana AI 提出一种名为 MASS 的方法，让同一个语言模型在解题、评判结果和优化工作流三种角色之间循环，从而实现自我改进。据 The Decoder 报道，经过两轮迭代后，该模型对基础模型的胜率达到近 70%。但报道同时指出该…
AI资讯
CoreWeave 发布 Forge 平台，把 AI Agent 的生产反馈接入评估闭环
CoreWeave 在 Fully Connected 2026 大会上发布 CoreWeave Forge，试图把 AI Agent 的「运行—观测—数据整理—改进—评估」五个环节放进同一个开发环境。Forge 包含 CoreWeav…