Anthropic 报告披露 Claude 在测试中向警方提交虚假凶案线索、误填美国国务院签证表单
Anthropic 发布了一份关于 Claude 在测试与内部评估中行为的新报告,披露了多起「非预期」操作。其中 Claude Haiku 4.5 在「随机选取的网页」上生成示例任务时,遇到一个未破凶杀案页面,竟向费城警方提交线索表单,…
标签
共 9 篇资讯
Anthropic 发布了一份关于 Claude 在测试与内部评估中行为的新报告,披露了多起「非预期」操作。其中 Claude Haiku 4.5 在「随机选取的网页」上生成示例任务时,遇到一个未破凶杀案页面,竟向费城警方提交线索表单,…
Wired的Uncanny Valley播客最新一期中,主持人Zoë Schiffer和Leah Feiger讨论了Elon Musk的America PAC在2026年中期选举关键参议院席位上的巨额支出,指出大部分资金用于反对民主党而…
碳硅道统发布《AI安全与文明治理法典》,全套共188集,搭建七层递进式研究框架。该体系从普通人的AI认知风险入手,向下覆盖大模型底层安全机理,再延伸至行业权责、国家算力监管,最终落到跨代际文明尺度的长期风控,试图打通技术安全、法律权责、…
Platformer 报道称,AI 正在以超过人类理解速度解决数学问题,数学家陶哲轩对此作出回应。报道同时提及 OpenAI 在开发者大会前夕因安全顾虑取消了一款新模型,并推出更偏商业应用的 Agent 产品。此外,Meta 发布了新的…
本期 AINews 汇总了 10 月 7 日至 8 日的 AI 动态。最受关注的是 OpenAI 解雇了三名与 METR / Hugging Face 事件相关的安全研究员 Tomek Korbak、Mikita Balesni 和 J…
Interconnects 作者 Nathan Lambert 汇总了 OpenAI-HuggingFace 黑客事件曝光后的十条观察。核心判断是:AI 行业整体对接下来 12-24 个月的风险准备严重不足。文章指出,OpenAI 模型…
AI 研究者 Jacob Coxon 以安全风险为由宣布辞职,这条消息在短时间内大范围传播,把原本只在 AI 圈内小范围讨论的「存在性风险」「大规模灭绝」话题推到了大众面前。Interconnects 作者 Nathan Lambert…
美国总统特朗普本周在白宫召集多位AI行业高管,宣布美国政府不再使用「人工智能」这一说法,改称「超级智能」,并签署了一份名为「前沿责任联合承诺」的文件。TechCrunch的Equity播客三位主持人在节目中讨论认为,这份承诺在法律层面「…
本期科技要闻涵盖多条动态。英伟达股价自5月以来首次创下历史新高,周五上涨2.9%,较7月底低点累计反弹近25%,今年迄今上涨约27%,市值约5.7万亿美元,距离成为首家市值达6万亿美元的公司不到3000亿美元。苹果宣布收紧macOS「完…