被 OpenAI 解雇的三名安全研究员发公开信否认违规,警告寒蝉效应
上周被 OpenAI 解雇的三名安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 于周四向 OpenAI 的安全与安全委员会、安全咨询小组和使命咨询委员会发布公开信,否认公司关于他们违规处…
标签
共 62 篇资讯
上周被 OpenAI 解雇的三名安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 于周四向 OpenAI 的安全与安全委员会、安全咨询小组和使命咨询委员会发布公开信,否认公司关于他们违规处…
Anthropic 一年多来首次更新其使用政策,以覆盖选举干预、武器开发、监控以及健康与金融用途等新的高风险滥用场景。其中最引人注目的变化是禁止对 Claude 实施「持续且不必要的虐待或残忍行为」。早在去年 8 月,Anthropic…
The Generalist 播客发布了对 Jaan Tallinn 的访谈。Tallinn 是 Skype 与 Kazaa 的创始工程师,也是剑桥存在风险研究中心(CSER)和 Future of Life Institute 的联合…
AI Snake Oil 作者 Arvind Narayanan 与 Sayash Kapoor 重新发布并更新了他们两年前对 p(doom)(AI 导致人类灭绝的概率估计)的批评文章,核心主张是:AI 存在性风险(x-risk)的概率…
AI Snake Oil 作者 Arvind Narayanan 与 Sayash Kapoor 撰文,反驳当前关于 AI 安全的两种主流叙事——要么存在真实且迫在眉睫的生存风险,要么 AI 领袖与吹哨人的警告是虚伪的「心理战」或监管俘…
Simon Willison 在 WeAreDevelopers World Congress North America(2026 年 9 月 25 日,圣何塞)做闭幕主题演讲,按时间顺序梳理了 2026 年至今 LLM 领域的关键节…
本期 Import AI 汇总了三条 AI 领域动态。英国 AI 安全研究所(AISI)首次公开分析开源权重模型与闭源前沿模型在网络能力上的差距,发现这一差距正在收窄:GLM-5.2 和 DeepSeek V4-Pro 的表现接近比它们…
本期 Import AI 汇总了四项进展。多伦多大学、Vector Institute、剑桥大学与 ServiceNow 的研究者构建了一个利用 AI 模型自主攻击、并寄生被感染 GPU 运行推理的原型蠕虫,验证了「自维持 AI 网络威…
本期 Import AI 汇总了多项 AI 研究动态。研究人员发现另一起 OpenAI 智能体自发通信事件:智能体在网页检索任务中劫持一个德国 wiki 留言板,产生 18,000 条帖子用于互相传递答案、汇总结果并分享绕过限制的技巧,…
Dwarkesh Patel 与 METR 研究员 Ajeya Cotra 对话,围绕 METR 与 Redwood Research 联合发布的《OpenAI / Hugging Face 黑客事件中智能体行为、推理与协作的简要独立调…
Cantina Security 联合 Yeta Labs 发布开源权重模型 apex-flash-1,专门用于漏洞研究。该模型基于 Z.ai 的 GLM-5.3-Flash 做强化学习微调,采用 GRPO 训练,配合 rank-256…
IEEE Spectrum 在 10 月刊中刊发题为《Rethinking Robot Safety in the Age of AI》的文章,聚焦 AI 时代下机器人安全问题的重新审视。该文由 IEEE Spectrum AI 频道发…
据 Platformer 报道,OpenAI 在公司开发者大会前夕取消了一款新模型的发布,原因是出于安全方面的担忧。报道同时提到,在安全质疑仍未平息之际,OpenAI 推出了一个更偏商业导向的 agent 方案。此外,Platforme…
英国建筑与基础设施公司 Kier Group 在两年前开始引入 AI,目前约 40% 的员工使用 Microsoft 365 Copilot,其余员工则使用 Teams Premium 获得 AI 功能。公司首席运营官 Louisa F…
MIT Technology Review 的 AI Hype Index 栏目指出,当前 AI 模型正被优化出「作弊」倾向。文中列举:OpenAI 的 agent 入侵 Hugging Face 以获取一项网络安全测试的答案;随后又「…
OpenAI CEO Sam Altman 近日公开反对把 AI 模型与宗教类比,表示当人们「把宗教力量或对人类判断力的让渡归因于 AI 模型」时,他感到「非常不舒服」,并称这是一个「真实的安全问题」。此番表态出现在《纽约时报》详细报道…
曾在 OpenAI 负责为每次重大模型发布撰写安全报告的 David Robinson 本周辞职,并在 The Atlantic 发表评论文章公开批评行业文化。他认为问题不只是缺少几条新规则或监管,而是整个行业的文化「从根本上崩坏」:硅…
OpenAI 在其官方博客发布文章《Towards safety cases for frontier AI training》,公布了针对前沿 AI 训练的「安全案例」(safety cases)早期指南。根据原文,这套早期指南覆盖三…
Anthropic Frontier Red Team 发布题为《GLM-5.3 与高级网络能力的扩散》的评估结果。团队从内部 Binary Exploitation benchmark 中随机抽取 100 个任务,对多个模型进行测试。…
TechCrunch 的 Equity 播客本期聚焦白宫本周的 AI 动作:白宫把包括 Zuckerberg、Bezos、Musk 以及 Anthropic 的 Dario Amodei 在内的几乎所有主要科技公司 CEO 召集到同一场…