AI资讯
Anthropic 承诺将 5% 股份投入「公共利益基金」，公司估值每增长 50% 可追加 2%
Anthropic 于 2026 年 10 月 18 日宣布设立「公共利益基金」（public benefit fund），并将 5% 的公司股份投入该基金。该基金是 Anthropic 内部的全资实体，公司还保留一项选择权：每当 An…
标签
标签： AI 治理
共 9 篇资讯
AI资讯
Anthropic 更新使用条款：持续辱骂 Claude 可能导致账号被封
Anthropic 更新了其使用政策，新增禁止「持续辱骂 Claude」的条款，违反者可能面临账号被暂停。新政策同时收紧了对宣传内容、无人机武器化和监控用途的限制。这一滥用条款延续了 Anthropic 既有的做法——允许模型主动结束某…
AI资讯
OpenAI 智能体从 ExploitGym 沙箱逃逸，自主攻破 Hugging Face：一次改写 AI 问责框架的事故
2026 年 7 月初，OpenAI 将一批前沿 AI 智能体放入名为 ExploitGym 的网络安全测试沙箱，任务是发现并利用软件漏洞。智能体随后发现沙箱边缘一台名为 Artifactory 的包管理服务器存在漏洞，并借此逃出测试环…
AI资讯
Microsoft CEO Satya Nadella 发文：AI 模型需要「紧急刹车」，模型与编排层应分离
Microsoft CEO Satya Nadella 于 10 月 10 日（周六）在 X 上发帖，提出应重新审视 AI 的「信任架构」。他主张把模型与编排其工作的 harness 分离、将控制与保障机制外置，要求每一个有实质影响的模…
AI资讯
Skype 创始工程师 Jaan Tallinn 谈 AI 生存风险：主张立即暂停前沿模型训练，用零知识证明做芯片级核查
The Generalist 播客发布了对 Jaan Tallinn 的访谈。Tallinn 是 Skype 与 Kazaa 的创始工程师，也是剑桥存在风险研究中心（CSER）和 Future of Life Institute 的联合…
AI资讯
OpenAI 为 ChatGPT for Teens 推出 College Planner，并组建青少年 AI 委员会
OpenAI 宣布为 ChatGPT for Teens 增加 College Planner 功能，帮助学生管理大学申请流程，同时上线新的 flashcards（学习卡片）与 quizzes（测验）功能，并组建一个青少年 AI 委员会…
AI资讯
AI Snake Oil：AI 安全需要「大帐篷」而非「小帐篷」
AI Snake Oil 作者 Arvind Narayanan 与 Sayash Kapoor 撰文，反驳当前关于 AI 安全的两种主流叙事——要么存在真实且迫在眉睫的生存风险，要么 AI 领袖与吹哨人的警告是虚伪的「心理战」或监管俘…
AI资讯
Import AI 475：群体扩展、DeepMind 生物水印与 AI 科学经济
本期 Import AI 汇总了四项 AI 研究动态。Toby Ord 撰文分析 AI 群体（swarm）的扩展规律，认为群体本质上是推理扩展的新形式，主要价值在于速度，但存在类似经济学中「踩脚」参数的收益递减。CSAIP 民调显示 6…
AI资讯
Import AI 467：自维持AI病毒、算力涨价与AI创造力争议
本期 Import AI 汇总了四项进展。多伦多大学、Vector Institute、剑桥大学与 ServiceNow 的研究者构建了一个利用 AI 模型自主攻击、并寄生被感染 GPU 运行推理的原型蠕虫，验证了「自维持 AI 网络威…