MIT Tech Review:AI 的「拒绝能力」正在成为安全体系承重墙,但它既不可靠也不透明
MIT Technology Review 刊发长文,系统剖析了现代大模型「拒绝回答」机制的来龙去脉与结构性风险。文章指出,从 2021 年 Anthropic 提出「helpful, honest, harmless」原则开始,拒绝行…
栏目
汇集全球 AI 领域的即时动态:模型发布、产品更新、公司动向、政策监管与安全事件。每篇含中文摘要、关键事实、为什么值得关注与原文出处,按发布时间倒序排列。
共 801 篇资讯
MIT Technology Review 刊发长文,系统剖析了现代大模型「拒绝回答」机制的来龙去脉与结构性风险。文章指出,从 2021 年 Anthropic 提出「helpful, honest, harmless」原则开始,拒绝行…
OpenAI 公布并封禁了两个分别来自俄罗斯和伊朗的影响力行动账号。俄罗斯方面的行动代号「Dark Clark」,在拉丁美洲传播虚假信息并引发政界人士回应,被 OpenAI 评为 6 级威胁中的第 5 级,这是其报告历史上首次给出该评级…
MarkTechPost 发布了一篇教程,把 Google Research 的 RRSI(Regularized Recursive Self-Improvement,正则化递归自我改进)方法拆开跑了一遍。RRSI 的核心设定是:模型…
在 Lazada Brand Gala 上,一批通过天猫「一键轻出海」项目进入东南亚的中国品牌集中亮相。该项目启动不到一年,截至 2026 年上半年末已有近 1 万家天猫品牌商家加入,参与商家成交额持续实现季度环比双位数增长。Lazad…
10 月 9 日,TRAE 宣布全面升级,将原本分别面向办公任务场景的 TraeWork 与面向专业开发者的 TraeCode 合并为统一入口,支持 Agent 模式与 IDE 模式无缝切换。升级后的 TRAE 定位为「全链路开发平台」…
Harness 于周四宣布收购 Augment Code 旗下的 Cosmos 软件工厂、Auggie CLI 和 Code Context Engine 及其团队,交易金额未披露。此次收购将自主编码智能体纳入 Harness 已有的软…
在美国诉 Elizabeth Holmes 案庭审中公开的 1000 多封邮件、幻灯片、短信和文件基础上,Extend 工程师 Bo Lau 制作了一个网站,模拟 Theranos 首席执行官在 2016 年前后的办公环境。网站还原了带…
The New Stack 的一篇分析文章指出,AI 训练与推理正在改变数据中心里数据的角色:数据不再是间歇性、批处理式地被访问,而是被持续消费、召回和重组。这让原本以低成本、低吞吐为设计目标的数据湖,被迫变成高吞吐的数据交付平台。传统…
加州州立体育委员会(California State Athletic Commission)已向初创公司 Rek 发出停止令(cease-and-desist letter),针对其在上个月举办的一场人类与机器人之间的笼斗比赛。据《纽…
在 OpenAI 为 ChatGPT Work 推出数据代理约一个月后,Anthropic 于周四上线了自家版本。Claude Dashboards 目前处于 beta 阶段,支持用户构建实时仪表盘,可查看生成数据的具体查询语句,并能将…
Anthropic 更新了其使用政策,新增禁止「持续辱骂 Claude」的条款,违反者可能面临账号被暂停。新政策同时收紧了对宣传内容、无人机武器化和监控用途的限制。这一滥用条款延续了 Anthropic 既有的做法——允许模型主动结束某…
Anthropic 为 Claude 上线两项 beta 功能。Dashboards 可以把 BigQuery、Snowflake 等数据源通过文本提示转成实时看板;Motion 则根据文本和图片生成动画讲解视频。同时,Docs、Sli…
AWS 官方博客披露了 Amazon Bedrock AgentCore payments 的一个落地案例:AI Agent 身份平台 Incarna 通过 AgentCore payments,让 Agent 以 x402 协议向推理…
数学界对 OpenAI 的一次大规模论文发布作出强烈反应。据 The Decoder 报道,OpenAI 一次性发布了 700 多篇由 AI 生成的数学手稿,随后因一个符号错误在第二天撤回了其中三篇。一个名为 Association f…
起家于 UC Berkeley 研究项目、以众包方式给 AI 模型排名的 Arena,宣布完成 2 亿美元 B 轮融资,投后估值 31 亿美元。本轮由 Lightspeed Venture Partners 和 Khosla Ventu…
微软在周三的一篇博客中宣布,GitHub Copilot 将扩展 Project HydraFusion,使其不仅能选择模型,还能决定推理在本地还是云端执行,自动路由预计在 10 月底上线。该功能将出现在 Copilot CLI、Cop…
SpaceXAI 宣布加入负责管理 Linux 发行版 Omarchy 的 Omacom Foundation,成为其创始企业赞助方(Founding Corporate Patron),并向 David Heinemeier Hans…
USA Today 公司及其旗下多家地方报纸对 OpenAI 提起诉讼,指控 OpenAI 未经授权复制了「数十万篇」文章用于训练其 AI 模型。在周四提交的诉状中,出版商要求超过 2.5 亿美元的损害赔偿,并称 OpenAI 对其内容…
Anthropic 发布 Claude Haiku 5.5,这一代升级幅度明显:计算机操作评测 OSWorld 2.1 离线子集成绩从上一代 Haiku 4.5 的 15.7% 提升到 72.4%,Sonnet 5.5 为 83.9%;…
JetBrains 发布 Mellum2.1,一个面向编码 Agent 与快速子 Agent 的开源模型,以 Apache 2.0 协议在 Hugging Face 上放出权重。该模型为 12B 总参数的 MoE 思考模型,每个 tok…