AI资讯
OpenAI 披露前沿模型失准检测机制:用分层监控在事故升级前介入
OpenAI 在其博客发布文章,介绍公司如何检测前沿模型失准(misalignment)与未授权的 agent 行为。文章称,OpenAI 采用分层监控(layered monitoring)的方式,目的是让响应人员在事件升级之前就能介…
标签
共 1 篇资讯
OpenAI 在其博客发布文章,介绍公司如何检测前沿模型失准(misalignment)与未授权的 agent 行为。文章称,OpenAI 采用分层监控(layered monitoring)的方式,目的是让响应人员在事件升级之前就能介…