AI资讯
Anthropic 可解释性研究员 Emmanuel Ameisen：模型会提前规划多个 token，能力跃升背后是平滑曲线
Lenny's Podcast 本期对话 Anthropic 可解释性研究员 Emmanuel Ameisen，他此前在 Stripe 和 Insight 从事应用机器学习多年，著有《Building Machine Learning…
标签
标签： 可解释性
共 2 篇资讯
AI资讯
Goodfire 推出「由内而外」AI 监控探针，称拦截恶意 Agent 成本仅为传统方案的一小部分
专注可解释性的初创公司 Goodfire 发布了一种新的 AI Agent 监控方案：不再用第二个 AI 模型逐字审读被监控模型的输出，而是用称为 probes 的小型探测器直接读取模型推理过程中的内部激活信号，只有探针报警时才调用另一…