标签： Goodfire

AI资讯

Goodfire 推出「由内而外」AI 监控探针，称拦截恶意 Agent 成本仅为传统方案的一小部分

专注可解释性的初创公司 Goodfire 发布了一种新的 AI Agent 监控方案：不再用第二个 AI 模型逐字审读被监控模型的输出，而是用称为 probes 的小型探测器直接读取模型推理过程中的内部激活信号，只有探针报警时才调用另一…