Goodfire推出低成本AI内部激活监控器

Goodfire 发布一类基于模型内部激活的监测器，通过读取模型内部信号发现风险，只在命中风险时才调用独立 AI 模型复查。据 TechCrunch 报道，在 Kimi K3 上监测约 1,500 个会话花费约 51 美元，而用较便宜的 AI 模型逐步检查需 233 美元、顶级模型约 10,000 美元；该方案捕获了 94% 的恶意黑客会话，同时将 8.7% 的无害会话送审。 该监测器面向 Baseten 客户提供，客户可自行选择监控的风险类型（包括攻击性黑客、化生武器滥用、奖励黑客），并决定自动响应方式：记录事件、提交人工复核或直接拒绝请求。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。