跳到正文
原文
Transluce(网页)·· 12 小时前AI 评分55

Transluce 将 Activation Oracles 扩展到 1.1T 参数模型,性能随模型与数据规模提升

Research August 20, 2026 Scaling Activation Oracles to Trillion-Parameter Models Oracles improve with model size, data size, and data quality

AI 导读

Transluce 训练激活预言机,用于分析模型内部激活以检测其行为,并扩展到最高 1.1T 参数的模型(包括 Kimi-K2.6 INT4),发现性能随模型规模、数据规模和数据质量提升。预言机在预测语言切换、检测编程智能体 reward hacking 等任务上取得成功,并采用全层激活读取架构,结合 LoRA 微调在 8xB200 上完成训练。

来源:Transluce(网页) · transluce.org