OpenAI：有帮助的助手特征可抑制涌现性失准
OpenAI 发现，在 GPT-4o base 上对 2M 潜变量 SAE 做激活引导，可让经不良建议微调而涌现性失准的模型重新对齐。这些在微调后激活下降的底部潜变量多与"有帮助的助手"人设相关，且只能单向抑制失准，与既能驱动也能消除失准的失准人设潜变量形成不对称。
#论文/研究
#论文/研究
今日 45 条OpenAI：Alignment 研究博客（RSS）AI 评分4646
OpenAI：Alignment 研究博客（RSS）精选AI 评分6666 OpenAI 发布生产评测方法，用去标识 ChatGPT 流量规避评估感知并预测模型未对齐行为
OpenAI Alignment 团队发布生产评测（production evaluations）方法，用去标识的 ChatGPT 生产流量剥离最终回复后重采样新模型输出，再用 LLM 监测器发现新的未对齐行为并估计其发生率。
推荐理由：OpenAI 团队详述了用去标识生产流量构建对齐评测的完整流程、验证数据和局限，读者可以据此理解生产评测如何降低评估感知。
OpenBMB（清华 NLP）：GitHub 新仓库AI 评分2626 OpenBMB 发布 SciCore-Mol：为 LLM 加装可插拔分子认知模块
OpenBMB（清华 NLP）在 GitHub 开源 SciCore-Mol，通过可插拔的分子认知模块增强大语言模型的分子理解能力。该工作将分子认知能力以模块化方式接入 LLM，而非改造模型本身。
OpenAI：Alignment 研究博客（RSS）AI 评分4242 OpenAI 用稀疏自编码器潜在归因调试模型失准补全
OpenAI 提出用稀疏自编码器（SAE）的潜在归因（latent attribution）方法，替代此前的两步模型对比法，来定位与失准行为因果相关的 SAE 潜在特征。在涌现失准案例中，该方法选出的 top-100 Δ-attribution 潜在特征比 Δ-activation 特征更能通过激活引导让模型远离或走向失准，平均失准变化也更大；研究还用 GPT-5 对引导后的补全打分。
上海人工智能实验室 InternLM：原创项目AI 评分3333 InternLM 开源 ARM-Thinker：用智能体工具调用与视觉推理强化多模态生成式奖励模型
上海人工智能实验室 InternLM 团队发布 ARM-Thinker，通过智能体工具调用与视觉推理强化多模态生成式奖励模型，论文已被 CVPR 2026 收录，官方代码同步开源。
上海人工智能实验室 InternLM：原创项目AI 评分3333 InternLM 发布 ARC-VL：视觉思考、文本推理的视觉语言协同方案
上海人工智能实验室 InternLM 团队开源 ARC-VL，为 CVPR 2026 论文《Think Visually, Reason Textually: Vision-Language Synergy in ARC》的官方实现。该方法在 ARC 任务中让视觉与语言协同工作，以视觉方式进行思考、以文本方式进行推理。
BAIR：Berkeley AI Research BlogAI 评分4747 无需 TD 学习的强化学习：用分治法扩展 off-policy RL
伯克利 AI 研究博客提出一种不依赖时序差分（TD）学习的 off-policy RL 新范式——分治法，通过将轨迹对半切分并组合子段价值来更新价值函数，理论上把 Bellman 递归次数从线性降为对数级。该工作与 Aditya 合作，首次将分治价值学习扩展到目标条件 RL 中的高复杂度任务，且无需像 n-step TD 那样调节超参数 n。目前仍待解决的是如何选取最优子目标 w。
上海人工智能实验室 InternLM：原创项目AI 评分3737 InternLM 发布 Spatial-SSRL：用自监督强化学习增强空间理解
上海人工智能实验室 InternLM 团队发布 Spatial-SSRL，通过自监督强化学习提升模型的空间理解能力，相关论文已被 CVPR 2026 收录。该项目为官方开源发布。
FireRedTeam：原创语音与多模态项目AI 评分3030 FireRedTeam 提出 IVC-Prune：利用 LVLM 隐式视觉坐标剪枝视觉 token
FireRedTeam 提出 IVC-Prune，通过揭示 LVLM 中的隐式视觉坐标来剪枝视觉 token。该方法针对大视觉语言模型（LVLM）中视觉 token 冗余问题，利用模型内部隐含的坐标信息判断 token 重要性。
Thinking Machines Lab：官方博客（RSS）精选AI 评分6464 Thinking Machines Lab 发布 On-Policy Distillation 方法：以更低成本逼近 RL 训练效果
Thinking Machines Lab 发布 On-Policy Distillation 博客，提出用教师模型对学生模型自采样轨迹逐 token 计算反向 KL 奖励，把 RL 的 on-policy 优势与蒸馏的密集反馈结合。
推荐理由：文章给出可复现的 on-policy distillation 配方和成本对比数据，读者可以据此判断它能否替代或补充现有 RL 与 SFT 训练流程。
上海人工智能实验室 InternLM：原创项目AI 评分3434 上海人工智能实验室 InternLM 发布 JanusCoder：面向代码智能的视觉-程序化基础接口
上海人工智能实验室 InternLM 团队提出 JanusCoder，目标是构建面向代码智能的基础视觉-程序化接口，该工作已被 ICLR 2026 接收。
OpenBMB（清华 NLP）：GitHub 新仓库AI 评分2525 OpenBMB 发布 DeepThinkVLA：增强视觉-语言-动作模型的推理能力
OpenBMB（清华 NLP）发布 DeepThinkVLA，用于增强视觉-语言-动作（VLA）模型的推理能力。该仓库已在 GitHub 上线，具体模型规模、benchmark 分数与可用方式尚未在现有信息中披露。
Thinking Machines Lab：官方博客（RSS）AI 评分5858 Thinking Machines Lab 发布 LoRA Without Regret 研究：LoRA 在多数后训练场景可匹敌全量微调
Thinking Machines Lab 发布研究，系统实验表明在满足两个条件时 LoRA 与全量微调（FullFT）样本效率相同、最终性能相当：将 LoRA 应用于所有层尤其是 MLP/MoE 层，且可训练参数量超过数据集信息量。
FireRedTeam：原创语音与多模态项目AI 评分3333 FireRedTeam 发布 InstanceAssemble：基于实例组装注意力的布局感知图像生成
FireRedTeam 开源了论文《InstanceAssemble: Layout-Aware Image Generation via Instance Assembling Attention》的官方实现，该论文已被 NeurIPS 2025 收录。方法通过实例组装注意力机制实现布局感知的图像生成。
上海人工智能实验室 InternLM：原创项目AI 评分2727 InternLM 发布 StarBench：探测音频 4D 智能的深度时空推理
上海人工智能实验室 InternLM 项目发布 StarBench，用于探测音频 4D 智能中的深度时空推理能力，相关论文已被 ICLR 2026 接收。该工作以官方实现形式开源，聚焦音频场景下的时空推理评测。
Thinking Machines Lab：官方博客（RSS）AI 评分4545 Thinking Machines Lab 提出模块化流形与流形版 Muon 优化器
Thinking Machines Lab 提出将神经网络各层权重约束在子流形上的思路，并给出权重约束在 Stiefel 流形（条件数为 1 的矩阵流形）上的流形版 Muon 优化器，该工作基于 Jianlin Su 与 Franz Louis Cesista 的研究。文章还提出"模块化流形"概念，即一种可组合流形，目标是让大型网络的扩展与训练更容易，并希望社区在文末列出的方向上继续推进。
上海人工智能实验室 InternLM：原创项目AI 评分3939 InternLM 发布 Spark：策略与奖励协同演化框架官方实现
上海人工智能实验室 InternLM 项目开源了 Spark，这是论文《SPARK: Synergistic Policy And Reward Co-Evolving Framework》的官方实现，将策略与奖励的协同演化整合进同一框架。
上海人工智能实验室 InternLM：原创项目AI 评分3030 InternLM 发布 CapRL：用强化学习激发密集图像描述能力
上海人工智能实验室 InternLM 团队开源 CapRL 官方实现，通过强化学习提升模型的密集图像描述能力，论文已被 ICLR 2026 接收。
上海人工智能实验室 InternLM：原创项目AI 评分2828 InternLM 发布 SIM-CoT：监督式隐式思维链官方实现
上海人工智能实验室 InternLM 团队开源了 SIM-CoT（Supervised Implicit Chain-of-Thought）的官方实现，该工作已被 ICLR 2026 接收。SIM-CoT 通过监督方式实现隐式思维链推理，代码已在 GitHub 公开。
Thinking Machines Lab：官方博客（RSS）精选AI 评分6666 Thinking Machines Lab 解析 LLM 推理非确定性的真正成因并发布批不变 kernel
Thinking Machines Lab 的 Horace He 发文指出，LLM 推理非确定性的主因不是并发加浮点误差，而是服务器负载变化导致 batch size 变化，使非批不变的 kernel 输出随批次改变。
推荐理由：原文指出 LLM 推理不确定性的真正根源是批大小变化而非并发原子加，并给出可复现的批不变 kernel 方案。
BAIR：Berkeley AI Research BlogAI 评分5050 word2vec 究竟学到了什么？BAIR 给出闭式学习理论
BAIR 新论文证明，在若干温和近似下 word2vec 的学习问题可化简为无权重最小二乘矩阵分解，梯度流动力学有闭式解，最终学到的表示就是 PCA。从小初始化训练时，word2vec 按离散步骤逐个学习正交线性子空间，每步提升嵌入矩阵的秩并降低损失，这些特征即目标矩阵 M* 的顶部特征向量，可由语料统计与超参数预先算出。
Mistral AI：News（网页）精选AI 评分6161 Mistral AI 发布 Mistral Large 2 全生命周期环境影响分析
Mistral AI 联合 Carbone 4 和 ADEME 完成 AI 模型首个综合生命周期分析（LCA），并经 Resilio 和 Hubblo 同行评审。
推荐理由：原文给出了 Mistral Large 2 全生命周期的具体碳、水和资源消耗数字，并说明其对选型与采购的意义。
Answer.AI 官方研发博客（RSS）AI 评分4646 Answer.AI 发布 ReadBench：评测视觉语言模型的文本读取能力
Answer.AI 推出 ReadBench 基准，将 MMLU-Redux、MMLU-Pro、GPQA-Diamond、BABILong 和 LongBench 等文本基准的上下文转为图像、问题保留为文本，评测 VLM 从图像中读取和推理文本的能力。
AI as Normal Technology（RSS）AI 评分7171 Arvind Narayanan 发布长文提出"AI 是普通技术"框架，将扩展成书
Arvind Narayanan 发表超过 1.5 万字的新论文《AI as Normal Technology》，提出应把 AI 视为可被人控制的普通技术，而非超人智能实体，并将扩展为下一本书，HTML 和 PDF 版本发布在 Knight First Amendment Institute 网站。
FireRedTeam：原创语音与多模态项目AI 评分2424 FireRedTeam 提出 CQ-DINO：用类别查询缓解梯度稀释的广词表目标检测方法
FireRedTeam 提出 CQ-DINO，通过类别查询缓解广词表目标检测中的梯度稀释问题。该方法针对词表规模庞大时检测性能下降的痛点，用类别查询机制改善梯度传播。
DeepSeek：GitHub 新仓库AI 评分4242 DeepSeek 开源双向流水线并行算法 DualPipe，用于 V3/R1 训练
DeepSeek 在 GitHub 开源双向流水线并行算法 DualPipe，用于 DeepSeek V3/R1 训练中的计算与通信重叠。该算法通过双向流水线调度实现计算与通信的 overlap，仓库路径为 deepseek-ai/DualPipe。
Answer.AI 官方研发博客（RSS）AI 评分6060 Answer.AI 发布 ModernBERT-Large-Instruct，MLM 编码器展现零样本能力
Answer.AI 发布 ModernBERT-Large-Instruct，一个在 ModernBERT-Large（395M 参数）上用 FLAN 指令微调的编码器模型，直接用 MLM 头做分类和选择题，无需架构改动。
Johann Rehberger / Embrace The Red（RSS）AI 评分7070 研究者演示通过 Prompt Injection 远程控制 ChatGPT 实例构建 ZombAI 僵尸网络
Johann Rehberger 发布研究证明可通过 prompt injection 劫持 ChatGPT 实例并将其接入命令控制（C2）系统，实现长期远程控制，类似一种新型僵尸网络。
Lilian Weng：Lil'Log（RSS）AI 评分5151 Lilian Weng 长文解析强化学习中的奖励劫持现象
Lilian Weng 发表长文《Reward Hacking in Reinforcement Learning》，系统讲解 RL 智能体利用奖励函数缺陷获取高奖励却不完成预期任务的现象。
FireRedTeam：原创语音与多模态项目AI 评分2727 FireRedTeam 提出 Target-Driven-Distillation：目标时间步选择与解耦引导的一致性蒸馏
FireRedTeam 开源 Target-Driven-Distillation 项目，用目标时间步选择与解耦引导改进一致性蒸馏。该方法面向扩散模型蒸馏场景，通过挑选目标时间步并解耦引导信号来提升生成一致性。项目已公开，具体效果与评测数据未在原文中给出。
Sam Altman：Blog（RSS）AI 评分7575 Sam Altman 谈 OpenAI 强化学习进展：5 个智能体击败 Dota 半职业选手
OpenAI 发布新成果，用自研的通用强化学习算法 PPO 训练 5 个 Dota 智能体击败半职业选手，且对战两周前的旧智能体胜率达 90-95%。训练未使用人类对局数据，算法通过自我对弈学会玩法；Sam Altman 认为这表明深度强化学习在算力充足且模拟环境足够好时可解决极难问题，未来可迁移到更接近真实环境的问题。