Dwarkesh Patel：AI 进步的核心是数据黑洞，而非样本效率提升
Dwarkesh Patel 撰文指出，过去几年 AI 进步主要来自更多更好的数据与算力，而非训练样本效率的提升；RL 可视为一种合成数据生成，需要大量高度定制的人类专家轨迹和 rubric。
推荐理由：作者用人类与模型的 token 消耗对比和 Chinchilla 常数推算，解释为什么数据而非训练技巧才是追赶前沿的关键。
数据与训练
全部主题训练侧的门道：数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
最新精选
第 21–29 条 · 共 29 条Dwarkesh Patel：Podcast & Blog（RSS）精选AI 评分6767
Google Research精选AI 评分7171 Google Research 发布 PHRM 系统用手机前置摄像头被动监测心率与静息心率
Google Research 在 Nature 发表 PHRM 研究系统，利用人脸解锁后的前置摄像头视频在日常用机时后台估计心率与每日静息心率。
推荐理由：这项研究覆盖近700名不同肤色的参与者并在真实生活场景验证，读者可以据此了解手机摄像头被动测心率的精度与局限。
Google Research精选AI 评分6161 Google 发布 Groundsource：用 Gemini 把新闻报道转为历史洪水数据
Google Research 推出 Groundsource，利用 Gemini 从 80 种语言的新闻报告中提取结构化历史洪水事件，建成覆盖 150 多个国家、2000 年至今的 260 万条记录的开源数据集。
推荐理由：原文给出方法细节与验证准确率，读者可以据此了解用 LLM 把新闻转成灾害历史数据的可行路径。
Answer.AI 官方研发博客（RSS）精选AI 评分7171 Answer.AI 用 PyPI 数据检验 AI 编程提效：整体未见爆发，仅热门 AI 包更新翻倍
Answer.AI 分析 PyPI 数据，未发现 ChatGPT 发布后包创建或更新频率的全面跃升，质疑 AI 让开发者普遍 2x 到 100x 提效的说法。按描述分类后发现，2023 年首发且最受欢迎的 AI 相关包中位更新达每年 21-26 次，是同为热门的非 AI 包（约 10 次）的两倍多，2024 年 AI 包占比也从 2021 年的约 1:6 升至近 1:2。
推荐理由：作者用 PyPI 十年数据检验 AI 提效说法，发现增速未变，只有热门 AI 包更新频率翻倍，为讨论提供了少见的量化证据。
Ahead of AI（RSS）精选AI 评分7676 Sebastian Raschka 解析 2026 年 1-2 月 10 个开源权重 LLM 架构
Sebastian Raschka 按时间顺序梳理 2026 年 1-2 月的十个主要开源权重模型发布，包括 Arcee Trinity Large 400B。
推荐理由：作者以架构对比视角梳理近两个月主要开源权重模型发布，读者可以借此看清各家的注意力机制和效率设计选择。
Thinking Machines Lab：官方博客（RSS）精选AI 评分6464 Thinking Machines Lab 发布 On-Policy Distillation 方法：以更低成本逼近 RL 训练效果
Thinking Machines Lab 发布 On-Policy Distillation 博客，提出用教师模型对学生模型自采样轨迹逐 token 计算反向 KL 奖励，把 RL 的 on-policy 优势与蒸馏的密集反馈结合。
推荐理由：文章给出可复现的 on-policy distillation 配方和成本对比数据，读者可以据此判断它能否替代或补充现有 RL 与 SFT 训练流程。
Mistral AI：News（网页）精选AI 评分6161 Mistral AI 发布 Mistral Large 2 全生命周期环境影响分析
Mistral AI 联合 Carbone 4 和 ADEME 完成 AI 模型首个综合生命周期分析（LCA），并经 Resilio 和 Hubblo 同行评审。
推荐理由：原文给出了 Mistral Large 2 全生命周期的具体碳、水和资源消耗数字，并说明其对选型与采购的意义。
Lilian Weng：Lil'Log（RSS）精选AI 评分6363 Lilian Weng 长文解读大语言模型的外在幻觉：成因、检测与缓解方法
Lilian Weng 在 Lil'Log 发表长文，将幻觉聚焦于外在幻觉，即模型输出未被提供的上下文或世界知识支持、编造且不可验证的内容。文章梳理幻觉成因，包括预训练数据中的过时或错误信息，以及微调引入新知识会加剧幻觉（Gekhman et al. 2024 发现模型学会 Unknown 样本后更易幻觉）。
推荐理由：Lilian Weng 系统梳理大语言模型外在幻觉的成因、检测基准与缓解方法，覆盖 RAG、采样、微调等技术路线。
Lilian Weng：Lil'Log（RSS）精选AI 评分7070 Lilian Weng 长文解读可控神经文本生成的主要方法
Lilian Weng 在 Lil'Log 发表长文，系统梳理如何引导无条件预训练语言模型生成可控内容，涵盖解码策略（温度采样、top-k、nucleus sampling。
推荐理由：文章系统梳理了在不改动语言模型权重与微调两条路线下的主要可控文本生成方法，并给出各自优劣与适用场景。