跳到正文

#数据/训练

今日 93 条
9月30日周三
  1. Cognition 模型 / Devin 博客(网页)56

    Cognition 发布测量 Devin 等效工程工时的估算系统

    Cognition 构建了一套自动估算 Devin 会话相当于多少有效人工工程工时的系统,并用 AI 智能体审查每个会话、换算成美元价值,已随客户投入运行。系统基于 126 位用户、258 个会话的人工标注数据训练,在 233 个held-out会话上达到 rlog 0.74,且经对数空间校准后刻意偏保守低估;单项估计噪声约 2-3 倍,但聚合后误差相互抵消。

  2. Tomer Tunguz 博客(VC 分析)65

    Tom Tunguz 分析:谁在真正购买 SOTA 模型

    Tom Tunguz 分析 OpenRouter 与 Ramp 数据指出,尽管 SOTA 模型比去年 11 月聪明三分之二且平均每三天有两个新模型发布,OpenRouter 上 84% 的 token 并非 SOTA。

    推荐理由:作者用 OpenRouter 和 Ramp 数据分析 SOTA 模型的份额与价格弹性,指出应用部署正转向以价格优先的模型选择。

  3. Tomer Tunguz 博客(VC 分析)38

    模型边用边学:测试时训练如何改变 AI 推理成本与记忆机制

    测试时训练让模型在回答提示词时就地做梯度更新,权重随使用而改变,从而把不断增长的 KV-cache 折叠为固定大小的权重,内存占用不再随上下文线性增长。斯坦福针对小模型的研究显示其推理速度最高可提升 2.7 倍,In-Place TTT 还能免重训把 4b 模型提升到有竞争力的 128k 上下文表现。

  4. Tomer Tunguz 博客(VC 分析)72

    Tomer Tunguz 分析 Meta Muse Spark 双轨定价如何把广告模式引入 AI

    Tomer Tunguz 分析 Meta 昨日发布的 Muse Spark 模型及其新定价体系:标准档 muse-spark-1.3 输入 $1.25/m、输出 $4.25/m tokens 且不用于训练。

    推荐理由:作者用两档价差算出 Meta 对训练数据的每 token 定价,为理解以数据换补贴的商业模式提供一个可核算的框架。

  5. Google Developers Blog(RSS)41

    如何用深度学习和 Keras 解码宇宙信号

    Google 开发者倡导者 Yufeng Guo 撰文介绍深度学习在天体粒子物理中的应用,这类研究依赖覆盖数千平方公里的巨型观测站,如面积 3000 km²、含 1500 多个探测站的 Pierre Auger Observatory。探测器以纳秒级分辨率记录波形,形成类似图像的数据结构,天然适合深度学习处理,可用于提升仪器灵敏度、发现隐藏模式和搜索信号异常。

  6. Eugene Yan:Writing50

    Eugene Yan 撰文分析简单性为何是优势但复杂度更畅销

    Eugene Yan 撰文分析复杂度偏见为何存在,指出复杂方案通过信号化努力、掌控力、创新和功能多样性而更受论文评审和晋升机制青睐,而简单方案更易采用、构建、扩展和运维。文章举例说明简单机器学习方法常不逊于复杂方法,如点积在推荐检索上优于神经协同过滤、树模型在 45 个中型表格数据集上超过深度神经网络,并建议聚焦问题复杂度而非方案复杂度,善用奥卡姆剃刀。

  7. Eugene Yan:Writing55

    Eugene Yan:如何撰写数据标注指南

    Eugene Yan 总结撰写数据标注指南的方法,提出好指南应回答 Why、What、How 三层问题:任务为何重要、任务是什么、术语如何定义、标注员如何决策、任务如何执行。文章引用 Google 和 Bing Search 的指南实例,包括查询意图分类、页面质量评估因素、匹配质量决策树和标注示例讲解,并建议用 Cohen's kappa 衡量标注员之间的一致性来迭代改进指南。

  8. arXiv:cs.AI(全量分类)33

    HyperZip:用超网络与个性化扩散 LLM 实现高效数据压缩

    HyperZip 是一个基于扩散 LLM(dLLM)与 Multi-Token Prediction 的 LLM 数据压缩框架,通过超网络从上下文表示生成数据专属更新,无需微调即可适配目标数据。它针对扩散压缩中解码吞吐量提升会降低压缩率的权衡,实现了低压缩率与高吞吐的兼顾,在压缩率与速度的权衡上优于现有 SOTA 基线。

  9. arXiv:cs.AI(全量分类)34

    PowerZooJax:面向强化学习的 JAX 电力系统基准

    PowerZooJax 是一个基于 JAX 的强化学习电力系统基准套件,提供覆盖发电、输电、配电、分布式能源和数据中心微电网的五个约束马尔可夫决策过程任务。它将潮流计算、经济调度、市场出清和设备动态改写为 JAX 计算图,使整个训练与评估循环留在 GPU 上,实验显示相较 CPU 仿真有显著加速。该开源基准支持对策略回报、安全违规和分布外压力条件进行标准化评估。

  10. arXiv:cs.AI(全量分类)33

    COFFEE:面向离散扩散模型的未来感知引导框架

    COFFEE 是一个即插即用框架,通过将序列依赖与目标分离,避免枚举所有未解析 token 组合带来的指数级计算,从而为离散扩散模型提供序列级引导。它用无目标载体吸收去噪器预测的边际分布构建联合模型,并用编译的有限状态模型记录 token 组合对序列级偏好的影响,无需重训练即可将全局偏好传递给未解析位置。该框架在符号、语言和生物多个基准上取得强控制效果,并支持显式硬约束与学习到的软目标。

  11. arXiv:cs.LG(机器学习,全量分类)37

    表征学习能否脱离损失最小化?Muon 的极坐标更新给出答案

    研究显示,矩阵 Muon 的极坐标归一化更新步长由梯度秩而非范数决定,在稳定性边缘会进入持续数千步的周期-2 损失振荡:周期均值损失持平或上升,但权重仍在移动、学到的特征持续对齐教师子空间。在 33 组 ReLU、GELU 和 SiLU 教师配置中,学生 AGOP 在振荡期间始终对齐或持续对齐教师子空间,投影头重拟合表明这些方向对预测有用。

  12. arXiv:cs.LG(机器学习,全量分类)32

    Transformer 动力学中前馈层的作用

    一项控制论视角的理论研究证明,Transformer 中自注意力之后的前馈层可作为一个独立控制项,无论 key、query、value 矩阵如何取值,都能将 token 驱动到任意接近共识的状态。该结论可扩展至多簇收敛与多头注意力情形,作者通过数值实验验证了结果,并将理论给出的阈值行为与真实 LLM 进行了对比。