跳到正文

#数据/训练

今日 9 条
今天10月1日周四
  2. IT之家（RSS）46

    HBM4 基片 4nm 工艺需求增长，三星晶圆代工 2026 亏损预计同比收窄 41.8%

    受 HBM4 基片 4nm 工艺需求增长带动，三星晶圆代工与 System LSI 业务 2026 年合并营业亏损预计同比收窄 41.8%，从 6.74 万亿韩元降至 3.92 万亿韩元。三星今年 2 月启动 HBM4 量产出货，第三季度 HBM4 收入预计环比增长三倍以上，并已于 7 月上调 4nm 新订单价格，部分先进节点涨幅达 10% 至 15%。

  5. Bloomberg：Technology（RSS）41

    Micron 业绩指引超预期：关键要点解读

    Micron 给出的本季度销售指引大幅超出市场预期，AI 建设热潮推动内存需求达到前所未有的水平。Gabelli 分析师 Hendi Susanto 指出，投资者要求 Micron 下一财年营收和利润翻倍，超大规模云厂商正提前锁定多年内存供应并附带定价窗口，他认为本轮周期与以往内存行业繁荣萧条有所不同。

  6. Bloomberg：Technology（RSS）54

    美光季度营收指引约 615 亿美元，超出分析师预期

    美光（Micron）给出的本财季（截至 11 月）营收指引约为 615 亿美元，高于分析师平均预期的 568 亿美元；剔除部分项目后每股利润预计约 38.15 美元，超过 36.02 美元的预期。公司称 AI 建设带来前所未有的需求，推动需求超过供给，但标题同时提到加薪压缩了利润率。

  7. Rohan Paul49

    AI 热潮正在抬高自身的资本成本。 物理瓶颈正转变为融资瓶颈。 超大规模厂商的债券发行洪流，使其债务相对其他顶级评级公司变得更贵。 The information 发表了一篇文章 “投资者持有超大规模厂商债务所要求的额外收益率，今年已上升约 0.25 个百分点” 美联储主席 Kevin Warsh 表示，AI 驱动的融资是推高美国国债收益率的部分原因。

  9. 🚨 AI News | TestingCatalog36

    Kled 发布 V3。定制 AI 数据采集任务现可在 72 小时内部署至 500,000+ 贡献者。 108 个可配置任务模板，覆盖图像、视频、音频、文本和标注。从第一视角视频到稀有语言的对话语音，应有尽有。 每天采集 800 万个数据点。 现实世界正在变得可编程 🌍

    引用Kled AI@useKled

    This is Kled V3. We've solved data collection for artificial general intelligence. Any consumer dataset that can exist, can now be collected from physical reality in under 72 hours. All powered by the largest and most comprehensive data application layer on the planet. (Thread)

9月30日周三
  2. METR：Blog（网页）22

    METR 招募 ML 工程师推进 AI R&D 能力评估项目

    METR 正在招募 ML 研究工程师和科学家，推进针对 AI R&D 能力的评估开发，目标是在 AI 智能体可能大幅自我提升、引发危险能力"爆炸"之前提供早期预警。METR 已开始开发阈值评估，用于判断 AI R&D 能力是否达到需要信息安保等防护措施的程度，并计划逐步建立能平滑追踪进展的评估体系。该机构称，具备丰富 ML 研发经验的研究者和工程师是当前评估进展的主要瓶颈。

  6. Epoch AI：研究、数据与评测37

    Epoch AI：AI 推理成本每季度下降约 47%，年降幅达 13 倍

    Epoch AI 测算，自 2023 年以来，达到同等 AI 性能水平的成本在数学、科学和技巧类游戏五项基准上平均每季度下降约 47%，约合每年 13 倍，降速超过电力、算力、电池和 DNA 测序的历史降幅。该机构还指出，美国 GDP 增长因统计遗漏 Nvidia 在美国产生的收入而被低估约 0.3 个百分点，到 2028 年这一缺口可能扩大至 2 个百分点。

  9. Epoch AI：研究、数据与评测36

    Epoch AI 发布 AI 芯片数据与研究报告合集

    Epoch AI 更新了覆盖 170 多款 AI 加速器的机器学习硬件数据，并发布报告估算华为 2026 年 AI 算力产量不足 Nvidia 的 4%，若无法获得外国内存，2028 年份额可能降至约 1%。其 AI 数据中心探索器现已覆盖 86 个站点、约占全球 AI 算力的 44%，同时贸易数据分析显示 2024–25 年存在约 30 亿美元芯片经马来西亚流入中国的迹象。

  10. Epoch AI：研究、数据与评测35

    Epoch AI：华为到 2030 年能否追上 Nvidia？

    Epoch AI 评估，受美国出口管制限制最关键扩产手段，华为 2026 年 AI 算力产量不足 Nvidia 的 4%，若无法获得外国存储，2028 年这一份额可能降至约 1%。该机构还估计，截至 2025 年约有 29 万至 160 万 H100 等效算力（中位数 66 万）被走私至中国，约占中国总算力的三分之一。

  11. Epoch AI：研究、数据与评测38

    Epoch AI 财务数据：AI 芯片销售、超大规模厂商资本开支与 Anthropic、OpenAI 收入

    Epoch AI 的财务数据库用财报与公司披露估算 AI 芯片的算力、功耗与支出，并追踪超大规模厂商的 AI 建设融资。其测算显示，微软、亚马逊、Alphabet、Meta、Oracle 的合计现金资本开支预计在 2026 年 Q3 超过经营现金流；HBM 占 AI 芯片组件成本的 63%，高于 2024 年 Q1 的 52%。

  13. Epoch AI：研究、数据与评测28

    Epoch AI 发布 AI 模型扩展性数据：追踪 3600 余个模型与算力趋势

    Epoch AI 的公开数据库已追踪 1950 年至今超过 3600 个机器学习模型，并发布多项扩展性研究。其测量显示 GPT-5.6 Terra 和 Sol 的首次 token 延迟随上下文长度呈二次增长，而 Claude Sonnet 5 和 Opus 5 接近线性。此外，全球 AI 芯片内存带宽年增 4.1 倍，2025 年 Q4 已达约 7000 万 TB/s。

  17. Tomer Tunguz 博客（VC 分析）72

    Tomer Tunguz 分析 Meta Muse Spark 双轨定价如何把广告模式引入 AI

    Tomer Tunguz 分析 Meta 昨日发布的 Muse Spark 模型及其新定价体系：标准档 muse-spark-1.3 输入 $1.25/m、输出 $4.25/m tokens 且不用于训练。

    推荐理由：作者用两档价差算出 Meta 对训练数据的每 token 定价，为理解以数据换补贴的商业模式提供一个可核算的框架。

9月29日周二
  1. TechCrunch：AI（RSS）47

    AI 热潮席卷纽约气候周，并非所有人都乐见

    今年纽约气候周上，AI 热潮成为主导，许多气候科技初创公司转向迎合 AI 叙事以获取融资。据 PitchBook 数据，气候科技风投交易总额连续四个季度上升，今年第一季度突破 140 亿美元，主要由数据中心建设带动的建筑环境、电网基础设施和可调度能源等领域推动。但也有创始人认为，数据中心热潮正让其他有前景的气候科技领域被忽视。

  2. Thomas Wolf53

    Deven 将 NanoGPT 训练纪录从 67.6 秒推进到 39.9 秒，通过按 flop 价值跳过计算的稀疏范式实现，包括采样 softmax、稀疏优化器状态与通信、Anvil2 优化器、末段 300 步 EMA 等，并在 8xH100 上将稀疏嵌入参数扩展到 65B，占总收益 25%。Thomas Wolf 转发称其 impressive，并附上 PR 与作者的改动自述 https://github.com/KellerJordan/modded-nanogpt/pull/360 、https://hyperstition.cc/training-nanogpt-in-39-9-seconds 。

    引用Larry Dial@classiclarryd

    New historic NanoGPT record at 39.9s (-27.7s) from @DevenPzak , obliterating the prior record of 67.6s! This record introduces a new paradigm of thinking to NanoGPT: instead of optimizing matmuls or adding more expressive operations, optimize at the individual flop level with incredibly clever engineering and ML judgement. If a flop is low value on a particular step, skip it. Specifically: -(~8s) Sampled softmax. If a token doesn’t appear in a batch, skip its lm_head fwd/bwd some fraction of the time. -Sparse values. Only run an optimizer step for ngram embeddings that occurred in the batch. Set beta1 to zero to enable this. Beta2 is applied retroactively when the row is later used. -Sparse updates. Only update ngram and value embeddings once every 4 steps instead of once every 2. -Sparse communication. Shard the n-gram table across GPUs, and only pass the rows receiving updates on each step. -Sparse optimizer states. For the n-gram table, reduce from 2 floats in Adam optimizer per param, to 1 float per 768 params. -Hand-rolled flash attention for 64 dim heads. There are several additions that add accuracy too: -(~4s) EMA during last 300 steps, combined with lifting final_lr to 0.3 instead of 0.15. -(~1s) A new optimizer, Anvil2, which expands muon via a second tracked momentum buffer, improves the ortho coefficients, and modifies the cautious weight decay application. -A couple additional dynamic skip connections in the network. The most striking consequence of the ‘flop aware paradigm’ is you can grow parameters arbitrarily large, only limited by the available memory, since you can selectively choose how to expend flops on those parameters on each step. NanoGPT has kept active parameters below 124M, but total is unbounded, and has grown to 640M through embedding sparsity over the last year. This PR takes that to its logical conclusion on the 8xH100, scaling up to 65B sparse embedding parameters, which accounts for 25% of the PR’s gains. At frontier scale, where one is not bounded by an 8xH100, one could imagine where this paradigm could lead. https://github.com/KellerJordan/modded-nanogpt/pull/360 As this was a very notable PR, I spoke with Deven for an hour to learn how he did it. Here’s his story on the changes: https://hyperstition.cc/training-nanogpt-in-39-9-seconds

  4. The Verge：AI（RSS）80

    AMD 以约 82 亿美元全股票收购 World Labs

    AMD 宣布以约 82 亿美元全股票交易收购由李飞飞联合创立的 AI 研究实验室 World Labs，交易预计今年年底完成。World Labs 于 2024 年成立，数月内估值达 10 亿美元，2025 年推出首个商业产品世界生成模型 Marble，可根据提示词生成可交互 3D 世界。

    推荐理由：AMD 以约 82 亿美元全股票收购 World Labs，读者可了解交易结构、团队去向及其对 AI 硬件与模型协同的影响。

  5. Microsoft Research 博客（RSS）20

    微软亚洲研究院新加坡成立一周年：推进前沿 AI 研究、合作与人才培养

    微软亚洲研究院新加坡（MSRA – Singapore）作为微软在东南亚的首个研究实验室，成立一年来围绕下一代 AI 模型与智能体系统、领域专用 AI、AI 原生研究实践、生态与人才培养四大方向推进工作。实验室与新加坡经济发展局（EDB）合作开展联合博士培养，并于 2026 年 2 月共同举办物流与交通 AI 高管圆桌会；医疗健康领域已落地多模态医疗 AI 与自进化诊断智能体的合作研究。

  6. Databricks：Blog（RSS）23

    Databricks 如何连接制造业产品价值链的数据与 AI

    Databricks 提出用 Data and AI Platform 打通制造业产品价值链，让跨阶段数据问题从人工查票变成一次查询。平台通过 zero-copy Open Sharing 和 Lakehouse Federation 直接访问源系统数据，无需为每个用例新建 ETL 管道或复制数据；需要镜像时可用连接器和云对象存储将数据汇入 lakehouse。

  7. Aravind Srinivas19

    一个做研究的机会：持续学习：多智能体并行 worker；以及合成数据、环境和评估，用来衡量前沿能力。我们赚的钱足够资助新研究，希望做出持久的贡献，并公开分享我们的研究。

    引用Andrew Gordon Wilson@andrewgwils

    The Perplexity Research Fellowships are a great opportunity to advance frontier research around architecture design, multi-agent collaboration, synthetic data, and beyond! Priority deadline of Sep 30. https://jobs.ashbyhq.com/perplexity/ab076e26-adf1-414f-a006-7b1bdc9247c8 
Feel welcome to mention my name in your application!

9月28日周一
  1. Mistral AI：News（网页）42

    Mistral 在慕尼黑开设德国中心，推进工业 AI 与 Physics AI

    Mistral 在慕尼黑开设德国中心，组建专注 Physics AI 与工业 AI 的研究团队，并计划到 2030 年建成 1 吉瓦欧洲算力。该中心将携手 BMW 开展碰撞仿真与工程 AI 合作、与 Siemens Energy 推进工业 AI 应用，并与慕尼黑工业大学（TUM）合作利用风洞设施开发汽车空气动力学数字孪生。

9月26日周六
9月24日周四
9月23日周三
  1. NVIDIA Blog（RSS）12

    NVIDIA 验证工程师 Sakeena Fiza 如何让硬件大规模成功

    NVIDIA 验证工程师 Sakeena Fiza 在数据中心系统工程实验室负责新产品量产前的硬件验证，她回忆 NVIDIA Rubin GPU 首次在系统级被识别时全场欢呼，那是全球首次 Rubin GPU 在系统层面完成枚举。她将验证工作比作破案，目标是在客户之前发现问题，单块板卡可能含数万个组件，一个机架接近 50 万个。

9月21日周一
  1. MIT Technology Review · AI36

    MIT Technology Review 如何绘制首张美国边境“虚拟墙”沿线死亡地图

    MIT Technology Review 与 Times of San Diego 合作，用 15 个月完成首张美国边境监控塔附近移民死亡的综合地图与分析，数据回溯至 2015 年。团队向得州 17 个县警长办公室申请记录，收到超 4000 页文件，并对 Kenedy、Webb、Hidalgo 三县的记录调用 Anthropic Claude API 提取遗骸发现坐标后人工核验。