跳到正文

技术方向

数据与训练 最新动态

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

101 条精选近 30 天 47 条共收录 4,933 条

更新

精选归档 · 第 6 页

2018年5月16日周三第 101–101 条
  1. OpenAI:官网动态71

    OpenAI 分析:2012 年以来最大 AI 训练算力每 3.4 个月翻倍

    OpenAI 发布分析指出,自 2012 年以来最大 AI 训练运行所用算力呈指数增长,翻倍周期为 3.4 个月,远快于摩尔定律的 2 年翻倍周期。该指标自 2012 年以来增长超过 300,000 倍,而 2 年翻倍周期只会带来 7 倍增长。OpenAI 认为算力提升是 AI 进展的关键组成部分,若趋势持续,值得为远超当今能力的系统做好准备。

    推荐理由:OpenAI 用自家分析给出训练算力 3.4 个月翻倍的量化趋势,可与摩尔定律对比,帮助读者理解算力在 AI 进展中的作用。