跳到正文
热点事件持续更新

Altman 称本地推理浪费全球 DRAM 资源

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

OpenAI 的 Sam Altman 评论本地推理,称从全球资源分配角度看,让世界上有限 DRAM 供应中的一大批分散在个人电脑里、每天只用 5% 的时间,是“相当糟糕”的。 他称按每 token 计算,数据中心推理轻松胜出,批大小为 1 的本地模型按任何利用率指标都是浪费。同一表态也提到,本地推理是整个技术栈中唯一没人能对你弃用的部分。

AI 根据报道生成 · 2 小时前更新

最新进展10月30日 07:24
Sam Altman 谈本地推理的资源浪费

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. Rohan Paul
    Sam Altman 谈本地推理的资源浪费

    Sam Altman 谈本地推理。 “从全球资源分配的角度看,让每个人、让世界上有限 DRAM 供应中的一大批都躺在自己的电脑里、每天只用 5% 的时间,这相当糟糕” 按每 token 算,数据中心轻松胜出。批大小为 1 的本地模型按任何利用率指标都是浪费,但它也是整个技术栈中唯一没人能对你弃用的部分。https://x.com/morqon/status/2115838856524120128/video/1

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。