跳到正文

公司与模型

NVIDIA 英伟达 最新动态

英伟达的 AI 芯片与生态动态：GPU 新品、CUDA 生态、机器人平台与 AI 算力市场的风向。

42 条精选近 30 天 32 条共收录 668 条

更新

精选归档 · 第 3 页

2023年12月5日周二第 41–42 条
  1. Hugging Face：Blog67

    Hugging Face 发布 Optimum-NVIDIA，一行代码实现最高 28x 推理加速

    Hugging Face 发布 Optimum-NVIDIA 推理库，基于 NVIDIA TensorRT-LLM 和 FP8 量化，只需修改一行代码即可在 NVIDIA 平台上将 LLaMA 推理吞吐提升至最高 28x、达到 1200 tokens/秒，First Token Latency 最高提升 3.3x。

    推荐理由：官方给出单行代码切换方式与延迟、吞吐实测数据，读者可据此评估是否迁移现有 transformers 推理流程。

2023年8月23日周三
  1. Tomer Tunguz 博客62

    NVIDIA 财报解析：88% 营收增长背后的定价权与利润

    NVIDIA 单季营收增长 88%，超出预期 26%，数据中心业务环比激增 141% 至 $10.3b，净利一年内翻四倍而运营成本增幅不超过 15%。作者指出库存天数下降 41%、长期供应义务增加 53%、应收账款增长超 70%，均显示供不应求；CEO 黄仁勋估计全球数据中心每年新芯片支出 $250b，NVIDIA 目前约占该市场 22%。

    推荐理由：作者用库存、应收账款等财报指标拆解 NVIDIA 定价权，提供了比单纯营收数字更细的观察角度。