DeepSeek 以 Apache-2.0 开源推理框架 DeepInfer

1. 01:05
   Yuchen Jin

   DeepSeek 开源 DeepInfer 推理框架，单集群日服务 155 万亿 token、每卡时收入 $38

   DeepSeek 官方宣布开源大规模云服务推理框架 DeepInfer，此前已开源 TileLang 及一系列推理算子库。基于该框架为 DeepSeek V4.1 Flash 搭建的高吞吐低延迟推理服务，单集群吞吐达 155 trillion tokens/day，按非高峰价格计算整体收入为每卡每小时 $38。作者 Yuchen Jin 评价称 DeepSeek 连收入数据也一并开源，虽未披露所用 GPU，但 DeepInfer 同时支持 NVIDIA Blackwell 和华为昇腾；即使按 $7/GPU-hour 租用 B300 计算，毛利率也约 82%。

2. 00:54
   Latent.Space

   DeepSeek 开源 DeepInfer 推理框架并详解 V4.1 Flash 大规模部署实践

   DeepSeek 正式开源大规模云服务推理框架 DeepInfer，并同步开源生产级 token 编解码组件 deepseek-recipe，用于支撑 DeepSeek V4.1 Flash 的大规模推理服务。

3. 00:51
   swyx

   DeepSeek 开源推理框架 DeepInfer，swyx 解读其单集群 155 万亿 token/日吞吐与利润率

   DeepSeek 宣布开源自研推理框架 DeepInfer（github.com/deepseek-ai/DeepInfer），支撑 DeepSeek-V4.1-Flash 的大规模高吞吐低延迟推理。

4. 00:51
   swyx

   swyx 解读 DeepSeek 知乎文章中的 DeepInfer 推理成本数据

   swyx 转引 DeepSeek 知乎文章称，DeepInfer 推理框架已开源，支撑 DeepSeek V4.1 Flash 大规模服务，单集群吞吐 155 万亿 tokens/天，整体收入 $38 per card per hour（按错峰价格）。作者按 GPU 时价约 $5-10 估算，认为 DeepSeek 在其定价下有约 80% 的服务毛利。

1. 22:01
   Yuchen Jin

   DeepSeek 开源自研推理框架 DeepInfer

   DeepSeek 宣布自研推理框架 DeepInfer 完全开源，代码位于 github.com/deepseek-ai/DeepInfer。该框架为 DeepSeek-V4.1-Flash 提供大规模高吞吐、低延迟推理支持，官方称开源生产栈旨在帮助社区降低算力成本与能耗。Yuchen Jin 转发并评论称 Real Open AI。

2. 21:01
   Tianyi Cui

   DeepSeek 开源推理框架 DeepInfer 及 deepseek-recipe 等部署组件

   DeepSeek 宣布开源自研推理框架 DeepInfer，支撑 DeepSeek-V4.1-Flash 的大规模高吞吐低延迟服务，仓库地址 github.com/deepseek-ai/DeepInfer。作者 Tianyi Cui 表示同时发布 deepseek-recipe 等服务 DeepSeek 模型的关键组件，希望更多公司和组织部署 DeepSeek 模型并从中获利，官方称此举旨在帮助社区降低算力成本和能耗。

3. 20:45
   Bloomberg：Technology

   DeepSeek 开源 AI 模型运行工具，可降低运营成本

   DeepSeek 开源了其大规模运行 AI 模型所用的软件，有望让企业以更低成本、更简便的方式运行相关技术。

4. 20:13
   Rohan Paul

   DeepSeek 以 Apache 2.0 开源生产推理引擎 DeepInfer

   DeepSeek 以 Apache 2.0 许可证开源其生产服务背后的推理引擎 DeepInfer，8 小时获得 6.3K+ stars。该版本仅支持 DeepSeek-V4.1-Flash，运行于 NVIDIA SM100 GPU 或华为昇腾 950 芯片，只覆盖离线推理而非完整服务栈，不含 KV cache 系统、prefill/decode 分离和跨副本负载均衡。

5. 19:58
   Thomas Wolf精选

   DeepSeek 开源自研推理框架 DeepInfer，Thomas Wolf 盘点其开源连发

   DeepSeek 宣布将支撑 DeepSeek-V4.1-Flash 大规模推理的自研框架 DeepInfer 完全开源，以 Apache 2.0 协议发布，代码在 http://github.com/deepseek-ai/DeepInfer，称可帮助社区降低算力成本和能耗。Thomas Wolf 转发并列举其此前开源的 FlashMLA（H800 上 580 TFLOPS attention）、DeepEP（MoE 通信）、DeepGEMM（1350+ FP8 TFLOPS matmul）和 3FS 文件系统，称其开源节奏令人敬佩。

6. 19:43
   Nathan Lambert

   Nathan Lambert 评 DeepSeek 开源推理框架 DeepInfer：获客方式很妙

   Nathan Lambert 转评 DeepSeek 宣布开源自研推理框架 DeepInfer，该框架支撑 DeepSeek-V4.1-Flash 的大规模推理，主打高吞吐低延迟，代码见 http://github.com/deepseek-ai/DeepInfer。作者称这是很妙的模型推广方式，对社区有利，并调侃其时机恰逢美国政府刚在联邦机构禁用 DeepSeek。

7. 18:08
   orange.ai

   DeepSeek 开源自研推理框架 DeepInfer

   DeepSeek 宣布将自研推理框架 DeepInfer 完全开源，该框架以高吞吐、低延迟支撑 DeepSeek-V4.1-Flash 的大规模推理。官方称分享生产级技术栈旨在帮助社区降低算力成本和能耗，仓库地址为 http://github.com/deepseek-ai/DeepInfer。转发作者认为此举将推动所有模型降价。

8. 17:44
   马东锡 NLP

   DeepSeek 开源高性能大规模推理框架 DeepInfer

   DeepSeek 以 Apache-2.0 许可开源高性能大规模推理框架 DeepInfer，仓库地址 https://github.com/deepseek-ai/DeepInfer。支持特性包括优化 kernel 与模型和采样运行时、Attention DP / 均衡 CP、MoE EP + EPLB、DSpark 与置信度调度验证、SWA bounded replay、零开销批调度器的异步调度、批不变推理、确定性采样和结构化输出。

9. 17:30
   DeepSeek

   DeepSeek 开源自研推理框架 DeepInfer

   DeepSeek 宣布将自研推理框架 DeepInfer 完全开源，代码地址为 http://github.com/deepseek-ai/DeepInfer。该框架以高吞吐、低延迟支撑 DeepSeek-V4.1-Flash 的大规模生产运行，官方称分享生产栈旨在帮助社区降低算力成本和能耗。

10. 17:08
    Tianyi Cui

    DeepSeek 以 Apache-2.0 开源大规模推理框架 DeepInfer

    DeepSeek 开源高性能大规模推理框架 DeepInfer，采用 Apache-2.0 许可，仓库地址 https://github.com/deepseek-ai/DeepInfer。支持特性包括优化的 kernel、模型与 sampler 运行时，Attention DP / balanced CP、MoE EP + EPLB 等并行方案，DSpark 与 confidence-scheduled verification、SWA bounded replay、零开销异步批调度、batch-invariant 推理、确定性采样和结构化输出。

11. 17:05
    IT之家

    DeepSeek 宣布将内部推理框架 DeepInfer 全面开源

    DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，目标是降低大规模推理的算力成本、实现大模型普惠。DeepInfer 集成高性能算子与推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出，兼容英伟达与华为昇腾平台；同步开源与官方 API 处理逻辑对齐的 deepseek-recipe 编解码组件。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。