跳到正文
热点事件持续更新

vLLM Day 0 支持 Reflection Beam 501B 模型

3 篇报道3 个报道来源1 小时前更新

先了解这件事

AI 综述

vLLM 宣布从 Day 0 起支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE 模型,vLLM 称其在推理、工具调用和结构化输出上开箱即用,并已完成 Blackwell 优化。 按 vLLM 博客的说明,试用需使用其 Docker 镜像 vllm/vllm-openai:reflection-beam;默认配置为单台 GB300 节点 TP4,配合 DFlash2 与 FP8 KV cache。启用自适应验证需在 --speculative-config 中添加 "enable_adaptive_verification": true;上述其他优化默认开启。 Reflection 同时宣布 Beam 已在各平台可用,以 Apache 2.0 许可开放权重,与 40+ 合作伙伴生态协作,发布权重、tokenizer、参考实现、BF16/FP8/NVFP4 权重及 DFlash2 drafter,以及训练所用开源 harness Mirror CLI;权重和模型卡已上线 Hugging Face。

AI 根据报道生成 · 刚刚更新

事件进展

3 个进展

  1. 10月16日 21:15 · 1 篇报道
    Hugging Face 直播 Reflection 团队谈 Beam 构建
    Hugging Face:Reflection 开源 Beam 模型,Apache 2.0 权重上线 Hugging Face
  2. 10月16日 21:03 · 1 篇报道
    Hugging Face 发布 Beam
    Julien Chaumond:HuggingFace 推出 Beam
  3. 10月16日 08:00 · 1 篇报道
    vLLM 支持 Reflection Beam 模型并优化部署
    vLLM 官方博客:vLLM 从 Day 0 支持 Reflection Beam 501B MoE 模型并完成 Blackwell 优化

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. Hugging Face精选
    Reflection 开源 Beam 模型,Apache 2.0 权重上线 Hugging Face

    Reflection 宣布 Beam 现已在各平台可用,以 Apache 2.0 许可开放权重,与 40+ 合作伙伴生态协作。发布内容包括权重、tokenizer、参考实现,BF16、FP8 和 NVFP4 权重及 DFlash2 drafter,以及训练 Beam 所用的开源 harness Mirror CLI。权重和模型卡已在 Hugging Face 上线,Reflection 团队即将进行直播介绍 Beam 的构建过程。

  2. Julien Chaumond
    HuggingFace 推出 Beam

    Beam 上线了 🔥 https://huggingface.co/reflection

  3. vLLM 官方博客
    vLLM 从 Day 0 支持 Reflection Beam 501B MoE 模型并完成 Blackwell 优化

    vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE 模型,推理、工具调用和结构化输出开箱即用。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。

关联事件