跳到正文
热点事件持续更新

StepFun:Step 5 Preview 生产推理采用 SGLang

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

阶跃星辰(StepFun)表示,Step 5 Preview 的生产推理由 RadixArk 以 SGLang 支撑。StepFun 官方账号发推感谢 RadixArk 为其生产环境提供推理支持。 RadixArk 在回应中称,其基于 SGLang 的缓存感知路由方案已在真实生产流量下为 StepFun 第一方 API 提供大规模推理服务,兼顾 token 成本与延迟要求,并对 Step 5 Preview 开放权重表示祝贺。上述效果出自 RadixArk 的说法。

AI 根据报道生成 · 58 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. 阶跃星辰 StepFun
    阶跃星辰感谢 RadixArk 以 SGLang 支撑 Step 5 Preview 生产推理

    阶跃星辰官方发推感谢 RadixArk 为 Step 5 Preview 提供生产环境推理支持。被引用的 RadixArk 表示祝贺 Step 5 Preview 开放权重,并称其基于 SGLang 的缓存感知路由方案已在真实生产流量下为 StepFun 第一方 API 提供大规模推理服务,兼顾 token 成本与延迟要求。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。