StepFun:Step 5 Preview 生产推理采用 SGLang
热点事件持续更新
StepFun:Step 5 Preview 生产推理采用 SGLang
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
阶跃星辰(StepFun)表示,Step 5 Preview 的生产推理由 RadixArk 以 SGLang 支撑。StepFun 官方账号发推感谢 RadixArk 为其生产环境提供推理支持。 RadixArk 在回应中称,其基于 SGLang 的缓存感知路由方案已在真实生产流量下为 StepFun 第一方 API 提供大规模推理服务,兼顾 token 成本与延迟要求,并对 Step 5 Preview 开放权重表示祝贺。上述效果出自 RadixArk 的说法。
AI 根据报道生成 · 58 分钟前更新
最新进展10月16日 06:10
阶跃星辰感谢 RadixArk 以 SGLang 支撑 Step 5 Preview 生产推理报道时间线
沿着报道,了解事件的不同侧面。
10月16日
- 阶跃星辰 StepFun阶跃星辰感谢 RadixArk 以 SGLang 支撑 Step 5 Preview 生产推理
阶跃星辰官方发推感谢 RadixArk 为 Step 5 Preview 提供生产环境推理支持。被引用的 RadixArk 表示祝贺 Step 5 Preview 开放权重,并称其基于 SGLang 的缓存感知路由方案已在真实生产流量下为 StepFun 第一方 API 提供大规模推理服务,兼顾 token 成本与延迟要求。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。