跳到正文
原文
LMSYS:Blog(Chatbot Arena 团队)·· 16 小时前AI 评分51

LMSYS 团队发布 Infer-forge 方法论:围绕 SGLang 的 Harness、Loop 与 Graph 工程

Blog Infer-forge: Harness, Loop, and Graph Engineering Around SGLang Inference optimization may look local in code, but its validity is global. A kernel, communication path, or scheduling change becomes meaningful only at a specific deployment point defined by the mode... Tianyu Zhang, Hanlin Gao, Yusong Gao, Yun Zhang August 28, 2026

AI 导读

LMSYS 团队(2026年8月28日)发布 Infer-forge 构建方法论,这是一套围绕 SGLang 独立开发的内部智能体工程系统,包含 MonoRepo 共享工作区、Harness 执行底座、Task Loop 与 Task Graph 三层累积结构,目前未开源。

来源:LMSYS:Blog(Chatbot Arena 团队) · lmsys.org