a16z 投资 Gimlet Labs：打造首个多芯片推理云

a16z 宣布投资 Gimlet Labs，后者正在构建首个多芯片推理云，可在同一功耗范围内为前沿模型带来最高 10 倍吞吐与交互性提升。Gimlet 通过编译器与运行时把不同模型和工具调度到 GPU、CPU 及专用加速器上，并将编排延伸至数据中心层面，对开发者只暴露单一推理 API。其客户已包括一家前沿实验室和一家超大规模云厂商。