Google 发布 LiteRT Tensor API 模型编写层

Google 发布 LiteRT Tensor API，一个用 C++ 手写端侧模型的轻量级编写层：可逐个操作符构建计算图，并跨 CPU、GPU（ML Drift）、NPU 或 XNNPACK 运行；权重可直接从 .safetensors 加载，前后处理与推理共享加速器缓冲区，实现零拷贝。 Google 称，SAM 2.1 示例附带基准命令，可复现结果，完整实现和网页应用已在 LiteRT Samples GitHub 仓库开源。 Google 表示，正在开发直接 ML Drift（GPU）后端、对 NPU 友好的算子以及全图自动量化，并计划增加 Python 编写与 .tflite 导出，及针对不同图像尺寸、批大小和序列长度的更广动态形状支持。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。