端侧视觉语言模型推理能耗实测
热点事件持续更新
端侧视觉语言模型推理能耗实测
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Junlin Liao 等作者发布研究，实测 Qwen2-VL-2B-Instruct 及其纯文本版本在 Raspberry Pi 5（配 Hailo-10H NPU）和 Jetson Orin Nano Super 上、CPU 与加速器两种条件下的总系统能耗、延迟与热行为，并把每次请求的固定能耗与随输出长度增长的能耗分开统计。 作者在论文中说明，由于两块加速器使用不同的量化和服务软件，该研究比较的是部署栈而非芯片本身。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv：cs.LG边缘平台上的视觉语言模型推理能耗实测：Qwen2-VL-2B 在 Raspberry Pi 5 与 Jetson Orin Nano 上的表现
研究实测了 Qwen2-VL-2B-Instruct 及其纯文本版本在 Raspberry Pi 5（Hailo-10H NPU）和 Jetson Orin Nano Super 上的总系统能耗、延迟与热行为。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。