研究：AI智能体资源行为差异大，优化可降延迟约32%

Wonmi Choi等研究者发表论文，对检索增强问答、网页搜索和软件编程三类LLM智能体任务做了资源动态与延迟刻画。研究发现，同一工具在不同任务下的资源行为差异显著，并发请求会暴露CPU、磁盘I/O、内存等任务相关瓶颈，更快的LLM响应或更多CPU核心并不总能加速智能体。 基于上述观察，研究者提出CPU感知工具准入与任务感知CPU分配，称该方案使CPU敏感任务延迟改善约5.4倍，多任务平均延迟降低约32%。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。