arXiv:cs.LG(机器学习,全量分类)· Shenghong Dai, Shiva Kumar Pentyala, Yingchi Liu, Shubham Mehrotra, Suman Banerjee, James Zhu, Bin Bi, Sitaram Asur, Phil Mui·· 1 天前AI 评分34
Koa-action:用生成式 LLM 实现快速一致的结构化决策
Koa-action: Fast and Consistent Structured Decision Making with Generative LLMs
AI 导读
Koa-action 是一个面向低延迟原子动作(分类、语义端点检测、布尔判断、打分)的框架,通过引入原子标签 token 与监督微调,把分类变成确定性的单 token 解码。
来源:arXiv:cs.LG(机器学习,全量分类) · arxiv.org