arXiv · cs.AI· Han-Sang Lee, Kyuho Lee, Juneyoung Park, Seongbae Lee, Jin Kyu Park, Minjae Kim, Yuri Hong, Jinwoo Lee, Youngwook Kwon, Seongwan Kim, Seungheon Hyeon, Jaeho Lee, Kiduk Kwon·· 5 小时前精选
ixi-sLM:面向端侧 AI 呼叫代理服务的 1.2B 韩语小语言模型
ixi-sLM: On-Device sLM for AI Call Agent Service
arXiv:2610.19382v1阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Han-Sang Lee, Kyuho Lee, Juneyoung Park, Seongbae Lee, Jin Kyu Park, Minjae Kim, Yuri Hong, Jinwoo Lee, Youngwook Kwon, Seongwan Kim, Seungheon Hyeon, Jaeho Lee, Kiduk Kwon
研究任务与主要进展
ixi-sLM 是一款面向 AI 呼叫代理服务的 1.2B 参数韩语小语言模型,通过领域自适应建模和任务感知量化适配端侧 NPU。该方法将呼叫语音场景的 token 数减少 18%,部署后的模型为 803MiB、仅占 FP16 模型规模的 28%,每次呼叫能耗为 CPU 的 23%。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
本站判断
基于论文摘要,ixi-sLM针对端侧 AI 呼叫代理的内存、延迟、功耗和韩语语音输入约束,通过领域自适应建模、按模块敏感度进行任务感知量化,在803MiB模型上保留云端大语言模型任务加权质量的94%,并完成多平台 NPU 生产部署。其影响取决于真实呼叫场景下的延迟、热约束和质量稳定性;材料未说明完整基准细节。
来源:arXiv · cs.AI · arxiv.org