Koi：多云异构LLM推理集群自校准规划器论文
热点事件观察中
Koi：多云异构LLM推理集群自校准规划器论文
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
Mankeerat Sidhu 等在 arXiv 发布论文，提出 Koi——面向多云异构大语言模型推理集群的自校准规划器，通过递归语言模型、确定性预测组件和固定因果图联合生成并评估集群级部署方案。基于论文摘要，其在基准测试中相对最强基线实现 1.18 倍 goodput，并在真实异构集群中将每 token 成本降低 20%。 消融实验显示，纯语言模型的复合得分为 35.3，同一模型加上 Koi 的确定性工具后达 51.6，完整 Koi 规划器为 70.8，表明确定性工具组件带来主要提升。目前为论文摘要阶段，尚未见独立复现或实际部署验证的报道。
AI 根据报道生成 · 2 天前更新
最新进展10月20日 12:00
Koi：面向多云异构大语言模型推理集群的证据引导自校准规划器报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- arXiv · cs.AIKoi：面向多云异构大语言模型推理集群的证据引导自校准规划器
基于论文摘要，Koi 提出面向多云异构大语言模型推理集群的自校准规划器，通过递归语言模型、确定性预测组件和固定因果图联合生成并评估集群级部署方案。其在基准测试中相对最强基线实现1.18倍 goodput，并在真实异构集群中将每 token 成本降低20%。消融实验中，纯语言模型、加入确定性工具的模型和完整Koi的复合得分分别为35.3、51.6和70.8。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 610月21日 06:00
- 近 24 小时变化
- -49%
0246
06:0012:0018:0010月22日06:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。