LoopFM:利用基础模型历史表示学习进行推荐
LoopFM: Learning frOm HistOrical RePresentations of Foundation Model for Recommendation
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Hua Zheng, Shali Jiang, Boyang Liu, Laming Chen, Kenny Lov, Chuanqi Xu, Lisang Ding, Qinghai Zhou, Can Cui, Xiaolong Liu, Xiaoyi Liu, Yasmine Badr, Xin Xu, Mingfu Liang, Jiyan Yang, Ellie Dingqiao Wen, Gerard Jonathan Mugisha Akkerhuis, Jason Rudy, Xi Liu, Chenxiao Guan, Rong Jin, Ruichao Qiu, Xian Chen, Zhehui Zhou, Ping Chen, Rui Yang, Haicheng Chen, Meet Raval, Song Zhou, Dharak Kharod, Shuyu Xu, Xingyuan Wang, Liang Tao, Qiang Jin, Qiao Yang, Wankun Zhu, Qin Huang, Yuzhen Huang, Darren Liu, Parish Aggarwal, Hui Zhou, Erzhuo Wang, Shuo Chang, Xiaorui Gan, Wenlin Chen, Santanu Kolay, Huayu Li
LoopFM将基础模型的中间嵌入组织为用户历史序列等下游输入特征,通过高带宽表示传递缓解知识蒸馏仅迁移单一标量预测的问题,并在服务阶段无需实时基础模型推理或与其架构耦合。基于论文摘要,该方法在三个公开基准上取得较强AUC提升,TaobaoAd提升超过6%;在数十亿样本、万亿参数基础模型的工业系统中,其在知识蒸馏基础上约将知识迁移比率翻倍,并报告了后续上线带来的转化提升。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源:arXiv · cs.AI · arxiv.org