跳到正文
arXiv · cs.AI· Yize Hao, Guangxin Jiang, Shuang Qiu·· 11 小时前

KL正则化离线Q学习的快速样本复杂度保证

Fast Rates for Offline Q-Learning with KL Regularization

arXiv:2610.18839v1阅读论文 PDF ↗

仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。

作者:Yize Hao, Guangxin Jiang, Shuang Qiu

研究任务与主要进展

基于论文摘要,作者提出KL-regularized Q-Learning(KLQ)和KL-regularized Pessimistic Q-Learning(KLPQ),研究表格型有限时域MDP中的离线Q学习。作者报告两者均获得tilde-O(1/ε)O(1/ε)样本复杂度,但KLPQ通过加入悲观主义移除了对KL正则化参数和时域的显式指数依赖;摘要称这是该设定下离线Q学习的首个快速速率保证。

阶段、条件与复现 · 深读核对

  • 任务输出与输入访问模型是什么?
  • 在什么假设、规模与资源条件下成立?
  • 与哪种经典基线比较,是否计入编码与读出?

这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。

来源:arXiv · cs.AI · arxiv.org