分层强化学习多轮红队方法论文更新

Roman Belaire、Arunesh Sinha和Pradeep Varakantham发布（更新）论文预印本，提出一种基于分层强化学习的大语言模型多轮红队测试方法：将对抗交互建模为马尔可夫决策过程，用token级伤害奖励训练生成式智能体学习多轮攻击，以应对稀疏奖励和长时程规划问题。 作者声称该方法能发现绕过基线的漏洞并达到新的领先水平。基于论文摘要，具体实验设置、基线和评估细节摘要未说明，上述效果尚属作者说法。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。