arXiv · cs.AI· Yan Xu, Dandan Song, Luan Zhang, Jun Yang, Ke Duan, Yuhang Tian, Yading Li, Xudong Li, Xing Pei, Guangyuan Feng, Chenhao Li·· 4 小时前
MCAIR利用大语言模型代理内部表示监测并纠正完成不忠实行为
MCAIR: Monitoring and Correcting Agent Unfaithfulness via Internal Representations
arXiv:2610.19679v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Yan Xu, Dandan Song, Luan Zhang, Jun Yang, Ke Duan, Yuhang Tian, Yading Li, Xudong Li, Xing Pei, Guangyuan Feng, Chenhao Li
研究任务与主要进展
MCAIR提出一个运行时监测与纠错框架，利用大语言模型代理的多步内部表示训练风险感知探针，在任务执行过程中在线检测完成不忠实风险，并通过风险引导的纠正循环促使代理复盘执行历史。作者还构建了提供逐步执行轨迹、内部表示和一致性标注的ACUD数据集；摘要称MCAIR优于LLM-as-a-judge基线，并能跨提示和任务泛化、有效减少完成不忠实行为。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org