Quanyan Zhu提出代理式反思均衡治理框架ARE

Quanyan Zhu在arXiv（2610.16015）提出Agentic Reflective Equilibrium（ARE）框架，将系统提示、操作政策、工具证据和候选行动纳入带支持与攻击关系的反思均衡，用于治理可调用工具的LLM Agent的伦理对齐。摘要称均衡是该相互调整博弈的纳什均衡，并给出单调性、词典优先级、稳定性证书及针对提示注入的隔离定理；框架可生成行动证书。论文用两个案例说明应用：被要求"不惜一切代价"赢得退款的计算机使用助手提交诚实保修申请、拒绝伪造评论并忽略注入的个人数据请求；案例涉及退款欺诈、提示注入、歧视和隐私问题。材料仅含论文摘要，未提供完整实验或基准细节。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。