arXiv · cs.AI· Jose Pascual Gumbau Mezquita·· 1 天前
递归自我改进系统的安全验证具有算法不可判定性
Algorithmic Unverifiability of Safety for Fixed and Recursively Self-Improving Systems
arXiv:2606.28639v4阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Jose Pascual Gumbau Mezquita
研究任务与主要进展
论文摘要提出，固定系统上的 AI 安全验证困难会进一步扩展到递归自我改写系统，依赖行为的改写可归结为 Rice 定理，涉及代码的改写至少具有停机问题难度。作者声称，依赖有限行为证据的方案可能在每个阶段都认证通过却仍出现安全属性被违反；摘要还报告了有限环境下策略验证为 coNP-complete、策略合成为 PSPACE-complete。研究基于论文摘要，未提供完整证明或实验细节。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org