arXiv · cs.AI· Risto Uuk, Santeri Koivula, Lorenzo Pacchiardi, Rokas Gipi\v{s}kis, Laura Caroli, Kamaria Horton·· 2 天前
评估智能体通用AI“失去控制”风险的实证证据
Assessing the Empirical Evidence for Loss of Control from Agentic General-Purpose AI
arXiv:2610.25241v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Risto Uuk, Santeri Koivula, Lorenzo Pacchiardi, Rokas Gipi\v{s}kis, Laura Caroli, Kamaria Horton
研究任务与主要进展
研究评估了19项关于智能体通用AI“失去控制”风险的近期实证研究，结论是现有证据支持该风险“弱可能”。研究按八项威胁模型属性，从构念效度、内容效度和外部效度三个维度审查证据；没有研究达到足以支持某项属性存在的效度门槛，仅有一项研究达到否定“情境意识”的门槛。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org