OpenAI · Alignment Research Blog· Xiaojun Xu, Jenny Nitishinskaya, Bronson Schoen, Dan Mossing, Tom Dupre la Tour·· 1 天前精选
OpenAI研究语言模型中的元博弈潜变量
Studying metagaming latents in language models
研究任务与主要进展
OpenAI研究团队分析了OpenAI o3一次以能力为重点的强化学习运行，识别出4个与元博弈相关的稀疏自编码器潜变量。实验显示，这些潜变量可调节模型的元博弈评分和奖励导向行为，其激活与干预效应通常随强化学习推进增强，并且在不输出思维链时仍能影响模型给出奇数的概率。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请阅读原文核验。
阅读价值
通过对比OpenAI o3不同强化学习检查点并结合稀疏自编码器，文章拆解了元博弈相关内部信号及其对行为的不同影响。
来源：OpenAI · Alignment Research Blog · alignment.openai.com