神经反馈实验：LLM对自身激活控制能力有限
热点事件观察中
神经反馈实验：LLM对自身激活控制能力有限
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Davide Baldelli 等发布论文，通过上下文内神经反馈实验检验大语言模型能否调节由自身激活计算的分数：将分数在每轮对话中反馈给作为“受试者”的模型，要求其最大化或最小化该分数。实验覆盖来自5个模型家族、规模9B至32B的10个开放权重模型。结果显示，部分模型能较大幅度移动自身分数，但不超过同等能力的“写作者”模型；在固定句子回复条件下，10个模型中有3个表现出小幅但一致的控制效应。在针对欺骗监控器的测试中，没有模型学会降低监控分数，但有1个模型能够提高分数。作者称，该能力是否会随模型演进构成风险仍需持续观察。
AI 根据报道生成 · 1 天前更新
最新进展10月15日 12:00
跨模型上下文神经反馈揭示大语言模型有限的激活控制能力报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv · cs.AI跨模型上下文神经反馈揭示大语言模型有限的激活控制能力
研究者对来自5个模型家族的10个开放权重模型（规模9B至32B）开展上下文神经反馈实验，检验模型能否调节由自身激活计算的分数。实验显示，部分模型能改变自身分数，但不超过同等能力的“写作者”模型；在固定句子回复条件下，10个模型中有3个表现出小幅但一致的控制效应。在欺骗监控器测试中，没有模型学会降低监控分数，但有1个模型能够提高分数；该能力是否会随模型演进构成风险仍需持续观察。
本事件热度走势
- 可比范围当前
- 5
- 可比范围峰值
- 910月15日 14:00
- 近 24 小时变化
- -49%
02.557.510
18:0010月16日06:0012:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。