多LLM系统交互中出现稳健语义坍缩，13种干预难以恢复

Weiyi Kong、Shiyang Lai、Jinghua Piao、James Evans 在 arXiv 论文《Multi-LLM Systems Exhibit Robust Semantic Collapse》（arXiv:2605.17193）的 v3 版本中报告：多个 LLM 组成的交互系统即使没有重训练或权重更新，也会在 200 至 1,000 轮交互中出现语义表示的系统性收敛，即“语义坍缩”，表现为词汇上看似多样、语义上趋于一致。该现象跨模型家族出现。 作者测试了涵盖解码参数、Prompt 设计、Agent 组合、激活工程和强化学习的 13 种干预实现，均未能可靠恢复语义多样性。基于论文摘要，机制分析认为坍缩不能仅归因于已考察的对齐或从众偏差，而与自回归生成的内在特性相符。

AI 根据报道生成 · 2 天前更新