LLM Brain Rot假说:低质量Twitter/X语料致LLM能力下降
热点事件持续更新
LLM Brain Rot假说:低质量Twitter/X语料致LLM能力下降
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Shuo Xing、Zhangyang Wang等研究者在论文《LLMs Can Get "Brain Rot"》(arXiv:2510.13928v3)中提出并测试LLM Brain Rot假说:在Twitter/X真实语料构造的低质量数据上持续预训练4个大语言模型,会在推理、长上下文理解和安全上造成明显下降(Hedges' g>0.3)。基于论文摘要,ARC-Challenge的CoT得分从72.1降至57.2,RULER-CWE从83.7降至52.3。 实验按互动程度和语义质量构造低质量数据。扩大指令微调规模或用清洁数据做持续预训练可以改善下降的能力,但无法完全恢复基线水平。作者称这支持垃圾文本暴露会引起持久认知下降的假说。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
大语言模型会“脑腐”:Twitter/X 低质量文本持续预训练的试点研究报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv · cs.AI大语言模型会“脑腐”:Twitter/X 低质量文本持续预训练的试点研究
研究团队在Twitter/X真实语料上开展受控实验,发现持续使用低质量网页文本进行预训练会导致4个大语言模型在推理、长上下文理解和安全等能力上出现下降。基于论文摘要,按互动程度和语义质量构造低质量数据后,ARC-Challenge的CoT得分从72.1降至57.2,RULER-CWE从83.7降至52.3;增加指令微调或清洁数据持续预训练只能部分改善,未完全恢复基线能力。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。