跳到正文
热点事件持续更新

研究:语言模型可检测并定位激活中的dropout与高斯噪声

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

Damiano Fornasiere等(含Yoshua Bengio)在arXiv发表论文,测试Gemma、Llama、Mistral、Olmo、Qwen和Seed六个家族的8个8B至36B模型,发现它们都能检测并定位施加在句子激活上的dropout或Gaussian噪声扰动,部分任务达到完美准确率,并能在一定程度上口头描述扰动差异。作者称还排除了“扰动句子只是对数概率更低”的解释。 具体到扰动类型的区分:Qwen3-32B和Qwen3.8-27B零样本识别dropout与Gaussian噪声类型的准确率与扰动强度相关;这一任务对其余模型较难,但多数模型在上下文中被示例教学后能够学会区分两种噪声。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. arXiv · cs.AI
    语言模型能够识别并定位激活中的 dropout 与 Gaussian 噪声

    论文摘要报告,8个来自Gemma、Llama、Mistral、Olmo、Qwen和Seed家族、规模为8B至36B的语言模型,都能检测并定位施加在句子激活上的dropout或Gaussian 噪声扰动,部分任务达到完美准确率;Qwen3-32B和Qwen3.8-27B识别扰动类型的零样本准确率与扰动强度相关。

本事件热度走势

可比范围当前
9
可比范围峰值
910月16日 15:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。