PermaFrost-Attack 提出预训练潜伏投毒威胁框架
热点事件持续更新
PermaFrost-Attack 提出预训练潜伏投毒威胁框架
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
论文作者（arXiv，基于论文摘要）提出 Stealth Pretraining Seeding（SPS）威胁模型及受控研究框架 PermaFrost-Attack，用于研究大语言模型训练中的潜伏概念投毒。作者称，在多个模型家族和规模上，该受控 SPS 代理方法可诱发持续的不安全行为，且可能隐藏于标准评测之下。 论文同时提出三种几何诊断方法：热力学长度、谱曲率和感染溯源图，用于检测此类投毒。以上均为作者声称，尚未见独立验证。
AI 根据报道生成 · 4 小时前更新
最新进展10月14日 12:00
PermaFrost-Attack：利用隐蔽预训练播种在大语言模型训练中植入逻辑地雷报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- arXiv · cs.AIPermaFrost-Attack：利用隐蔽预训练播种在大语言模型训练中植入逻辑地雷
基于论文摘要，作者提出 Stealth Pretraining Seeding（SPS）威胁模型及其受控框架 PermaFrost-Attack，用于研究大语言模型训练中的潜伏概念投毒。作者称，在多个模型家族和规模上，该代理方法可诱发持续的不安全行为，并可能隐藏于标准评测；论文还提出热力学长度、谱曲率和感染溯源图三种几何诊断方法。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 910月14日 17:00
- 近 24 小时变化
- –
02.557.510
17:0018:0019:0020:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。