AlignPoison论文提出生成式推荐系统定向投毒攻击

Zhuoxuan Zhang等研究者在arXiv论文中提出AlignPoison，一个针对生成式推荐系统的黑盒条件定向投毒框架。该方法通过从API输出中发现并采样与模型解码动态对齐的前缀，构造投毒交互，在设置触发条件时提升恶意目标被推荐的概率。 基于论文摘要，在单模态和多模态生成式推荐基准实验中，注入少于1%的合成恶意交互即可显著提高触发条件下恶意目标被推广的可能性，ASR lift最高达16.3个百分点。该结果为论文作者声称的实验结论，尚无独立复现。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。