SpliTEE用GPU与差分隐私加速私有LLM推理

SpliTEE 将差分隐私应用于TEE与不可信GPU之间的LLM分段推理，用隐私噪声保护外发计算的中间表示，并避免传统加密方案所需的量化处理。基于论文摘要，作者在Intel TDX TEE上实现了Llama-3.2-3B和Qwen3-4B，分段执行速度接近全TDX推理的两倍，最高较Slalom快43%且准确率更高；即使攻击者了解该差分隐私机制，也难以从中间表示中恢复超出无关提示的信息。

摘自 arXiv · cs.AI

还没有足够的连续观测数据，暂不绘制趋势。