SpliTEE:GPU辅助TEE加差分隐私加速私密LLM推理
热点事件持续更新
SpliTEE:GPU辅助TEE加差分隐私加速私密LLM推理
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Shashie Dilhara Batan Arachchige等作者发表论文提出SpliTEE,一种面向私密LLM推理的拆分架构:把推理分散到Intel TDX可信执行环境与不可信GPU之间,并用差分隐私替代加密来保护中间表示,据称推理速度接近纯TDX方案的两倍。 该工作对LLM推理的关键函数做了全局敏感度分析以界定差分隐私噪声规模,并推导出噪声消除的浮点误差上界。基于Llama-3.2-3B和Qwen3-4B的实验显示,SpliTEE比Slalom最多快43%且准确率更高。
AI 根据报道生成 · 1 小时前更新
最新进展10月7日 12:00
SpliTEE:用 GPU 辅助 TEE 结合差分隐私实现快速私密 LLM 推理报道时间线
沿着报道,了解事件的不同侧面。
10月7日
- arXiv:cs.LGSpliTEE:用 GPU 辅助 TEE 结合差分隐私实现快速私密 LLM 推理
SpliTEE 将 LLM 推理拆分到 Intel TDX TEE 与不可信 GPU 之间,并用差分隐私替代加密保护中间表示,使推理速度接近纯 TDX 方案的两倍。该工作对 LLM 推理关键函数做了全局敏感度分析以界定 DP 噪声规模,并推导出噪声消除的浮点误差上界。基于 Llama-3.2-3B 和 Qwen3-4B 的实验中,SpliTEE 比 Slalom 最多快 43% 且准确率更高。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。