跳到正文
热点事件持续更新

SpliTEE:GPU辅助TEE加差分隐私加速私密LLM推理

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Shashie Dilhara Batan Arachchige等作者发表论文提出SpliTEE,一种面向私密LLM推理的拆分架构:把推理分散到Intel TDX可信执行环境与不可信GPU之间,并用差分隐私替代加密来保护中间表示,据称推理速度接近纯TDX方案的两倍。 该工作对LLM推理的关键函数做了全局敏感度分析以界定差分隐私噪声规模,并推导出噪声消除的浮点误差上界。基于Llama-3.2-3B和Qwen3-4B的实验显示,SpliTEE比Slalom最多快43%且准确率更高。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月7日
  1. arXiv:cs.LG
    SpliTEE:用 GPU 辅助 TEE 结合差分隐私实现快速私密 LLM 推理

    SpliTEE 将 LLM 推理拆分到 Intel TDX TEE 与不可信 GPU 之间,并用差分隐私替代加密保护中间表示,使推理速度接近纯 TDX 方案的两倍。该工作对 LLM 推理关键函数做了全局敏感度分析以界定 DP 噪声规模,并推导出噪声消除的浮点误差上界。基于 Llama-3.2-3B 和 Qwen3-4B 的实验中,SpliTEE 比 Slalom 最多快 43% 且准确率更高。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。