跳到正文
原文
蚂蚁 inclusionAI:HuggingFace 新模型·· 17 天前AI 评分49

蚂蚁 inclusionAI 发布 Llama-3.1-8B-Instruct-singprobe 流式安全探针

inclusionAI/Llama-3.1-8B-Instruct-singprobe

AI 导读

蚂蚁 inclusionAI 发布 SingProbe,一个基于 meta-llama/Llama-3.1-8B-Instruct 的内在流式护栏,复用基座模型隐藏状态逐 token 打分查询意图、回复安全性与幻觉风险,仅增加不到 0.5% 解码开销。

来源:蚂蚁 inclusionAI:HuggingFace 新模型 · huggingface.co