sleepy· @sleepy0x13 · X·· 5 小时前AI 评分43
AI 导读
安全研究者 Jun Song 爆料,匿名黑帽黑客组织出天价请他使用海量真实攻击数据,对开源权重模型做强化学习后训练。他称此前白帽项目用 GLM-5.3 和不到对方声称数据量 1% 的数据,就在相关任务上远超前沿模型,但尚无独立验证。他拒绝了交易,担心总会有人接单。
正文 · 原文
已经有黑客组织开出天价,想把开源大模型训练成专业的网络攻击工具了。
安全研究者 Jun Song 爆料,昨天有一个匿名黑帽黑客组织找到他,希望他使用海量真实攻击数据,对开源权重模型进行强化学习后训练(RL)。
对方声称掌握的攻击数据规模极其惊人,Jun Song 甚至怀疑这会不会是 FBI 伪装成黑客组织进行的卧底行动。
更吓人的是,他此前参与过一个白帽安全项目,使用 GLM-5.3 和不到对方声称数据量 1% 的训练数据,就已经在相关任务上取得了远超前沿模型的效果。当然,这是他个人的说法,目前还没有公开的独立验证。
Jun Song 拒绝了这笔交易,但他最担心的一点是:总会有人愿意接下这笔钱。
过去大家讨论 AI 网络安全,更多关注模型会不会被越狱、会不会协助黑客编写攻击代码。现在,黑客已经开始尝试直接购买模型训练能力,用自己的攻击数据定向强化开源模型。
一旦这条路走通,网络攻击能力的扩散速度可能会远远超过防御体系的更新速度。
Yesterday, an anonymous black hat group reached out with an insane RL request. They offered an astronomical amount of money to post-train open-weight models on exploit data. The amount of attack data they claim to hold is unlike anything I have ever seen. If someone told me this was an undercover FBI dataset, I would have believed it. For context, a white-hat project I worked on using GLM-5.3 used less than one percent of that volume, and it already outperformed frontier models by a huge margin. Of course, I turned it down. But what genuinely scares me is knowing someone else will eventually take the deal.在 X 查看被引用的帖子
来源:sleepy · x.com