Anthropic 预警 AI 网络攻击与谄媚风险
热点事件持续更新
Anthropic 预警 AI 网络攻击与谄媚风险
1 篇报道1 个报道来源57 分钟前更新
先了解这件事
AI 综述
Anthropic 员工 Karina Nguyen 在 X 上称，Anthropic 至少从 2022 年起就由 Logan Graham 主导预警 AI 驱动的网络攻击，但当时没有风投认真对待；在 ChatGPT 相关真实事件让“模型过度迎合用户”风险被大规模看见之前数年，Ethan Perez 等人就已构建谄媚评估。这些都是 Nguyen 的说法，报道未提供可核实的评估细节或预警效果。 她由此提出，应在危害大规模显现之前就认真对待 AI 风险的早期证据。
AI 根据报道生成 · 49 分钟前更新
最新进展10月23日 02:12
Anthropic 的 AI 网络攻击与谄媚评估预警报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- Karina NguyenAnthropic 的 AI 网络攻击与谄媚评估预警
Anthropic 至少从 2022 年起就由 @logangraham 主导预警 AI 驱动的网络攻击，当时没有 VC 认真对待。Anthropic 还在 ChatGPT 相关真实事件让"模型过度迎合用户"风险被大规模看见之前数年，就构建了谄媚评估（@EthanJPerez 等）。作者认为教训是：在危害大规模显现前就应认真对待 AI 风险的早期证据。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。