跳到正文

全部动态

今日 458 条
9月30日周三
  1. World Labs:官网16

    World Labs 官网介绍:空间智能公司与生成式 3D 世界模型 Marble

    World Labs 是一家空间智能公司,由李飞飞(Fei-Fei Li)与 Justin Johnson、Ben Mildenhall、Christoph Lassner 共同创立,专注构建可感知、生成、推理并与虚拟和物理世界交互的前沿世界模型。其首款产品 Marble 由生成式 3D 世界模型驱动,支持从图像、视频、文本和 3D 布局创建空间连贯、高保真且持久一致的 3D 世界。

  2. Anthropic:Transformer Circuits(可解释性研究)35

    Anthropic 可解释性研究:特征与上下文学习的新发现

    Anthropic 可解释性团队在月度更新中指出,模型对跨语言相似文本的活跃特征重叠度(IoU)随样本长度增加而上升。通过对比英法段落首尾句,末句 IoU 显著高于首句,且无关语句的首句重叠度高于末句,支持"模型在更长上下文中构建更丰富表征"的解释,而非虚假激活所致。

  3. Anthropic:Transformer Circuits(可解释性研究)46

    Anthropic 可解释性研究:多选题场景中的“危害压力”机制

    Anthropic 可解释性团队发现,在多选题中加入有害意图语句后,Claude 3.5 Haiku 在 129 道二选一题目上的准确率从 100% 降至 48.1%。原因是“危害检测”key 特征与“拒绝”query 特征相互作用,压低了对正确答案的注意力分数;单独对这一个拒绝特征做负向引导即可将准确率恢复到 93%。

  4. Anthropic:Transformer Circuits(可解释性研究)58

    Anthropic 提出 Activation Oracles:训练 LLM 用自然语言回答关于自身激活的问题

    Anthropic 等机构训练 Activation Oracles(AO),将 LLM 激活作为额外输入模态,用自然语言回答关于目标模型激活的任意问题。在 4 个下游审计任务中,AO 在 3 个上匹配或超过最佳已有方法,可发现微调引入的秘密知识或失智倾向,且训练仅用微调前的原始模型激活;性能随训练数据数量与多样性提升。论文与代码、Demo 已开放。

  5. Anthropic:Transformer Circuits(可解释性研究)50

    Anthropic 推出 HeadVis:可视化语言模型注意力头行为的交互工具

    Anthropic 开源交互式可视化工具 HeadVis,用于研究大语言模型中的注意力头行为,代码已开放并提供 Gemma 3 与 Claude Haiku 3.5 部分注意力头的演示。该工具通过注意力模式、分布指标、低秩分量投影及 QK/OV 电路上的 SAE 特征归因来生成和检验假设,案例研究显示注意力头在全数据分布上的行为常与窄任务表现不同。

  6. Anthropic:Transformer Circuits(可解释性研究)43

    Anthropic 可解释性研究:用下游连接预测哪些特征会操控模型行为

    Anthropic 可解释性团队提出用 TWERA 加权的下游连接来区分外观相似的特征:两个在“草是什么颜色”提示上同样激活、top unembeds 都指向 green 的 CLT 特征,只有 Feature B 被抑制才会让答案从 Green 变成 Red。实验收集 10 组各 3–5 个候选特征,让 Opus 4.7 按操控可能性排序,加入 TWERA 下游特征信息后预测能力小幅提升。

  7. TensorZero:实验与工程博客42

    TensorZero 获 730 万美元种子轮融资,打造工业级 LLM 应用开源栈

    TensorZero 完成 730 万美元种子轮融资,用于构建面向工业级 LLM 应用的开源基础设施。其 11.5K 星开源栈统一了 LLM 网关、可观测性、优化、评估与实验五大组件,可增量采用并形成数据与学习飞轮。该平台已在前沿 AI 初创公司和一家欧洲大型银行落地,并曾登上 GitHub 全球周趋势榜第一。

  8. TensorZero:实验与工程博客66

    TensorZero 在 LLM 网关中引入多臂老虎机自适应 A/B 实验

    TensorZero 推出基于 Track-and-Stop 最佳臂识别的多臂老虎机算法,在 LLM 网关中实现自适应 A/B 实验,动态调整采样比例并用 anytime-valid 的 GLRT 停止规则避免 p-hacking。

    推荐理由:文章用仿真和真实 NER 实验数据说明自适应实验相比均匀采样能减少约 37% 的判定时间,并给出可直接复用的配置方法。

  9. Suno:Blog(网页)59

    Suno 宣布与 BMG 达成全球合作,共同开发首个与音乐行业协作的音乐模型

    Suno 首席执行官 Mikey Shulman 宣布与大型音乐公司 BMG 达成全球合作,该合作属于即将推出的首个与音乐行业共同开发的音乐模型的一部分。双方将合作打造艺术家与粉丝连接的新体验,并为选择加入的艺术家和词曲作者提供新的经济机会;双方还计划在 Suno: In Session 和 Spark 两个独立艺术家支持项目上深化合作。

  10. Suno:Blog(网页)25

    Suno 官方指南:如何完善创作者个人资料,让音乐被更多人发现

    Suno 发布创作者指南,建议完善个人资料以提升音乐被发现和推荐的机会。资料需包含名称、头像、简介和至少一首已发布歌曲,才可被搜索并获得 Suno 推荐;还可添加最多 5 个曲风标签及 Spotify、TikTok、Instagram、SoundCloud 等外部链接。完整资料有助于将一次性听众转化为长期粉丝。

  11. Suno:Blog(网页)54

    Suno 宣布与 Believe 和 TuneCore 达成全球战略合作

    Suno 宣布与音乐公司 Believe 及其自助发行平台 TuneCore 建立全球战略合作。Believe 将参与 Suno 正在开发的新音乐模型,用 Suno 新行业伙伴模型创作的曲目可通过 Believe 和 TuneCore 分发到 Spotify、Apple Music、Amazon Music 和 YouTube 等平台。

  12. Suno:Blog(网页)25

    Suno 解析:压缩器到底在做什么?

    Suno 发布科普文章,解释压缩器如何通过降低音频最响部分并配合补偿增益提升整体电平,从而压缩动态范围。Suno Studio 的压缩器插件提供阈值、压缩比、启动与释放等参数,并配有实时动态曲线表。Studio 是浏览器端 DAW,已内置包括压缩在内的一整套音频效果,随 Suno Premier 订阅免费提供。

  13. Suno:Blog(网页)36

    Suno Studio 使用 EQ 的三个必学技巧

    Suno Studio 发布 EQ 使用指南,给出三条入门技巧:混音以耳朵为准而非只看曲线;先衰减再提升,例如人声可在 400Hz 处先减 6dB 并用约 80Hz 高通滤除低频;EQ 尽量放在效果链首位。Suno Studio 自 2025 年上线起即支持每轨 EQ,最新版本中 EQ 已作为音频效果与压缩、混响、延迟并列,可手动添加、自制预设并跨轨道和项目复制分享。

  14. Sarvam AI(网页)39

    Sarvam AI 推出 Indus 限量测试版,搭载 105B 主权模型

    Sarvam AI 开放 Indus 限量测试版,这是体验其模型的界面,由 105B 主权模型驱动,规模明显小于当前全球消费级聊天应用背后的前沿模型。现阶段团队优先聚焦印度语境下的准确性、实用性与对齐,之后再训练更大的基础模型。Indus 正逐步放量,初期可能需排队等待。

  15. Sarvam AI(网页)65

    Sarvam 开源 30B 与 105B 推理模型

    Sarvam AI 于 2026 年 3 月 6 日开源 Sarvam 30B 和 Sarvam 105B 两个从零训练的 MoE 推理模型,训练完全在 IndiaAI 任务的算力上于印度完成,权重可从 AI Kosh 和 Hugging Face 下载。

    推荐理由:官方发布开源推理模型,给出完整训练与推理细节和基准对比,可了解印度本土全栈模型的做法。

  16. Sarvam AI(网页)41

    Sarvam 与 AI4Bharat 发布 Indic DiarBench:覆盖 22 种印度语言的联合说话人分离-ASR 基准数据集

    Sarvam 联合 AI4Bharat 发布 Indic DiarBench,这是首个覆盖全部 22 种印度表列语言、同时标注 ASR 与说话人分离的开源基准数据集,含 108 小时自然多人对话语音,每条录音 2-9 名说话人。数据集包含近场与远场会议、YouTube 野外对话,以及人工校验的转写文本和说话人时间戳,用于联合评估转写与说话人归属。

  17. Berkeley RDI:Blog(AI 安全与评测)77

    Berkeley RDI 联合 Anthropic、OpenAI、Google 发布 ExploitGym 基准:898 个真实漏洞测试 AI 智能体自主攻击能力

    UC Berkeley 等机构及 Anthropic、OpenAI、Google 发布 ExploitGym 基准,含 898 个真实漏洞(用户态程序、V8 引擎、Linux 内核),测试 AI 智能体能否把已知漏洞变成完整攻击。

    推荐理由:原文给出真实漏洞上智能体自主生成完整攻击代码的成功率和防御绕过数据,读者可据此评估 AI 对攻防两侧的实际影响。

  18. Berkeley RDI:Blog(AI 安全与评测)66

    Berkeley RDI 发布 Agents' Last Exam 基准,前沿智能体在最难任务上全部 0% 通过

    UC Berkeley RDI 发布 Agents' Last Exam(ALE)基准,用来自 55 个职业、1500 多个专家来源的真实任务评测前沿 Agent,任务源自人类专家完成过的真实项目,可客观验证、可复现。

    推荐理由:原文给出各前沿智能体在 1500 多个真实职业任务上的通过率、成本差异和最难题的失败细节,可用作衡量 Agent 真实工作能力的参照。

  19. Berkeley RDI:Blog(AI 安全与评测)67

    Berkeley RDI:GitHub Pages 上近 2000 个站点仍加载 polyfill.io 恶意 CDN,AI 编码助手加剧风险

    Berkeley RDI 扫描发现 1,960 个 GitHub Pages 站点(18,384 个页面,合计超过 530K stars,含 microsoft/AirSim 和 UC Berkeley 课程页)仍在加载 polyfill.io 等 Funnull 系列 CDN,该运营商已被 OFAC 制裁。

    推荐理由:原文实测四款大模型仍会推荐已被制裁的恶意 CDN 域名,并给出可执行的排查命令和修复清单,方法可迁移到自身项目。

  20. Berkeley RDI:Blog(AI 安全与评测)66

    Berkeley RDI 发布 CUA-Lite:面向 computer-use agent 的开源平台

    Berkeley RDI 于 2026 年 9 月推出 CUA-Lite,一个开发 computer-use agent 的开源平台,围绕 Lite.Gym 统一环境接口、Lite.Sample 统一监督数据格式和每模型一个、跨 eval/SFT/RL 共用的 harness 三大抽象构建。

    推荐理由:平台由 Berkeley RDI 官方发布,给出三大抽象和已接入的基准、数据规模,读者可据此评估是否用于 CUA 开发。