在 Amazon SageMaker HyperPod 上用 SkyRL 加速多模态 RL 训练

在 Amazon SageMaker HyperPod 上使用开源 RL 框架 SkyRL，通过 GRPO 对 Qwen3-VL-8B 视觉语言模型进行多轮强化学习后训练，在固定 64 个迷宫评测集上把解迷宫成功率从 43.75% 提升到 95% 以上。

NarrateAI 如何在 Amazon Bedrock 上实现生产级 LLM 质量保障

NarrateAI 在 Amazon Bedrock 上通过五项技术实现约 99% 的数值准确率并实时流式返回结果，服务超过 4000 名 AWS 高管。这五项技术分别是自适应流水线编排、跨账户多模型故障转移、实时流式评估、复合评估框架和数据准确性验证，其中约 90% 的查询走单次快速路径，仅约 10% 的复杂查询进入并行批处理路径。

在 Amazon SageMaker AI 上部署 Qwen3-TTS-12Hz-1.7B-Base 实现实时语音克隆

AWS 博客演示如何通过 SageMaker JumpStart 将 Qwen3-TTS-12Hz-1.7B-Base 部署到实时推理端点，用几秒参考音频和转录文本克隆说话人音色，无需重训模型。

S&P Global Energy 如何用 Databricks Genie Agents 和 MCP 让结构化数据可对话

S&P Global Energy 在 Databricks 博客详解如何让覆盖 LNG、Chemicals、Crude Oil、Refined Products、Gas & Power 等的结构化数据资产可供 AI 智能体对话。

Amazon SageMaker HyperPod 与 Qumulo 实现跨区域训练

Amazon SageMaker HyperPod 搭配 Qumulo 的 Cloud Native Qumulo（CNQ）与 Cloud Data Fabric（CDF），可让训练集群直接读取另一 AWS Region 或本地数据中心的数据集，无需复制数据或修改代码。

Midjourney@midjourneyAI 评分2424

很多人想知道如何用我们新的编辑模型来实现一致的角色等等——所以我们为你们做了一个视频 <3

在 SageMaker AI 上用 WhisperX 实现带说话人标注的转录

AWS 发布 WhisperX Deep Learning Container（DLC），在 OpenAI Whisper 基础上加入 wav2vec2 强制对齐的逐词时间戳和说话人分离，可部署到 Amazon SageMaker AI 实时或异步端点，无需自建镜像。

NVIDIA 如何为生物基础模型实现高效 MoE 训练

NVIDIA 技术博客解析了生物基础模型的高效 MoE 训练方案：相比每个 token 都要过全部层的稠密 Transformer，MoE 用多个专家子网络、每个 token 只激活其中一小部分，从而降低训练与推理算力开销。文章指出，随着语言模型规模增长，稠密架构的扩展成本越来越高。

如何在 Databricks 上构建基于智能体的安全审查流程

一位工程师在 Databricks 上构建了基于智能体的安全审查层，用 7 个各司其职的智能体承接可重复的审查工作，把人工判断留给高风险和模糊决策。

NVIDIA：如何在 AI 工作负载落地前验证 GPU 集群就绪状态

NVIDIA 指出 GPU 集群即使所有 GPU、网络链路和 pod 均报告健康，512-GPU 训练任务仍可能性能不达标或失败，原因可能是单个慢速 GPU、负载下性能劣化的链路，或悄悄将流量导向慢速路径的配置。运维人员往往要到训练运行数小时后才会发现问题。

如何用 NVIDIA Warp 和 MJWarp 加速机器人仿真与学习工作流

NVIDIA Warp 与 MuJoCo Warp（MJWarp）可将兼容的 MuJoCo 模型扩展到最多 2,048 个并行 GPU 环境，本文以 SO-101 机械臂为例演示从 CPU MuJoCo 工作流迁移到 GPU 批量仿真的过程。

GitHub Copilot 应用如何渲染超大 pull request

GitHub Copilot 应用重建了 pull request 视图，用一个含 2200 个文件、超 100 万行改动和 400 多条行内评论的开源 PR 做压力测试。其做法是把文档高度拆成确定性的代码几何与动态评论块两套几何：代码行高提前精确计算，评论高度则按需测量、修正幅度小且锚定在用户当前查看位置，从而避免滚动跳动。

Together AI 教程：花 17 美元微调自己的 Jev 式分类模型

Together AI 发布教程，演示如何以 Qwen3.5 4B 为基础模型，用 MultiNLI、BoolQ、Banking77 等 6 个数据源共 37,840 条样本微调一个 Jev 式分类模型，训练成本约 $17.0，耗时约 25 分钟。

Cloudflare Developers@CloudflareDevAI 评分1717

如何在 60 秒内在 @CloudflareDev AI Gateway 上配置来自 @typesafeai 的 Jev。

NVIDIA 如何评估 AI 智能体：从工具调用到任务完成

NVIDIA 提出 AI 智能体评估需从单次工具调用打分转向整项任务完成度打分，核心是看智能体能否在真实环境中连续执行数十次工具调用并在某步失败后恢复。仅评估模型回答是否"听起来对"，几乎无法反映工作是否真正完成。

MiniMax Design (H3)@Hailuo_AIAI 评分3636

🔥社区从不停下折腾的脚步。 不只是基于 H3 做开发，还在不断深入内部，寻找让它更聪明的新方法。

vLLM 在 GB300 NVL72 上 PD 部署 Qwen3.8-2.4T 的性能结果

vLLM 公布 Qwen3.8-2.4T 在 GB300 NVL72 集群上的 PD 分离部署结果：8K/1K 负载下高吞吐场景达每 GPU 5000 total token 吞吐，低延迟场景每用户 180 生成 token，并给出完整 pareto 前沿。

Hugging Face tokenizers v1 发布：编码解码与扩展性能实测

Hugging Face 发布 tokenizers v1，输出与 v0.23 完全一致的 token ID，但速度常达 v0.23 的数十倍。v1 将单个 crate 拆为 workspace，引入无分配合并、bitcannon SIMD 分片、侵入式双向链表合并循环、线程本地词缓存和原生多线程并行。

NVIDIA 如何用 AIPerf 对大规模 LLM 推理进行基准测试

NVIDIA 发布 AIPerf，用于对大规模 LLM 推理做基准测试，解决 curl 命令、手写 asyncio 脚本或一次性压测工具受单进程性能、Python GIL 并发上限等问题。该工具面向模型部署后的性能评估场景。

MiniMax Design (H3)@Hailuo_AIAI 评分5454

MiniMax Design 转发用户演示：用 MiniMax H3 Max 的 r2v 功能将一张 3x3 分镜图一次性生成为视频，设置 480p、15 秒，提示词为「左上から右下のパネルにカットが切り替わる2Dアニメーション、複数パネル禁止、BGM禁止」（按左上到右下面板切换镜头的 2D 动画、禁止多面板、禁止 BGM），Quality 调整、参照强度标准，作者称生成画面与分镜设定基本一致。

Z.ai@Zai_orgAI 评分3939

智谱分享 GLM-5.3 如何参与构建并优化服务 GLM-5.3-Flash 的推理基础设施，系统从首次跑通到生产就绪用时不到两周，端到端吞吐量达到初始基线的 3 倍。关键在于密集反馈：本地正确性测试、执行轨迹、微基准与端到端测量，让团队能针对性验证假设，而非只依赖聚合性能指标。

GitHub Copilot 用 Copilot 把运行时迁移到 Rust：80 万行代码、128 个 PR

GitHub 用 GitHub Copilot app 和 Copilot CLI 把 Copilot agent runtime 从 TypeScript/Node.js 完全重写为超过 80 万行生产级 Rust，AI 智能体编写了大部分代码，跨 128 个 PR 增量合入 main，性能提升数个数量级，主要由一名开发者几个月内完成。

如何用 AI 智能体为仿真准备 3D 场景

NVIDIA 展示了一套智能体 AI 工作流，用于为物理 AI 系统准备和验证数字孪生。智能体可检查 3D 场景、在 OpenUSD 中编写仿真相关数据、添加物理属性、渲染预检视图，并对照 SimReady 要求验证结果。该流程覆盖从 Blender 场景到面向 NVIDIA 的仿真就绪 OpenUSD 交付。

Midjourney@midjourneyAI 评分1414

Midjourney 每周办公时间 - 9/16 https://x.com/i/spaces/1qJVmyRpDbYGB

NVIDIA 用智能体 AI 将 CUDA Tile 操作从 Python 翻译到 Rust

NVIDIA 技术博客介绍 cuTile Rust（cutile-rs），一个用 Rust 编写 GPU kernel 的 tile 系统，将 Rust 所有权模型扩展到 tile 级 GPU kernel，把可变输出拆分为互不重叠的片段，并在 kernel 启动间保持主机侧所有权契约。

OpenAI 如何将 AI 使用情况与业务价值挂钩

OpenAI 介绍如何通过 ChatGPT Work 和 Codex 的分析功能，帮助团队了解 AI 使用量与支出、识别培训需求，并将采用情况与业务成果关联。

Together AI 详解从闭源模型迁移到开源模型的策略

Together AI 发布从闭源模型迁移到开源模型的指南，称采用托管服务可将迁移周期从数月到数年缩短为数周到数月。方法分发现、评估、适配、决策、生产五步，核心是用真实流量回放而非通用基准做评估，并按系统提示词、推理参数、上下文工程、微调四个杠杆迭代适配；文中提到部分客户迁移后成本最多降低 70%，可用 10% 流量的金丝雀部署开始上线。

Dense 与 MoE 模型对比：活跃参数、吞吐量与选型时机

NVIDIA 技术博客对比 Dense 与 MoE 两种模型架构，说明参数组织方式对性能的影响。以 Nemotron 3.5 Lightning 为例，该模型总参数 30B，但每个 token 仅激活 3B 参数，依靠 MoE 架构按 token 选择部分参数，从而在保留大模型容量的同时降低单次计算量。文章围绕活跃参数、吞吐量与选型时机展开分析。

Hugging Face 发布 ALTK-Evolve 一致性指南与 Consistency Analyzer，将智能体一致性差距减半

IBM Research 与 Hugging Face 在 ALTK-Evolve 中推出一致性指南和 Consistency Analyzer，用于诊断和改善智能体重复运行的不稳定性。

NVIDIA FLARE 如何跨 Docker、Kubernetes 和 Slurm 扩展联邦学习

NVIDIA 技术博客介绍如何用 NVIDIA FLARE 将联邦学习从单服务器、少量客户端的简单部署扩展到跨 Docker、Kubernetes 和 Slurm 的共享基础设施。随着项目规模增长，挑战从运行算法转向运营共享基础设施：按需分配 GPU、隔离多个研究任务，并让每个参与机构保留对自身数据的控制权。

NVIDIA Transformer Engine 如何加速 JAX 中的 Dropless MoE 训练

NVIDIA 技术博客介绍如何用 NVIDIA Transformer Engine 在 JAX 中加速 Dropless MoE 训练。MoE 通过条件计算实现高效训练，DeepSeek、Qwen、Mixtral 等模型以远低于稠密模型的训练算力达到或超越其性能。文章针对传统 MoE 依赖共享稠密 FFN 的做法，给出 Dropless 训练路径。

vime × RL-Kernel × AMD：在 ROCm 上实现训练与 Rollout 的逐位一致性

vime 联合 RL-Kernel 在 AMD Instinct MI300X 上实现训练与 rollout 的逐位数值一致性，8× MI300X 跑 Qwen3-8B GRPO 实验连续 200 步 mismatch_count = 0、max_abs_diff = 0。

vLLM 中 Kimi K3 性能优化：吞吐量提升至 2.8 倍

vLLM 通过自适应投机 token 预算、KDA 前缀检查点、零拷贝混合 KDA 批次和延迟 MXFP4 收尾等优化，将 Kimi K3 服务性能从 v0.27.1 提升至 main：延迟降低 56%–60%，吞吐量提升 2.2–2.8 倍，TTFT 降低 72%–85%（并发 1、4、16，8K/1K 负载，TP8）。

GitHub 如何用 Copilot 把营销活动运营变成代码

GitHub 日本和韩国营销负责人把活动运营流程交给 GitHub Copilot，从单个 GitHub Issue 出发自动完成落地页复制、UTM 链接生成、报名名单清洗和会后报告。

GitHub Copilot 应用新手指南：使用 diff、终端与浏览器面板

GitHub Copilot 应用内置 diff、终端和浏览器三个面板，让开发者无需在编辑器、终端和浏览器之间切换即可完成 AI 编码闭环。diff 面板以绿色标注新增、红色标注删除，支持接受改动、留言或让 Copilot 继续修改；终端面板可直接运行项目命令并支持多窗口；浏览器面板可用 Pick & Polish 工具选中元素并让智能体调整。

全栈 NIM 优化如何在 Nemotron 3 Ultra 上支撑 2.5 倍并发用户

NVIDIA 通过全栈 NIM 优化，在 Nemotron 3 Ultra 上实现 2.5 倍并发用户量。该优化针对生产环境部署大语言模型时，在现有 GPU 基础设施上提升并发服务能力并保持交互响应速度的需求，对提示词长、上下文跨步骤复用的智能体 AI 工作负载尤为关键。

Together AI 将 ThunderKittens 适配 NVIDIA Vera Rubin NVL72

Together AI 的 kernels 团队为 NVIDIA Vera Rubin NVL72 平台在 ThunderKittens 中新增了 NVFP4 与 FP8 GEMM 支持。

TRL AsyncGRPOTrainer 用 Storage Bucket 跨 HF Jobs 同步 LoRA 适配器，免 NCCL 完成 RL 训练

Hugging Face 博客介绍 TRL v1.14 的 AsyncGRPOTrainer 新支持：只训练 LoRA 适配器并仅同步适配器（rank-1 仅几 MB）到 vLLM，训练器与 vLLM 副本作为独立 HF Jobs 运行在分开的机器上，通过挂载 Storage Bucket 共享适配器路径，无需 NCCL 或共享本地盘。

追踪瓶颈：在 AMD Instinct MI355X 上优化 MiniMax M3

MiniMax M3 在 AMD Instinct MI355X 上的 vLLM 服务性能大幅提升：SemiAnalysis InferenceX 基准显示，并发 32 时 MXFP8 标准服务从 109.1 升至 342.4 output tokens/s/GPU（3.14×），中位 TTFT 从 1.46 秒降至 0.67 秒。

何时使用 Encode-Prefill-Decode 分离架构加速多模态模型服务

NVIDIA 技术博客解析了 Encode-Prefill-Decode（EPD）分离架构这一多模态模型推理优化技术，它将视觉编码器阶段与 prefill、decode 阶段分离。该方案对图像密集提示词、中短输出和量化 MoE 模型最有效，配合 NVIDIA Dynamo 可实现最高 5 倍加速。