跳到正文
热点事件观察中

IQuest开源320B MoE智能体基座模型

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

IQuest 发布并开源了 IQuest-Q1,一个面向智能体 CLI 系统的稀疏 MoE 基础模型,总参数 320B、激活 15B。IQuest 称,此次开源用于支持社区研究与开发。 该模型经三阶段训练:预训练结合 Stable SplitNorm、Muon、muP 与两阶段课程;中期训练扩展数据格式并延长上下文;后训练用 SFT、领域 RL 和 MOPD 强化智能体编码能力,并通过模型合并整合不同专家与检查点。上述训练方法与能力描述均出自发布方的介绍。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. HuggingFace Daily Papers
    IQuest-Q1:面向智能体 CLI 系统的基础能力开源 MoE 模型

    IQuest-Q1 是总参数 320B、激活 15B 的稀疏 MoE 智能体基础模型,已开源发布。它经三阶段训练:预训练结合 Stable SplitNorm、Muon、muP 与两阶段课程,中期训练扩展数据格式并延长上下文,后训练用 SFT、领域 RL 和 MOPD 强化智能体编码能力,并通过模型合并整合不同专家与检查点。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。