曦望王湛:All-in推理,Token成本降九成
热点事件持续更新
曦望王湛:All-in推理,Token成本降九成
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
曦望Sunrise联席CEO王湛在央视《对话》节目中称,公司要做AI产业的“损益优化师”,专注推理算力、降低单位Token成本。 王湛称,今年1月推出的启望S3只做推理,采用LPDDR6内存与原生FP4,相比S2推理性能提升约5倍、单位Token推理成本下降约90%;其256卡超节点实现一级互联,面向万亿参数模型的推理需求。 王湛在节目中还表示,当下客户最关心AI业务能否用得起、用得稳、跑得快。
AI 根据报道生成 · 1 小时前更新
最新进展10月19日 20:01
央视《对话》走进曦望Sunrise:联席CEO王湛谈All-in推理与AI产业“损益优化师”报道时间线
沿着报道,了解事件的不同侧面。
10月19日
- elsewhere:文章央视《对话》走进曦望Sunrise:联席CEO王湛谈All-in推理与AI产业“损益优化师”
曦望Sunrise联席CEO王湛在央视《对话》中称公司要做AI产业的“损益优化师”,专注推理算力、降低单位Token成本。今年1月推出的启望S3只做推理,采用LPDDR6内存与原生FP4,相比S2推理性能提升约5倍、单位Token推理成本下降约90%。其256卡超节点实现一级互联,面向万亿参数模型的推理需求。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。