跳到正文
热点事件持续更新

作者以 Qwen3-0.6B 拆解 token 生成全过程

2 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

X 用户马东锡 NLP(@dongxi_nlp)以 Qwen3-0.6B 为例,拆解聊天模型从输入到输出一颗 token 的完整生成循环,分为 chat template、tokenize、prefill、挑选、decode、detokenize 六步。 同一作者称,该文同时梳理 LLM 的基本概念,包括 chat template、tokenize、logits、detokenize、KV cache、prefill 和 decode。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. 马东锡 NLP
    一颗 token 的诞生:LLM 基础概念梳理

    一颗 token 的诞生。 在这篇里,会把 LLM 的基本概念过一遍,包括: chat, template logits, detokenize tokenize KV, cache prefill, decode

  2. 马东锡 NLP
    以 Qwen3-0.6B 为例拆解一颗 token 的诞生全过程

    作者以 Qwen3-0.6B 为例,完整拆解聊天模型从输入到输出的六步生成循环:chat template、tokenize、prefill、挑选、decode、detokenize。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。