从 GPT-2 到 gpt-oss：拆解 OpenAI 开放权重模型的架构演进

Sebastian Raschka 基于官方代码和技术报告分析 OpenAI 时隔 GPT-2 后发布的开放权重模型 gpt-oss-120b 和 gpt-oss-20b 的架构变化，包括 RoPE、SwiGLU、MoE、GQA、128 token 滑动窗口注意力、RMSNorm、注意力偏置和 sinks，以及让模型适配单张 GPU 的 MXFP4 量化。