跳到正文
原文
Andrej Karpathy:Blog(网页)·· 15 小时前精选AI 评分80

Karpathy 发布 microgpt:200 行纯 Python 实现完整 GPT 训练与推理

microgpt

AI 导读

Andrej Karpathy 发布艺术项目 microgpt,一个 200 行、零依赖的纯 Python 单文件,包含数据集、tokenizer、autograd 引擎、GPT-2 风格架构、Adam 优化器和训练与推理循环。

推荐理由

Karpathy 用 200 行无依赖纯 Python 完整实现 GPT 训练与推理,并逐段讲解,是理解大语言模型算法本质的入门材料。

来源:Andrej Karpathy:Blog(网页) · karpathy.github.io