跳到正文

Hugging Face

Hugging Face 开源社区动态:热门模型与数据集、排行榜变化与开源生态的晴雨表。

最新精选

第 81–87 条 · 共 87 条
5月25日周二
  1. Hugging Face:Blog(RSS)62

    Gradio 2.0 发布:1 行代码为 Hugging Face 模型创建 GUI

    Gradio 2.0 发布,可用 1 行代码加载并使用 Hugging Face Model Hub 上超过 10,000 个模型并生成 GUI。默认走 Hugging Face 托管 Inference API(可自带 API key 或无 key 公共访问),也可 pip install transformers 在本地运行模型。

    推荐理由:原文给出用 1 行代码为 Hugging Face 模型搭 GUI 的方法,还支持多模型并行或串联组合,可直接上手复用。

4月16日周五
  1. Hugging Face:Blog(RSS)66

    Hugging Face 发布 Accelerate 库,让 PyTorch 训练脚本适配任意分布式设备

    Hugging Face 发布开源库 Accelerate,让 PyTorch 用户只需在训练脚本中添加约五行代码,即可在多 GPU(单机或多节点)、TPU 及混合精度等任意分布式设置下运行,同时保留对训练循环的完全控制。

    推荐理由:官方发布 Accelerate 库,用五行代码改造 PyTorch 训练脚本即可适配多 GPU、TPU 和混合精度,附代码示例和 CLI 启动器。

3月31日周三
  1. Hugging Face:Blog(RSS)63

    Hugging Face 解读 BigBird 的块稀疏注意力机制

    Hugging Face 发布长文解读 BigBird 的块稀疏注意力,说明其如何用全局、滑动和随机三种注意力近似 BERT 的全注意力,从而以更低计算成本处理最长 4096 的序列。

    推荐理由:原文用伪代码和图示拆解 BigBird 的全局、滑动、随机三种注意力,读者可以借此理解块稀疏注意力的实现细节。

2月9日周二
1月19日周二
3月1日周日
  1. Hugging Face:Blog(RSS)67

    Hugging Face 讲解 Transformers 中多种文本生成解码方法及用法

    Hugging Face 博客系统讲解自回归语言生成的主要解码策略,包括 Greedy search、Beam search、Sampling、Top-K 和 Top-p(nucleus)采样,并用 GPT-2 在 transformers 库中给出可直接运行的代码示例。

    推荐理由:原文用 GPT-2 实例逐一演示 greedy、beam、Top-K、Top-p 等解码策略的参数写法与效果差异,方法可直接迁移到自己的生成任务。

2月14日周五
  1. Hugging Face:Blog(RSS)64

    Hugging Face 教程:用 Transformers 和 Tokenizers 从零训练一个世界语语言模型 EsperBERTo

    Hugging Face 发布教程,演示用 transformers 和 tokenizers 从零训练 84M 参数的 RoBERTa 风格模型 EsperBERTo,并微调到世界语词性标注任务。

    推荐理由:Hugging Face 官方教程完整走通从语料、分词器到预训练和下游微调的全流程,步骤和代码可直接复用到其他低资源语言。