最新精选
第 101–120 条 · 共 122 条- Hugging Face:Blog(RSS)精选AI 评分6363
Hugging Face 发布嵌入向量入门教程,演示如何用 Inference API 和 sentence-transformers/all-MiniLM-L6-v2 模型将 13 条 Medicare FAQ 嵌入为 384 维向量,再通过 util.semantic_search 用余弦相似度找出与用户查询最相似的 5 条 FAQ。
推荐理由:教程用开源工具完整走通嵌入生成、托管和语义搜索流程,读者可以照着复现一个 FAQ 检索引擎。
- Hugging Face:Blog(RSS)精选AI 评分7272
Hugging Face 发布教程,基于 Ho et al. 2020 的 DDPM 论文和 Phil Wang 的实现,用 PyTorch 逐步实现扩散模型。
推荐理由:文章把 DDPM 论文拆成 PyTorch 逐步实现,覆盖数学推导、U-Net 结构和训练采样全流程,适合想动手理解扩散模型的读者。
- Hugging Face:Blog(RSS)精选AI 评分6767
Hugging Face 在 Hub 上线 Pull Requests 和 Discussions 功能,所有模型、数据集和 Spaces 仓库的 Community 标签页均可使用,任何社区成员都能发起和参与讨论及 PR。PR 不使用 fork 和分支,而是直接在源仓库上存储名为 refs 的自定义分支,并简化了 Issues 与 PR 的区分,面向 ML 仓库做了精简。
推荐理由:官方说明了 PR 与讨论功能的入口和底层 ref 机制,读者可以据此了解它与 GitHub 式 fork 流程的差异。
- Hugging Face:Blog(RSS)精选AI 评分7373
Hugging Face 发布 Gradio 3.0,对 Gradio 库进行彻底重构。自 2019 年首个版本以来已有超过 600,000 个机器学习演示用 Gradio 构建。
推荐理由:官方发布 Gradio 3.0,说明前端重构与 Blocks 低阶 API 的具体能力,读者可据此评估是否升级自己的演示应用。
- Hugging Face:Blog(RSS)精选AI 评分6060
Hugging Face 发布 Optimum 1.2,为 Optimum 增加推理支持,可通过 ORTModelForXxx 类配合 ONNX Runtime 使用 transformers pipelines。
推荐理由:官方教程给出从转换、优化到量化的完整流程和实测数据,延迟约减半而精度保留 99.61%,方法可直接迁移。
- Hugging Face:Blog(RSS)精选AI 评分6464
Hugging Face 宣布完成 1 亿美元 C 轮融资,由 Lux Capital 领投,Sequoia、Coatue 重要参投,现有投资者 Addition、a_capital、SV Angel、Betaworks、AIX Ventures 等继续支持。
推荐理由:官方公告给出融资规模、领投方和平台规模数据,可了解 Hugging Face 的开源路线与扩张节奏。
- Hugging Face:Blog(RSS)精选AI 评分6464
Hugging Face 在 Transformers 中推出约束束搜索功能,通过 model.generate() 的 force_words_ids 参数让用户强制生成结果包含指定词语或短语。
推荐理由:作者以翻译和 GPT-2 示例演示 force_words_ids 用法,并解释 banks 轮询机制如何在满足约束与生成通顺文本间取得平衡。
- Hugging Face:Blog(RSS)精选AI 评分6060
Hugging Face 博客讲解如何用 Amazon SageMaker 和 Hugging Face Inference Toolkit 部署 EleutherAI 的开源 6B 参数模型 GPT-J 6B。
推荐理由:作者实测给出 torch.save 加载法把 GPT-J 6B 加载时间从约 1 分 23 秒降到 7.7 秒,并附 SageMaker 部署步骤,方法可迁移。
- Hugging Face:Blog(RSS)精选AI 评分7676
Hugging Face 宣布收购机器学习初创公司 Gradio,Gradio 创始人撰文确认这一消息。Gradio 于 2019 年由斯坦福博士生团队创立,旨在让机器学习工程师更简单地构建和分享模型演示,逐步扩展到文本、语音和视频领域,迄今已基于 Gradio 构建超过 300,000 个演示。
推荐理由:收购方与被收购方创始人亲述交易,并交代 Gradio 的起源、定位与 30 万 demo 的社区规模。
- Hugging Face:Blog(RSS)精选AI 评分7070
Hugging Face 发布教程,讲解如何从零训练用于 Python 代码补全的 GPT-2 模型 CodeParrot。
推荐理由:原文给出从数据清洗到训练的完整代码流程,读者可以照此复现一个代码生成模型。
- Hugging Face:Blog(RSS)精选AI 评分6969
Hugging Face 在社区周活动中用 7 台 TPU v3-8 和最多 10 亿句对训练了 20 个通用 Sentence Transformers 模型,包括 Mini-LM、RoBERTa、DistilBERT 和 MPNet,在多个通用句子相似度评测任务上达到 SOTA。
推荐理由:作者复盘了用 10 亿句对训练句子嵌入模型的对比学习方法和批次设计经验,方法可迁移到类似训练场景。
- Hugging Face:Blog(RSS)精选AI 评分6262
Hugging Face 发布教程,讲解如何用 Gradio 在 Spaces 上托管机器学习演示应用。
推荐理由:官方教程给出几行代码即可在 Spaces 上托管模型演示的具体做法,还展示了用 Gradio Series 串联多个模型的组合方式。
- Hugging Face:Blog(RSS)精选AI 评分6363
Hugging Face 发布开源库 Optimum,目标是让 Transformer 模型在特定硬件上高效训练和推理,并与硬件伙伴合作提供优化工具。首个合作案例是 Intel Neural Compressor,支持后训练量化、量化感知训练和动态量化,文中演示了如何用 Optimum 对 Intel Xeon CPU 上的模型做动态量化。
推荐理由:原文给出 Optimum 的定位、与 Intel Neural Compressor 的量化示例和后续硬件合作计划,读者可评估其对生产部署的用处。
- Hugging Face:Blog(RSS)精选AI 评分6262
Hugging Face 联合 Yandex Research 等机构介绍 DeDLOC 协同分布式训练方法,可自适应参与者的网络与硬件限制,并用 40 名志愿者通过互联网协同预训练了孟加拉语模型 sahajBERT。
推荐理由:原文给出 DeDLOC 协同训练方法与 sahajBERT 实测结果,读者可据此评估用志愿者算力预训练语言模型的可行性。
- Hugging Face:Blog(RSS)精选AI 评分7070
Hugging Face 宣布 Hub 集成 Sentence Transformers v2,Hub 上已有超过 90 个预训练模型、覆盖 100 多种语言。新增 feature-extraction 和句子相似度两个组件,并提供 Inference API 端点;用户可用 model.save_to_hub 一键分享模型,自动生成模型卡并按标签筛选发现模型。
推荐理由:官方介绍了 Sentence Transformers v2 与 Hub 的集成方式,读者可据此了解模型分享、演示组件和 API 的实际用法。
- Hugging Face:Blog(RSS)精选AI 评分6262
Gradio 2.0 发布,可用 1 行代码加载并使用 Hugging Face Model Hub 上超过 10,000 个模型并生成 GUI。默认走 Hugging Face 托管 Inference API(可自带 API key 或无 key 公共访问),也可 pip install transformers 在本地运行模型。
推荐理由:原文给出用 1 行代码为 Hugging Face 模型搭 GUI 的方法,还支持多模型并行或串联组合,可直接上手复用。
- Hugging Face:Blog(RSS)精选AI 评分6666
Hugging Face 发布开源库 Accelerate,让 PyTorch 用户只需在训练脚本中添加约五行代码,即可在多 GPU(单机或多节点)、TPU 及混合精度等任意分布式设置下运行,同时保留对训练循环的完全控制。
推荐理由:官方发布 Accelerate 库,用五行代码改造 PyTorch 训练脚本即可适配多 GPU、TPU 和混合精度,附代码示例和 CLI 启动器。
- Hugging Face:Blog(RSS)精选AI 评分6363
Hugging Face 发布长文解读 BigBird 的块稀疏注意力,说明其如何用全局、滑动和随机三种注意力近似 BERT 的全注意力,从而以更低计算成本处理最长 4096 的序列。
推荐理由:原文用伪代码和图示拆解 BigBird 的全局、滑动、随机三种注意力,读者可以借此理解块稀疏注意力的实现细节。
- Hugging Face:Blog(RSS)精选AI 评分6060
Hugging Face 与 PyTorch / XLA 集成,让用户在 Cloud TPU 上训练 Transformers 时保持原有 Trainer 接口不变。
推荐理由:原文解释了 PyTorch / XLA 的惰性执行与编译缓存机制,并给出在 Cloud TPU 上训练 Transformers 的完整示例和基准数据。
- Hugging Face:Blog(RSS)精选AI 评分7474
Hugging Face fellow Stas Bekman 介绍 transformers v4.2.0 起通过 --deepspeed 和 --sharded_ddp 参数实验性支持 DeepSpeed 与 FairScale 的 ZeRO 特性。
推荐理由:作者用同一套 t5 基准实测六种配置,读者可以直接对照表格选择适合自己 GPU 数量的 ZeRO 方案。