如何用 Inference Endpoints 部署 MusicGen 音乐生成模型
Hugging Face 发布教程，讲解如何通过 Inference Endpoints 和自定义 handler 部署 facebook/musicgen-large 音乐生成模型。
推荐理由：教程给出从复制仓库到编写 handler.py 再创建 Inference Endpoints 的完整步骤，方法可迁移到 Hub 上没有 pipeline 的其他模型。
Meta / Llama
全部主题Meta 的 AI 动态：Llama 开源模型系列、超级智能实验室与元宇宙之外的 AI 豪赌。
25条精选相关主题xAI / Grok开源生态行业动态
最新精选
第 21–25 条 · 共 25 条Hugging Face：Blog（RSS）精选AI 评分6060
Hugging Face：Blog（RSS）精选AI 评分9090 Meta 发布 Llama 2，Hugging Face 上线 12 个模型并提供完整生态支持
Meta 发布 Llama 2 系列开放访问大语言模型，含 7B、13B、70B 预训练和经 RLHF 微调的 Llama 2-Chat 模型，采用允许商用的 Llama 2 许可证，Hugging Face 已在 Hub 上线 12 个模型。
推荐理由：原文给出 Llama 2 的模型规模、许可证、与 Llama 1 的训练差异，并附推理、微调和提示词模板等可直接复用的方法。
Hugging Face：Blog（RSS）精选AI 评分6464 StackLLaMA：用 RLHF 训练 LLaMA 的实战指南
Hugging Face 发布 StackLLaMA 教程，讲解如何用 RLHF 方法训练 LLaMA 模型。原文链接：https://huggingface.co/blog/stackllama，正文抓取失败，仅标题可用。
推荐理由：原文是一篇用 RLHF 训练 LLaMA 的实战指南，读者可以按步骤复现从预训练模型到对齐的完整流程。
Hugging Face：Blog（RSS）精选AI 评分6060 Hugging Face Transformers 如何用 PyTorch / XLA 在 Cloud TPU 上训练
Hugging Face 与 PyTorch / XLA 集成，让用户在 Cloud TPU 上训练 Transformers 时保持原有 Trainer 接口不变。
推荐理由：原文解释了 PyTorch / XLA 的惰性执行与编译缓存机制，并给出在 Cloud TPU 上训练 Transformers 的完整示例和基准数据。
Hugging Face：Blog（RSS）精选AI 评分7474 Hugging Face Trainer 实测 DeepSpeed 与 FairScale 的 ZeRO 加速与显存优化
Hugging Face fellow Stas Bekman 介绍 transformers v4.2.0 起通过 --deepspeed 和 --sharded_ddp 参数实验性支持 DeepSpeed 与 FairScale 的 ZeRO 特性。
推荐理由：作者用同一套 t5 基准实测六种配置，读者可以直接对照表格选择适合自己 GPU 数量的 ZeRO 方案。