跳到正文

#教程/实践

今日 0 条
9月30日周三
  1. Baseten Base Labs:模型研究55

    Baseten 介绍 Google 300M 参数嵌入模型 EmbeddingGemma 及其调用示例

    EmbeddingGemma 是 Google 基于 Gemma3 架构的 3 亿参数文本嵌入模型,在 MTEB 基准上为不到 5 亿参数的嵌入模型中质量最高,支持 100 多种语言、输入最长 2k token。页面给出使用 baseten_performance_client 的完整代码示例,包括各任务的 prompt 前缀和通过 PerformanceClient 调用生成嵌入的方法。

9月29日周二
9月26日周六
  1. ClaudeDevs65

    Claude Devs 分析了 Opus 5.5 相比 Opus 5 的价格变化:输入和输出 token 便宜 20%,cache reads 便宜 60%。文章测算了 Claude Code 中一个任务的实际成本,并上线了一个计算器,用户可通过 /usage 自行运行,地址为 https://claude.dev/blog/what-a-task-costs-on-opus-5-5/。

    推荐理由:作者给出 Opus 5.5 相对 Opus 5 的价格降幅,并提供成本计算器,读者可自行估算 Claude Code 任务成本变化。

9月4日周五
  1. Unsloth AI71

    Unsloth 发布 GLM-5.3-Flash 的本地 GGUF 优化方案,通过更快解码和 MTP 支持使本地推理提速 1.6 至 3.4 倍,长上下文下最高达 3.3 倍。3-bit 量化可在 128GB 内存设备上通过 Unsloth Desktop 或 llama.cpp 运行,GGUF 权重和指南已发布,开箱即用且无需额外模块或 MTP 文件。

    引用Z.ai@Zai_org

    Introducing GLM-5.3-Flash - Leading capabilities at a highly competitive price - Natively multimodal with a 1M-token context window - A 320B-A18B model released under the MIT License - Previously previewed as Ox Alpha, running entirely on Chinese AI chips Blog: http://z.ai/blog/glm-5.3-flash Available now across all official platforms: Weights: http://huggingface.co/zai-org/GLM-5.3-Flash API: http://docs.z.ai/guides/llm/glm-5.3-flash Coding Plan: http://z.ai/subscribe ZCode: http://zcode.z.ai/en Chat: http://chat.z.ai AutoClaw: http://autoclaw.z.ai

    推荐理由:原文给出本地推理提速的具体配置和硬件门槛,读者可以直接复用到自己的 GLM-5.3-Flash 部署中。

12月3日周三