Answer.AI 与 LightOn 发布 ModernBERT 编码器模型家族
Answer.AI 与 LightOn 发布 ModernBERT,一个替换 BERT 的 encoder-only 模型家族,含 base(149M 参数)和 large(395M 参数)两个尺寸,上下文长度达 8192 tokens。
推荐理由:发布方给出了速度、上下文长度和训练数据的具体改进点,读者可以据此评估它能否替换现有 BERT 类工作流。
开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。
Answer.AI 与 LightOn 发布 ModernBERT,一个替换 BERT 的 encoder-only 模型家族,含 base(149M 参数)和 large(395M 参数)两个尺寸,上下文长度达 8192 tokens。
推荐理由:发布方给出了速度、上下文长度和训练数据的具体改进点,读者可以据此评估它能否替换现有 BERT 类工作流。
fastai 团队发布免费服务 nbsanity,将 GitHub 仓库或 Gist 中的公开 Jupyter Notebook 渲染为精美网页,只需把 URL 中的 github.com 替换为 nbsanity.com,或使用提供的书签工具。
推荐理由:原文来自开发团队,说明工具的用法、基于 Quarto 的能力边界和限制,读者可据此判断是否适合分享自己的 notebook。