跳到正文
Hugging Face:Blog·· 2 小时前精选AI 评分61

AllenAI 发布卫星嵌入模型 OlmoEarth v1.3 并开放全球预计算嵌入

OlmoEarth v1.3: State-of-the-art embeddings for the whole planet

AI 导读

AllenAI 发布卫星嵌入模型 OlmoEarth v1.3,读取 Sentinel-1、Sentinel-2 和 Landsat 时间序列,为地球每个 10 米像素生成 128 维向量,并在 Source Cooperative 开放全球预计算嵌入。

推荐理由

原文给出 27 项评测对比、训练成本数据和免登录的全球嵌入浏览器,读者可以据此评估卫星嵌入模型的实际可用性。

正文 · AI 翻译

🤗 模型 | 📄 技术报告 | 📊 数据 | 💻 代码 | 🌎 嵌入浏览器 | 🗺️ 互动故事

Pixelated globe in teal and magenta above the OlmoEarth 1.3 wordmark on a dark green background.

今天,我们发布 OlmoEarth v1.3,这是一个最先进的卫星嵌入模型。与 OlmoEarth v1.3 一同发布的,还有覆盖全球的预计算年度嵌入(10m,64 维和 128 维),以及一个全新的基于浏览器的工具,用于基于这些嵌入探索和自定义地图——OlmoEarth Embeddings Explorer。这意味着任何人都可以立即使用 OlmoEarth v1.3,从追踪随时间的变化到寻找相似地点——无需登录,也无需高级技术知识。

到目前为止,使用 OlmoEarth 的主要方式是在 OlmoEarth Studio 中进行微调:为每个任务训练一个模型,并在卫星影像上运行以生成地图。这需要 GPU 访问权限,以及下载和存储影像的能力。嵌入模型将卫星数据压缩为即用型特征,可以低成本地复用于许多任务。

借助 OlmoEarth v1.3,我们很高兴为用户提供更多方式,以最适合他们的方式探索和接触行星级产物。

一次计算,处处复用

嵌入表示模型从数百万张图像中学到的东西。OlmoEarth v1.3 读取一年的雷达(Sentinel-1)和多光谱(Sentinel-2 和 Landsat)卫星时间序列,并为地球上每个 10 米像素生成一个 128 维向量;前 64 维也可以单独作为更小的嵌入使用。

基础模型和全球嵌入的生产成本很高,为了确保每个人都能获取其益处,我们为整个地球计算了这些嵌入,并在 Source Cooperative 上与社区分享。由此,作物地图、土地覆盖地图或变化分析就变成了轻量级建模问题:在上面训练一个小型分类器并在本地运行即可。

Diagram showing satellite time series passing through a vision transformer, attention pooler, and linear projection to produce 128-dimensional embeddings.

OlmoEarth v1.3 如何生成嵌入:视觉 transformer 读取卫星数据,Attention Pooler 将其池化为每块土地一个向量,然后通过一个线性层将其缩减为 128 个数字。

最先进的嵌入

我们在 27 项评估中,将 OlmoEarth v1.3 的嵌入与 AlphaEarth Foundations(AEF)和 Tessera v2 进行了对比,覆盖六大洲和许多不同任务。OlmoEarth 的 128 维嵌入在 27 项评估中有 20 项得分最高,并且总体排名最高。64 维版本只有一半大小,仍在 27 项评估中的 18 项领先。作为这次评估的一部分,我们推出了 PLANTEUR,一个针对热带农业的新作物类型基准,这些嵌入对分类器从未见过的地方泛化最好(PLANTEUR 技术报告见此处)。它们背后的一切都是完全开放的:模型权重、预训练数据和预训练代码。

在实践中,这意味着用 OlmoEarth 嵌入训练一个小型分类器就足以绘制地面上的东西:比如分类肯尼亚的小农作物、检测达卡西部的砖窑、评估印度尼西亚的火灾损失,以及追踪秘鲁亚马逊地区的金矿开采。

与之前的几代 OlmoEarth 模型相比,OlmoEarth v1.3 也是我们训练成本最低的模型。它的计算时间是上一版本(v1.2)的 53%,是我们第一个版本(v1)的 18%,碳排放量分别为 50% 和 22%。它同时仍然是一个强大的微调模型,在研究和合作伙伴标签上与 v1.2 的表现相当。我们的最新模型建立在与早期 OlmoEarth 版本相同的基础之上,经过调优使嵌入保持轻量,同时不牺牲各项任务的准确性,而这种效率优化也将延续到未来的版本中。

完整结果和方法论见我们的技术报告。

Bar chart comparing rented H100 pretraining costs: $15,060 for OlmoEarth v1 Base, $5,100 for v1.2 Base, and $2,720 for v1.3 Base.

如果你想复现它,预训练 OlmoEarth v1.3 Base 的最终运行大约需要花费 2,720 美元的租用 H100 时间。权重、数据和代码全部开源。

一个地方,九年

Maps of embedding change in La Pampa, Peru, comparing 2017–2020 and 2020–2025, with magenta indicating the largest changes.

2017 年至 2020 年(左)以及 2020 年至 2025 年(右)每个像素嵌入的变化程度。品红色代表最大变化。左图:采矿向东南扩展,即右下角的大片区域。右图:那个角落已经安静下来;变化现在出现在西侧的老矿区,部分是植被恢复,部分是重新开挖。你可以在OlmoEarth Embeddings Explorer中自行探索。

在秘鲁的马德雷德迪奥斯地区,拉潘帕附近的非法金矿开采在 2017 年和 2018 年达到顶峰,在坦博帕塔国家保护区缓冲区内清除了超过 1,200 公顷的森林,据 Amazon Conservation 的 MAAP 监测项目称。2019 年 2 月,秘鲁的“水星行动”关闭了其中大部分矿区。此后的问题一直是:它是否一直处于关闭状态?

嵌入有助于回答这个问题。比较每个像素向量在不同年份的变化,无需任何模型训练,2017 年至 2020 年的对比对在采矿向东南扩展的地方亮起。从 2020 年到 2025 年进行同样的比较,信号发生了转移。执法行动在嵌入中清晰可见。

更有意思的是第二张图仍然显示的内容。它并不暗。根据MAAP,西北部的零星矿点仍在运营,而随着土地恢复,老矿区也在不断变化。嵌入也记录了这一点。喘息是短暂的,压力正在再次积聚。2026 年 8 月,美联社报道称,在检察官发现采矿已越界进入坦博帕塔本身之后,秘鲁重新派遣海军巡逻队进入保护区。

我们的互动故事从马德雷德迪奥斯的这一段展开,并介绍了那里的其他几个例子。

Another way to view our planet. Explore the OlmoEarth interactive story.

OlmoEarth Embeddings Explorer

OlmoEarth Embeddings Explorer 是一个基于嵌入本身构建的交互式分析工具,以地球的假彩色地图形式呈现。你可以任意平移,在不同年份之间切换以查看景观如何变化,并调出底层的 Sentinel-2 影像来将地图与真实情况对照。然后开始提问:点击一个地方以找到其他相似的地方,或标记几个带标签的点并在现场训练一个小型分类器,然后将结果导出为 GeoTIFF。无需账户,无需设置。

对于许多团队来说,用 OlmoEarth 验证一个想法意味着一次耗时数小时的微调运行。而在 Explorer 中,第一轮分析只需几秒。你可以仅凭少量标签分析整个区域,无需 GPU。当任务需要微调时,嵌入向量可以帮助你判断它是否值得消耗算力,以及模型在哪些方面存在不足。

Explorer 背后的档案库以 10 米分辨率保存嵌入向量,每年约 150 TB,覆盖陆地和邻近沿海水域。在发布时,2025 年、2024 年和 2023 年为全球覆盖,2017 至 2022 年覆盖部分国家,更多覆盖范围即将推出。你可以获取完整的 128 维版本或更轻量的 64 维版本嵌入向量。每个嵌入向量还附带其来源记录。对于每个 20 公里瓦片和年份,开放的溯源表列出了模型读取的 Sentinel-1、Sentinel-2 和 Landsat 影像场景,并附有托管这些影像的公共目录链接,因此你可以将任何像素追溯到其背后的影像。

开始使用

本次发布包括 OlmoEarth v1.3 Base 模型、预计算的全球嵌入向量、OlmoEarth Embeddings Explorer 以及技术报告。如果你的工作需要特定的时间窗口,OlmoEarth Studio 可以按你选择的日期、模态和分辨率运行同一模型,并且有一个教程展示如何在你自己的算力上生成嵌入向量。这些工具协同工作:在 Embeddings Explorer 中探索,当任务需要时在 Studio 中微调,然后从那里继续完善你的地图。所有内容均在 OlmoEarth Artifact License 下发布,与 v1 和 v1.2 采用相同的开放许可证。

为你关心的地点提取嵌入向量,向它们提出你的问题,并向我们展示你的发现。

来源:Hugging Face:Blog · huggingface.co