微软季度处理 100 万亿 token,VC 测算 AI 占 Azure 收入约 2% 至 22%
100 Trillion Tokens
微软财报披露本季度处理超 100 万亿 token,同比增长 5 倍,单月峰值 50 万亿。作者 Tomer Tunguz 按 20:1 输入输出比、60-70% OpenAI 模型占比和 20% 折扣假设测算,AI 推理约占 Azure 收入的 1.56% 至 21.88%。
作者基于微软财报的 token 数据做了三种情景下的 AI 收入占比测算,并给出假设条件,读者可据此理解测算的弹性范围。
简而言之: 微软的 AI token 使用量飙升至 100 万亿,表明企业 AI 和 Azure 收入具有巨大的增长潜力。
“本季度我们处理了超过 100 万亿 token,同比增长 5 倍,其中仅上个月就创纪录地处理了 50 万亿 token。”
如果市场对 AI 的无限需求还存有任何疑虑,微软昨天季度财报中的这一声明将其彻底打消。
这对年化运行率意味着什么?使用一些基本假设1,可以推断出:
| 情景 | 模型组合(占总 token 百分比) | 20% 折扣后的月运行率 | 年运行率 | 占 Azure 收入百分比(假设年收入 210 亿美元) |
|---|---|---|---|---|
| 高 | OpenAI 70% • Claude 20% • 其他 10% | 382.9 | 4,594.8 | 21.88% |
| 中 | OpenAI 65% • Claude 20% • 其他 15% | 110.5 | 1,326.0 | 6.31% |
| 低 | OpenAI 60% • Claude 20% • 其他 20% | 27.3 | 327.6 | 1.56% |
因此,AI 大约占 Azure 收入的 2% 到 22%。不过,这里的误差范围相当大。
推动这一需求增长的一个主要因素是性能,尤其是推理模型。
结合推理成本的大幅下降,尤其是像微软昨天发布的 Phi-4 模型这样开源且小巧的小型模型。AI 推理的利润率应该会继续飙升。
“……我们的每 token 成本已经下降了一半以上。”
“你可以在我们的供应链中看到这一点,我们将新 GPU 的到货交付周期在整个混合机群中缩短了近 20%,同时将 AI 性能在同等功耗下提升了近 30%……”
杰文斯悖论全面显现。
“本季度 Azure 真正的超预期表现来自我们的非 AI 业务。”
这令人意外,但这很可能是相邻系统面临额外需求的结果。AI 并非存在于真空中。它需要数据库、存储、编排和可观测性才能成功。
“PostgreSQL 的使用量连续第三个季度加速……Cosmos DB 的收入增长本季度也再次加速……”
分析师电话会议中稍后的一段引述强化了这一点,即数据库系统 Cosmos(类似 MongoDB 的文档数据存储)和 PostGres,两者都是事务性数据库。
100 万亿 token,同比增长 4 倍。明年,我们能否看到千万亿?
1 输入与输出 token 比例为 20:1;模型使用组合为 60-70% OpenAI、20% Anthropic、其余为其他模型;以及相对公开价格 20% 的折扣。参见此处的工作
获取下一期内容到你的收件箱
1 分钟阅读,将技术数据转化为战略优势。
超过 15 万名创始人和运营者阅读。
Theory Ventures 普通合伙人。前 Google 产品经理。分享关于 AI、web3 和风险投资的数据驱动洞察。
来源:Tomer Tunguz 博客(VC 分析) · tomtunguz.com