OpenAI 的 Decisions API 全面开放，决策模型竞争升温
OpenAI makes its Jev competitor widely available as decision model competition heats up
OpenAI 宣布 Decisions API 正式向所有客户开放，该产品在 9 月 29 日开发者日上首次公布，基于 ChatGPT Luna 重新配置而成，将响应时间从 1-3 秒压缩到 100-180 毫秒。
同一件事，精选收录的是《OpenAI Decisions API 正式开放，提供近实时决策能力》
OpenAI 首次将其 Decisions API 模型广泛开放给用户，正式进军快速、廉价智能市场——这一市场最近让前沿实验室前研究员创立的初创公司 TypeSafe 成为一家估值 76 亿美元的公司。
TypeSafe 的 Jev 模型开创了一个品类，即充当超级分类器的深度学习模型：给定一组选项，它们能快速做出选择，并对自己的决定给出置信度评分。软件开发人员很快发现，这些决策模型或 System One 模型可以在多种工作流中取代 LLM，运行更快，成本也大幅降低。
OpenAI API 产品负责人 Nikunj Handa 告诉 TechCrunch，他的同事们看到 Jev 后说：“哇，我们大概有一百万个用例可以用上这个。”Handa 的团队迅速冲刺，推出了自己的版本：他们没有构建一个专门校准的决策模型，而是拿 ChatGPT Luna 进行重新配置，以加快推理速度并降低成本。
“Decisions API 最大的突破在于速度，把响应时间从一到三秒缩短到 100、120、180 毫秒，”Handa 说。“未来，我们可能会进行专门的训练，让我们的模型在这些方面表现得更好。但现在，完成任务的只是普普通通的老 Luna。”
Decisions API 于 9 月 29 日在公司开发者日上发布，并于周四向所有客户开放。OpenAI 为公开版本新增了语音和视觉模态，并通过在地理上分布推理资源，努力确保全球各地区的低延迟。
在与 Box、Datadog、Ramp 和 Speak 等客户的初步试用中，工程师们使用该 API 替换 OpenAI 的 LLM，获得了更高的吞吐量。构建 AI 语言辅导工具的 Speak 公司 CTO Andrew Hsu 表示，Decisions API 使公司将操作之间的时间从 1.4 秒缩短到 0.13 秒。OpenAI 还用该产品提升了其 Dots 语音助手的响应速度。
不过，除了“它对你管用”之外，究竟什么才算是好的决策模型，目前仍不明确——在智能、成本、校准和速度之间的优化似乎因工作负载而异。TypeSafe CEO Diogo Almeida 不信任基准测试，并敦促人们在自己的工作中试用这些模型，但就连 TypeSafe 也在上周发布最新 Jev 模型的同时公布了自己的排名，新模型包含了支持图像和智能 if 语句等新功能。
像 AIM System One Index 和 Artificial Analysis Decision Index 这样的公开基准，往往更青睐 Liquid 上周发布的新决策模型 D1 Ultra，以及 Base Lab 的 Elephant-1。最新的 Jev 模型在这两个指数上仍具竞争力，分别位列第七和第三，而 OpenAI 的 Decision Model 分别位列第八和第十四。不过，就目前而言，TypeSafe 的产品是 OpenRouter 上被查询最多的。
然而，最有趣的 Jev 基准测试是 JevMan，在这个基准中，决策模型玩吃豆人；最新的 Jev 模型在该排名中位居榜首。构建该基准的 Opper AI 首席增长官 Felix Wunderlich 表示，这款经典游戏“是一个有趣的测试，因为它会源源不断地产生快速、高风险的决策。在每个路口，模型都必须在几百毫秒内决定往哪里走。”
OpenAI 那个可以说能力更强的模型可能拥有的优势在于多模态——对于图像分类，“Luna 极其强大，并且展现出了更好的校准表现，”Handa 对 TechCrunch 说道，并补充称 OpenAI 的客户希望 Decisions API 在将图像用作输出方面也能更加灵活。
Handa 还看到了速度的进一步提升所带来的新用例：“我们能把它做到你知道的像 60 毫秒这样吗，然后你就能想象像视频里每一帧都调用一次 API 那样？”
随着这些产品变得更快、更便宜，我们可以期待它们名副其实地体现 Jev 这个名字——这位经济学家解释了更高效地使用一种资源如何使其更加无处不在。或者，正如 Handa 所看到的，将会出现一组不断扩大的“疯狂用例”，它们一直藏在众目睽睽之下，直到决策模型将它们揭示出来。
当您通过我们文章中的链接进行购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。
Tim Fernholz 是一位撰写科技、金融和公共政策相关文章的记者。他密切关注私营航天产业的崛起，并著有《火箭亿万富翁：埃隆·马斯克、杰夫·贝索斯与新太空竞赛》一书。此前，他曾在全球商业新闻网站 Quartz 担任高级记者十余年，职业生涯始于华盛顿特区的政治记者。 您可以通过发送电子邮件至 [email protected] 联系 Tim，或通过 Signal 向 tim_fernholz.21 发送加密信息来联系或核实来自 Tim 的外联。
来源：TechCrunch：AI · techcrunch.com