模型发布3 分钟读完TechCrunch AI

OpenAI 正式开放 Decisions API,叫板 TypeSafe 的 Jev 决策模型

速览

OpenAI 宣布其 Decisions API 全面上线,正式进入由 TypeSafe 的 Jev 模型开创的决策模型市场。该 API 基于 ChatGPT Luna 重构,将推理速度从数秒压缩至 100-180 毫秒,成本大幅降低。对开发者而言,这意味着又多了一个快速、低价、可替代 LLM 做超分类任务的选择。

Decisions API 的竞争赛道由 TypeSafe 的 Jev 模型开辟,这家由前沿实验室前研究员创立的创业公司,凭借超分类器思路迅速成长为估值 76 亿美元的企业。Jev 这类决策模型能在一组选项中快速给出判断和置信度,在众多工作流中比 LLM 更快、更便宜。

OpenAI 的应对方案并非从头训练专用模型,而是将现有 ChatGPT Luna 重新配置,加速推理并降低成本。API 产品负责人 Nikunj Handa 表示,速度是核心解锁点,延迟从 1-3 秒降到 100-180 毫秒。未来不排除专门训练针对性模型,但当前 Luna 已能胜任。

该 API 在 9 月 29 日开发者日公布,本周四向所有客户开放,新增语音和视觉模态,并通过地理定位推理资源降低全球延迟。早期客户包括 Box、Datadog、Ramp 和 Speak。Speak 的 CTO 称,API 将动作间隔从 1.4 秒缩至 0.13 秒,OpenAI 也用其改进了自家 Dots 语音助手的响应速度。

市场格局尚不明朗。公开基准如 AIM System One Index 和 Artificial Analysis Decision Index 上,Liquid 的 D1 Ultra 和 Base Lab 的 Elephant-1 领先,OpenAI 的模型分别排第八和第十四。TypeSafe 最新 Jev 模型排第七和第三,且是 OpenRouter 上查询量最高的。最有趣的基准是 JevMan,让模型玩吃豆人,最新 Jev 模型居首。OpenAI 的潜在优势在多模态,Handa 称 Luna 在图像分类上表现更佳,校准度更好。他设想若延迟降到 60 毫秒,可实现视频逐帧调用。

随着这类模型更快更便宜,它们会像经济学家 Jevons 所言,因效率提升而更普及,并催生大量此前隐藏的用例。

原文OpenAI makes its Jev competitor widely available as decision model competition heats uptechcrunch.com

#OpenAI#决策模型#竞争

本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。