OpenAI全面开放决策API:基于GPT-6 Luna,响应速度提升10倍
10月23日,据报道,OpenAI宣布全面开放决策API。该API基于GPT-6 Luna构建,把Luna的模型智能聚焦于具有限定答案的问题,协助应用程序与智能体基于文本、图像及结构化输入做出准实时决策,其响应速度比通过Responses API调用GPT-6 Luna提升了高达10倍。
定价方面,决策API输入每百万token收费0.1美元,命中缓存的输入每百万token收费0.01美元。该API仅按输入token计费,输出token免费。在整个OpenAI内部,团队正在把决策API应用于产品和业务工作流。
OpenAI表示,自公测以来,该功能新增了原生的GPT-Live集成、针对复用上下文的Prompt缓存,以及在美国和欧盟的推理数据驻留支持。
此外,开发者现已支持传入原生JSON输入、在问题指令中包含图像,并在单次请求中最多提交400个问题,是此前上限的两倍。OpenAI称持续优化了延迟表现,包括在亚洲多个地区扩充了服务容量。