OpenRouter Blog·· 14 天前AI 评分66
OpenRouter 上线 Batch API,批量请求推理半价
Batch API: half-price inference by bundling requests
AI 导读
OpenRouter 上线 Batch API,把请求打包提交可享受通常为原价 50% 甚至更低的每 token 价格,目前已支持 70 多个模型。官方称两周 beta 期内完成的 230k+ 批次中,完成时间中位数为 7 分钟,90% 在一小时内返回。
来源:OpenRouter Blog · openrouter.ai