跳到正文
原文
OpenRouter Blog·· 14 天前AI 评分66

OpenRouter 上线 Batch API,批量请求推理半价

Batch API: half-price inference by bundling requests

AI 导读

OpenRouter 上线 Batch API,把请求打包提交可享受通常为原价 50% 甚至更低的每 token 价格,目前已支持 70 多个模型。官方称两周 beta 期内完成的 230k+ 批次中,完成时间中位数为 7 分钟,90% 在一小时内返回。

来源:OpenRouter Blog · openrouter.ai