2026-09-24
8923
OpenRouter新上线的Batch API专为那些无需即时反馈的任务而设。诸如数据清洗、离线评估或者历史对话的标签处理,这类工作通常量大且时间性不强,却容易耗费巨额资金。Batch API的引入旨在解决这一问题。它允许用户以半价的价格批量处理请求,并承诺在24小时内返回全部结果。
批量接口通过集中处理大量请求,降低了对实时推理的算力需求,从而减少了每个token的成本。这对于请求量大的团队而言,意味着重要的费用结构调整。
在交付时间上,Batch API承诺在24小时内完成结果返回,这为用户明确区分了两种请求通道:对于需要立即反馈的交互任务,依旧使用实时接口;而对于能够等待处理的任务,则可转向批量通道,从而享受大幅度的成本节约。 龙8头号玩家国际
这一更新特别适合那些将模型调用视为核心业务的团队,针对高请求量且对延迟不敏感的任务,使用Batch API将带来更为实惠的选择。OpenRouter的公告已发布,开发者可以轻松接入这一新功能,尝试在控制推理成本的同时进行非紧急任务的批量处理。