Claude推出消息批处理API
- 量子位
- 2024-10-11 15:51:43
Claude推出消息批处理API
Claude推出了可以批量处理消息的API——Message Batches API！
这是一种异步处理大量查询的经济且高效的方法。
你一次最多可以批量提交10,000个查询。每个批次都会在24小时内得到处理，并且成本比标准API调用低 50%，不同模型的具体收费政策请查看图2。
Batches API现已推出公开测试版，支持Anthropic API上的Claude 3.5 Sonnet、Claude 3 Opus和Claude 3 Haiku。在Amazon Bedrock中使用Claude的客户可以使用批量推理。Google Cloud 的 Vertex AI 对 Claude批处理的支持即将推出。
官方介绍：
网页链接
Claude推出了可以批量处理消息的API——Message Batches API！
这是一种异步处理大量查询的经济且高效的方法。
你一次最多可以批量提交10,000个查询。每个批次都会在24小时内得到处理，并且成本比标准API调用低 50%，不同模型的具体收费政策请查看图2。
Batches API现已推出公开测试版，支持Anthropic API上的Claude 3.5 Sonnet、Claude 3 Opus和Claude 3 Haiku。在Amazon Bedrock中使用Claude的客户可以使用批量推理。Google Cloud 的 Vertex AI 对 Claude批处理的支持即将推出。
官方介绍：
网页链接
