速率限制 — 配额说明与优化策略 | ClaudeYY Docs

来源: https://www.claudeyy.com/zh/docs/develop/guides/rate-limits
说明: ClaudeYY API 速率限制详解，默认 200 RPM、TPM 不限，含 Rate Limit Header 说明、指数退避重试策略和高并发优化最佳实践

速率限制

ClaudeYY 的速率限制保障平台稳定性。了解限制规则并优化调用策略。

默认限制

ClaudeYY 按量付费，所有用户共享统一的速率策略：

限制项	额度
RPM（请求/分钟）	200
TPM（Token/分钟）	不限

如需更高 RPM 配额，请联系 ClaudeYY 支持申请调整。

Rate Limit Header

每个 API 响应都包含速率限制信息：

Terminal

x-ratelimit-limit-requests: 200
x-ratelimit-remaining-requests: 195
x-ratelimit-reset-requests: 12s

Header	说明
`x-ratelimit-limit-requests`	RPM 限制值
`x-ratelimit-remaining-requests`	剩余请求次数
`x-ratelimit-reset-requests`	请求限制重置时间

429 错误处理

当触发限流时，API 返回 429 Too Many Requests：

Terminal

from openai import RateLimitError
import time
 
try:
    response = client.chat.completions.create(...)
except RateLimitError as e:
    retry_after = float(e.response.headers.get("retry-after", 1))
    print(f"触发限流，等待 {retry_after}s...")
    time.sleep(retry_after)

优化策略

1. 使用 Prompt Caching

对于重复的 system prompt，启用缓存可以减少 token 消耗：

Terminal

response = client.chat.completions.create(
    model="openai/gpt-4o",
    messages=[
        # 较长的 system prompt 会被自动缓存
        {"role": "system", "content": "你是一个专业的...（此处省略长文本）"},
        {"role": "user", "content": "用户问题"}
    ]
)

详见提示缓存。

2. 批量处理

将多个短请求合并为一个请求：

Terminal

# ❌ 不推荐：为每个问题发送独立请求
for question in questions:
    client.chat.completions.create(messages=[{"role": "user", "content": question}])
 
# ✅ 推荐：合并为一个请求
combined = "\n".join(f"{i+1}. {q}" for i, q in enumerate(questions))
client.chat.completions.create(
    messages=[{"role": "user", "content": f"请依次回答以下问题：\n{combined}"}]
)

3. 选择合适的模型

推荐模型请参考模型广场。

4. 控制 max_tokens

设置合理的 max_tokens 限制，避免不必要的 token 消耗：

Terminal

response = client.chat.completions.create(
    model="openai/gpt-4o",
    messages=[{"role": "user", "content": "一句话总结"}],
    max_tokens=100  # 限制输出长度
)

5. 使用模型回退

当主模型达到限制时，自动切换到备选模型：

Terminal

response = client.chat.completions.create(
    model="openai/gpt-4o",
    messages=[...],
    extra_body={
        "provider": {
            "fallback": ["anthropic/claude-sonnet-4.6", "google/gemini-3.1-flash-lite-preview"]
        }
    }
)

详见故障回退。