Gateway API 文档

目前还不支持的特性包括：

  1. 各个厂商的显式缓存调用
  2. 各个厂商的 batch api

接入指南

Base URL

https://llmapi.memene.cn

所有 API 请求均以此地址为前缀。

认证方式

在请求头中添加 Authorization 字段， 使用 Bearer Token 格式。AI 网关 API Key 的格式为 gw_memene_<keyId>_<secret>。

Authorization: Bearer gw_memene_<keyId>_<secret>

Anthropic 端点同时接受 x-api-key 请求头（即用 Anthropic 官方 SDK 时把 API Key 直接传入 apiKey 字段即可，无需额外配置 authToken）。

API Key 通过 API Keys 管理页面 创建和管理。系统端点（健康检查、模型列表）无需认证。

⚠️ 注意：AI 网关 API Key（gw_memene_*） 与 Memene 平台业务 API Key（sk_memene_*）互不通用， 请按调用场景选择对应的 Key。

调用协议（三选一）

Gateway 同时暴露 OpenAI、Gemini、Anthropic 三种原生协议端点， 客户端按自己熟悉的 SDK 选一个即可：

/openai/v1/chat/completionsOpenAI Chat（流式 + 非流式）
/gemini/v1beta/models/{model}:generateContentGoogle Gemini（同名 :streamGenerateContent 流式）
/anthropic/v1/messagesAnthropic Messages（流式 + 非流式）
协议兼容：客户端继续使用现有 Gateway 路径和 SDK。Gateway 完成客户鉴权与计费后， 把请求交给 LiteLLM；Provider 选择与协议兼容由 LiteLLM 统一处理。

限流策略

全局 QPS 上限：默认 5000 请求/秒，所有用户共享。

每用户 QPS 上限：默认 100 请求/秒，基于 API Key 识别。

限流基于 Redis 滑动窗口实现。超限后返回 HTTP 429 状态码。