AItokenbps
● 服务运行中

一个接口,稳定连接多个 AI。

使用 OpenAI Chat Completions 兼容格式接入 Claude、Gemini、Grok、DeepSeek 等模型。网关负责节点选择、失败重试、Fallback、流式透传与用量统计。

接口地址

GEThttps://api.tokenbps.com/v1/models
POSThttps://api.tokenbps.com/v1/chat/completions

备用 API 域名:https://api.plzrm.com(DNS 与证书生效后提供相同接口)。

身份认证

在商户后台创建 API Key,并通过 Bearer Header 传入:

Authorization: Bearer <YOUR_API_KEY>

不要在前端代码、公开仓库或日志中暴露完整 Key。

协议范围

当前公网协议为 OpenAI Chat Completions。Claude 与 Gemini 模型同样使用此格式,只需替换 model。

暂不开放原生 Anthropic /v1/messages 与 Gemini generateContent 路径,原生 SDK 不能直接切换 base URL 使用。

能力矩阵

能力请求方式说明
模型列表GET /v1/models支持;返回当前可用主节点模型
非流式会话"stream": false支持 JSON 返回
流式会话"stream": true支持 SSE,并请求最终 usage 数据块
思考等级reasoning_effort原样透传;当前 grok-4.6 已实测 low、medium、high,其他模型以上游能力为准
关闭思考"reasoning_effort":"none"只作为关闭请求透传,不能保证;当前 grok-4.6 会拒绝 none
Prompt Cacheprompt_cache_key / cache_control原样透传;上游返回 cached_tokens 时记录真实缓存用量
网关响应缓存—未启用;不会缓存或复用完整 AI 回答

查询模型

curl https://api.tokenbps.com/v1/models \
  -H "Authorization: Bearer <YOUR_API_KEY>"

响应为 OpenAI 兼容列表:{"object":"list","data":[{"id":"...","object":"model",...}]}

流式会话示例

curl -N https://api.tokenbps.com/v1/chat/completions \
  -H "Authorization: Bearer <YOUR_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "<AVAILABLE_MODEL_ID>",
    "messages": [{"role": "user", "content": "你好,请介绍一下你自己"}],
    "stream": true,
    "reasoning_effort": "low",
    "prompt_cache_key": "conversation-42"
  }'

非流式会话示例

curl https://api.tokenbps.com/v1/chat/completions \
  -H "Authorization: Bearer <YOUR_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "<AVAILABLE_MODEL_ID>",
    "messages": [{"role": "user", "content": "用一句话解释什么是 AI 网关"}],
    "stream": false
  }'

思考模型说明

部分 9Route 模型用 ID 后缀区分 -low、-medium、-high 或 -thinking。选择明确的模型 ID 通常比只传思考参数更可靠。

用量与缓存

网关识别输入、输出、reasoning_tokens 与 cached_tokens。上游没有回传某个维度时不会伪造真实值;商户用量会剔除节点内部附加提示词的估算消耗。

Fallback

商户可选择平台默认策略,或在商户后台依次设置最多 3 个“节点 + 模型”目标。主目标不可用时,网关按顺序尝试后续目标。

常见状态码

400请求参数错误
401API Key 无效或被冻结
402余额或配额不足
429请求频率受限
502/503上游或可用节点异常

tokenbps API 文档 · 下载 OpenAPI 3.1 描述 · 模型可用性和供应商扩展字段以上游实时能力为准。