Skip to content

大模型 API 聚合网关怎么选:6 种接入方式对比(2026) ​

最后核实:2026-11-14

一句话版本: 想用一套代码调用 Claude、GPT、Gemini,大致有三条路:托管聚合网关(OpenRouter、半页酥)帮你把各家模型接好,你只拿一个 Key、付一份账单;自建或自带 Key 的网关(LiteLLM、Portkey、Cloudflare AI Gateway)给你一层统一入口和管控,模型额度一般还是用你自己在各家开的账号;直连各家官方 API 中间不经过任何一层,但每家都要单独开户、单独对接。没有哪一种适合所有人,先看你缺的是「模型接入」还是「管控能力」。

本页关于 OpenRouter、LiteLLM、Portkey、Cloudflare AI Gateway 的表述,都在 2026-11-14 对照各家官网或官方文档核对过,来源列在页尾;官方页面上查不到的内容没有写。别家的具体价格和费率请以它们的官方页面为准,本页只描述计费结构。半页酥是本站自己的产品,放在其中一项里如实描述。

一览 ​

接入方式类型支持的接口格式计费方式要自己准备各家的 Key 吗能否自建公开的状态或延迟数据
OpenRouter托管聚合网关OpenAI 风格的 Chat Completions 和 Responses;另有兼容 Anthropic Messages 的入口预付额度;推理按供应商牌价,购买额度时收平台手续费不需要;也可以选择自带 Key(BYOK)官方文档未提及模型页展示各供应商的延迟(首 token 时间)和吞吐
半页酥(byesu)托管聚合网关OpenAI 兼容的 /v1/chat/completions、/v1/responses;Anthropic 原生 /v1/messages按 token 用量计费,没有月费;实际价格登录后在控制台可见不需要;不提供自带 Key不提供公开状态页和每周实测看板
LiteLLM自建网关(开源)OpenAI 兼容入口;文档列出 /v1/chat/completions、/v1/responses、/v1/messages 等端点软件开源,自己部署;模型费用付给你接入的各家供应商;另有企业版需要,写在网关配置里可以(Docker、Helm、Terraform)没有公共数据;网关记录你自己每次请求的费用
Portkey网关平台(托管版 + 开源网关)Chat Completions、Responses(OpenAI 规范)和 Messages(Anthropic 规范)托管版分档,按记录的日志量计量;开源网关可自己部署需要,在 Model Catalog 里配置供应商和凭据可以(开源网关;企业版可部署到私有云)官方文档未查到公共数据;观测的是你自己的请求
Cloudflare AI Gateway云厂商托管的网关层OpenAI 兼容的 chat completions 端点,以及各供应商原生端点核心功能各套餐可用;模型费用可以用自带 Key 付给供应商,也可以用 Unified Billing 向 Cloudflare 购买额度两种都行:自带 Key,或用 Unified Billing 不带 Key不能,运行在 Cloudflare 上仪表盘展示你自己网关的请求数、token 和费用
直连官方 API不经过网关各家自己的原生格式各家各自计费需要,每家单独申请不适用以各家官网公布的为准

第一类:托管聚合网关 ​

是什么: 平台已经把多家模型接好,你注册一个账号、拿一个 Key、充一份额度,就能调用它目录里的模型。不用分别去各家开户,也不用自己运维任何服务。

适合谁: 个人开发者和小团队;想尽快把多个模型跑起来的人;不想维护多套账号和账单的人。

选之前要核对:

  • 你的客户端要哪种接口格式(OpenAI 兼容,还是 Anthropic 原生),平台有没有;
  • 你要用的模型在不在它的目录里;
  • 计费结构:推理单价怎么定、充值环节有没有手续费、有没有月费或最低消费;
  • 有没有公开的可用率或延迟数据,账单能不能查到每次请求的明细。

OpenRouter ​

OpenRouter 的价格页写着 600 多个模型、80 多家供应商(2026-11-14 核对),模型目录很广。它的 FAQ 说明自己为 /responses、/chat/completions 和 /completions 端点实现了 OpenAI API 规范;它的 Claude Code 指南说明 OpenRouter 提供了兼容 Anthropic Messages API 的入口,ANTHROPIC_BASE_URL 填 https://openrouter.ai/api,同时提示经 OpenRouter 使用 Claude Code 只保证在 Anthropic 官方供应商下可用。

计费是预付额度:价格页说明各方案的推理都按供应商牌价计费,平台手续费在购买额度时收取,而不是按每次请求收取,具体费率见它的价格页。它支持自带供应商 Key(BYOK),按量付费方案含一定的免手续费额度。运行数据方面,FAQ 说明每个模型页会展示各供应商的延迟(首 token 时间)和吞吐,并且在某家供应商报错时自动回退到其他供应商。

更细的逐项对比见 半页酥 vs OpenRouter。

半页酥(byesu) ​

半页酥是一个托管的 API 网关:一个 Key 调用 Claude、GPT、Gemini、Grok 等模型。OpenAI 兼容接口是 https://byesu.com/v1(/v1/chat/completions 和 /v1/responses),Anthropic 原生接口是 https://byesu.com(/v1/messages),所以 Claude Code、Codex CLI、Cherry Studio 这类客户端改一个地址就能接入,全部教程见客户端接入。

计费按 token 用量,没有月费,实际价格登录后在控制台可见,控制台也能查到每次请求的扣费,规则见价格与计费。运行数据有两处公开:状态页和每周实测看板。

需要先说清楚的边界:模型目录比 OpenRouter 小;不提供自带 Key,也不提供自建或私有部署。这些是你的硬需求的话,看上面的 OpenRouter 或下面第二类。

第二类:自建或自带 Key 的网关 ​

是什么: 你自己在各家模型供应商开好账号,网关负责在前面加一层统一入口,以及密钥管理、预算、限流、日志、回退这类管控能力。模型费用通常还是直接付给各家供应商。

适合谁: 已经有各家官方账号的团队;需要按人或按项目分配预算和权限的团队;对数据路径、部署位置有要求的企业。

选之前要核对:

  • 各家的 Key 和额度是不是都要自己准备(多数情况是);
  • 谁来部署、升级和值守,需不需要数据库;
  • 你需要的管控功能在开源版里还是在付费版里;
  • 网关本身怎么收费,和模型费用是不是分开的两笔。

LiteLLM ​

LiteLLM 是开源项目,文档里分成两部分:Python SDK(用统一接口调用 100 多个 LLM),以及一个自己部署的 AI Gateway(Proxy)。文档对网关的描述是:一个 OpenAI 兼容的入口,对接 100 多家 LLM 供应商。它的「Supported Endpoints」页列出的端点包括 /v1/chat/completions、/v1/responses、/v1/messages 等。

部署方式上,文档写的是用 Docker、Helm 或 Terraform 启动网关,并连接一个 Postgres 数据库。各家供应商的 Key 写在 config.yaml 的 model_list 里,文档建议用 os.environ/ 的写法从环境变量读取。网关可以给每个用户、团队、项目发放虚拟 Key,各自设置可用模型、预算和限流,并记录每次请求的费用。SSO、审计日志等功能,文档标注属于 LiteLLM Enterprise。

Portkey ​

Portkey 的文档把它描述为一个统一接口,可以对接 250 多个 AI 模型(「What is Portkey」页,2026-11-14 核对)。它的 Universal API 页说明支持三种 API 格式:Chat Completions 和 Responses(OpenAI 规范)、Messages(Anthropic 规范),可以直接把 OpenAI SDK 的 base_url 指向 Portkey;供应商和凭据在 Model Catalog 里配置。网关功能包括供应商和模型之间的回退、在多个 API Key 之间做负载均衡、自动重试、缓存、预算和限流。

Portkey 的文档写明它的网关是开源的,可以免费使用,也可以自己部署;托管版有免费档和付费档,价格页显示按记录的日志量分档;企业方案提供私有云部署。具体价格见它的价格页。

Cloudflare AI Gateway ​

Cloudflare AI Gateway 是放在你的应用和模型供应商之间的一层,运行在 Cloudflare 上。文档列出的功能有:分析(请求数、token、费用)、日志、缓存、限流、请求重试和模型回退。它的价格页写着各套餐都可以使用,仪表盘分析、缓存、限流这些核心功能免费;日志有数量上限,部分功能另外计费,细则见它的价格页。

模型凭据有几种给法:在请求里带上供应商自己的 Key;用 BYOK 功能把供应商的 Key 存在 Cloudflare 控制台;或者用 Unified Billing,在 Cloudflare 购买额度,请求里不需要带供应商 Key。文档说明 Unified Billing 下供应商的推理价格原样透传,购买额度时收取手续费,支持的供应商范围以它的文档为准。接口方面,文档提供 OpenAI 兼容的 chat completions 端点,模型名用「供应商/模型」的写法,也提供各供应商原生格式的端点。

第三类:直连各家官方 API ​

是什么: 分别在各家模型厂商注册、申请 Key、充值或绑定付款方式,代码直接请求官方接口,中间不经过任何网关。

适合谁: 只用一两家模型的团队;需要第一时间用上某家新接口或新功能的团队;合规上要求和模型厂商直接签约的企业。

选之前要核对:

  • 你所在的地区和付款方式,各家是否支持;
  • 每家的接口格式不一样,多家并用时要自己写适配,或者在前面加一个第二类里的网关;
  • 限流、账单、密钥要分别在每家管理;
  • 要不要自己做一家出问题时切到另一家的回退。

直连和网关并不冲突:不少团队主力模型直连,其余模型经网关调用。

按情况怎么选 ​

  • 只用一家模型,而且已经有官方账号: 直连官方 API 最简单。
  • 想用一个 Key 尽快试很多模型,尤其是开源权重模型或小众模型: 看 OpenRouter,它的模型目录很广。
  • 主要用 Claude、GPT、Gemini、Grok 这些主流模型,客户端是 Claude Code、Codex CLI、Cherry Studio 这类,想按量付费、不付月费: 可以看半页酥,先对照状态页和每周实测看板,再用小额度实测你的场景。
  • 已经有各家官方 Key,想统一入口,再加上预算、限流和团队权限: 看 LiteLLM(自己部署)或 Portkey(托管版或自己部署)。
  • 应用本身就跑在 Cloudflare 上,想给模型调用加缓存、限流和日志: 看 Cloudflare AI Gateway。
  • 数据必须留在自己的环境里: 看可以自建的 LiteLLM 或 Portkey 开源网关,或者直连官方。
  • 拿不准: 这几种大多按量计费,切换成本主要是改一个 base URL 和 Key。先各用小额度跑同一批真实请求,比较可用率、延迟和账单,再决定。

相关链接 ​

常见问题 ​

大模型 API 聚合网关是什么? ​

它是放在你的应用和各家模型厂商之间的一层服务:你用同一个地址、同一种请求格式调用多家模型,由网关把请求转给对应的厂商。有的网关连模型额度一起提供,你只需要一个 Key 和一份账单,例如 OpenRouter 和半页酥;有的只提供统一入口和管控能力,模型额度用你自己在各家开的账号,例如 LiteLLM、Portkey 和 Cloudflare AI Gateway。

托管聚合网关和自建网关有什么区别? ​

托管聚合网关由平台运维,模型已经接好,注册后拿一个 Key 就能用,模型费用付给平台。自建或自带 Key 的网关要你自己准备各家厂商的 Key,有的还要自己部署和维护服务,换来的是对密钥、预算、限流、日志和数据路径的控制,模型费用通常直接付给各家厂商。缺的是模型接入就选前者,缺的是管控能力就选后者。

用聚合网关还要自己准备各家的 Key 吗? ​

看类型。OpenRouter 和半页酥这类托管聚合网关不需要,一个 Key 就能调用目录里的模型;OpenRouter 另外支持自带 Key,半页酥不提供自带 Key。LiteLLM 和 Portkey 需要你把各家厂商的 Key 或凭据配置进去。Cloudflare AI Gateway 两种都支持:可以自带 Key,也可以用它的 Unified Billing 购买额度后不带 Key 调用。

哪些网关可以自己部署? ​

按 2026-11-14 核对的官方文档:LiteLLM 是开源项目,可以用 Docker、Helm 或 Terraform 部署;Portkey 的网关开源,可以自己部署,企业方案还提供私有云部署。Cloudflare AI Gateway 运行在 Cloudflare 上,不是自己部署的软件。OpenRouter 的官方文档没有提到自建。半页酥是托管服务,不提供自建或私有部署。

半页酥属于哪一类?适合什么情况? ​

半页酥属于托管聚合网关:一个 Key 调用 Claude、GPT、Gemini、Grok 等模型,同时提供 OpenAI 兼容接口和 Anthropic 原生接口,可以接 Claude Code、Codex CLI、Cherry Studio 等客户端。计费按 token 用量,没有月费,实际价格登录后在控制台可见。它有公开的状态页和每周实测看板。它的模型目录比 OpenRouter 小,不提供自带 Key 和私有部署,有这些需求的团队更适合看 OpenRouter、LiteLLM 或 Portkey。

选网关之前应该核对什么? ​

五件事:你的客户端需要的接口格式它有没有;你要用的模型在不在目录里;计费结构是否清楚,包括推理单价怎么定、充值有没有手续费、有没有月费;有没有公开的可用率或延迟数据;账单能不能查到每次请求的明细。核对完再用小额度跑一批真实请求,比看任何对比表都可靠。

来源 ​

以下页面均在 2026-11-14 核对。

OpenRouter

  • FAQ:实现的 OpenAI 规范端点、额度与手续费的结构、BYOK、模型页的延迟与吞吐数据、供应商回退
  • 价格页:模型与供应商数量、推理按供应商牌价、手续费在购买额度时收取
  • API 概览:Responses 与 Chat Completions 两种请求格式
  • Claude Code 指南:兼容 Anthropic Messages API 的入口与使用提示

LiteLLM

Portkey

Cloudflare AI Gateway

半页酥

遇到问题?联系客服或加交流群。