大模型 API 聚合网关怎么选:6 种接入方式对比(2026)
最后核实:2026-11-14
一句话版本: 想用一套代码调用 Claude、GPT、Gemini,大致有三条路:托管聚合网关(OpenRouter、半页酥)帮你把各家模型接好,你只拿一个 Key、付一份账单;自建或自带 Key 的网关(LiteLLM、Portkey、Cloudflare AI Gateway)给你一层统一入口和管控,模型额度一般还是用你自己在各家开的账号;直连各家官方 API 中间不经过任何一层,但每家都要单独开户、单独对接。没有哪一种适合所有人,先看你缺的是「模型接入」还是「管控能力」。
本页关于 OpenRouter、LiteLLM、Portkey、Cloudflare AI Gateway 的表述,都在 2026-11-14 对照各家官网或官方文档核对过,来源列在页尾;官方页面上查不到的内容没有写。别家的具体价格和费率请以它们的官方页面为准,本页只描述计费结构。半页酥是本站自己的产品,放在其中一项里如实描述。
一览
| 接入方式 | 类型 | 支持的接口格式 | 计费方式 | 要自己准备各家的 Key 吗 | 能否自建 | 公开的状态或延迟数据 |
|---|---|---|---|---|---|---|
| OpenRouter | 托管聚合网关 | OpenAI 风格的 Chat Completions 和 Responses;另有兼容 Anthropic Messages 的入口 | 预付额度;推理按供应商牌价,购买额度时收平台手续费 | 不需要;也可以选择自带 Key(BYOK) | 官方文档未提及 | 模型页展示各供应商的延迟(首 token 时间)和吞吐 |
| 半页酥(byesu) | 托管聚合网关 | OpenAI 兼容的 /v1/chat/completions、/v1/responses;Anthropic 原生 /v1/messages | 按 token 用量计费,没有月费;实际价格登录后在控制台可见 | 不需要;不提供自带 Key | 不提供 | 公开状态页和每周实测看板 |
| LiteLLM | 自建网关(开源) | OpenAI 兼容入口;文档列出 /v1/chat/completions、/v1/responses、/v1/messages 等端点 | 软件开源,自己部署;模型费用付给你接入的各家供应商;另有企业版 | 需要,写在网关配置里 | 可以(Docker、Helm、Terraform) | 没有公共数据;网关记录你自己每次请求的费用 |
| Portkey | 网关平台(托管版 + 开源网关) | Chat Completions、Responses(OpenAI 规范)和 Messages(Anthropic 规范) | 托管版分档,按记录的日志量计量;开源网关可自己部署 | 需要,在 Model Catalog 里配置供应商和凭据 | 可以(开源网关;企业版可部署到私有云) | 官方文档未查到公共数据;观测的是你自己的请求 |
| Cloudflare AI Gateway | 云厂商托管的网关层 | OpenAI 兼容的 chat completions 端点,以及各供应商原生端点 | 核心功能各套餐可用;模型费用可以用自带 Key 付给供应商,也可以用 Unified Billing 向 Cloudflare 购买额度 | 两种都行:自带 Key,或用 Unified Billing 不带 Key | 不能,运行在 Cloudflare 上 | 仪表盘展示你自己网关的请求数、token 和费用 |
| 直连官方 API | 不经过网关 | 各家自己的原生格式 | 各家各自计费 | 需要,每家单独申请 | 不适用 | 以各家官网公布的为准 |
第一类:托管聚合网关
是什么: 平台已经把多家模型接好,你注册一个账号、拿一个 Key、充一份额度,就能调用它目录里的模型。不用分别去各家开户,也不用自己运维任何服务。
适合谁: 个人开发者和小团队;想尽快把多个模型跑起来的人;不想维护多套账号和账单的人。
选之前要核对:
- 你的客户端要哪种接口格式(OpenAI 兼容,还是 Anthropic 原生),平台有没有;
- 你要用的模型在不在它的目录里;
- 计费结构:推理单价怎么定、充值环节有没有手续费、有没有月费或最低消费;
- 有没有公开的可用率或延迟数据,账单能不能查到每次请求的明细。
OpenRouter
OpenRouter 的价格页写着 600 多个模型、80 多家供应商(2026-11-14 核对),模型目录很广。它的 FAQ 说明自己为 /responses、/chat/completions 和 /completions 端点实现了 OpenAI API 规范;它的 Claude Code 指南说明 OpenRouter 提供了兼容 Anthropic Messages API 的入口,ANTHROPIC_BASE_URL 填 https://openrouter.ai/api,同时提示经 OpenRouter 使用 Claude Code 只保证在 Anthropic 官方供应商下可用。
计费是预付额度:价格页说明各方案的推理都按供应商牌价计费,平台手续费在购买额度时收取,而不是按每次请求收取,具体费率见它的价格页。它支持自带供应商 Key(BYOK),按量付费方案含一定的免手续费额度。运行数据方面,FAQ 说明每个模型页会展示各供应商的延迟(首 token 时间)和吞吐,并且在某家供应商报错时自动回退到其他供应商。
更细的逐项对比见 半页酥 vs OpenRouter。
半页酥(byesu)
半页酥是一个托管的 API 网关:一个 Key 调用 Claude、GPT、Gemini、Grok 等模型。OpenAI 兼容接口是 https://byesu.com/v1(/v1/chat/completions 和 /v1/responses),Anthropic 原生接口是 https://byesu.com(/v1/messages),所以 Claude Code、Codex CLI、Cherry Studio 这类客户端改一个地址就能接入,全部教程见客户端接入。
计费按 token 用量,没有月费,实际价格登录后在控制台可见,控制台也能查到每次请求的扣费,规则见价格与计费。运行数据有两处公开:状态页和每周实测看板。
需要先说清楚的边界:模型目录比 OpenRouter 小;不提供自带 Key,也不提供自建或私有部署。这些是你的硬需求的话,看上面的 OpenRouter 或下面第二类。
第二类:自建或自带 Key 的网关
是什么: 你自己在各家模型供应商开好账号,网关负责在前面加一层统一入口,以及密钥管理、预算、限流、日志、回退这类管控能力。模型费用通常还是直接付给各家供应商。
适合谁: 已经有各家官方账号的团队;需要按人或按项目分配预算和权限的团队;对数据路径、部署位置有要求的企业。
选之前要核对:
- 各家的 Key 和额度是不是都要自己准备(多数情况是);
- 谁来部署、升级和值守,需不需要数据库;
- 你需要的管控功能在开源版里还是在付费版里;
- 网关本身怎么收费,和模型费用是不是分开的两笔。
LiteLLM
LiteLLM 是开源项目,文档里分成两部分:Python SDK(用统一接口调用 100 多个 LLM),以及一个自己部署的 AI Gateway(Proxy)。文档对网关的描述是:一个 OpenAI 兼容的入口,对接 100 多家 LLM 供应商。它的「Supported Endpoints」页列出的端点包括 /v1/chat/completions、/v1/responses、/v1/messages 等。
部署方式上,文档写的是用 Docker、Helm 或 Terraform 启动网关,并连接一个 Postgres 数据库。各家供应商的 Key 写在 config.yaml 的 model_list 里,文档建议用 os.environ/ 的写法从环境变量读取。网关可以给每个用户、团队、项目发放虚拟 Key,各自设置可用模型、预算和限流,并记录每次请求的费用。SSO、审计日志等功能,文档标注属于 LiteLLM Enterprise。
Portkey
Portkey 的文档把它描述为一个统一接口,可以对接 250 多个 AI 模型(「What is Portkey」页,2026-11-14 核对)。它的 Universal API 页说明支持三种 API 格式:Chat Completions 和 Responses(OpenAI 规范)、Messages(Anthropic 规范),可以直接把 OpenAI SDK 的 base_url 指向 Portkey;供应商和凭据在 Model Catalog 里配置。网关功能包括供应商和模型之间的回退、在多个 API Key 之间做负载均衡、自动重试、缓存、预算和限流。
Portkey 的文档写明它的网关是开源的,可以免费使用,也可以自己部署;托管版有免费档和付费档,价格页显示按记录的日志量分档;企业方案提供私有云部署。具体价格见它的价格页。
Cloudflare AI Gateway
Cloudflare AI Gateway 是放在你的应用和模型供应商之间的一层,运行在 Cloudflare 上。文档列出的功能有:分析(请求数、token、费用)、日志、缓存、限流、请求重试和模型回退。它的价格页写着各套餐都可以使用,仪表盘分析、缓存、限流这些核心功能免费;日志有数量上限,部分功能另外计费,细则见它的价格页。
模型凭据有几种给法:在请求里带上供应商自己的 Key;用 BYOK 功能把供应商的 Key 存在 Cloudflare 控制台;或者用 Unified Billing,在 Cloudflare 购买额度,请求里不需要带供应商 Key。文档说明 Unified Billing 下供应商的推理价格原样透传,购买额度时收取手续费,支持的供应商范围以它的文档为准。接口方面,文档提供 OpenAI 兼容的 chat completions 端点,模型名用「供应商/模型」的写法,也提供各供应商原生格式的端点。
第三类:直连各家官方 API
是什么: 分别在各家模型厂商注册、申请 Key、充值或绑定付款方式,代码直接请求官方接口,中间不经过任何网关。
适合谁: 只用一两家模型的团队;需要第一时间用上某家新接口或新功能的团队;合规上要求和模型厂商直接签约的企业。
选之前要核对:
- 你所在的地区和付款方式,各家是否支持;
- 每家的接口格式不一样,多家并用时要自己写适配,或者在前面加一个第二类里的网关;
- 限流、账单、密钥要分别在每家管理;
- 要不要自己做一家出问题时切到另一家的回退。
直连和网关并不冲突:不少团队主力模型直连,其余模型经网关调用。
按情况怎么选
- 只用一家模型,而且已经有官方账号: 直连官方 API 最简单。
- 想用一个 Key 尽快试很多模型,尤其是开源权重模型或小众模型: 看 OpenRouter,它的模型目录很广。
- 主要用 Claude、GPT、Gemini、Grok 这些主流模型,客户端是 Claude Code、Codex CLI、Cherry Studio 这类,想按量付费、不付月费: 可以看半页酥,先对照状态页和每周实测看板,再用小额度实测你的场景。
- 已经有各家官方 Key,想统一入口,再加上预算、限流和团队权限: 看 LiteLLM(自己部署)或 Portkey(托管版或自己部署)。
- 应用本身就跑在 Cloudflare 上,想给模型调用加缓存、限流和日志: 看 Cloudflare AI Gateway。
- 数据必须留在自己的环境里: 看可以自建的 LiteLLM 或 Portkey 开源网关,或者直连官方。
- 拿不准: 这几种大多按量计费,切换成本主要是改一个 base URL 和 Key。先各用小额度跑同一批真实请求,比较可用率、延迟和账单,再决定。
相关链接
- 快速开始(3 步):创建令牌 · 设置地址 · 选模型
- 半页酥 vs OpenRouter:两家托管网关的逐项对比
- 价格与计费:半页酥的计费规则
- 常见错误 & 解决:接入报错时先查这里
常见问题
大模型 API 聚合网关是什么?
它是放在你的应用和各家模型厂商之间的一层服务:你用同一个地址、同一种请求格式调用多家模型,由网关把请求转给对应的厂商。有的网关连模型额度一起提供,你只需要一个 Key 和一份账单,例如 OpenRouter 和半页酥;有的只提供统一入口和管控能力,模型额度用你自己在各家开的账号,例如 LiteLLM、Portkey 和 Cloudflare AI Gateway。
托管聚合网关和自建网关有什么区别?
托管聚合网关由平台运维,模型已经接好,注册后拿一个 Key 就能用,模型费用付给平台。自建或自带 Key 的网关要你自己准备各家厂商的 Key,有的还要自己部署和维护服务,换来的是对密钥、预算、限流、日志和数据路径的控制,模型费用通常直接付给各家厂商。缺的是模型接入就选前者,缺的是管控能力就选后者。
用聚合网关还要自己准备各家的 Key 吗?
看类型。OpenRouter 和半页酥这类托管聚合网关不需要,一个 Key 就能调用目录里的模型;OpenRouter 另外支持自带 Key,半页酥不提供自带 Key。LiteLLM 和 Portkey 需要你把各家厂商的 Key 或凭据配置进去。Cloudflare AI Gateway 两种都支持:可以自带 Key,也可以用它的 Unified Billing 购买额度后不带 Key 调用。
哪些网关可以自己部署?
按 2026-11-14 核对的官方文档:LiteLLM 是开源项目,可以用 Docker、Helm 或 Terraform 部署;Portkey 的网关开源,可以自己部署,企业方案还提供私有云部署。Cloudflare AI Gateway 运行在 Cloudflare 上,不是自己部署的软件。OpenRouter 的官方文档没有提到自建。半页酥是托管服务,不提供自建或私有部署。
半页酥属于哪一类?适合什么情况?
半页酥属于托管聚合网关:一个 Key 调用 Claude、GPT、Gemini、Grok 等模型,同时提供 OpenAI 兼容接口和 Anthropic 原生接口,可以接 Claude Code、Codex CLI、Cherry Studio 等客户端。计费按 token 用量,没有月费,实际价格登录后在控制台可见。它有公开的状态页和每周实测看板。它的模型目录比 OpenRouter 小,不提供自带 Key 和私有部署,有这些需求的团队更适合看 OpenRouter、LiteLLM 或 Portkey。
选网关之前应该核对什么?
五件事:你的客户端需要的接口格式它有没有;你要用的模型在不在目录里;计费结构是否清楚,包括推理单价怎么定、充值有没有手续费、有没有月费;有没有公开的可用率或延迟数据;账单能不能查到每次请求的明细。核对完再用小额度跑一批真实请求,比看任何对比表都可靠。
来源
以下页面均在 2026-11-14 核对。
OpenRouter
- FAQ:实现的 OpenAI 规范端点、额度与手续费的结构、BYOK、模型页的延迟与吞吐数据、供应商回退
- 价格页:模型与供应商数量、推理按供应商牌价、手续费在购买额度时收取
- API 概览:Responses 与 Chat Completions 两种请求格式
- Claude Code 指南:兼容 Anthropic Messages API 的入口与使用提示
LiteLLM
- 文档首页:SDK 与自部署网关、支持 100 多个 LLM
- AI Gateway(Proxy):部署方式、虚拟 Key、费用记录、Enterprise 功能
- Supported Endpoints:端点列表
- 配置说明:供应商 Key 在 config.yaml 里的写法
Portkey
- What is Portkey:产品定位、模型数量、开源网关、私有云部署
- AI Gateway:回退、负载均衡、重试、缓存等功能
- Universal API:三种 API 格式、Model Catalog
- 价格页:方案分档与计量方式
Cloudflare AI Gateway
- 产品概览:功能列表
- 价格说明:各套餐可用、核心功能免费、日志上限
- OpenAI 兼容端点:端点与模型名写法
- BYOK:供应商 Key 的存放方式
- Unified Billing:购买额度、价格透传与手续费
半页酥
