OpenRouter、LiteLLM 与自建 / 托管网关对比
团队找统一的大模型 API 时,通常会碰到四种选择:像 OpenRouter 的托管市场、像 LiteLLM 的自建代理、托管中转网关,或者继续用官方直连。它们解决的问题有重叠,但方式不同。本文逐一对比,帮你放心做选择。
每个选项一句话
- OpenRouter(托管市场):一个账号一个入口调很多模型,在官方价上加平台费。
- LiteLLM(自建代理):开源代理,自己部署;直接付官方、无加价,但要自己运维。
- 托管中转网关:托管的 OpenAI 兼容入口,常提供批量折扣价、故障转移和用量分析。
- 官方直连:直接调各家;原生特性最全,但没有统一路由、账单或故障转移。
并排对比
| 维度 | OpenRouter | LiteLLM(自建) | 托管中转网关 | 官方直连 |
|---|---|---|---|---|
| 接入 | 极低 | 高(部署+运维) | 极低 | 每家单独 |
| 价格 | 官方价+加价 | 直接付官方 | 常有折扣 | 官方 |
| 模型覆盖 | 非常广 | 自己配置 | 广 | 单一家族 |
| 故障转移 | 内置 | 自己配 | 内置 | 无 |
| 数据可控 | 托管 | 在你基础设施 | 托管 | 每家 |
| 可观测性 | 基础 | 自己搭 | 内置 | 每家 |
| 运维负担 | 无 | 你来扛 | 无 | 每家较低 |
各自适合谁
选 OpenRouter,如果
你想要最广的模型市场、一个账号试遍各家,并接受为便利支付平台加价。
选 LiteLLM(自建),如果
你有可观流量、有严格数据驻留要求,或想要零平台加价、完全掌控路由与密钥——并且乐于运维基础设施。
选托管中转网关,如果
你想要托管的 OpenAI 兼容入口,带折扣价、内置故障转移和用量分析,又不想运维。这对大多数在意成本与稳定、但不想背运维的初创和产品团队是甜点区。TokenVoke 属于这一类。
留在官方直连,如果
你只用单一模型家族、需要第一时间用上每个原生参数,且不需要统一账单或故障转移。
规模化下的成本考量
- 加价会叠加:在大额月支出上按百分比加价就是真金白银,要看实际价格而非标价。
- 自建有隐性成本:没有加价,但你用工程时间、稳定性建设和升级来付。
- 折扣网关 在很多模型上可能是实际最便宜的——前提是它提供真模型并写清计费。
常见的混合做法
很多生产团队混搭:以托管网关为主通道兼顾成本与稳定,再用自建代理或第二家供应商承接特定负载或做兜底。因为都是 OpenAI 兼容,混用基本就是配置问题。
常见问题
OpenRouter 和 LiteLLM 谁更便宜? LiteLLM 无平台加价(直接付官方),但要自己运维;OpenRouter 零运维但有加价。在很多模型上,折扣型托管网关的实际价格可能都更低——核实分模型单价即可。
能在它们之间迁移吗? 能。OpenAI 兼容意味着切换基本就是改 base_url 和 Key。
小团队要快速交付,选哪个? 托管网关:接入极简、价格有折扣、内置故障转移,且无需运维。
想要一个带折扣价和故障转移的 OpenAI 兼容托管网关?到 TokenVoke 的模型广场对比模型、读文档,或获取 API Key。