- 部署与运维
- 0
- LiteLLM 生产环境需自备 PostgreSQL,多实例还需 Redis
- 覆盖全部模型
- 1 个账户
- LiteLLM 需为每个上游供应商分别开通账号与密钥
- 最高低于官方定价
- 90%
- 来自低价渠道,按目录实时价格计算;稳定的官方渠道同样提供折扣
- 视频厂商原生协议
- 4 家
- 百炼、Seedance、MiniMax、xAI,现有代码只需替换 base_url
Amux AI 与 LiteLLM 逐项对比
| 对比项 | Amux AI | LiteLLM |
|---|---|---|
| 部署方式 | 托管服务,注册即用,无需部署与运维 | 开源自建:生产环境需 PostgreSQL,多实例需 Redis;官方文档描述的是自建部署 |
| 上游账号与计费 | 一个账户、一份余额覆盖全部模型,统一计费与发票 | 需自行配置各上游供应商的 API Key,分别与各家结算 |
| 模型价格 | 推理零加价;低价渠道远低于官方定价,官方渠道稳定可靠、同样提供折扣 | 软件免费;模型费用按各上游的官方价格支付 |
| 文本协议 | OpenAI Chat、OpenAI Responses、Anthropic Messages、Gemini(generateContent)四种原生协议,多数模型可跨协议调用 | OpenAI Chat、Responses、Anthropic Messages、Gemini generateContent |
| 图像与视频 | 图像:OpenAI Images、阿里云百炼;视频:百炼、火山 Seedance、MiniMax、xAI 原生请求格式及统一任务接口,现有调用代码只需替换 base_url 与密钥 | 统一格式的图像生成、编辑与视频接口 |
| 向量与语音 | 向量、语音、重排接口即将支持 | 提供 Embeddings、语音、Realtime、Rerank、批处理与微调等接口 |
| 多供应商容灾 | 52 个模型已接入多家供应商,故障时自动切换,失败的尝试不计费 | 支持多种路由策略、回退、重试与冷却,需自行接入多家上游并配置 |
| 团队与预算 | 企业级组织管理:组织、工作区与角色(含财务角色);工作区、成员、密钥三级额度 | 密钥、团队、用户预算(需数据库);按模型的预算属企业版 |
| 数据控制 | 成功的文本调用不保存请求与响应正文;不使用客户内容训练模型 | 自建部署,数据留在自有基础设施内,自建时不发送遥测 |
| 用量与导出 | 每次调用逐项列出计费明细;月度账单按密钥、模型与工作区导出 Excel | 响应头返回单次费用;全局花费报表属企业版 |
| SSO 与审计 | SAML 单点登录与审计记录即将支持 | SSO、审计日志、RBAC 属企业版,价格按部署规模报价 |
热门模型价格
Amux AI 实时价格与官方定价对比,单位为美元 / 百万 token(输入 / 输出)。
| 模型 | 官方定价 | Amux AI 最低价 | 降幅 |
|---|---|---|---|
| GPT-6.1 Sol | $2 / $10 | $0.1 / $0.5 | −95% |
| Gemini 3.8 Flash | $1.5 / $7.5 | $0.15 / $0.75 | −90% |
| GPT-6 Astra | $10 / $50 | $0.5 / $2.5 | −95% |
| GPT-6 Sol | $2 / $10 | $0.1 / $0.5 | −95% |
价格实时读取自 Amux AI 模型目录,按各模型当前最低价的供应商计算,实际以调用时模型页显示为准。
如何选择
以下情况更适合 Amux AI
- 不想部署和维护代理、数据库与缓存,希望注册后直接调用
- 不想为每个上游供应商分别开通账号、管理密钥与充值,希望统一计费与发票
- 希望通过低价渠道以远低于官方的价格、或通过稳定的官方渠道以折扣价调用主流模型,并在多家供应商之间自动容灾
- 希望用阿里云百炼、火山、MiniMax、xAI 的原生请求格式调用图像与视频模型
以下情况更适合 LiteLLM
- 数据必须留在自有基础设施内,或需要离线、私有化部署
- 已与云厂商签有合同或额度,希望在其之上统一调用格式
- 需要向量、语音、批处理、微调等更全的接口(Amux AI 向量与语音已排期)
- 需要基于 MIT 开源代码二次开发或深度定制路由
从 LiteLLM 切换到 Amux AI
两者都兼容 OpenAI SDK 与 Anthropic SDK。切换只涉及接入地址、密钥与模型名,业务代码无需改动,也不再需要维护代理服务。
- 1注册 Amux AI,在控制台创建 API Key。
- 2将 base URL 从自建代理地址替换为 Amux AI 的接入地址,密钥替换为新的 API Key。
- 3把代理配置里自定义的模型名换成 Amux AI 的「制造商/模型」ID,可在模型页直接复制。
- 代理里配置的回退与负载均衡,在 Amux AI 中由多供应商自动容灾承担;也可在 API Key 上设置路由策略。
- Claude Code 与 Anthropic SDK 的接入地址不带 /v1;Gemini SDK 可直接调用 generateContent。
main.py− LiteLLM+ Amux AI
import os
from openai import OpenAI
client = OpenAI(
base_url="http://0.0.0.0:4000",
base_url="https://gateway.amux.ai/v1",
api_key=os.environ["LITELLM_KEY"],
api_key=os.environ["AMUX_API_KEY"],
)
response = client.chat.completions.create(
model="openai/gpt-6.1-sol",
messages=[{"role": "user", "content": "Hello"}],
)常见问题
LiteLLM 是开源的自建代理,需要自行部署运维,并为每个上游分别开通账号、配置密钥与结算,数据留在自有基础设施内。Amux AI 是托管网关,注册即用,一个账户覆盖全部模型,推理零加价且低价渠道远低于官方定价、官方渠道同样有折扣,并原生支持多家厂商的图像与视频协议,提供企业级组织管理。
Amux AI 为同一模型接入多家供应商,分为两类渠道:低价渠道价格远低于官方定价,适合对成本敏感的场景;官方渠道由模型制造商与主流云厂商提供,稳定可靠,同样提供折扣。各供应商的实时价格在模型页公开;可在 API Key 或工作区上限定只走官方渠道,也可设置价格优先路由。
LiteLLM 软件免费,但模型费用按各上游官方价支付,还需承担服务器、数据库与运维成本。Amux AI 推理零加价、充值零手续费,低价渠道远低于官方定价、官方渠道同样有折扣,总成本通常更低。
通常只需三处:把 base URL 换成 Amux AI 的接入地址,把密钥换成 Amux AI 的 API Key,把代理里自定义的模型名换成 Amux AI 的「制造商/模型」ID。
成功的文本调用不保存请求与响应正文,也不使用客户内容训练模型;图像与视频任务的提示词随任务保存 30 天。失败调用会留存有限的样本用于排障,最长 15 天,可通过请求头关闭。
可以。Amux AI 原生实现 Anthropic Messages 与 OpenAI 协议,Claude Code、Codex、Gemini CLI、Cursor、Cline、Cherry Studio 等工具均有接入指南,按指南替换地址与密钥即可。
可以。Amux AI 兼容 OpenAI 协议,可以作为 LiteLLM 的一个上游配置,用统一的密钥与余额覆盖多家模型,同时保留代理层的自定义逻辑。
更多对比
- Amux AI vs OpenRouterOpenRouter 替代方案
- Amux AI vs ZenMuxZenMux 替代方案
- Amux AI vs Vercel AI GatewayVercel AI Gateway 替代方案
- Amux AI vs RequestyRequesty 替代方案
- 全部对比
LiteLLM 及本页提及的其他产品名称均为其各自所有者的商标。本页关于第三方产品的信息整理自其官方公开资料,仅供选型参考,可能随对方调整而变化,请以对方官网为准。如发现信息有误,请联系 support@amux.ai。