Amux AI

Amux AI vs LiteLLM

Amux AI vs LiteLLM:免部署运维,一个账户覆盖全部模型

LiteLLM 是 MIT 开源的自建代理,需要自行部署运维,并为每个上游供应商分别开通账号、配置密钥与结算;数据完全留在自有基础设施内。Amux AI 是托管的大模型 API 网关:注册即用,一个账户、一份余额覆盖全部模型,推理零加价且低价渠道远低于官方定价、官方渠道同样有折扣,原生支持 Gemini 协议以及阿里云百炼、火山 Seedance、MiniMax、xAI 的图像与视频协议,并提供企业级组织管理与统一计费。

信息核实于 2026-10-19

部署与运维
0
LiteLLM 生产环境需自备 PostgreSQL,多实例还需 Redis
覆盖全部模型
1 个账户
LiteLLM 需为每个上游供应商分别开通账号与密钥
最高低于官方定价
90%
来自低价渠道,按目录实时价格计算;稳定的官方渠道同样提供折扣
视频厂商原生协议
4 家
百炼、Seedance、MiniMax、xAI,现有代码只需替换 base_url

Amux AI 与 LiteLLM 逐项对比

对比项Amux AILiteLLM
部署方式托管服务,注册即用,无需部署与运维开源自建:生产环境需 PostgreSQL,多实例需 Redis;官方文档描述的是自建部署
上游账号与计费一个账户、一份余额覆盖全部模型,统一计费与发票需自行配置各上游供应商的 API Key,分别与各家结算
模型价格推理零加价;低价渠道远低于官方定价,官方渠道稳定可靠、同样提供折扣软件免费;模型费用按各上游的官方价格支付
文本协议OpenAI Chat、OpenAI Responses、Anthropic Messages、Gemini(generateContent)四种原生协议,多数模型可跨协议调用OpenAI Chat、Responses、Anthropic Messages、Gemini generateContent
图像与视频图像:OpenAI Images、阿里云百炼;视频:百炼、火山 Seedance、MiniMax、xAI 原生请求格式及统一任务接口,现有调用代码只需替换 base_url 与密钥统一格式的图像生成、编辑与视频接口
向量与语音向量、语音、重排接口即将支持提供 Embeddings、语音、Realtime、Rerank、批处理与微调等接口
多供应商容灾52 个模型已接入多家供应商,故障时自动切换,失败的尝试不计费支持多种路由策略、回退、重试与冷却,需自行接入多家上游并配置
团队与预算企业级组织管理:组织、工作区与角色(含财务角色);工作区、成员、密钥三级额度密钥、团队、用户预算(需数据库);按模型的预算属企业版
数据控制成功的文本调用不保存请求与响应正文;不使用客户内容训练模型自建部署,数据留在自有基础设施内,自建时不发送遥测
用量与导出每次调用逐项列出计费明细;月度账单按密钥、模型与工作区导出 Excel响应头返回单次费用;全局花费报表属企业版
SSO 与审计SAML 单点登录与审计记录即将支持SSO、审计日志、RBAC 属企业版,价格按部署规模报价

热门模型价格

Amux AI 实时价格与官方定价对比,单位为美元 / 百万 token(输入 / 输出)。

模型官方定价Amux AI 最低价降幅
GPT-6.1 Sol$2 / $10$0.1 / $0.5−95%
Gemini 3.8 Flash$1.5 / $7.5$0.15 / $0.75−90%
GPT-6 Astra$10 / $50$0.5 / $2.5−95%
GPT-6 Sol$2 / $10$0.1 / $0.5−95%

价格实时读取自 Amux AI 模型目录,按各模型当前最低价的供应商计算,实际以调用时模型页显示为准。

如何选择

以下情况更适合 Amux AI

  • 不想部署和维护代理、数据库与缓存,希望注册后直接调用
  • 不想为每个上游供应商分别开通账号、管理密钥与充值,希望统一计费与发票
  • 希望通过低价渠道以远低于官方的价格、或通过稳定的官方渠道以折扣价调用主流模型,并在多家供应商之间自动容灾
  • 希望用阿里云百炼、火山、MiniMax、xAI 的原生请求格式调用图像与视频模型

以下情况更适合 LiteLLM

  • 数据必须留在自有基础设施内,或需要离线、私有化部署
  • 已与云厂商签有合同或额度,希望在其之上统一调用格式
  • 需要向量、语音、批处理、微调等更全的接口(Amux AI 向量与语音已排期)
  • 需要基于 MIT 开源代码二次开发或深度定制路由

从 LiteLLM 切换到 Amux AI

两者都兼容 OpenAI SDK 与 Anthropic SDK。切换只涉及接入地址、密钥与模型名,业务代码无需改动,也不再需要维护代理服务。

  1. 1注册 Amux AI,在控制台创建 API Key。
  2. 2将 base URL 从自建代理地址替换为 Amux AI 的接入地址,密钥替换为新的 API Key。
  3. 3把代理配置里自定义的模型名换成 Amux AI 的「制造商/模型」ID,可在模型页直接复制。
  • 代理里配置的回退与负载均衡,在 Amux AI 中由多供应商自动容灾承担;也可在 API Key 上设置路由策略。
  • Claude Code 与 Anthropic SDK 的接入地址不带 /v1;Gemini SDK 可直接调用 generateContent。
main.py− LiteLLM+ Amux AI
import os
from openai import OpenAI

client = OpenAI(
    base_url="http://0.0.0.0:4000",
    base_url="https://gateway.amux.ai/v1",
    api_key=os.environ["LITELLM_KEY"],
    api_key=os.environ["AMUX_API_KEY"],
)

response = client.chat.completions.create(
    model="openai/gpt-6.1-sol",
    messages=[{"role": "user", "content": "Hello"}],
)

常见问题

LiteLLM 是开源的自建代理,需要自行部署运维,并为每个上游分别开通账号、配置密钥与结算,数据留在自有基础设施内。Amux AI 是托管网关,注册即用,一个账户覆盖全部模型,推理零加价且低价渠道远低于官方定价、官方渠道同样有折扣,并原生支持多家厂商的图像与视频协议,提供企业级组织管理。

Amux AI 为同一模型接入多家供应商,分为两类渠道:低价渠道价格远低于官方定价,适合对成本敏感的场景;官方渠道由模型制造商与主流云厂商提供,稳定可靠,同样提供折扣。各供应商的实时价格在模型页公开;可在 API Key 或工作区上限定只走官方渠道,也可设置价格优先路由。

LiteLLM 软件免费,但模型费用按各上游官方价支付,还需承担服务器、数据库与运维成本。Amux AI 推理零加价、充值零手续费,低价渠道远低于官方定价、官方渠道同样有折扣,总成本通常更低。

通常只需三处:把 base URL 换成 Amux AI 的接入地址,把密钥换成 Amux AI 的 API Key,把代理里自定义的模型名换成 Amux AI 的「制造商/模型」ID。

成功的文本调用不保存请求与响应正文,也不使用客户内容训练模型;图像与视频任务的提示词随任务保存 30 天。失败调用会留存有限的样本用于排障,最长 15 天,可通过请求头关闭。

可以。Amux AI 原生实现 Anthropic Messages 与 OpenAI 协议,Claude Code、Codex、Gemini CLI、Cursor、Cline、Cherry Studio 等工具均有接入指南,按指南替换地址与密钥即可。

可以。Amux AI 兼容 OpenAI 协议,可以作为 LiteLLM 的一个上游配置,用统一的密钥与余额覆盖多家模型,同时保留代理层的自定义逻辑。

开始使用

几分钟内,
完成第一次调用。

  1. 1注册账号
  2. 2创建 API Key
  3. 3替换 base_url,发起请求
接入地址

更多对比

LiteLLM 及本页提及的其他产品名称均为其各自所有者的商标。本页关于第三方产品的信息整理自其官方公开资料,仅供选型参考,可能随对方调整而变化,请以对方官网为准。如发现信息有误,请联系 support@amux.ai。