Amux

Create Model Response

最近更新:2026年9月1日

OpenAI Responses 兼容端点,可用官方 SDK 调用任何支持该协议的模型。

这个端点兼容 OpenAI Responses。继续使用官方 SDK,把 base_url 和密钥指向 Amux 即可。

下表列出主要请求参数以及 OpenAI 官方已公开的常用字段,包括取值范围、跨协议时的处理方式,以及使用上的前置条件。未单列说明的字段通常会在同协议直连时按上游兼容行为透传;跨协议转换、平台过滤或无状态限制时可能不会保留。

POSThttps://gateway.amux.ai/v1/responses

鉴权

header
Authorizationstring必填

Bearer <你的 Amux 密钥> 控制台创建的 Amux 密钥。忘了可以回控制台的密钥页再看一次。

Content-Typestring必填默认 "application/json"

固定为 application/json

请求

application/json
modelstring必填

规范 ID,形如 厂商/模型。冒号后缀可锁定供应商(:供应商)或指定路由策略(:@price 等),两者不能同时写。见概览

inputstring | array<object>必填

输入。可以是一个字符串(等价于一条 user 消息),也可以是消息项、function_callfunction_call_output 混合的数组。

backgroundboolean

是否让上游在后台执行。当前没有网关级语义:同协议直连时按上游兼容行为透传;跨协议时默认不保留。

context_managementarray<object>

上下文管理配置。当前没有网关级语义:同协议直连时按上游兼容行为透传;跨协议时默认不保留。

conversationstring | object

上游侧会话标识或配置。当前没有网关级语义;同协议直连时按上游兼容行为透传。由于会话状态保存在上游,不锁定供应商时跨轮请求不保证稳定命中同一会话。

instructionsstring

顶层系统提示词。不是 input 里的一条——放进数组会被当成对话内容。

max_output_tokensinteger

本次生成的最大 token 数。注意字段名和 Chat 的 max_tokens 不同。

temperaturenumber

采样温度,0–2。

top_pnumber

核采样。

streamboolean默认 false

以 SSE 流式返回。Responses 的事件是有名字的response.output_text.delta 这类),不是一串同构的 chunk。

toolsarray<object>

可调用的工具。形状是平铺{ type: "function", name, description, parameters },不像 Chat 包在 function 里。

tool_choicestring

auto / none / required,或 { type: "function", name }

parallel_tool_callsboolean

是否允许一次发起多个工具调用。仅在带了 tools 时发送。

textobject

文本输出配置。两个子字段见下。

textobject
formatobject

JSON 输出约束,等价于 Chat 的 response_format

verbosity"low" | "medium" | "high"

输出详略,等价于 Chat 顶层verbosity。转换时我们会替你换位置。

reasoningobject

推理配置。四个子字段的取值都跟模型世代有关,各自的含义见下;填了这个模型不认的值由上游报错,我们不替它拦。 summary / mode / contextResponses 独有的,转到另外三家时丢弃并留说明。另外加密的推理内容不进跨协议转换——其他协议没有承载方式。

reasoningobject
effort"none" | "minimal" | "low" | "medium" | "high" | "xhigh" | "max"

推理强度。minimal 属 GPT-5.4 / 5.5,xhigh / max 属 5.6,none 表示不要推理。不填时用模型自己的默认档。

summary"auto" | "concise" | "detailed"

推理摘要的详略。Responses 独有,转到另外三家时丢弃并留说明。

mode"standard" | "pro"

执行模式,GPT-5.6 系列独有。和 effort 相互独立:mode 选标准还是 pro,effort 控制那个模式内部用多少推理。

context"auto" | "current_turn" | "all_turns"

推理内容带几轮上下文。默认值跟世代走(5.6 是 all_turns,更早是 current_turn),它直接改变送上去的 token 量

includearray<string>

额外返回的字段,原样透传给上游。

previous_response_idstring

不支持。 这个网关是无状态的,同一会话可能落到不同上游;请把完整上下文放进 input,不要依赖上游保存的上一次响应 ID。

promptobject

Prompt template 引用及其变量。当前没有网关级语义:同协议直连时按上游兼容行为透传;跨协议时默认不保留。

truncation"auto" | "disabled"

上下文超长时的截断策略,原样透传。

metadataobject

自定义键值对,随请求透传。

storeboolean

是否让上游留存本次响应。

userstring

终端用户标识。也用作会话亲和的依据,见 Chat 那页的同名参数。

prompt_cache_keystring

会话标识,比 user 优先。同一个值的请求路由到同一家供应商。

stream_optionsobject

流式选项。这里只有 include_obfuscation,没有 Chat 那个 include_usage——Responses 的用量始终在 response.completed 事件里给出,不需要开关。原样透传,跨协议时默认不传递。

stream_optionsobject
include_obfuscationboolean

给流式增量补随机填充字节。这里没有 include_usage——Responses 的用量始终在 response.completed 事件里给出。

service_tier"auto" | "default" | "flex" | "scale" | "priority" | "fast" | "ultrafast"

服务档位。不支持——我们不会把它转发给任何上游,两条路径都摘。 带了它不会报错,摘了什么会告诉你:非流式在响应体的 amux.droppedParams,流式在 x-amux-dropped-params 响应头。

top_logprobsinteger

每个位置返回几个候选的概率,0–20。原样透传,跨协议时默认不传递

max_tool_callsinteger

本次响应里最多发起几次工具调用。原样透传,跨协议时默认不传递——另外三家没有对等物。

safety_identifierstring

终端用户标识,OpenAI 用它取代 user 做滥用检测。原样透传,跨协议时默认不传递。它不参与会话亲和, 要让同一会话稳定落在同一供应商请用 prompt_cache_key

prompt_cache_optionsobject

显式提示缓存断点。仅 gpt-5.6 及以后支持,更早的模型用 prompt_cache_retention。原样透传,跨协议时默认不传递。

prompt_cache_optionsobject
ttl"30m"

缓存条目的存活时间,目前只接受 30m

mode"implicit" | "explicit"

implicit(默认)由上游自己选断点;explicit 时由你用 prompt_cache_breakpoint 标出来。

prompt_cache_retention"in_memory" | "24h"

提示缓存保留时长。gpt-5.6 之前的模型用这个,5.6 起改用 prompt_cache_options。原样透传,不影响计价,跨协议时默认不传递。

moderationobject

内容审核配置,{ model, policy }。原样透传,跨协议时默认不传递。

响应

200response

推理成功。model 返回的是规范 ID,与请求时写的是同一个值。

402response

余额不足。这类错误不重试,也不影响任何供应商的健康度。

和 Chat Completions 的区别

两者是两套不同的形状,不是同一个接口的两种写法:

Chat CompletionsResponses
系统提示词messages 里 role 为 system 的一条顶层 instructions
输入messagesinput(可以是一个字符串)
工具定义{ type, function: { name, parameters } }{ type, name, parameters },平铺
最大输出max_tokensmax_output_tokens
返回内容choices[0].messageoutput[]
用量prompt_tokens / completion_tokensinput_tokens / output_tokens

previous_response_id 在 OpenAI 官方 Responses 里可用,但 Amux 不支持。这个网关是无状态的,同一会话可能被路由到不同上游;要续接上下文,请把完整对话放进 input

错误

错误按 OpenAI 的错误体形状返回,type 取值与重试语义见错误与重试

cURL
curl https://gateway.amux.ai/v1/responses \
  -H "Authorization: Bearer $AMUX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-5.6",
    "input": "Hello!"
  }'
{
  "id": "resp_8f3c1a",
  "object": "response",
  "model": "openai/gpt-5.6",
  "status": "completed",
  "output": [
    {
      "type": "message",
      "role": "assistant"
    }
  ],
  "usage": {
    "input_tokens": 0,
    "output_tokens": 0,
    "total_tokens": 0
  }
}