模型提供商
最近更新:
让自定义 Agent 回答问题之前,需要告诉 AGW 使用哪个模型、请求发往哪里,以及如何认证。模型服务商通常会提供 API 地址、模型 ID 和 API Key;请先准备好这些信息。
本页介绍 AGW 中的模型配置。已有命令行工具配置的用户,也可以按外部 Agent 指南接入。
三类配置
Provider 描述服务端点和认证;Model 描述模型及其限制;Model Provider 将两者关联,供 Agent 选择。仅创建 Model 不等于已经连通服务。
- 在 Providers 中打开 Create provider,选择匹配的协议类型并填写地址,在 Auth Configs 中添加并启用凭据。
- 切换到 Models 标签,勾选这个 Provider 提供的模型。协议为 OpenAI Chat Completions 或 OpenAI Responses,且 Auth Configs 中已有启用的 ApiKey 时,可以点击 Fetch Models 从服务端获取模型列表;Anthropic Provider 需要先在 Models 页面用 Create model 手动创建模型,再回到 Provider 中勾选。
- 保存 Provider。勾选的模型由此与 Provider 建立 Model Provider 关联,新获取的模型也会在这时创建。
- 在 Models 页面用 Edit model 核对模型标识,按服务商公布的限制填写 Context window 和 Maximum output。
- 在 Agent 中选择该关联,用短问题验证回复。
当前协议类型包括 OpenAI Chat Completions、OpenAI Responses 和 Anthropic。兼容服务也需要匹配具体协议,不能仅凭名称包含 OpenAI 判断可用性。

上下文限制
每个模型都有内容长度限制,填写时需要区分两个值:
- 上下文窗口:一次请求能容纳的内容总量,包括历史对话、当前问题、工具结果以及模型的回复。
- 最大输出 token:模型一次最多能生成多长的回复。token 是模型计算内容长度的单位,不等同于字数。
两个值都必须是正整数,且最大输出必须小于上下文窗口;表单会显示两者之差,即 Effective input budget(有效输入预算)。自定义 Agent 每次调用模型前按这个预算检查要发送的内容:超过 50% 时,较早工具调用的结果正文会从请求中移除;超过 80% 时,较早的消息组会被截断。两个阶段都保留最近 2 组消息,数据库中保存的会话历史不受影响。External Agent 的上下文由外部工具自行管理。
自动发现模型时,AGW 可能填入 256,000(上下文窗口)和 64,000(最大输出 token)作为默认值。这不代表所选模型实际支持这么长的内容,请按模型服务商公布的限制填写。数值设得过大,可能导致请求被拒绝;如果短对话正常、聊久后报错,先核对这两个值,再查看 Server 日志中的具体错误。
成功标志是 Agent 能完成一次对话。凭据无效、地址错误或模型不可用时,先修复连接,再添加工具。不要把真实 API Key 放入共享提示词或 Git 文件。