New-API:聚合多源大模型 API
New-API 是基于 One API 二次开发的开源项目,主要用于大模型 API 的统一管理、分发与聚合。

该工具的核心价值在于接口标准化:它能将 OpenAI、Anthropic、Google、Azure 等不同厂商的异构 API,统一封装为完全兼容 OpenAI 协议的标准接口。对于下游应用(如 LangChain、ChatGPT Next Web 或自研系统)而言,无需适配各家厂商的 SDK,仅需对接 New-API 的统一入口即可实现无缝切换。
一、决策建议:你真的需要部署它吗?
在投入时间部署之前,建议根据实际业务规模做出评估。
核心建议:个人开发者若仅使用几个官方 API Key,不建议部署 New-API。
引入中间层会增加额外的运维成本(单点故障风险、服务器维护),对于单一上游的场景,直连是更高效的选择。
New-API 在以下场景中具有显著优势:
- 多源模型聚合:同时接入 OpenAI、Claude、Gemini 等多个上游服务,需要统一接口规范。
- 团队资源管理:需要为团队成员分配独立的 Token,并进行精细化的额度控制与用量审计。
- 高可用保障:需要对同一模型配置多个上游渠道,实现自动轮询与故障转移(Load Balancing & Failover)。
- 中转服务分发:作为二传手,向下游用户分发 API 资源并计费。
二、核心机制解析
New-API 的运行逻辑可抽象为简单的“三层架构”:
1. 上游:渠道(Channel)
即原始供应方。无论是从 OpenAI 官方、Azure 还是第三方中转商购买的 Key,在系统中统称为「渠道」。
- 作用:接入真实模型服务能力。
- 特性:支持定义优先级、权重和对应的模型列表。
2. 中台:路由与重写
系统核心层。当收到请求时,New-API 会根据配置策略(如负载均衡、优先匹配),自动将请求转发给最合适的上游渠道,同时处理格式转换与鉴权。
3. 下游:令牌(Token)
即分发给最终用户的 Key。
- 特性:以
sk-开头,由 New-API 本地签发。 - 权限:可绑定特定的有效期、额度上限及可用模型范围。
三、Docker 部署指南
官方推荐使用 Docker Compose 进行部署,以确保环境一致性与升级便利性。
1. 获取项目代码
git clone https://github.com/QuantumNous/new-api.git
cd new-api2. 配置文件说明
项目根目录包含默认的 docker-compose.yml,绝大多数场景无需修改即可直接运行。如需绑定特定端口或配置外部数据库(默认使用 SQLite),可通过编辑该文件实现。
nano docker-compose.yml3. 启动服务
docker-compose up -d服务启动后,默认监听 3000 端口。
4. 初始化配置
在浏览器访问 http://<服务器IP>:3000 进入管理后台。
- 默认账号:
root - 默认密码:
123456 - 重要提示:首次登录后,请务必前往「个人设置」修改默认密码。
四、配置工作流
完成部署仅从技术上跑通了服务,要使其真正可用,需遵循以下配置闭环:
添加上游渠道 → 验证模型连通性 → 签发下游令牌 → 客户端接入
1. 添加上游渠道
进入 “渠道管理” → “添加渠道”。
- 类型:根据 Key 的来源选择(如 OpenAI、Anthropic)。
- 名称:建议使用易识别的标识,例如
OpenAI-Main或Azure-EastUS。 - 密钥:填入从上游服务商获取的原始 Key。
- 模型:系统会自动填入该渠道支持的默认模型列表,建议手动删除用不到的模型以减少干扰。
关键策略:添加完成后,点击列表右侧的「测试」,确保通道连通性。响应时长过高或报错的通道应及时禁用。
2. 检查模型映射(可选)
对于部分特殊渠道,若客户端调用时报错「模型不存在」,需在 “模型管理” 中检查配置。
- 确保所需模型(如
gpt-4)处于启用状态。 - 确认该模型已正确映射到对应的上游渠道。
3. 签发下游令牌
进入 “令牌管理” → “添加令牌”。
- 名称:建议使用客户端标识(如
Client-NextWeb)。 - 过期时间:对于长期服务,设为「永不过期」。
- 额度:建议设置硬性上限,防止 Key 泄露导致上游资损。
系统将生成一个新的 sk- 开头的令牌。请注意:这是后续所有客户端应用唯一需要使用的 Key。
4. 客户端接入
无论使用 Python/JS SDK,还是 ChatGPT Next Web、LangChain 等开源应用,配置规则完全一致:
- Base URL (接口地址):
http://<服务器IP>:3000/v1- 注意:必须包含
/v1后缀,这是 OpenAI SDK 的标准规范。
- 注意:必须包含
- API Key:填入上一步生成的 New-API 令牌。
五、结语
New-API 本质上是API 资源的管理中间件。
它最大的价值在于解耦:将变化频繁的上游(Key 封号、余额不足、线路切换)与下游应用隔离开来。应用侧只需配置一次 Base URL 和 Token,后续所有的线路维护、负载均衡和故障切换,均由 New-API 在服务端透明完成。
对于追求稳定性的生产环境或多模型协作的复杂开发场景,它是由繁入简的必要基础设施。