songquanpeng/one-api
LLM API 管理 & 分发系统,支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型,统一 API 适配,可用于 key 管理与二次分发。单可执行文件,提供 Docker 镜像,一键部署,开箱即用。LLM API management & key redistribution system, unifying multiple providers under a single API. Single binary, Docker-ready, with an English UI.
JavaScript · ★ 37,405 · Fork 6,892 · 在 GitHub 查看
在手机上浏览源码、订阅每日 AI 趋势日报与项目架构深度解读:获取 CopoHub 客户端(iOS & HarmonyOS)→
GitHub Trending 上榜记录
songquanpeng/one-api 已在 GitHub Trending 每日榜单上榜 1 天,最高排名第 55,首次上榜 2026-11-11,最近一次上榜 2026-11-11。
| 日期 | 排名 | Star | 当日增长 |
|---|---|---|---|
| 2026-11-11 | #55 | 37,406 | +21 |
同期上榜的项目
- meta/astryx – An open source design system that's fully customizable and agent ready
- ZhuLinsen/daily_stock_analysis – LLM 驱动的多市场股票智能分析系统:多源行情、实时新闻、决策看板与自动推送,支持零成本定时运行。 LLM-powered multi-market stock analysis system with multi-source market data, real-time news, decision dashboard, automated notifications, and cost-free scheduled runs.
- GoogleChrome/modern-web-guidance-src – Keep your coding agent up to date with the latest web best practices
- shadcn/improve – Use your most capable model to audit your codebase and write plans for cheaper models to execute.
- addyosmani/agent-skills – Production-grade engineering skills for AI coding agents.
- vercel-labs/agent-browser – Browser automation CLI for AI agents
songquanpeng/one-api 项目深度剖析与商业评估报告
songquanpeng/one-api 项目深度剖析与商业评估报告
---
1. 核心定位与商业落地价值
1.1 核心痛点与问题域解构 在大语言模型(LLM)落地过程中,基础设施层普遍面临协议异构性与治理碎片化两大核心矛盾: 协议碎片化:OpenAI Completions 虽成为事实标准,但 Anthropic(Messages API)、Google Gemini、以及主流国产模型(通义千问、文心一言、腾讯混元、字节豆包等)在鉴权签名、入参规范、SSE(Server-Sent Events)流式切片及 Function Calling 协议上均存在显著差异,导致上层应用需适配大量 SDK。 治理与成本黑盒:多应用/多租户共享上游 API 时,缺乏精细化的额度隔离(Quota Allocations)、分组倍率结算、通道级故障转移(Failover)以及集中式 Token 审计。
one-api 的核心定位是一个以 OpenAI 协议为中枢的 LLM 统一路由、协议转换与分发网关。其通过屏蔽底层异构模型差异,对外统一暴露标准 OpenAI RESTful 接口,同时内置了完整的商业级计费账户系统与渠道调度引擎。
[上层业务系统 / 客户端生态 (Chatbox, NextChat, CherryStudio, 企业内部应用)] │ (统一标准 OpenAI API /v1/chat/completions) ▼ ┌────────────────────────────────────────────────────────────────────────┐ │ One API 核心网关引擎 │ │ ┌───────────────────────┬──────────────────────┬───────────────────┐ │ │ │ 鉴权与租户隔离 (Token)│ 动态路由与负载均衡 │ 实时/批量计费引擎 │ │ │ └───────────────────────┴──────────────────────┴───────────────────┘ │ │ ┌──────────────────────────────────────────────────────────────────┐ │ │ │ 协议适配与流式解析层 (Protocol Adaptor & SSE Demuxer) │ │ │ └──────────────────────────────────────────────────────────────────┘ │ └────────────────────────────────────────────────────────────────────────┘ │ │ │ │ ▼ ▼ ▼ ▼ [OpenAI / Azure] [Claude (AWS)] [DeepSeek / 硅基] [国内主流大模型]
1.2 商业落地场景 1. 企业级 AI 基础设施统一接入层:作为企业 IT 架构内部的私有网关,连接各业务部门与外部公有云/私有化 LLM 算力,实现 API Key 统一托管、部门额度软硬限制及全链路调用审计。 2. AI 原生应用(AI Native Apps)出海与容灾:作为底层调度代理,混合编排 Azure OpenAI 与 OpenAI 官方通道,配合健康检查机制,在单点封禁或 Rate Limit (429) 时实现毫秒级自动热转移。 3. 商业化 API 转售与算力中继(Aggregator/Reseller):依托内置的兑换码(Redemption Code)、用户分组倍率、消费明细与多级管理 API,可零代码搭建商业化大模型分发平台。
1.3 竞品横向对比与护城河 对比 LiteLLM:LiteLLM 侧重于 Python 生态与开发者 SDK 代理,适合与 LangChain/LlamaIndex 深度绑定;而 one-api 采用 Go 语言构建,为单二进制交付、自带生产级 Web 管理面板与完整 RBAC 体系的独立服务,其在开箱即用性、多租户计费及国内模型覆盖度上具备压倒性优势。 对比 Kong / Envoy AI Gateway:云原生 API 网关通过插件提供基础的 LLM 流控与重定向,但缺乏对大模型深层业务逻辑(如复杂的 Token 计费阶梯、多厂商补全倍率、本地化 BPE 离线预估、渠道 Ability 映射)的原生支撑。one-api 的壁垒在于对 30+ 异构 LLM 厂商协议演进的极速跟进与深度下沉适配。
在 README 中展示上榜徽章
[](https://github.fq6825.top/repo/songquanpeng/one-api)