
One API 接口管理 & 分發(fā)系統(tǒng)
聲明:該文章由作者(爺單身卻瀟灑)發(fā)表,轉(zhuǎn)載此文章須經(jīng)作者同意并請附上出處(0XUCN)及本頁鏈接。。
OpenAI 接口管理 & 分發(fā)系統(tǒng),支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智譜 ChatGLM、百度文心一言、訊飛星火認(rèn)知、阿里通義千問、360 智腦以及騰訊混元,可用于二次分發(fā)管理 key,僅單可執(zhí)行文件,已打包好 Docker 鏡像,一鍵部署,開箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
功能
支持多種大模型:
OpenAI ChatGPT 系列模型(支持 Azure OpenAI API)
Anthropic Claude 系列模型 (支持 AWS Claude)
Google PaLM2/Gemini 系列模型
Mistral 系列模型
字節(jié)跳動豆包大模型
百度文心一言系列模型
阿里通義千問系列模型
訊飛星火認(rèn)知大模型
智譜 ChatGLM 系列模型
360 智腦
騰訊混元大模型
Moonshot AI
百川大模型
MINIMAX
Groq
Ollama
零一萬物
階躍星辰
Coze
Cohere
DeepSeek
Cloudflare Workers AI
DeepL
together.ai
novita.ai
硅基流動 SiliconCloud
支持配置鏡像以及眾多第三方代理服務(wù)。
支持通過負(fù)載均衡的方式訪問多個渠道。
支持 stream 模式,可以通過流式傳輸實(shí)現(xiàn)打字機(jī)效果。
支持多機(jī)部署,詳見此處。
支持令牌管理,設(shè)置令牌的過期時間、額度、允許的 IP 范圍以及允許的模型訪問。
支持兌換碼管理,支持批量生成和導(dǎo)出兌換碼,可使用兌換碼為賬戶進(jìn)行充值。
支持渠道管理,批量創(chuàng)建渠道。
支持用戶分組以及渠道分組,支持為不同分組設(shè)置不同的倍率。
支持渠道設(shè)置模型列表。
支持查看額度明細(xì)。
支持用戶邀請獎勵。
支持以美元為單位顯示額度。
支持發(fā)布公告,設(shè)置充值鏈接,設(shè)置新用戶初始額度。
支持模型映射,重定向用戶的請求模型,如無必要請不要設(shè)置,設(shè)置之后會導(dǎo)致請求體被重新構(gòu)造而非直接透傳,會導(dǎo)致部分還未正式支持的字段無法傳遞成功。
支持失敗自動重試。
支持繪圖接口。
支持 Cloudflare AI Gateway,渠道設(shè)置的代理部分填寫 https://gateway.ai.cloudflare.com/v1/ACCOUNT_TAG/GATEWAY/openai 即可。
支持豐富的自定義設(shè)置,
支持自定義系統(tǒng)名稱,logo 以及頁腳。
支持自定義首頁和關(guān)于頁面,可以選擇使用 HTML & Markdown 代碼進(jìn)行自定義,或者使用一個單獨(dú)的網(wǎng)頁通過 iframe 嵌入。
支持通過系統(tǒng)訪問令牌調(diào)用管理 API,進(jìn)而在無需二開的情況下擴(kuò)展和自定義 One API 的功能,詳情請參考此處 API 文檔。。
支持 Cloudflare Turnstile 用戶校驗。
支持用戶管理,支持多種用戶登錄注冊方式:
郵箱登錄注冊(支持注冊郵箱白名單)以及通過郵箱進(jìn)行密碼重置。
支持使用飛書進(jìn)行授權(quán)登錄。
GitHub 開放授權(quán)。
微信公眾號授權(quán)(需要額外部署 WeChat Server)。
支持主題切換,設(shè)置環(huán)境變量 THEME 即可,默認(rèn)為 default,歡迎 PR 更多主題,具體參考此處。
配合 Message Pusher 可將報警信息推送到多種 App 上。
[超站]友情鏈接:
四季很好,只要有你,文娛排行榜:https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全,洞悉企業(yè)級服務(wù)市場:https://www.ijiandao.com/
- 1 習(xí)近平接見新疆各族各界代表 7904287
- 2 樺加沙風(fēng)眼內(nèi)部曝光 拍攝部門:震撼 7808790
- 3 飛機(jī)狂風(fēng)中降落 機(jī)翼險些砸地 7713230
- 4 援疆的山海深情 跨越千里萬里 7617376
- 5 馬克龍被美警察攔下 當(dāng)場打給特朗普 7521425
- 6 臺風(fēng)“樺加沙”影響有多大?解讀來了 7426828
- 7 上海再通報多校午餐發(fā)臭:涉嫌瞞報 7329321
- 8 深圳機(jī)場飛機(jī)被“五花大綁”防臺風(fēng) 7232212
- 9 美媒:中國航母能力實(shí)現(xiàn)重大飛躍 7143678
- 10 為避臺風(fēng) 小區(qū)近百輛車停上大橋 7043687