加载中...

开源项目 · MIT 许可

Vortex AI 网关

统一的本地 AI 网关,将 OpenAI、Anthropic、Google Gemini、DeepSeek 等多家 AI 提供商 聚合为 OpenAI / Anthropic 兼容 API。无需修改客户端代码,替换 base_url 即可享受 智能路由、弹性熔断、模型故障转移与用量统计。

Rust Actix-Web Vue 3 + TS 桌面 / Web 双模式

核心能力

从多提供商聚合到弹性路由,一站式管理你的 AI 接入

多提供商聚合

内置 OpenAI、Anthropic、Gemini、DeepSeek 等近 20 家提供商,并可自定义 OpenAI 兼容端点。

双协议入口

同时提供 /v1/chat/completions 与 /v1/messages 端点,替换 base_url 即可接入,无需改客户端代码。

智能路由与故障转移

模型名填 auto 即按优先级与历史成功率自动路由,单模型失败自动切换下一个;支持虚拟模型名多目标映射。

弹性熔断机制

连接级与模型级双层熔断 + 指数退避重试,确定性故障更快隔离,冷却后自动探测恢复。

安全存储与鉴权

API 密钥 AES-256-GCM 加密存储,首次启动自动生成访问令牌,开箱即用。

用量统计

按提供商、模型、时间维度记录请求数、Token 用量与成本,上游未返回时自动估算并标记。

内置 AI 提供商

覆盖云端 API、聚合中转与本地推理,支持自定义 OpenAI 兼容端点

OpenAI
Anthropic
Google Gemini
DeepSeek
Groq
xAI (Grok)
Mistral
OpenRouter
NVIDIA NIM
Cloudflare AI
Ollama (本地)
SiliconFlow
HuggingFace
通义千问 Qwen
MiniMax
Z.AI (GLM)
火山方舟
商汤日日新
自定义端点

技术架构

Rust 后端多 crate 分层 + Vue 3 前端,桌面与 Web 复用同一套核心

后端 (Rust)

Rust Actix-Web 4 Workspace 5 Crates rusqlite + r2d2 awc + openssl aes-gcm tokio Tauri 2 tauri-plugin-updater

前端 (Vue 3)

Vue 3.5 TypeScript (strict) Element Plus UnoCSS Pinia Vue Router ECharts 6 highlight.js Vite

立即接入 Vortex

下载桌面应用或部署 Web 服务,把客户端的 base_url 指向 Vortex 即可开始使用

19+
内置提供商
2
兼容协议入口
5
Rust Crates
Vortex 定位为开源技术研究项目,基于 MIT 许可证发布, 仅供技术研究与个人学习使用。「网页版账号」等功能可能涉及第三方平台服务条款,使用前请阅读项目免责声明。
扫码添加商务顾问
项目合作一对一沟通
联系二维码
商务经理