宏推科技
统一的本地 AI 网关,将 OpenAI、Anthropic、Google Gemini、DeepSeek 等多家 AI 提供商 聚合为 OpenAI / Anthropic 兼容 API。无需修改客户端代码,替换 base_url 即可享受 智能路由、弹性熔断、模型故障转移与用量统计。
从多提供商聚合到弹性路由,一站式管理你的 AI 接入
内置 OpenAI、Anthropic、Gemini、DeepSeek 等近 20 家提供商,并可自定义 OpenAI 兼容端点。
同时提供 /v1/chat/completions 与 /v1/messages 端点,替换 base_url 即可接入,无需改客户端代码。
模型名填 auto 即按优先级与历史成功率自动路由,单模型失败自动切换下一个;支持虚拟模型名多目标映射。
连接级与模型级双层熔断 + 指数退避重试,确定性故障更快隔离,冷却后自动探测恢复。
API 密钥 AES-256-GCM 加密存储,首次启动自动生成访问令牌,开箱即用。
按提供商、模型、时间维度记录请求数、Token 用量与成本,上游未返回时自动估算并标记。
覆盖云端 API、聚合中转与本地推理,支持自定义 OpenAI 兼容端点
Rust 后端多 crate 分层 + Vue 3 前端,桌面与 Web 复用同一套核心
下载桌面应用或部署 Web 服务,把客户端的 base_url 指向 Vortex 即可开始使用