把模型接入,把用量管好。
Python 本地 AI 网关。管理员配置渠道、模型和用户额度;用户使用自己的随机密钥调用统一 API。
密钥仅保留在本页内存,刷新或退出后清除。不读取已有 Copilot 登录状态。管理控制台
仅本地运行网关概览
统一调用入口
使用个人 API Key + 模型别名。更换上游渠道时,客户端配置不需要跟着变化。
配额与计量
额度按输入 + 输出 Token 计算,所有密钥共享所属用户的总额度。请求开始前原子预留,完成后按上游报告结算。
超时、断流或缺少 usage 时保守扣除预留量,并标记为待核对;不会以“零消耗”掩盖无法确认的费用。
Copilot 为显式启用的 SDK 适配,不是无差别 Chat API;其输出上限无法硬约束。MOCK 数据仅用于本地演示。
多语言测试
只生成代码,不自动调用模型渠道协议矩阵
| 上游类型 | API 端点 | 调用模式 |
|---|---|---|
| Azure / OpenAI | Chat Completions, Responses, Images, GET /models | 文字 JSON/SSE;图片 JSON |
| Anthropic | Chat Completions, Messages, GET /models | JSON / SSE |
| Copilot SDK | Chat Completions, Responses, GET /models | 单轮 JSON / SSE、软配额、无输出上限 |
| MOCK | Chat Completions, GET /models | 模拟 JSON / SSE,无真实上游 |
矩阵表示网关适配能力;具体模型还受上游部署、权限和功能限制。GET /models 只列出当前用户可用别名,不运行推理。
多渠道验收步骤
- 准备各群组测试用户与小额配额;逐渠道使用专用别名,先运行 GET /models 核对权限。
- 选择渠道、协议和多个别名,依次运行 Python、cURL、.NET、Rust 的 JSON 请求,保存 x-request-id。
- 对支持的渠道重复 SSE 测试,确认增量内容与正常终止;Copilot 不测试 SSE 或输出预算。
- 用请求 ID 核对用量:模型、实际渠道、用户和 Key 扣额一致,预留归零,usage 缺失或断流应标记待核对。
- 用独立测试用户覆盖错误 Key、跨组、未授权模型和额度不足;确认没有上游推理及错误扣额,不修改生产用户。
推理用量分析
Token 配额统计,不是金额账单上游回报、保守扣额、人工核对与 MOCK 分开统计。成功率为已确认成功 / 已结束请求;处理中不计入分母。只统计进入额度预留的推理请求,提前拒绝见错误日志。
Token 消耗趋势
已扣 Token上游报告保守扣额 Token人工核对MOCK 演示
请求数趋势
请求数流式非流式模式未记录
查看趋势数据
点击分组名称下钻筛选。排名之外的分组合并为“其他”,仍计入完整总量。时间趋势按 UTC 聚合;历史未记录的模式和端点不会推测补填。
错误日志
持久化保留,不随重启清除保留错误码、安全错误描述、请求关联与上游状态。管理员可看例外类型及堆栈位置;不保留密码、密钥、提示词、模型回复或上游原始错误正文。
用户与密钥
密钥只在创建时显示一次用户额度
所选用户的密钥
渠道与模型
直接填写上游 Key,加密保存且不回显渠道列表
模型路由
用量记录
不记录提示词、模型回复或密钥正文最近管理审计
调用体验
请求通过同一鉴权、配额与计量链路模型回复
图片生成与编辑
请求通过同一鉴权、配额与计量链路生成结果
图片不写入网关数据库。Base64 结果在本页预览;外部图片链接仅在点击后打开。