Rise 智算平台文档

简体中文

English

简体中文

English

Appearance

AI 大模型网关的计费方案说明 ​

适用场景：将平台作为企业内部 AI 大模型网关，统一接入自建模型推理实例（私有推理）与外部 AI 渠道（OpenAI / 智谱 / 通义等供应商），并为不同部门（工作空间 / 项目）提供差异化的费用计算与分摊方案。

本文面向客户/用户，说明平台的计量计费能力与落地配置方式。

一、方案概述 ​

平台本身即是一套完整的 AI 模型网关 + 计量计费 体系，天然覆盖本次需求的三个要素：

需求平台对应能力就绪度
自建模型推理实例的访问与计费Token 治理（私有推理计费：source_type=system，模型计费策略）✅ 已实现
外部 AI 渠道对接与计费API 渠道计费（渠道成本：source_type=custom，渠道成本策略）✅ 已实现
不同部门间的费用计算工作空间（workspace）/ 项目（namespace）维度计费与分摊✅ 已实现

核心设计：平台对一次 LLM 调用同时回答两个问题——

  1. 用户花了多少（应付金额 amount）：按用户调用的模型别名，向其部门 / 个人账户计费；
  2. 平台进货花了多少（渠道成本 cost）：按实际命中的外部渠道，记录平台侧采购成本，用于与供应商对账。

两条价格链路独立配置、并存于同一行调用日志，互不干扰。

二、计费体系总览 ​

2.1 双计费口径 ​

口径含义面向谁前端入口
应付金额（amount）用户调用一次大模型的费用终端用户 / 部门负责人 / 财务Token 治理（governance）系列页面
渠道成本（cost）平台对外部渠道实际支付的采购成本平台管理员 / 运营 / 渠道对账API 渠道（channel）系列页面

典型关系：

  • 对自建推理：两者可相同（平台自营，无进货成本），按同一模型计费策略收取；
  • 对外部渠道：应付 = 渠道成本 × 利润率（典型转售），或应付 = 0（内部免费团队），成本仍需记账；
  • 同一虚拟模型可走多渠道灰度（A/B / 降级），用户单价稳定，每次实际渠道成本可不同。

2.2 出账链路 ​

用户请求 → Higress AI 网关 →（命中 AiRoute）→ 自建推理实例 或 外部 AI 渠道
                                                    │
                                                    ▼
                            ClickHouse 调用日志（每行一次请求，记录 token/耗时/身份）
                                                    │
                                                    ▼ ⏰ 定时任务回填
                            计算两条价格：应付金额（按模型别名）+ 渠道成本（按上游模型）
                                                    │
                                                    ▼
                            PostgreSQL 计费策略规则（billings 表，按 level/模型/渠道定价）

费用并非实时出账：请求先落日志，由定时任务批量回填价格（默认数分钟周期，可手动触发）。失败调用（HTTP ≥ 400）不计费。

Token 治理总览页：KPI 卡片与趋势

API 渠道总览页：成本 KPI 与 Top 排行

三、计费策略配置 ​

3.1 四类计费策略 ​

策略位置计费对象计量单位
模型计费策略/admin/billing/governance/strategy大模型调用（Token / 次数 / 时长 / 字符）¥/1M Token、¥/次、¥/千秒、¥/千字符
渠道成本策略/admin/billing/channel/strategy外部 API 渠道采购成本同上（多币种 CNY / USD）
物理资源计费策略/admin/billing/strategyCPU / 内存 / GPU 显存¥/核、¥/GiB（按计费周期）
机器资源计费策略/admin/billing/machine/strategy物理机 CPU / 内存 / GPU 显存 / GPU 算力¥/核、¥/GiB

3.2 模型计费策略（Token 治理 - 用户应付） ​

针对每个模型可配置以下计价维度：

档位说明单位
输入（prompt）用户请求的输入 Token¥/1M Token（必配）
输出（completion）模型生成的输出 Token¥/1M Token
缓存命中（cached read）命中上下文缓存的 Token¥/1M Token
缓存写入 5 分钟Anthropic 风格短 TTL 缓存写¥/1M Token
缓存写入 1 小时Anthropic 风格长 TTL 缓存写¥/1M Token

除 Token 计价外，还支持非文本计费单位：

单位适用场景说明
按次（per_call）图像生成 / 视频生成等单次固定价，支持分档价目表（如按分辨率 512×512 / 1024×1792、按时长、按质量档）
按千秒（per_1k_seconds）ASR 语音识别按音频时长计费
按千字符（per_1k_chars）TTS 语音合成按文本字符计费

支持针对多模态计量：图像按张数/分辨率档、音频按秒、文本按 Token / 字符。

新建模型计费规则抽屉：五段单价与非文本单位

3.3 渠道成本策略（API 渠道 - 平台对账） ​

配置项说明
定价维度（渠道，上游模型名），支持 * 通配符做"渠道基础价"
价格模式"指定模型"（精确模型定价）或"渠道基础价"（该渠道所有模型统一价）
币种CNY（默认）或 USD，汇率快照锁定
计量单位与模型计费策略相同（Token 五档 / 按次 / 千秒 / 千字符）

新建渠道成本规则抽屉：渠道、币种与价格模式

四、不同部门（workspace / namespace）的差异化计费 ​

4.1 计费策略的作用域 ​

计费策略支持多级作用域覆盖，平台级默认价 → 工作空间级覆盖价：

level含义说明
system平台默认价全平台生效的基准价格
workspace工作空间覆盖价为特定部门/租户单独定价，覆盖平台默认价
inference私有推理专属价自建 NovaInference 推理服务的专属定价
api_channel渠道成本规则外部渠道采购成本定价

4.2 价格命中优先级（5 层 + 通配） ​

1. 渠道 + 工作空间 + 模型          ← 最具体
2. 渠道 + 工作空间 + "*"
3. 渠道 + 模型
4. 渠道 + "*"                      ← 渠道基础价
5. 工作空间 + 模型                 ← 部门专属价
6. 平台 + 模型                     ← 平台默认价
7. 兜底

结论：可以为不同部门（workspace）配置不同的计费策略。 例如：研发部按 ¥0.8/1M Token 内部分摊，市场部按 ¥2/1M Token 结算，互不影响；未单独配置的部门自动沿用平台默认价。

4.3 费用分摊维度 ​

维度说明
工作空间（workspace）部门级费用汇总（计费策略按此配置）
项目/命名空间（namespace）项目级费用下钻（账单报表支持按 namespace 聚合）
用户（creator）个人维度费用
模型 × 用户按模型 × 用户联合分析

物理资源账单（BillRecord）支持 system → workspace → namespace → creator 四级下钻；模型 Token 账单支持 system → workspace → model → user → API Key 多级聚合。

用户与工作区：按部门维度聚合消费排行

五、费用查询与报表 ​

5.1 Token 治理（用户侧视角） ​

页面能力
Token 治理总览总请求数 / 总 Token / 应付金额 / 错误率 / 平均延迟 KPI
调用记录单次调用明细（含 5 档价格分列）
消费者分析按用户 / 工作空间聚合，应付金额排行
Key 分析按 API Key 维度的用量、配额、限流
模型排行按模型维度的 Token 消耗与费用

模型调用记录详情：链路追踪与计费明细

5.2 API 渠道（平台侧视角） ​

页面能力
渠道总览渠道成本 KPI、分渠道成本趋势
渠道分析按渠道（AiProvider）聚合成本
上游模型按（渠道，上游模型）聚合
渠道质量延迟 / 错误率监控
渠道调用强制 source_type=custom 的调用记录

上游模型成本 Top 10 与聚合表

渠道分析：多渠道横向对比与阈值着色

5.3 物理资源成本（计费管理） ​

  • 节点成本 / GPU 卡类型成本 / 单卡成本三级下钻
  • 成本饼图、趋势折线图、分布图，Top5 排行
  • 调用日志 CSV 导出（单次 ≤ 1 万行）、资源成本明细导出

5.4 终端用户自助 ​

  • 我的用量（/admin/model-x/my-usage）：个人用量总览 / 趋势 / Top 模型 / 最近调用
  • 我的调用（/admin/model-x/my-calls）：个人调用记录
  • 终端用户视图自动隐藏渠道 / 上游模型 / 路由等管理维度

我的用量：个人 KPI、趋势与消费排行

六、落地配置建议 ​

6.1 新场景接入步骤 ​

  1. 接自建推理：部署模型推理实例（NovaInference）→ 系统自动注册为"系统渠道"；
  2. 接外部渠道：配置 API 渠道（AiProvider，OpenAI / Anthropic / 智谱等协议）→ 配置路由（AiRoute）与模型映射；
  3. 配价格：
    • system 级：配置平台默认模型计费策略（对外收费）；
    • workspace 级：配置部门专属价格（差异化收费）；
    • api_channel 级：配置渠道成本策略（采购成本，多币种）；
  4. 开账户：为部门创建工作空间 + 项目，分配 API Key；
  5. 看报表：运营用渠道分析对账，部门用消费者分析分摊，个人用我的用量自助查询。

6.2 推荐的价格模型组合 ​

业务场景推荐配置
内部通用的自建模型system 级模型计费策略，按 Token 五档定价
外部大模型转售api_channel 渠道成本策略 + system/workspace 应付策略（差价即毛利）
跨部门差异定价各部门 workspace 级模型计费策略（覆盖平台默认价）
图像 / 视频生成服务per_call 按次 + 分档价目表（分辨率 / 质量）
ASR 语音服务per_1k_seconds 按千秒计时
TTS 语音服务per_1k_chars 按千字符计费

七、当前边界与说明 ​

能力状态说明
GPU / CPU / 内存计量计费✅支持，按核 / GiB / 计费周期
存储（磁盘 / PVC）计量计费❌ 暂不支持物理资源计费维度未含独立存储类型，属扩展项
预算告警 / 配额强制⏳ 规划中当前支持配额配置与用量查询，预算触发动作属二期
多币种⚠️ 部分渠道成本侧支持 CNY / USD，应付侧默认 CNY
计费策略版本管理✅每条策略可查看历史版本（revision），支持审计追溯

八、结语 ​

平台现成具备 AI 模型网关 + 双口径计量计费 的能力，可直接承接"内部自建推理 + 外部渠道接入 + 部门级费用分摊"的一体化需求：

  • 对内：自建推理按 Token / 次数透明计费，部门按 workspace / namespace 分账；
  • 对外：外部渠道按实际成本对账，转售差价清晰可见；
  • 管理：策略多级作用域 + 5 层价格优先级 + 版本审计，配置灵活、核算可回溯。

如需进一步了解具体配置步骤、价格示例或定制报表，请参阅 计量计费 > Token 治理 与 计量计费 > API 渠道，或联系平台管理员。

基于 Rise 智算平台 release-2606.v2.2.x 生成

Copyright © 2026 Rise 智算平台