Skip to content

API 渠道

「API 渠道」从平台采购成本视角管理外部 AI 渠道(OpenAI、Anthropic、智谱等)的接入、调用与对账。它帮助平台运营者掌握外部渠道的整体成本、质量表现,并按渠道/上游模型配置采购单价,实现与上游账单的对齐。

入口路径:左侧菜单 计量计费 > API 渠道,页面路由 /admin/billing/channel

API 渠道总览页,标注 KPI 卡片与 Top 排行

页面菜单

页面路由说明
渠道总览/admin/billing/channel/overview成本 KPI、渠道成本趋势、Top 排行
渠道调用记录/admin/billing/channel/calls外部渠道单笔调用明细
渠道分析/admin/billing/channel/channels按渠道聚合对比
上游模型成本/admin/billing/channel/upstream-models按(渠道 × 上游模型)聚合
渠道质量监控/admin/billing/channel/quality渠道 SLA:TPS、延迟、错误率
渠道成本策略/admin/billing/channel/strategy配置渠道/上游模型采购单价

渠道总览:先看懂外部成本

  1. 进入 API 渠道 > 渠道总览
  2. 选择时间范围。
  3. 查看 KPI 卡片:
    • 请求量、Token 消耗、渠道成本、错误率
    • 活跃渠道数、活跃模型数
  4. 查看 按日 × 渠道 维度的成本堆叠柱图,了解每天各渠道花了多少。
  5. 查看 各渠道平均延迟与 P95 延迟 横向对比图,按平均延迟倒排。
  6. 查看 Top 8 渠道成本排行Top 8 上游模型成本排行
    • 上游模型名后会带 @渠道名 后缀标识来源。
    • 点击排行条目会下钻到渠道调用记录,并自动带入渠道+上游模型双筛选条件。

建议每周初查看一次总览,快速发现成本突增的渠道或模型。

渠道总览 KPI 与堆叠柱图


渠道调用记录:逐笔核对上游账单

  1. 进入 API 渠道 > 渠道调用记录
  2. 页面顶部展示统计概览:命中条数、总 Token、错误数、平均/P95 延迟。
  3. 使用搜索区筛选:时间、API 渠道、调用模型、上游模型、用户、工作区、状态码等。
  4. 列表展示每笔调用的:时间、状态码、API 渠道、调用模型、上游模型、用户、工作区、脱敏 API Key、总 Token、用户账单、渠道成本、总耗时、首 Token 时延。
  5. 点击行或「查看」打开调用详情:
    • 调用方:租户 / 用户 / API Key。
    • 链路时间线:客户端 → 网关 → 上游 → 完成,失败步骤标红并展示错误类别。
    • 基本信息:Request ID、状态码、调用模型、上游模型、API 渠道、AI 路由、来源 IP、Envoy 状态等;关键字段可复制。
    • 用户账单与渠道成本:按 Token 五段或按次计费明细、多币种折算、对账校验、定价时间。
    • Token 用量:输入 / 输出 / 缓存 / 缓存写入 5m / 1h / 推理。
    • 性能指标:总耗时、首 Token 时延、首字节时延。
    • 输入/输出原文

渠道调用记录默认只展示 source_type=custom 的调用,用于和上游账单对账。

渠道调用详情抽屉


渠道分析:横向对比各渠道

  1. 进入 API 渠道 > 渠道分析
  2. 选择时间范围。
  3. 页面展示:
    • 总渠道数、总 Token、渠道成本、平均延迟、错误率。
    • 调用量分布图与渠道成本分布图。
    • 渠道聚合表格:渠道名、调用次数、总 Token、渠道成本、平均延迟、错误率。
  4. 平均延迟与错误率会按阈值着色,劣化渠道一目了然。
  5. 点击行操作「查看」下钻到该渠道的调用记录。
  6. 支持排序、导出 CSV、列显隐切换。

渠道分析表格与阈值着色


上游模型成本:细化到单模型

  1. 进入 API 渠道 > 上游模型成本
  2. 选择时间范围,并可在顶部筛选具体 API 渠道。
  3. 页面展示:
    • 上游模型成本 Top 10 横向条形图。
    • 调用次数 Top 10 横向条形图。
    • 聚合表格:渠道名、上游模型、调用次数、总 Token、渠道成本、平均延迟、错误率。
  4. 在上游模型名搜索框中输入关键词,快速定位目标模型。
  5. 点击行操作「查看」下钻到该渠道+上游模型的调用记录。

上游模型成本 Top 10 图


渠道质量监控:盯紧渠道 SLA

  1. 进入 API 渠道 > 渠道质量监控
  2. 选择时间范围。
  3. 查看图表:
    • 各渠道平均 / P95 / P99 延迟横向三柱对比。
    • 错误率横向柱图。
    • 延迟趋势与错误率趋势(按日期 × 渠道展开)。
  4. 查看质量明细表格:
    • 渠道名、TPS(tok/s)
    • 平均延迟、P95 延迟、P99 延迟
    • 首 Token 时延(TTFT)、TTFT P95
    • 错误率、流式请求占比
  5. 延迟和错误率列会按阈值上色,方便快速识别 SLA 劣化的渠道。
  6. 点击「详情」跳转该渠道的调用记录。

流式请求占比越高,通常说明该渠道对实时交互场景支持越好。

渠道质量监控图表与明细表


渠道成本策略:配置采购价

渠道成本策略用于按(API 渠道 × 上游模型)配置外部采购单价,是 API 渠道成本统计的基础。

新建渠道成本规则

新建渠道成本规则抽屉

  1. 进入 API 渠道 > 渠道成本策略
  2. 点击「新建规则」。
  3. 填写 规则名称
  4. 选择 应用范围(平台级,新建时通常只暴露平台级)。
  5. 选择 API 渠道
  6. 选择 币种CNYUSD
  7. 选择 价格模式
    • 指定模型价:只对选中的上游模型生效,优先级更高。
    • 渠道基础价:对该渠道下所有未指定具体模型的上游模型生效。
  8. 选择 上游模型(仅在「指定模型价」模式时需要)。
  9. 选择 计费单位
    • 按 Token(元/1M tokens):文本类模型。
    • 按次(元/次):图像/音频/视频等。
    • 按千秒 / 按千字符:语音等场景。
  10. 填写价格:
    • 按 Token 模式:必填 输入 Token 单价;输出、缓存读取可通过开关启用;Anthropic 缓存写入 5 分钟/1 小时展开填写。
    • 按次 / 千秒 / 千字符模式:填写单一单价。
    • 档位价格表(仅按次模式):按模型协议参数设置不同档位价格。
  11. 填写 规则说明
  12. 点击「确定」保存。

渠道基础价对所有未单独配置的上游模型生效;指定模型价优先级更高,常用于覆盖某个热门模型的真实采购价。

渠道成本策略新建抽屉

编辑、删除与查看修订记录

  1. 在规则列表中找到目标规则。
  2. 行操作:
    • 编辑:可修改规则名称、价格、说明;渠道、币种、价格模式、模型等创建后不可变更,如需调整请新建规则。
    • 历史:查看价格修订时间线,含操作人、操作类型、价格涨跌标签。
    • 删除:删除前会二次确认。
  3. 列表支持按规则名称、API 渠道、上游模型筛选,支持分页、刷新、列显隐。

常见问题

Q:渠道成本和用户账单有什么区别? A:渠道成本是平台付给上游供应商的采购成本;用户账单是用户调用模型时应付给平台的费用。两者口径不同,分别用于对账和收款。

Q:为什么渠道调用记录里有些调用没有渠道成本? A:可能是尚未配置该上游模型的渠道成本策略,或后台仍在计算中。

Q:多币种场景怎么配? A:新建渠道成本规则时选择 USD,后续该规则的成本会按美元记录;列表与详情中也会展示对应币种标识。

Q:按千秒 / 按千字符适合什么模型? A:按千秒通常对应 ASR(语音转文字)端点,按千字符通常对应 TTS(文字转语音)端点;具体以模型实际调用的端点为准。

Q:渠道调用记录里为什么看不到私有化模型调用? A:渠道调用记录默认只展示 source_type=custom(外部渠道)的调用,私有化模型调用请在 计量计费 > Token 治理 中查看。

基于 Rise 智算平台 release-2606.v2.2.x 生成