6.5 商业化闭环:并发限流、Token 计费与支付网关集成
本节目标:让项目具备“可持续运营”的商业化能力:能控制滥用、能统计成本、能按套餐/用量收费、能闭环对账。这里的关键不是“接上 Stripe 就完了”,而是建立一套可审计的成本账本 + 可执行的配额策略 + 稳定的支付与订阅状态机。
同时说明现状:ai-data-analyzer 当前后端依赖中并未包含 Stripe SDK、鉴权/会员体系也未完成(6.4 才补齐)。因此 6.5 的内容以“可落地的实现步骤与结构设计”为主,便于你按章节逐步把代码做出来。
6.5.1 先把问题讲清楚:你到底在卖什么
数据分析 AI Agent 的成本通常来自三块:
- LLM 调用成本:输入/输出 tokens(可能还有工具调用 tokens)
- 执行器成本:6.2 的代码沙盒执行时间、CPU、内存、存储(产物/日志)
- 基础设施成本:队列、数据库、向量库检索、带宽
商业化的本质是:把这些成本转化为用户可理解的计费单位,并提供可控的配额与限流。
典型计费单位(可组合):
- 按请求数(calls)
- 按 token 数(tokens)
- 按执行器用量(exec seconds / job seconds)
- 按存储(datasets / artifacts / vector chunks)
建议第一版选择“订阅 + 额度”作为主模型:
- Free:每日/每月固定额度(例如 tokens + 次数),超了不可用或降级
- Pro:更高额度,允许更大文件、更高并发
- Team:多 workspace 成员、审计与导出
6.5.2 成本账本(Billing Ledger):可审计比“算得准”更重要
很多项目在计费上踩坑的原因是:只记录“总数”,不记录“每一笔明细”。一旦用户质疑账单、或者出现重试/失败,你就对不上账。
正确做法是建立账本(Ledger):
账本需要记录什么
至少记录三类事件:
- LLMUsage:一次模型调用的 tokens 与费用估算
- ExecUsage:一次执行器任务的资源用量(duration/cpu/memory)
- StorageUsage:存储增量(上传的数据/生成的 artifacts/向量 chunks)
并且每条记录都要能关联到:
workspace_id(租户)user_id(发起者)analysis_id/job_id(业务事件)provider(openai/claude/…)
建议的最小表结构(概念层)
billing_ledgeridworkspace_iduser_idevent_type:llm | exec | storageevent_key:用于幂等(例如analysisId:stepId:attempt)amount:货币金额(可选,第一版也可以不算钱只算单位)units:JSON(tokens/duration/storageBytes)metadata:provider、model、promptHash、artifactRefscreated_at
这里的关键是 event_key:当 BullMQ 重试或网络抖动导致重复写入时,账本不会被重复计费。
6.5.3 Token 计量:如何“准确”地拿到 tokens
OpenAI
在多数 SDK 中,返回体会提供 usage(输入/输出/总 token)。需要把它贯穿到 6.1 的每一步 task 上:
- Router 调用一次,记一次 usage
- Data Coder 可能多次重试,必须把 attempt 维度记到 event_key
- Reviewer/Writer 同理
Anthropic(Claude)
同样会有 token/usage 字段(命名略有差异),原则相同:必须在统一的“UsageExtractor”层做适配。
工程建议:统一一个 Usage 适配层
无论你使用哪个 LLMService,都让它返回一个统一结构:
interface LLMCallMeta {
provider: 'openai' | 'anthropic' | 'local';
model?: string;
usage?: { input: number; output: number; total: number };
}
这样你的账本与配额模块就不用关心底层 SDK 的差异。
6.5.4 配额(Quota)与策略(Policy):让“能用/不能用/降级”有依据
只有账本还不够,你还需要“可执行的策略”,决定用户是否允许发起新任务,以及当超额时怎么处理。
Step 1:定义额度维度
建议至少三维:
monthly_tokensmonthly_requestsconcurrent_jobs
进阶可加:
max_file_size_mbmax_rows_per_datasetmax_artifacts_per_month
Step 2:策略执行点(拦截在哪里)
推荐三处拦截:
- API 接口入口:上传/发起分析时检查配额(快速拒绝)
- 入队前:BullMQ enqueue 前检查(避免排队浪费)
- Worker 执行前:最后一道闸(防止并发突刺导致突破)
并且要明确三种结果:
- allow:允许执行
- deny:拒绝并返回明确错误(提示升级套餐)
- degrade:降级执行(例如不生成 3D 图表、减少 TopK、缩短报告)
降级策略能显著提升免费用户体验,也能降低运营压力。
6.5.5 Redis 限流:保护系统、降低滥用
你的项目已经依赖 Redis(BullMQ/Cache),因此限流可以直接复用 Redis。
最小可用的限流:按用户/按 IP 的滑动窗口
典型规则:
- Free:每分钟 5 次分析请求
- Pro:每分钟 30 次
- Team:更高 + 更高并发
实现要点(概念层):
- key:
rl:{workspaceId}:{userId}:{route}:{window} - value:计数器 + 过期时间(TTL)
并发限制:防止“同时开 100 个任务”
除了 API 限流,还要做并发限制(特别是 Worker 侧):
concurrent_jobs作为配额维度- Worker 执行前检查当前 workspace 正在 running 的 job 数量
6.5.6 支付与订阅:Stripe 接入的正确姿势(状态机优先)
支付系统的核心不是“前端付钱”,而是“后端可信地知道订阅状态”。
Step 1:定义订阅实体与状态
你至少需要在 DB 里保存:
stripe_customer_idstripe_subscription_idplan(free/pro/team)status(active/past_due/canceled/trialing)current_period_end
并把它归属到 workspace_id(不是 user)。
Step 2:前端结账页(Checkout)
- 用户在某个 workspace 下升级套餐
- 创建 Stripe Checkout Session
- 支付完成后跳回前端 success URL
Step 3:Webhook 驱动的订阅同步(必须)
真正可信的状态更新来自 Stripe Webhook,而不是前端跳转。
你需要处理至少这些事件:
checkout.session.completedinvoice.paidinvoice.payment_failedcustomer.subscription.updatedcustomer.subscription.deleted
处理逻辑:
- 更新订阅状态
- 变更 plan 与额度
- 记录账本(付款事件也可以记入 ledger,便于对账)
Step 4:对账与幂等
Webhook 可能重复投递,因此:
- 事件 id 必须做幂等(存一张
webhook_events或直接利用 ledger event_key) - 任意一次处理失败要可重试(BullMQ 也可以用于 webhook 异步处理)
6.5.7 与 6.1~6.4 的联动:这不是独立章节
6.5 的计费与限流要与前面章节真正打通:
- 6.1:每一步 agent task 产出 tokens/attempt,写入 ledger(可追溯到 step)
- 6.2:执行器的 duration/cpu/memory 写入 exec ledger,并纳入配额
- 6.3:向量库的 chunk 数量与 embedding 调用也要计量(否则成本黑洞)
- 6.4:所有计费、订阅、额度的归属单位是 workspace(多租户边界)
把这些接起来,你的系统就具备了“能规模化运营”的能力。
6.5.8 验收标准:商业化闭环最小可用版本(MVP)
- 免费/付费套餐能区分额度,并在 API 与 Worker 两处生效
- 每次 LLM 调用都能记录 usage 明细,并可按 workspace 聚合查询
- Redis 限流可用,能有效阻挡恶意高频请求
- Stripe 订阅状态以 Webhook 为准,并能正确同步到 workspace
- 账本具备幂等键,重试不会重复计费
