文章
全部内容 · 共 3 篇 · 最新在前
推理服务与成本优化
LLM 应用的成本核算——Token 计费到单位经济
LLM 应用的成本核算方法。按 Token 计费、成本归因、单位经济三层展开，给出各层所需表格与公式，并梳理优化杠杆与治理要点，供核算成本毛利。
浏览 30 次
2026-09-22 →
推理服务与成本优化
LLM 网关架构——路由、限流与成本控制
LLM 网关的架构设计。讨论多模型接入场景下的网关定位，列出核心能力、五类路由策略与三维限流设计，并对比自研、开源与托管方案。
浏览 15 次
2026-09-22 →