中国信通院发布《大模型词元服务性能监测报告（2026）》：国内日均Token调用量6月达500万亿，同比大幅增长

10月23日，中国信通院人工智能研究所、工信部重点实验室、中国人工智能产业发展联盟联合发布《大模型词元服务性能监测报告（2026年）》。

数据显示国内大模型词元调用规模高速增长，2026年6月国内日均Token消耗量约500万亿，为2025年12月近4倍。MaaS平台成为词元服务主要供给渠道，但用户缺少统一评估标准，选型难度较高。报告基于1–8月监测数据，从调用成功率、吞吐、首词时延、价格、上下文等维度，对比原厂平台以及DeepSeek、Qwen、GLM、Kimi四款开源模型在第三方平台的性能差异。

报告核心结论：

1. 国内词元吞吐量TPS相比去年实现翻倍，8月均值78.23 token/s，但国外典型模型均值112.82 token/s，性能仍领先国内；
2. 国内外首词时延TTFT同步走高，国内8月均值1.26秒，国外2.08秒，主要受模型规模、上下文、调用压力增长影响，并非单纯性能倒退；
3. 经历价格战后，2026年词元服务价格明显回升，国内均价相比去年下半年接近翻倍，不过国外模型服务价格仍显著高于国内；
4. 上下文窗口持续拉长，监测样本中百万上下文模型占47.8%，200K以上占比95.7%；
5. 开源模型性能提升明显，但同一模型在不同平台性能波动巨大，TPS最大差距接近一倍，部分第三方平台性能优于官方原生服务。