智能体工作负载正在悄然重塑推理经济学。根据 SemiAnalysis 对 43.2 万个真实编码智能体请求的分析，中位数输入 token 数并非此前普遍认为的 3.2 万或 6.4 万，而是高达 9.6 万。这一数字意味着，在用户输入问题之前，模型已处理了相当于《了不起的盖茨比》全文长度的文本量。
这一发现揭示了智能体推理成本结构的复杂性，对推理服务和模型定价策略提出了新的挑战。传统定价模型可能需要重新评估，以适应这种高输入 token 的实际使用模式。
分析表明，智能体工作负载的经济学特性远比表面数据更为复杂。9.6 万 token 的中位数输入量不仅反映了智能体系统的计算密集性，也暗示了当前行业对推理成本的理解存在显著偏差。
对于从事推理服务和模型定价的专业人士而言，这一数据提供了重要的参考依据，促使行业重新审视和优化其成本结构与定价策略。
