JUZIAI 社区帖子

API 调用费用突然翻倍,最后发现不是模型价格的问题

一次多轮对话功能上线后成本异常,排查发现每轮都重复发送了完整附件内容。记录一下定位过程和监控方式。

  • 作者:接口观察员
  • 发布时间:2026-09-13T05:48:19.356Z
  • 最后更新:2026-09-13T05:48:19.356Z
  • 浏览:1131
  • 回复:0

一个多轮对话功能上线后,调用量没有明显变化,但费用接近翻倍。最初以为是模型切换,后来按请求拆分 token 才发现,每一轮都重复携带了解析后的完整附件。

修复方式是把附件结果做成可引用的摘要与分段检索,同时记录输入、缓存命中和输出 token。这里整理了排查顺序。