AI 成本失控很少是“一次性”问题,而是缺少一套持续看的机制。首要动作是统一计量:把所有模型、各业务、各团队调用产生的 Token 与费用归拢到一张看板,先搞清楚钱从哪来。
然后做分类治理:高频重复的请求加上缓存;按任务复杂度路由到不同价位的模型;对批次与并发做调度;再对还在增长的业务设预算上限和告警。
除了省,还要算回报。和业务收益放在一起看,才不会为省钱严重影响体验。每个季度的成本治理,应当同时交付“花了多少”和“赚回多少”两个数字。
从一个小透明看板开始,不必一步到位。看得清,才能降得动。
