logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

LLM 应用成本工程:单价低不等于总账低,Agent 的 token 账怎么算

原则一句话成本结构Agent 输入是输出的 10 倍+,省钱主战场在输入侧第一杠杆提示词缓存,输入砍 5~10 倍,零代码第二杠杆模型分级路由,分诊类步骤占 6 成调用量第三杠杆上下文瘦身:压缩历史、裁剪工具结果铁律单价低 ≠ 总账低,先算账再优化,改完跑回归Harness 管预算、记忆管压缩、Jev 管分诊、评测管回归——全都是成本工程的零件。大模型应用的胜负手从来不只是效果,还有每百万 tok

#AI#缓存
到底了