
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
延迟暴降67%!十年老兵手搓CLIP多模态大模型:SVD低秩剪枝与INT8量化实战(附完整源码)
在多模态以图搜图场景(如电商)中,原生 CLIP 等视觉大模型体积庞大、推理延迟高。在高并发或端侧算力受限的场景下,无法满足毫秒级响应的需求。:作为一个写了十几年高并发与底层架构的工程师,我不满足于只当“调包侠”。我试图从和入手,给大模型做一次真正的“物理减肥”。
到底了

该用户还未填写简介
暂无可提供的服务
在多模态以图搜图场景(如电商)中,原生 CLIP 等视觉大模型体积庞大、推理延迟高。在高并发或端侧算力受限的场景下,无法满足毫秒级响应的需求。:作为一个写了十几年高并发与底层架构的工程师,我不满足于只当“调包侠”。我试图从和入手,给大模型做一次真正的“物理减肥”。