logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

延迟暴降67%!十年老兵手搓CLIP多模态大模型:SVD低秩剪枝与INT8量化实战(附完整源码)

在多模态以图搜图场景(如电商)中,原生 CLIP 等视觉大模型体积庞大、推理延迟高。在高并发或端侧算力受限的场景下,无法满足毫秒级响应的需求。:作为一个写了十几年高并发与底层架构的工程师,我不满足于只当“调包侠”。我试图从和入手,给大模型做一次真正的“物理减肥”。

#剪枝#人工智能#算法
到底了