
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
【论文笔记】 SnapKV
大型语言模型(LLMs)在处理长上下文方面取得了显著进展,其中键值(KV)缓存在提升模型性能中起到了关键作用。然而,随着输入长度的增加,KV缓存的增长对内存和时间效率提出了挑战。为了解决这个问题,本文提出了SnapKV,一种创新的、无需微调的KV缓存压缩方法,在保持实际应用中相似性能的情况下,有效地缩小了KV缓存大小。我们发现,模型中的每个注意力头在生成过程中始终专注于特定的提示注意力特征。同时,

语法分析器(C++)[编译原理实验2]
设计、编写、调试一个具体的语法分析程序,加深对语法分析原理的理解。编译器的实现通常分成几个阶段来完成,本次实验,是为根据给定的文法实现一个小型编译器的语法分析阶段要完成的任务。请根据给定的文法设计并实现语法分析程序(推荐自顶向下的递归子程序分析方法),基于词法分析实验所识别出的单词,进一步识别出各类语法成分
UML软件建模--健康码小程序
软件建模与测试技术结课报告,完成手机个人健康码小程序系统的分析建模工作,包括:注册登录、个人信息查询、健康码查询、疫苗接种信息查询、核酸检测结果查询、行程码查询等功能
到底了







