logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Token 统计中的“命中缓存”和“未命中缓存”是什么意思?

本文解释了AI模型Token统计中"命中缓存"和"未命中缓存"的含义。命中缓存指模型可以复用之前处理过的相同内容(如重复的项目代码、历史对话等),无需重新计算;未命中缓存则是需要重新处理的新内容或修改过的部分。输出Token则是模型生成的新回答内容。理解这些概念有助于优化提示词结构、提高缓存命中率,从而提升模型处理效率并可能降低成本。文章通过类比浏览器缓存和

#缓存#经验分享#学习
一文看懂大模型中的 Context 和 Token:为什么它们决定了模型“能看多少、能记多远、能回答多长”

本文解释了大语言模型中的两个核心概念:Token和Context。Token是模型处理文本的基本单位,不等同于字数,不同语言的token切分方式不同。Context指模型单次推理时能参考的token范围,称为上下文窗口。文章详细比较了token与字数的关系,context与prompt、memory的区别,并说明大context窗口的优劣势。最后指出合理使用上下文(如通过RAG技术)能提升模型表现

#人工智能#经验分享#学习 +2
如何理解神经网络中的权重参数?从一张图看懂模型参数量计算

这篇文章详细解析了神经网络参数的计算方法,主要分为权重(weights)和偏置(biases)两部分。通过一个784-16-16-10的全连接网络示例,具体说明了权重参数的计算方式(层间神经元全连接的数量积)和偏置参数的计算(每层神经元数量之和)。文中指出训练模型本质上就是通过反向传播不断调整这些参数,使模型输出更接近正确答案。同时讨论了参数数量与模型性能的关系,指出参数过多可能导致过拟合和计算成

文章图片
#神经网络#人工智能#深度学习 +3
联想Y7000加装固态硬盘教程(将C盘和原D盘合并来拓展C盘,加装的固态硬盘作为新D盘)

备份完毕后,win+x选择磁盘管理,右键D盘所在分区选择“删除卷”,之后再右键C盘所在分区选择“扩展卷”即可扩容C盘,之后为了不影响一些原D盘应用程序的使用,右键固态硬盘分区选择“更改驱动器号和路径”将E盘改名为D盘即可。原分区选择D盘所在的分区,由于固态硬盘我并没有进行分区,目标分区直接选中整个固态硬盘这个分区即可(这里初始化固态硬盘的时候需要命名,我这里命名为E盘了)。拆的过程注意将螺丝收集好

文章图片
#嵌入式硬件#windows
到底了