![](../../asset/images/user/bgImg_default.jpeg)
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
玩转AI,笔记本电脑安装属于自己的Llama 3 8B大模型和对话客户端
现在我们的Llama 模型聊天机器人已准备就绪,我们想问什么就可以问什么,尽情享受吧。当然,我们废了大半天劲,如果只是和模型简单的聊聊天,那就有点可惜了,或者说如果要人工输入,那我们本地部署的意义就不大。假设能够通过程序的方式,自动调用本地部署的Llama 模型是不是可以提供我们工作效率;Llama 模型自然语言生成:Llama 3 能够生成连贯、高质量的文本,包括文章、故事、诗歌等创意写作,以及
![文章图片](https://img-blog.csdnimg.cn/img_convert/c4931ab11e5b6400d9df1f363f79f5ef.jpeg)
【机器学习】Qwen2大模型原理、训练及推理部署实战
Qwen2对比Qwen1.5模型尺寸:将Qwen2-7B和Qwen2-72B的模型尺寸有32K提升为128KGQA(分组查询注意力):在Qwen1.5系列中,只有32B和110B的模型使用了GQA。这一次,所有尺寸的模型都使用了GQA,提供GQA加速推理和降低显存占用分组查询注意力 (Grouped Query Attention) 是一种在大型语言模型中的多查询注意力 (MQA) 和多头注意力
![文章图片](https://img-blog.csdnimg.cn/img_convert/4c634172121c2d7d178f8a6aab1a1733.png)
“揭秘:为什么羊驼Ollama成为计算机运行大型语言模型的最佳拍档?“
最近,AIM 评测了在计算机上本地运行大语言模型(LLM)的最佳工具,Ollama 脱颖而出,成为最高效的解决方案,提供了无与伦比的灵活性。Ollama 是 Jeffrey Morgan 开发的一款开源工具,它正在彻底改变爱好者在本地终端上运行大语言模型的方式。Ollama 具有友好的用户界面,并与 LLaMA 2 和 Mistral 等流行模型兼容,希望安全、经济、高效地进行大语言模型实验的用户
![文章图片](https://img-blog.csdnimg.cn/img_convert/7f4a019ed731e89a7e8d45cc9a559008.gif)
搭建个人知识库 | 手把手教你本地部署大模型
我非常推崇的一句话送给大家:看十遍不如实操一遍,实操十遍不如分享一遍。
![文章图片](https://img-blog.csdnimg.cn/img_convert/8ea8bfb4e62f813501f948a023b1a4c9.png)
到底了