logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型部署手记(1)ChatGLM2+Windows GPU

大模型部署手记(1)ChatGLM2+Windows GPU暗影精灵7Plus Nvidia GTX 3080 Laptop

文章图片
#深度学习
大模型部署手记(13)LLaMa2+Chinese-LLaMA-Plus-2-7B+Windows+LangChain+摘要问答

这里需要重装一下GPU版的torch再来:貌似字符集有什么问题。参考Python读取文件时出现UnicodeDecodeError: ‘gbk‘ codec can‘t decode byte 0x80 in position ...​blog.csdn.net/qq_31267769/article/details/109128882将 langchain_sum.py改为再来:缺protobu

文章图片
#windows
大模型部署手记(12)LLaMa2+Chinese-LLaMA-Plus-2-7B+Windows+text-gen+中文对话

组织机构:Meta(Facebook)模型:chinese-alpaca-2-7b-hf下载:使用百度网盘下载硬件环境:暗影精灵7PlusWindows版本:Windows 11家庭中文版 Insider Preview 22H2内存 32GGPU显卡:Nvidia GTX 3080 Laptop (16G)从的README.md可以看出,中文LLaMA&Alpaca大模型支持不同的LLaMA生态

文章图片
#windows
大模型部署手记(6)通义千问+Jetson AGX Orin

大模型部署手记(6)通义千问+Jetson AGX Orin

文章图片
#深度学习
大模型部署手记(11)LLaMa2+Chinese-LLaMA-Plus-2-7B+Windows+llama.cpp+中文对话

组织机构:Meta(Facebook)模型:LIama-2-7b-hf、Chinese-LLaMA-Plus-2-7B下载:使用huggingface.co和百度网盘下载硬件环境:暗影精灵7PlusWindows版本:Windows 11家庭中文版 Insider Preview 22H2内存 32GGPU显卡:Nvidia GTX 3080 Laptop (16G)查看新的模型出来了,可以试一试

文章图片
#windows
大模型部署手记(7)LLaMA2+Jetson AGX Orin

大模型部署手记(7)LLaMA2+Jetson AGX Orin

文章图片
#深度学习
大模型部署手记(2)baichuan2+Windows GPU

大模型部署手记(2)baichuan2+Windows GPU暗影精灵7Plus Nvidia GTX 3080 Laptop

文章图片
#深度学习
大模型部署手记(5)ChatGLM2+Jetson AGX Orin

大模型部署手记(5)ChatGLM2+Jetson AGX Orin

文章图片
#深度学习
大模型部署手记(8)LLaMa2+Windows+llama.cpp+英文文本补齐

组织机构:Meta(Facebook)模型:llama-2-7b下载:使用download.sh下载硬件环境:暗影精灵7PlusWindows版本:Windows 11家庭中文版 Insider Preview 22H2内存 32GGPU显卡:Nvidia GTX 3080 Laptop (16G)

文章图片
#深度学习#windows
大模型部署手记(10)LLaMa2+Chinese-LLaMA-Plus-7B+Windows+llama.cpp+中英文对话

组织机构:Meta(Facebook)模型:llama-2-7b、llama-2-7b-chat(下载:使用download.sh下载硬件环境:暗影精灵7PlusWindows版本:Windows 11家庭中文版 Insider Preview 22H2内存 32GGPU显卡:Nvidia GTX 3080 Laptop (16G)在完成和的基础上,张小白觉得对话应该是水到渠成的事情了。

文章图片
#windows
    共 66 条
  • 1
  • 2
  • 3
  • 7
  • 请选择