现在已经是大模型时代。个人认为，deepseek效果惊艳，大模型已进入实用阶段。有些电脑，由于种种原因，还在用 Windows 7， Windows XP 等操作系统。为了让这些电脑用上大模型，本教程在llama.cpp的基础上做了一点修改，使得 Windows 7 x64 可用模型，实测有效。

本文是一个测试记录，供参考。目标是在Windows7系统下，实现llama.cpp的CPU编译、GPU编译，实现大模型的单机部署。GPU编译运行成功，但运行时没有调用GPU。

现在已经是大模型时代。个人认为，deepseek效果惊艳，大模型已进入实用阶段。有些电脑，由于种种原因，还在用 Windows 7， Windows XP 等操作系统。为了让这些电脑用上大模型，本教程在llama.cpp的基础上做了一点修改，使得 Windows 7 x64 可用模型，实测有效。

主要介绍vicuna-13b与ChatGPT3.5的对比情况