在这篇博客中，我们将探讨如何在ollama平台上运行Hugging Face的大语言模型。ollama是一个强大的工具，它允许我们轻松地部署和运行大型语言模型。以下是详细的步骤，帮助你从零开始，到成功运行模型。

本文介绍了如何在本地部署Ollama大模型平台，并使用Python进行API调用。首先，从官网下载并安装Ollama，然后通过设置环境变量更改模型保存路径。安装后，通过命令行验证安装成功，并从模型库中选择并下载所需模型。接着，启动Ollama的服务器模式，并使用Python的`requests`库向服务器发送请求，获取响应。文中提供了详细的Python代码示例，展示了如何构建请求数据、发送POST

同样的方法，同样的步骤，同样的配方，只不过是在云端而已。以上命令省略了 -f 参数，因此，运行上面那条命令后会让你输入一个文件名，用于保存刚才生成的 SSH key 代码，推荐使用默认（直接按回车），我这里输入cs_16.因为我要连接超算平台的16分区，好记一点。ok值得注意的是，我们一般深度学习都不会在这里跑哈，这里是获取不到gpu资源的，所以你要自己去写run.sh的脚本，去申请gpu资源。这

在并行超算云平台，微调千问2-----之小白片