Ollama在本地普通算力机器上部署DeepSeek等大模型，有一定的生态优势。但是由于软件本身的一些策略问题，Windows平台的Ollama总是会随系统开机自动启动，还没有设置界面可以关闭。这里提供一种方法，可以在Windows平台永久关闭Ollama的开机自动启动功能。

本文介绍了一种在Win11操作系统下，使用Docker部署OpenClaw的一种方案，并且Token由本地部署的Ollama加载开源的qwen3.5模型产生，实现零成本、相对安全可控的一种部署方案。当然，目前OpenClaw和Ollama的安全性还是有待提升，结合自己的情况，慎重部署！！！

问题背景在使用Docker拉取DockerHub的镜像时，经常会出现网络不稳定的问题，这就导致拉取到一半的镜像会重新拉取，浪费时间。例如下面这种情况：第二次拉取这是一个网络中断的场景，第二次重新拉取的时候，同样是d103这个部分，又重新下载了一次。而且在不稳定的网络情况下(大概率)，有可能继续中断，这就需要一个断点续传的配置。解决方案首先在docker的配置文件中加上这...

技术背景在很多情况下，编程人员是在Linux环境下完成的编程任务，但是更多的使用人员是在Windows环境下的，比方说，在参考链接1的文章中提到：那么我们就不得不考虑一个环境转化的问题。python作为一门通用编程语言，本身可以在不同的环境下运行，但可执行文件不是。就目前来说，最便捷的方法还是在各自的平台上去用pyinstaller编译可执行文件。编写python脚本当我们编译可...

技术背景DeepSeek是这段时间最热门的话题之一，其蒸馏模型可以实现低成本而高质量的推理，使得我们现在可以在本地小型化的硬件上也用上大模型这一AI利器。本文主要介绍通过Ollama来部署DeepSeek R1模型的方法，由于网络环境的问题，过程相比于普通的安装方案可能略有改动。安装Ollama以下是DeepSeek生成的关于Ollama的介绍的一个片段：Ollama 是一个开源工具，...

技术背景前面写过几篇关于DeepSeek的文章，里面包含了通过Ollama来加载模型，以及通过llama.cpp来量化模型(实际上Llama.cpp也可以用来加载模型，功能类似于Ollama)。这里再介绍一个国产的高性能大模型加载工具：KTransformer。但是本文仅介绍KTransformer的安装方法，由于本地的GPU太老，导致无法正常的运行KTransformer，但是编译安装的过程..

技术背景在DeepSeek系列文章中，我们已经分别介绍过关于DeepSeek在Ubuntu Linux平台和Windows平台上的本地部署方案，以及Ollama、ChatBox和AnythingLLM等辅助工具的使用。即使不使用DeepSeek-R1的全量模型，在DeepSeek的本地部署的蒸馏模型，结合AnythingLLM已经可以构建本地化的知识库。但是如果在科研过程中要专注于使用PDFC..

技术背景大语言模型(Large Language Model，LLM)，可以通过量化(Quantization)操作来节约内存/显存的使用，并且降低了通讯开销，进而达到加速模型推理的效果。常见的就是把Float16的浮点数，转换成低精度的整数，例如Int4整数。最极限的情况下，可以把参数转化成二值Bool变量，也就是只有0和1，但是这种大幅度的量化有可能导致模型的推理效果不佳。常用的是，在70..

技术背景在之前的一篇博客中，我们介绍过MindInsight的安装与使用。不过在前面的文章中，我们主要介绍的是MindInsight与SummaryCollector的配合使用，更多的是用于对结果进行回溯。这篇文章我们简要的从性能分析的角度，来介绍一下MindInsight的一些使用方法。MindInsight的安装与启动这部分内容在前面的博客中已经介绍过一次，这里简单的重复一下相关的内容...

本文介绍了在pytorch和mindspore中两种计算张量最大值的算子，如果直接使用max算子，两者的输出都是最大值元素和最大值索引。但是mindspore中额外的支持了ReduceMax算子，可以允许我们只输出最大值而不输出最大值索引。