为了无忧使用DeepSeek，笔者摸排了现有各类部署方案，发现云峦KeyarchOS本地化部署DeepSeek方案与笔者的场景与需求较为吻合。下面，笔者将根据自己的实际体验，简要介绍选取这一方案的原因，并提供保姆级部署教程，详细介绍笔者如何通过Ollama框架，实现DeepSeek R1的在线、离线本地化部署，以及部署过程中的常见问题与解决方法。当 DeepSeek-r1模型拉取完成后，输入该命令

具体部署和使用步骤如下：（我们提供deepseek-kos-docker-1.5b.tar镜像）整体架构：图1.1 KOS容器大模型架构软硬件环境本次使用的软硬件环境如下:内存：256G磁盘空间：4T。

KeyarchOS是浪潮信息基于OpenAnolis开源操作系统自主研发的一款服务器操作系统，支持x86、ARM等主流架构处理器，性能和稳定性居于行业领先地位。GlassFish是一个开源的、轻量级的Java应用服务器，由Sun Microsystems（后来被Oracle收购）发起，现在由Eclipse基金会管理。它是Java EE规范的参考实现之一，提供了一套强大的工具和功能，用于构建、部署和

KeyarchOS是浪潮信息基于OpenAnolis开源操作系统自主研发的一款服务器操作系统，支持x86、ARM等主流架构处理器，性能和稳定性居于行业领先地位。Anchore 是一个开源的容器镜像安全扫描和分析工具，用于检查和评估容器镜像的安全性和合规性。Anchore的功能包括容器镜像扫描、漏洞管理、合规性扫描和CI/CD集成等。Anchore engine是Anchore镜像分析工具的后台系统

可以通过上面三种方式在KOS上使用CPU隔离功能，可显著提升关键业务的性能，能有效避免资源争用、减少上下文切换及硬件中断的干扰，从而降低关键任务的延迟波动，有效保障高优先级业务的服务质量，最大化硬件利用率，为高性能计算、边缘智能、实时控制等场景提供底层算力保障。

浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统，支持x86、ARM等主流架构处理器，性能和稳定性居于行业领先地位，具备成熟的 CentOS 迁移和替换能力，可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。stream是对内存带宽进行测试的工具，当前版本已经更新到最新5.10，适用于终端机和服务器的内存带宽测试，通

（2）创建 /boot/grub2/grubenv和 /boot/efi/EFI/实际系统路径/grubenv的软链接。# ln -sf /boot/efi/EFI/实际系统路径/grubenv /boot/grub2/grubenv。# grub2-mkconfig -o /boot/efi/EFI/实际系统路径/grub.cfg。（4）进入系统后，检查/boot/grub2/grubenv文件

KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统，支持x86、ARM等主流架构处理器，性能和稳定性居于行业领先地位，具备成熟的迁移和替换能力，可满足云计算、大数据、分布式存储、人工智能、边缘计算等应用场景需求。ktransformers 是一个专为大语言模型优化的高性能推理框架，致力于在异构硬件环境（CPU+GPU）上实现高效、灵活的模型部署

浪潮信息KOS是浪潮信息基于Linux Kernel、OpenAnolis等开源技术自主研发的一款服务器操作系统，支持x86ARM等主流架构处理器，性能和稳定性居于行业领先地位，具备成熟的CentOS迁移和替换能力，可满足云计算大数据分布式存储、人工智能、边缘计算等应用场景需求。详细介绍见官网链接https://www.ieisystem.com/kos/product-kos-xq.thtml?

具体部署和使用步骤如下：（我们提供deepseek-kos-docker-1.5b.tar镜像）整体架构：图1.1 KOS容器大模型架构软硬件环境本次使用的软硬件环境如下:内存：256G磁盘空间：4T。