logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

CentOS 7使用K8s部署模型 CPU 和 GPU 双模式环境

本文介绍了在CentOS 7服务器上使用K8s部署Ollama工具运行AI模型的方法。Ollama由llama.cpp引擎、GGUF格式管理和命令行工具组成,适合纯CPU环境部署,特别适合个人或小团体低成本使用。文章对比了虚拟机和物理机部署的优劣,建议有GPU设备时再考虑GPU加速方案,并提供了详细的Docker部署步骤和模型加载方法。同时指出Ollama虽易用但性能有限,不适合企业商用环境,推荐

#kubernetes
CentOS 7使用K8s部署模型 CPU 和 GPU 双模式环境

本文介绍了在CentOS 7服务器上使用K8s部署Ollama工具运行AI模型的方法。Ollama由llama.cpp引擎、GGUF格式管理和命令行工具组成,适合纯CPU环境部署,特别适合个人或小团体低成本使用。文章对比了虚拟机和物理机部署的优劣,建议有GPU设备时再考虑GPU加速方案,并提供了详细的Docker部署步骤和模型加载方法。同时指出Ollama虽易用但性能有限,不适合企业商用环境,推荐

#kubernetes
知识点3---软件虚拟化管理软件Docker

主流的商用环境中,所使用的虚拟化技术通常就是linux+docker+k8s,好处是docker将虚拟化的使用变得更简洁更轻量化,大大的简化了运维成本,而k8s是后面我们要介绍的一个东西,它其实是一个容器或者虚拟化的脚手架,这个脚手架的作用就是用来解决服务器的序列、服务器故障切换等等的运维问题,它的运行的核心是基于逻辑单元pod,你可以把pod看成我们开发好的一个服务包,一个pod里面包含着各种对

#docker#容器#运维
Zookeeper、Hadoop、Hive、Spark、Presto配置Kerberos

本文介绍了Kerberos认证系统在Hadoop集群中的部署与应用。Kerberos通过KDC(票据发放中心)解决企业级安全两大问题:细粒度服务访问控制和凭证有效性验证。部署过程包括:1)准备4台服务器(1台KDC+3台Hadoop节点);2)安装krb5相关软件包;3)配置krb5.conf文件,重点说明日志路径、加密算法、票据有效期等参数;4)解释域映射规则和常用命令(kinit/klist)

#hadoop
知识点5---如何做一个自己的Docker镜像

Docker实现秒级重启的关键在于两点:1)直接使用宿主机内核,省去了虚拟机加载操作系统内核的耗时过程;2)采用分层文件系统(UnionFS)存储镜像,容器启动时只需加载应用层。镜像由基础层和只读层构成,容器启动时在其顶部添加可写层。相比虚拟机完整的GuestOS启动,Docker只需加载用户空间的rootfs,极大提升了启动效率。此外,Docker镜像打包原理类似于Git,可通过修改容器并提交来

#docker#容器#运维
如何检查服务器上消耗资源的程序是那个

Linux服务器资源监控与故障排查指南 摘要: 本文介绍了Linux服务器三种核心资源(CPU、内存、磁盘)的监控与故障排查方法。重点讲解了内存问题的诊断流程:通过free命令查看可用内存,使用vmstat监控系统资源动态,结合top命令分析进程内存占用情况。针对不同程序类型(Java/C/Python)提供了详细的内存分析方案:Java程序使用jstack分析线程堆栈,C程序通过valgrind

#服务器#chrome#前端
个人用如何本地化部署模型

文章摘要:本文详细介绍了本地部署大语言模型(LLM)的完整流程,包括LM Studio、AnythingLLM和searXNG工具的安装配置,以及模型下载和联网搜索功能实现。作者强调本地部署仅适合体验需求,强调模型需要持续训练的重要性,指出企业自建模型效果不如官方的主要原因。部署过程涵盖模型选择(推荐GGUF格式)、工具配置、接口设置等关键步骤,并提供了具体的命令行操作和界面设置截图。最后通过An

#语言模型
知识点13---k8s存储持久化

Kubernetes存储持久化解决方案摘要(149字) K8s通过存储卷机制解决数据持久化问题,使数据库等有状态应用能够运行。相比localPath方案(仅支持只读且需额外运维),K8s提供了多种专业存储卷类型:包括AWS/Azure云磁盘、CephFS分布式存储、CSI接口卷、临时存储emptyDir、主机路径hostPath等。用户可通过kubectl explain pod.spec.vol

#kubernetes#flask#容器
知识点12---k8s进阶操作方式yaml资源文件

本文介绍了在Kubernetes中使用YAML资源文件的配置方式。YAML文件提供了一种比命令行更持久化的配置管理方法,便于集群迁移和日常操作。文章重点说明了通过kubectl explain命令可以查询各类资源的配置参数,例如kubectl explain service会显示Service资源的字段说明,包括apiVersion、kind、metadata等核心字段。通过点语法如service

#kubernetes#docker#容器
hadoop节点扩容和缩容操作流程

Hadoop集群节点扩容与缩容操作指南 扩容时,需确保新节点配置(硬件、网络、Hadoop文件)与集群一致,启动DataNode和NodeManager后,集群会自动识别新节点,可通过Web UI或命令行验证。缩容需谨慎,通过创建排除列表文件并修改配置文件指定待移除节点,执行刷新命令触发优雅退役流程。HDFS会复制数据块至其他节点,YARN会等待任务完成,确认节点状态变为"Decommi

#hadoop
    共 50 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择