logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Docker部署vLLM大模型推理服务全攻略(2026年4月实测)

本文详细介绍了使用Docker部署vLLM大模型推理服务的全流程方案。针对国内用户面临的Docker Hub访问受限、GPU环境配置复杂等问题,提供了镜像加速、NVIDIA驱动安装等解决方案。文章包含从基础部署到进阶配置的完整指导,涵盖单模型快速启动、显存优化、性能调优等关键环节,并附有详细的参数说明和验证方法。所有代码均在Ubuntu 22.04+NVIDIA GPU环境下实测通过,适用于7B到

文章图片
#docker#容器#运维
2026年4月实测:Kubernetes containerd 镜像拉取全方案汇总(附自动化脚本)

2026 年 4 月,国内 Docker 镜像加速源大面积失效的问题仍在持续。对于 Kubernetes 用户来说,这个问题比 Docker 用户更棘手——因为 containerd 的配置方式和 Docker 完全不同,网上大量 Docker 教程搬过来根本不生效。本文基于 2026 年 4 月中旬的实测环境,整理了 5 种 containerd 镜像加速方案,并提供完整的 K8s 集群批量配置

#kubernetes#自动化#容器
Physical AI 数据工厂怎么落地?先把 CUDA、K8s、Quay 镜像拉取稳定下来

《Physical AI数据工厂的容器镜像分发优化》摘要: 本文探讨Physical AI数据工厂中多源容器镜像的分发挑战。典型AI数据工厂包含数据采集、处理、训练等10余种组件,依赖Docker Hub、NVIDIA NGC、Quay等多源镜像。针对镜像拉取慢、节点初始化失败等问题,建议采用毫秒镜像(1ms.run)统一加速多源镜像分发,提供Docker/K8s环境配置方案,并给出三层部署建议:

文章图片
#人工智能#kubernetes#容器
视觉算法环境 Docker 镜像拉取失败排查

摘要: 智能驾驶视觉算法环境部署时,镜像拉取失败常被误判为算法问题。文章指出应先统一多源镜像入口(Docker Hub/NVIDIA/Quay/K8s),通过毫秒镜像服务进行预检。具体步骤包括:1)验证各来源镜像可拉取性;2)配置compose文件示例;3)K8s节点预拉关键镜像;4)按顺序排查镜像链路。重点强调要在容器环境稳定后,再进行模型和业务逻辑的调试,避免因基础镜像问题影响算法开发效率。

文章图片
#docker#容器#运维 +1
内网大模型环境恢复体检:Docker、GPU、向量库和网关排查

本文梳理了内网大模型演示环境恢复的排查流程,提出分层诊断方法:从镜像供应链、容器运行时、GPU基础环境到模型服务、数据组件和访问入口。文章详细列出了各层级的检查要点和常用命令,并给出docker-compose配置示例。特别强调应先验证多源镜像拉取、GPU环境等基础层,再排查模型服务、向量库等上层组件。通过这种分层递进的诊断方式,可以更系统性地定位环境恢复问题,避免直接陷入模型日志的细节排查。最后

文章图片
#docker#容器#运维
NAS Docker 服务启动失败排查:Jellyfin、PhotoPrism、Home Assistant

本文总结了NAS上Docker服务恢复时的系统排查流程。主要内容包括:1)检查磁盘和Docker状态,清理无用对象;2)拆解核心服务预检镜像拉取;3)通过compose文件确认镜像、端口和挂载配置;4)排查挂载路径权限问题;5)检查端口占用和反向代理;6)处理PhotoPrism和Jellyfin索引任务耗时问题。文章提供了详细的命令示例和常见问题解决方案,建议按照"磁盘空间→镜像入口→

文章图片
#docker#eureka#容器
K8s 部署 AI 推理服务检查:GPU、探针、镜像和回滚

本文总结了AI推理服务在Kubernetes上线的完整检查流程,重点解决常见部署问题。从镜像验证、GPU节点配置、资源声明到探针设置,提供了详细的排查步骤和示例配置。特别强调了大模型服务的特殊性:冷启动时间长、GPU资源敏感、回滚复杂等关键点。通过系统化的检查清单(镜像拉取、节点标签、资源申请、探针配置、日志监控等),帮助规避上线风险,确保推理服务的稳定部署。文章采用问题导向的结构,将技术要点融入

文章图片
#kubernetes#人工智能#容器
GitLab Runner docker pull 慢:并行流水线镜像拉取排查

摘要: 团队并行提交MR时出现GitLab Runner队列堆积,主要卡在环境准备阶段的镜像拉取环节。通过分析发现,问题根源在于Docker镜像拉取效率而非测试脚本本身。排查步骤包括:区分job卡顿阶段(pending/preparing/script)、手动验证节点镜像拉取、配置Docker镜像源优化拉取速度、调整pull_policy策略、固定关键镜像版本以避免重复拉取。最终建议结合缓存机制和

文章图片
#docker#容器#运维 +1
dwz-server Docker 部署短链接服务:多域名、A/B 测试和统计配置

本文介绍了木雷短网址(dwz-server)的部署与使用指南。该系统支持短链接生成、多域名管理、A/B测试、点击统计等功能,适用于团队活动页、邀请链接等场景。文章详细说明了最小Docker Compose配置、健康检查、域名配置、生产环境部署建议(Mysql/PostgreSQL+Redis)、A/B测试接口使用、点击统计分析方法以及常见问题解答。该系统既支持SQLite+本地缓存的独立模式用于试

文章图片
#docker#容器#运维
vLLM 模型服务上线前压测:Docker 镜像、GPU 和 k6 基线检查

本文提供vLLM模型服务上线前的压测检查清单,涵盖镜像验证、GPU运行时检查、模型缓存配置和性能测试等关键环节。通过分步验证Docker镜像、GPU可用性、模型挂载方式,记录冷启动时间,并使用k6工具进行多级并发压测(10/20/50并发),最终形成包含镜像版本、GPU状态、冷启动耗时、性能指标和风险提示的完整上线报告模板,为后续扩容和问题排查建立基准。

文章图片
#docker#java#k8s
    共 42 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择