
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
参考原文:https://www.cnblogs.com/xietingfeng321/p/18451170。
docker save macrosan/kylin:v10-sp3-2403 | gzip> kylin_v10-sp3-2403.tar.gzdocker load < kylin_v10-sp3-2403.tar.gz
docker inspect --format '{{.Architecture}}/{{.Os}}' [镜像编号/镜像标签]查看镜像CPU架构(arm64/amd64)
是 Docker 官方的镜像仓库(Docker Hub)专属域名,也是 Docker 镜像相关的核心官网。补充:两者同属 Docker 官方域名,数据互通,登录 Docker Hub 的账号也可在。是 Docker 官方主站,而。
通过编写Dockerfile,你可以精确控制镜像的每一层,确保镜像的安全性和可移植性。虽然这种方法理论上可行,但通常不推荐,因为它涉及到导出和导入整个文件系统,这比使用Dockerfile更加复杂且低效。这种方法涉及到创建一个Dockerfile,它是一个文本文件,包含了一系列命令,用于构建一个Docker镜像。这将会基于centos:7镜像创建一个新的镜像,命名为my-centos7-image
多卡部署:若需使用多张卡部署(如 2 张、4 张 A100 80G),可按实际卡数调整该参数(如 2 张卡设为 2、4 张卡设为 4),多张卡的显存会联合承载模型权重,单卡显存要求会按比例降低(如 2 卡 float16 部署,单卡显存需 40GB+);,为 Qwen3-32B 模型的推理逻辑专属解析器,与工具调用配置配合使用,可优化模型推理和工具调用的衔接逻辑,建议保留该参数。,用于设置模型权重
启动态:Docker 重启时会重新初始化网络栈,必须执行iptables -L/iptables -N等命令来创建 / 检查网络规则,此时系统找不到 iptables 命令,就会直接启动失败。Docker 运行时依赖内核中已加载的 iptables 规则,而非用户态的 iptables 命令,因此即使命令缺失,只要规则还在,服务就能继续跑;简单说:规则 “存在于内核里”,而非依赖用户态的 ipta
f(follow)--tail=行数-tCtrl + C。
docker run -it --gpus all --network=host --ipc=host --rm --name qwen3.5-test \-v /home/vllm-models/Qwen3___5-35B-A3B:/home/vllm-models/Qwen3___5-35B-A3B \--entrypoint /bin/bash \vllm/vllm-openai







