1 概述

● 在前面已经提到，容器的生命周期可能很短，会被频繁的创建和销毁。那么容器在销毁的时候，保存在容器中的数据也会被清除。这种结果对用户来说，在某些情况下是不乐意看到的。为了持久化保存容器中的数据，kubernetes引入了Volume的概念。

● Volume是Pod中能够被多个容器访问的共享目录，它被定义在Pod上，然后被一个Pod里面的多个容器挂载到具体的文件目录下，kubernetes通过Volume实现同一个Pod中不同容器之间的数据共享以及数据的持久化存储。Volume的生命周期不和Pod中的单个容器的生命周期有关，当容器终止或者重启的时候，Volume中的数据也不会丢失。

● kubernetes的Volume支持多种类型，比较常见的有下面的几个：

  • ○ 简单存储：EmptyDir、HostPath、NFS。
  • ○ 高级存储：PV、PVC。
  • ○ 配置存储：ConfigMap、Secret。

2 基本存储

2.1 EmptyDir

2.1.1 概述

● EmptyDir是最基础的Volume类型，一个EmptyDir就是Host上的一个空目录。

● EmptyDir是在Pod被分配到Node时创建的，它的初始内容为空，并且无须指定宿主机上对应的目录文件，因为kubernetes会自动分配一个目录，当Pod销毁时，EmptyDir中的数据也会被永久删除。

● EmptyDir的用途如下：

  • ○ 临时空间，例如用于某些应用程序运行时所需的临时目录，且无须永久保留。
  • ○ 一个容器需要从另一个容器中获取数据的目录（多容器共享目录）。

● 接下来，通过一个容器之间的共享案例来使用描述一个EmptyDir。

● 在一个Pod中准备两个容器nginx和busybox，然后声明一个volume分别挂载到两个容器的目录中，然后nginx容器负责向volume中写日志，busybox中通过命令将日志内容读到控制台。

在这里插入图片描述

2.1.2 创建Pod

创建volume-emptydir.yaml文件，内容如下：

apiVersion: v1
kind: Pod
metadata:
  name: volume-emptydir
  namespace: dev
spec:
  containers:
    - name: nginx
      image: nginx:1.17.1
      imagePullPolicy: IfNotPresent
      ports:
        - containerPort: 80
      volumeMounts: # 将logs-volume挂载到nginx容器中对应的目录，该目录为/var/log/nginx
        - name: logs-volume
          mountPath: /var/log/nginx
    - name: busybox
      image: busybox:1.30
      imagePullPolicy: IfNotPresent
      command: ["/bin/sh","-c","tail -f /logs/access.log"] # 初始命令，动态读取指定文件
      volumeMounts: # 将logs-volume挂载到busybox容器中的对应目录，该目录为/logs
        - name: logs-volume
          mountPath: /logs
  volumes: # 声明volume，name为logs-volume，类型为emptyDir
    - name: logs-volume
      emptyDir: {}

创建Pod：

kubectl create -f volume-emptydir.yaml

在这里插入图片描述

2.1.3 查看Pod

查看Pod：

kubectl get pod volume-emptydir -n dev -o wide

在这里插入图片描述

2.1.4 访问Pod中的Nginx

访问Pod中的Nginx：

curl 10.244.2.2

在这里插入图片描述

2.1.5 查看指定容器的标准输出

● 查看指定容器的标准输出：

kubectl logs -f volume-emptydir -n dev -c busybox

在这里插入图片描述

2.2 HostPath

2.2.1 概述

● 我们已经知道EmptyDir中的数据不会被持久化，它会随着Pod的结束而销毁，如果想要简单的将数据持久化到主机中，可以选择HostPath。

● HostPath就是将Node主机中的一个实际目录挂载到Pod中，以供容器使用，这样的设计就可以保证Pod销毁了，但是数据依旧可以保存在Node主机上。

在这里插入图片描述

2.2.2 创建Pod

● 创建volume-hostpath.yaml文件，内容如下：

apiVersion: v1
kind: Pod
metadata:
  name: volume-hostpath
  namespace: dev
spec:
  containers:
    - name: nginx
      image: nginx:1.17.1
      imagePullPolicy: IfNotPresent
      ports:
        - containerPort: 80
      volumeMounts: # 将logs-volume挂载到nginx容器中对应的目录，该目录为/var/log/nginx
        - name: logs-volume
          mountPath: /var/log/nginx
    - name: busybox
      image: busybox:1.30
      imagePullPolicy: IfNotPresent
      command: ["/bin/sh","-c","tail -f /logs/access.log"] # 初始命令，动态读取指定文件
      volumeMounts: # 将logs-volume挂载到busybox容器中的对应目录，该目录为/logs
        - name: logs-volume
          mountPath: /logs
  volumes: # 声明volume，name为logs-volume，类型为hostPath
    - name: logs-volume
      hostPath:
        path: /root/logs
        type: DirectoryOrCreate # 目录存在就使用，不存在就先创建再使用

type的值的说明：
● DirectoryOrCreate：目录存在就使用，不存在就先创建后使用。
● Directory：目录必须存在。
● FileOrCreate：文件存在就使用，不存在就先创建后使用。
● File：文件必须存在。
● Socket：unix套接字必须存在。
● CharDevice：字符设备必须存在。
● BlockDevice：块设备必须存在。

创建Pod：

kubectl create -f volume-hostpath.yaml

在这里插入图片描述

2.2.3 查看Pod

查看Pod：

kubectl get pod volume-hostpath -n dev -o wide

在这里插入图片描述

2.2.4 访问Pod中的Nginx

访问Pod中的Nginx：

curl 10.244.2.3

在这里插入图片描述

2.2.5 去node节点找到hostPath映射的目录中的文件

● 需要到Pod所在的节点（k8s-node2）查看hostPath映射的目录中的文件：

ls /root/logs

同样的道理，如果在此目录中创建文件，到容器中也是可以看到的。

2.3 NFS

2.3.1 概述

● HostPath虽然可以解决数据持久化的问题，但是一旦Node节点故障了，Pod如果转移到别的Node节点上，又会出现问题，此时需要准备单独的网络存储系统，比较常用的是NFS和CIFS。

● NFS是一个网络文件存储系统，可以搭建一台NFS服务器，然后将Pod中的存储直接连接到NFS系统上，这样，无论Pod在节点上怎么转移，只要Node和NFS的对接没有问题，数据就可以成功访问。

在这里插入图片描述

2.3.2 搭建NFS服务器

首先需要准备NFS服务器，这里为了简单，直接在Master节点做NFS服务器。
在Master节点上安装NFS服务器：

yum install -y nfs-utils rpcbind

准备一个共享目录：

mkdir -pv /root/data/nfs

将共享目录以读写权限暴露给192.168.18.0/24网段中的所有主机：

vim /etc/exports

/root/data/nfs 192.168.18.0/24(rw,no_root_squash)

修改权限：

chmod 777 -R /root/data/nfs

加载配置：

exportfs -r

启动nfs服务：

systemctl start rpcbind

systemctl enable rpcbind

systemctl start nfs

systemctl enable nfs

在Master节点测试是否挂载成功：

showmount -e 192.168.18.100

在这里插入图片描述
在Node节点上都安装NFS服务器，目的是为了Node节点可以驱动NFS设备。

# 在Node节点上安装NFS服务，不需要启动
yum -y install nfs-utils

在Node节点测试是否挂载成功：

showmount -e 192.168.18.100

高可用备份方式，在所有节点执行如下的命令：

mount -t  nfs 192.168.18.100:/root/data/nfs /mnt

2.3.3 创建Pod

创建volume-nfs.yaml文件，内容如下：

apiVersion: v1
kind: Pod
metadata:
  name: volume-nfs
  namespace: dev
spec:
  containers:
    - name: nginx
      image: nginx:1.17.1
      imagePullPolicy: IfNotPresent
      ports:
        - containerPort: 80
      volumeMounts: # 将logs-volume挂载到nginx容器中对应的目录，该目录为/var/log/nginx
        - name: logs-volume
          mountPath: /var/log/nginx
    - name: busybox
      image: busybox:1.30
      imagePullPolicy: IfNotPresent
      command: ["/bin/sh","-c","tail -f /logs/access.log"] # 初始命令，动态读取指定文件
      volumeMounts: # 将logs-volume挂载到busybox容器中的对应目录，该目录为/logs
        - name: logs-volume
          mountPath: /logs
  volumes: # 声明volume
    - name: logs-volume
      nfs:
        server: 192.168.18.100 # NFS服务器地址
        path: /root/data/nfs # 共享文件路径

创建Pod：

kubectl create -f volume-nfs.yaml

在这里插入图片描述

2.3.4 查看Pod

● 查看Pod：

kubectl get pod volume-nfs -n dev

在这里插入图片描述

2.3.5 查看nfs服务器上共享目录

● 查看nfs服务器上共享目录：

ls /root/data/nfs

在这里插入图片描述

3 高级存储

3.1 PV和PVC概述

● 前面我们已经学习了使用NFS提供存储，此时就要求用户会搭建NFS系统，并且会在yaml配置nfs。由于kubernetes支持的存储系统有很多，要求客户全部掌握，显然不现实。为了能够屏蔽底层存储实现的细节，方便用户使用，kubernetes引入了PV和PVC两种资源对象。

● PV（Persistent Volume）是持久化卷的意思，是对底层的共享存储的一种抽象。一般情况下PV由kubernetes管理员进行创建和配置，它和底层具体的共享存储技术有关，并通过插件完成和共享存储的对接。

● PVC（Persistent Volume Claim）是持久化卷声明的意思，是用户对于存储需求的一种声明。换言之，PVC其实就是用户向kubernetes系统发出的一种资源需求申请。
在这里插入图片描述
● 使用了PV和PVC之后，工作可以得到进一步的提升：

  • ○ 存储：存储工程师维护。
  • ○ PV：kubernetes管理员维护。
  • ○ PVC：kubernetes用户维护。

3.2 PV

3.2.1 PV的资源清单文件

● PV是存储资源的抽象，下面是PV的资源清单文件：

apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv2
spec:
  nfs: # 存储类型，和底层正则的存储对应
    path:
    server:
  capacity: # 存储能力，目前只支持存储空间的设置
    storage: 2Gi
  accessModes: # 访问模式
    -
  storageClassName: # 存储类别
  persistentVolumeReclaimPolicy: # 回收策略

pv的关键配置参数说明：
● 存储类型：底层实际存储的类型，kubernetes支持多种存储类型，每种存储类型的配置有所不同。
● 存储能力（capacity）：目前只支持存储空间的设置（storage=1Gi），不过未来可能会加入IOPS、吞吐量等指标的配置。
● 访问模式（accessModes）：

  • ○ 用来描述用户应用对存储资源的访问权限，访问权限包括下面几种方式：
■ ReadWriteOnce（RWO）：读写权限，但是只能被单个节点挂载。
■ ReadOnlyMany（ROX）：只读权限，可以被多个节点挂载。
■ ReadWriteMany（RWX）：读写权限，可以被多个节点挂载。

需要注意的是，底层不同的存储类型可能支持的访问模式不同。

● 回收策略（ persistentVolumeReclaimPolicy）：

  • ○ 当PV不再被使用之后，对其的处理方式，目前支持三种策略：

■ Retain（保留）：保留数据，需要管理员手动清理数据。
■ Recycle（回收）：清除PV中的数据，效果相当于rm -rf /volume/*。
■ Delete（删除）：和PV相连的后端存储完成volume的删除操作，常见于云服务器厂商的存储服务。

需要注意的是，底层不同的存储类型可能支持的回收策略不同。

● 存储类别（storageClassName）：PV可以通过storageClassName参数指定一个存储类别。

  • ○ 具有特定类型的PV只能和请求了该类别的PVC进行绑定。
  • ○ 未设定类别的PV只能和不请求任何类别的PVC进行绑定。

● 状态（status）：一个PV的生命周期，可能会处于4种不同的阶段。

  • ○ Available（可用）：表示可用状态，还未被任何PVC绑定。
  • ○ Bound（已绑定）：表示PV已经被PVC绑定。
  • ○ Released（已释放）：表示PVC被删除，但是资源还没有被集群重新释放。
  • ○ Failed（失败）：表示该PV的自动回收失败。

3.2.2 准备工作（准备NFS环境）

创建目录：

mkdir -pv /root/data/{pv1,pv2,pv3}

授权：

chmod 777 -R /root/data

修改/etc/exports文件：

vim /etc/exports

/root/data/pv1     192.168.18.0/24(rw,no_root_squash) 
/root/data/pv2     192.168.18.0/24(rw,no_root_squash) 
/root/data/pv3     192.168.18.0/24(rw,no_root_squash)

● 重启nfs服务：

systemctl restart nfs

3.2.3 创建PV

● 创建pv.yaml文件，内容如下：

apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv1
spec:
  nfs: # 存储类型吗，和底层正则的存储对应
    path: /root/data/pv1
    server: 192.168.18.100
  capacity: # 存储能力，目前只支持存储空间的设置
    storage: 1Gi
  accessModes: # 访问模式
    - ReadWriteMany
  persistentVolumeReclaimPolicy: Retain # 回收策略

---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv2
spec:
  nfs: # 存储类型吗，和底层正则的存储对应
    path: /root/data/pv2
    server: 192.168.18.100
  capacity: # 存储能力，目前只支持存储空间的设置
    storage: 2Gi
  accessModes: # 访问模式
    - ReadWriteMany
  persistentVolumeReclaimPolicy: Retain # 回收策略
  
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv3
spec:
  nfs: # 存储类型吗，和底层正则的存储对应
    path: /root/data/pv3
    server: 192.168.18.100
  capacity: # 存储能力，目前只支持存储空间的设置
    storage: 3Gi
  accessModes: # 访问模式
    - ReadWriteMany
  persistentVolumeReclaimPolicy: Retain # 回收策略

创建PV：

kubectl create -f pv.yaml

3.2.4 查看PV

查看PV：

kubectl get pv -o wide

在这里插入图片描述
注意一下状态，刚创建的pv处于可用状态。

3.3 PVC

3.3.1 PVC的资源清单文件

PVC是资源的申请，用来声明对存储空间、访问模式、存储类别需求信息，下面是PVC的资源清单文件：

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc
  namespace: dev
spec:
  accessModes: # 访客模式
    - 
  selector: # 采用标签对PV选择
  storageClassName: # 存储类别
  resources: # 请求空间
    requests:
      storage: 5Gi

PVC的关键配置参数说明：
● 访客模式（accessModes）：用于描述用户应用对存储资源的访问权限。
● 用于描述用户应用对存储资源的访问权限：

  • ○ 选择条件（selector）：通过Label Selector的设置，可使PVC对于系统中已存在的PV进行筛选。
  • ○ 存储类别（storageClassName）：PVC在定义时可以设定需要的后端存储的类别，只有设置了该class的pv才能被系统选出。
  • ○ 资源请求（resources）：描述对存储资源的请求。

3.3.2 创建PVC

● 创建pvc.yaml文件，内容如下：

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc1
  namespace: dev
spec:
  accessModes: # 访客模式
    - ReadWriteMany
  resources: # 请求空间
    requests:
      storage: 1Gi

---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc2
  namespace: dev
spec:
  accessModes: # 访客模式
    - ReadWriteMany
  resources: # 请求空间
    requests:
      storage: 1Gi

---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc3
  namespace: dev
spec:
  accessModes: # 访客模式
    - ReadWriteMany
  resources: # 请求空间
    requests:
      storage: 5Gi

创建PVC：

kubectl create -f pvc.yaml

在这里插入图片描述

3.3.3 查看PVC

查看PVC：

kubectl get pvc -n dev -o wide

在这里插入图片描述
注意一下pvc的状态，1和2找到了满足条件的pv，因此bound，而3找不到满足条件的pv，所以pending

查看PV：

kubectl get pv -o wide

在这里插入图片描述
注意观察status和claim，1和2从可用变为绑定，claim列出了绑定的pvc。而且也可以发现一点，一个pv只能被一个pvc绑定

3.3.4 创建Pod使用PVC

创建pvc-pod.yaml文件，内容如下：

apiVersion: v1
kind: Pod
metadata:
  name: pod1
  namespace: dev
spec:
  containers:
  - name: busybox
    image: busybox:1.30
    command: ["/bin/sh","-c","while true;do echo pod1 >> /root/out.txt; sleep 10; done;"]
    volumeMounts:
    - name: volume
      mountPath: /root/
  volumes:
    - name: volume
      persistentVolumeClaim:
        claimName: pvc1
        readOnly: false

---
apiVersion: v1
kind: Pod
metadata:
  name: pod2
  namespace: dev
spec:
  containers:
    - name: busybox
      image: busybox:1.30
      command: ["/bin/sh","-c","while true;do echo pod1 >> /root/out.txt; sleep 10; done;"]
      volumeMounts:
        - name: volume
          mountPath: /root/
  volumes:
    - name: volume
      persistentVolumeClaim:
        claimName: pvc2
        readOnly: false

创建Pod：

kubectl create -f pvc-pod.yaml

在这里插入图片描述

3.3.5 创建Pod使用PVC

查看Pod：

kubectl get pod -n dev -o wide

在这里插入图片描述
查看PVC：

kubectl get pvc -n dev -o wide

在这里插入图片描述
查看PV：

kubectl get pv -n dev -o wide

在这里插入图片描述

3.3.6 查看nfs中的文件存储

查看nfs中的文件存储：

ls /root/data/pv1/out.txt

ls /root/data/pv2/out.txt

在这里插入图片描述

4 配置存储

4.1 ConfigMap

4.1.1 概述

● ConfigMap是一个比较特殊的存储卷，它的主要作用是用来存储配置信息的。

4.1.2 ConfigMap的资源清单文件

● ConfigMap的资源清单文件：

apiVersion: v1
kind: ConfigMap
metadata:
  name: configMap
  namespace: dev
data: # <map[string]string>
  xxx

4.1.3 创建ConfigMap

创建configmap.yaml文件，内容如下：

apiVersion: v1
kind: ConfigMap
metadata:
  name: configmap
  namespace: dev
data:
  info:
    username:admin
    password:123456

创建ConfigMap：

kubectl create -f configmap.yaml

在这里插入图片描述

4.1.4 创建Pod

创建pod-configmap.yaml文件，内容如下：

apiVersion: v1
kind: Pod
metadata:
  name: pod-configmap
  namespace: dev
spec:
  containers:
    - name: nginx
      image: nginx:1.17.1
      volumeMounts:
        - mountPath: /configmap/config
          name: config
  volumes:
    - name: config
      configMap:
        name: configmap

● 创建Pod：

kubectl create -f pod-configmap.yaml

在这里插入图片描述

4.1.5 查看Pod

● 查看Pod：

kubectl get pod pod-configmap -n dev

在这里插入图片描述

4.1.6 进入容器

● 进入容器，查看配置：

kubectl exec -it pod-configmap -n dev /bin/sh

cd /configmap/config

ls

more info

ConfigMap中的key映射为一个文件，value映射为文件中的内容。如果更新了ConfigMap中的内容，容器中的值也会动态更新。

4.2 Secret

4.2.1 概述

● 在kubernetes中，还存在一种和ConfigMap非常类似的对象，称为Secret对象，它主要用来存储敏感信息，例如密码、密钥、证书等等。

4.2.2 准备数据

● 使用base64对数据进行编码：

# 准备username
echo -n "admin" | base64

在这里插入图片描述

echo -n "123456" | base64

在这里插入图片描述

4.2.3 创建Secret

创建secret.yaml文件，内容如下：

apiVersion: v1
kind: Secret
metadata:
  name: secret
  namespace: dev
type: Opaque
data:
  username: YWRtaW4=
  password: MTIzNDU2

创建Secret：

kubectl create -f secret.yaml

在这里插入图片描述
上面的方式是先手动将数据进行编码，其实也可以使用直接编写数据，将数据编码交给kubernetes。

apiVersion: v1
kind: Secret
metadata:
  name: secret
  namespace: dev
type: Opaque
stringData:
  username: admin
  password: 123456

如果同时使用data和stringData，那么data会被忽略。

4.2.4 查看Secret详情

● 查看Secret详情：

kubectl describe secret secret -n dev

在这里插入图片描述

4.2.5 创建Pod

创建pod-secret.yaml文件，内容如下：

apiVersion: v1
kind: Pod
metadata:
  name: pod-secret
  namespace: dev
spec:
  containers:
    - name: nginx
      image: nginx:1.17.1
      volumeMounts:
        - mountPath: /secret/config
          name: config
  volumes:
    - name: config
      secret:
        secretName: secret

创建Pod：

kubectl create -f pod-secret.yaml

在这里插入图片描述

4.2.6 查看Pod

查看Pod：

kubectl get pod pod-secret -n dev

4.2.7 进入容器

● 进入容器，查看secret信息，发现已经自动解码了：

kubectl exec -it pod-secret -n dev /bin/sh

ls /secret/config

more /secret/config/username

more /secret/config/password
# spring # java # spring boot
Logo
K8S/Kubernetes

K8S/Kubernetes社区为您提供最前沿的新闻资讯和知识内容

更多推荐

【深度】阿里巴巴万级规模 K8s 集群全局高可用体系之美

作者 |  韩堂、柘远、沉醉来源 | 阿里巴巴云原生公众号​前言台湾作家林清玄在接受记者采访的时候，如此评价自己 30 多年写作生涯：“第一个十年我才华横溢，‘贼光闪现’，令周边黯然失色；第二个十年，我终于‘宝光现形’，不再去抢风头，反而与身边的美丽相得益彰；进入第三个十年，繁华落尽见真醇，我进入了‘醇光初现’的阶段，真正体味到了境界之美”。​长夜有穷，真水无香。领略过了 K8s“身在江

avatar K8S/Kubernetes

如何基于 K8s 构建下一代 DevOps 平台？

作者 | 孙健波（天元）导读：当前云原生 DevOps 体系现状如何？面临哪些挑战？如何通过 OAM 解决云原生 DevOps 场景下的诸多问题？云原生开发应用模型 OAM(Open Application Model) 社区核心成员孙健波将为大家一一解答，并分享如何基于 OAM 和 Kubernetes 打造无限能力的下一代 DevOps 平台。什么是 DevOps？为什么基于 Kub

avatar K8S/Kubernetes

k8s 火了！

2020，上云之年，产品云端化成为一种趋势。在一线城市，很多公司都已经构建了自己的私有云环境，比如阿里云、网易云、华为云等。而Kubernetes 作为基于容器编排领域的王者，具备扩展...

avatar K8S/Kubernetes