k8s中的存储卷是属于pod，pod内的多个容器都可以挂载同一个存储卷以实现数据共享

pause是基础架构容器，每个Pod都有一个pause，该Pod里的所有容器都共享pause的名称空间，使得一个Pod里的容器交互更加效率

k8s中的存储卷是与宿主机上目录建立映射关系。为了使存储卷不因宿主机的故障而受影响，一般宿主机上的目录也是由宿主机挂载专门的存储设备而来。

k8s的存储卷类型
emptydir：存储卷生命周期，追随pod的生命周期，没有任何持久性。
hostpath：与宿主机的目路建立映射关系，半持久一旦宿主机故障数据仍丢失。
传统的网络型存储： SAN NAS等
分布式存储：glusterfs ceph cephfs等
云端存储：EBS(亚马逊)

kubectl explain pod.spec.volumes 查看k8s可以使用的存储系统

emptydir存储卷使用
emptyDir在创建Pod时就会被创建，会一直存在在pod的生命周期当中，可以被挂载到Pod中各个容器相同或者不相同的的路径下。当一个pod因为任何原因被移除的时候，这些数据会被永久删除。注意：一个容器崩溃了不会导致数据的丢失，因为容器的崩溃并不移除pod.

kubectl explain pod.spec.volumes.emptyDir  #获取emptyDir存储卷的定义字段,该字段的值是字典，该字典有两个键
medium，值有Memory和""，默认是""使用宿主机的硬盘，Memory使用宿主机的内存
sizeLimit，用于限制存储卷的空间大小

举例一个使用emptyDir存储卷的Pod，定义清单如下

apiVersion: v1
kind: Pod
metadata:
   name: pod-demo
   namespace: default
   labels:
     app: ngx

spec:
   containers:
   ##定义一个容器将名为html的存储卷挂载为目录/usr/share/nginx/html/
   - name: ngxapp
     image: 192.168.80.146:5000/my_ngx:v1
     imagePullPolicy: IfNotPresent
     volumeMounts:
     - name: html
       mountPath: /usr/share/nginx/html/
   ##定义一个容器将名为html的存储卷挂载为目录/data/，每2秒写入时间到/data/index.html文件
   - name: busybox
     image: 192.168.80.146:5000/busybox:latest
     imagePullPolicy: IfNotPresent
     volumeMounts:
     - name: html
       mountPath: /data/
     command: ["/bin/sh"]
     args: ["-c", "while true; do echo $(date) >> /data/index.html; sleep 2; done"]
   ##定义一个存储卷供Pod中的容器使用，名字为html，类型emptyDir，参数默认。
   volumes:  
   - name: html
     emptyDir: {}

此Pod中两个容器，挂载同一个存储卷，busybox往存储卷中写数据，ngxapp容器从中读数据。busybox的/data/index.html对应ngxapp容器的/usr/share/nginx/html/index.html

hostPath存储卷使用
hostPath就是把pod所在宿主机的某一目录和pod建立关联关系，在pod删除时，存储数据不会丢失。当宿主机故障时，pod会迁移到另一个节点但hostPath不会。

kubectl explain pod.spec.volumes.hostPath  #获取hostPath存储卷的定义字段,该字段的值是字典，该字典有两个键
path，定义使用宿主机的路径
type，对path的类型设定，有四个可选值
 1. DirectoryOrCreate  宿主机上不存在则创建此目录   
 2. Directory 宿主机必须存在挂载目录，否则创建失败
 3. FileOrCreate 宿主机上不存在挂载文件就创建   
 4. File 宿主机上必须存在文件，否则创建失败

举例一个使用hostPath存储卷的Pod，定义清单如下

apiVersion: v1
kind: Pod
metadata:
   name: pod-hostpath
   namespace: default
   labels:
     app: ngx

spec:
   containers:
   - name: ngxapp
     image: 192.168.80.146:5000/my_ngx:v1
     imagePullPolicy: IfNotPresent
     volumeMounts:
     - name: html
       mountPath: /usr/share/nginx/html/

   volumes:
   - name: html
     hostPath: 
        path: /tmp/data
        type: DirectoryOrCreate

验证挂载

[root@k8s-master volumes]# kubectl apply -f hostpath.yaml 
pod/pod-hostpath created
[root@k8s-master volumes]# kubectl get pod -o yaml
···
    hostIP: 192.168.80.147
    phase: Running
    podIP: 10.244.3.21
···
##在node2节点的被挂载目录下创建文件
[root@k8s-node2 ~]# echo "this is test" > /tmp/data/index.html
##访问pod，验证文件内容是否相同
[root@k8s-master volumes]# curl 10.244.3.21
this is test

NFS共享存储卷使用
nfs存储卷可以实现，Pod在创建时就挂载环nfs提供的路径；Pod被删除时pod解除与nfs挂载关系，但不会删除nfs中的数据。nfs可以被多个Pod挂载并进行读写。

##创建nfs服务
[root@192-168-80-114 ~]# mkdir /data/volumes -pv
mkdir: 已创建目录 "/data/volumes"
[root@192-168-80-114 ~]# vim /etc/exports
/data/volumes 192.168.80.0/24(rw,no_root_squash)
[root@192-168-80-114 ~]# systemctl start nfs
[root@192-168-80-114 ~]# showmount -e
Export list for 192-168-80-114:
/data/volumes 192.168.80.0/24

[root@k8s-master volumes]# kubectl explain pod.spec.volumes.nfs##查看nfs存储卷的定义字段，该字段的值为字典，有三个建
path  必须键，NFS服务提供的路径
server  必须键，NFS服务的IP或域名
readonly  可选键，值为true或false

举例一个使用nfs存储卷的Pod，定义清单如下

apiVersion: v1
kind: Pod
metadata:
   name: pod-nfs
   namespace: default
   labels:
     app: ngx
spec:
   containers:
   - name: ngxapp
     image: 192.168.80.146:5000/my_ngx:v1
     imagePullPolicy: IfNotPresent
     volumeMounts:
     - name: html
       mountPath: /usr/share/nginx/html/
   volumes:
   - name: html
     nfs:
        path: /data/volumes
        server: 192.168.80.114

验证挂载

[root@k8s-master volumes]# kubectl apply -f nfs.yaml 
pod/pod-nfs created
[root@k8s-master volumes]# kubectl get pod -o wide
NAME           READY     STATUS    RESTARTS   AGE       IP            NODE        NOMINATED NODE
pod-nfs   1/1       Running   0          1m        10.244.2.19   k8s-node1   <none>
##nfs服务器创建验证文件
[root@192-168-80-114 ~]# echo "this is test for nfs volumes" > /data/volumes/index.html
##访问pod的文件
[root@k8s-master volumes]# curl 10.244.2.19
this is test for nfs volumes
##删除pod重建后观察文件
[root@k8s-master volumes]# kubectl delete -f nfs.yaml      
pod "pod-nfs" deleted
[root@k8s-master volumes]# kubectl get pod -o wide    
No resources found.
[root@k8s-master volumes]# kubectl apply -f nfs.yaml  
pod/pod-nfs created
[root@k8s-master volumes]# kubectl get pod -o wide
NAME           READY     STATUS    RESTARTS   AGE       IP            NODE        NOMINATED NODE
pod-hostpath   1/1       Running   0          12s       10.244.3.22   k8s-node2   <none>
[root@k8s-master volumes]# curl 10.244.3.22
this is test for nfs volumes

PV和PVC的使用
kubernetes存储卷支持使用各种存储系统，但每个存储系统的都有自己的存储参数需要配置，为了简化用户使用kubernetes的存储卷，推出了PV和PVC两个新资源。

存储工程师在存储中划出卷
k8s管理员根据各类存储的设置，将存储的卷划入到k8s集群中，作为pv
k8s用户使用pvc相当于设定pv挑选规则，k8s会将符合pvc要求的pv中选出一个pv和pvc进行绑定

pv和pvc都是K8S中的资源对象，pvc和pv是一对一关系，pv不可被多个pvc复用。
pvc可以被多个pod挂载，但多个pod能否同时使用pvc取决于提供pv的存储系统特性。

pv是集群级别的资源，不能定义在名称空间中，用于描述存储管理员已经创建的一段网络存储单元。pv的访问模型只能说物理存储卷的子集
pvc是名称空间级别的资源，需要定义在某个名称空间中，用于描述K8S用户对pv的使用要求。

##查看pv和pvc的定义
[root@k8s-master ~]# kubectl explain pv    #查看pv的定义方式
FIELDS:
    apiVersion
    kind
    metadata
    spec
[root@k8s-master ~]# kubectl explain pv.spec  #查看pv支持存储系统及参数设置(以nfs举例)
spec:
  nfs（定义存储类型）
    path（定义挂载卷路径）
    server（定义服务器名称）
  accessModes（定义访问模型，有以下三种访问模型，以列表的方式存在，也就是说可以定义多个访问模式）
    ReadWriteOnce（RWO）  单节点读写
    ReadOnlyMany（ROX）  多节点只读
    ReadWriteMany（RWX）  多节点读写
  capacity（定义PV空间的大小）
    storage（指定大小）

[root@k8s-master volumes]# kubectl explain pvc   #查看PVC的定义方式
KIND:     PersistentVolumeClaim
VERSION:  v1
FIELDS:
   apiVersion   <string>
   kind <string>  
   metadata <Object>
   spec <Object>
[root@k8s-master volumes]# kubectl explain pvc.spec
spec:
  accessModes（定义访问模式，必须是PV的访问模式的子集）
  resources（定义申请资源的大小）
    requests:
      storage: 
 
##定义pv
```shell
[root@k8s-master volumes]# vim pv-demo.yaml
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv001
  labels:
    name: pv001
spec:
  nfs:
    path: /data/volumes/v1
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 1Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv002
  labels:
    name: pv002
spec:
  nfs:
    path: /data/volumes/v2
    server: stor01
  accessModes: ["ReadWriteOnce"]
  capacity:
    storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv003
  labels:
    name: pv003
spec:
  nfs:
    path: /data/volumes/v3
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv004
  labels:
    name: pv004
spec:
  nfs:
    path: /data/volumes/v4
    server: 192.168.80.114
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 4Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv005
  labels:
    name: pv005
spec:
  nfs:
    path: /data/volumes/v5
    server: 192.168.80.114
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 5Gi
                                                                                                                                                        
"pv-demo.yaml" [New] 69L, 1165C written
[root@k8s-master volumes]# kubectl apply -f pv-demo.yaml 
persistentvolume/pv001 created
persistentvolume/pv002 created
persistentvolume/pv003 created
persistentvolume/pv004 created
persistentvolume/pv005 created
[root@k8s-master volumes]# kubectl get pv
NAME      CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM     STORAGECLASS   REASON    AGE
pv001     1Gi        RWO,RWX        Retain           Available                                      6s
pv002     2Gi        RWO            Retain           Available                                      6s
pv003     2Gi        RWO,RWX        Retain           Available                                      6s
pv004     4Gi        RWO,RWX        Retain           Available                                      5s
pv005     5Gi        RWO,RWX        Retain           Available                                      5s

##定义pvc
定义pvc的访问模式为多路读写，该访问模式必须在前面pv定义的访问模式之中。定义PVC申请的大小为2Gi，此时PVC会自动去匹配多路读写且大小为2Gi的PV
[root@k8s-master volumes]# vim pvc-demo.yaml 
      storage: 2Gi
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: mypvc
  namespace: default
spec:
  accessModes: ["ReadWriteMany"]
  resources:
    requests:
      storage: 2Gi
---
apiVersion: v1
kind: Pod
metadata:
   name: pod-pvs
   namespace: default
   labels:
     app: ngx

spec:
   containers:
   - name: ngxapp
     image: 192.168.80.146:5000/my_ngx:v1
     imagePullPolicy: IfNotPresent
     volumeMounts:
     - name: html
       mountPath: /usr/share/nginx/html/

   volumes:
   - name: html
     persistentVolumeClaim:
        claimName: mypvc
~                                                                                                                                                           
"pvc-demo.yaml" 32L, 553C written 
[root@k8s-master volumes]# kubectl apply -f pvc-demo.yaml  
persistentvolumeclaim/mypvc created
pod/pod-pvs created
[root@k8s-master volumes]# kubectl get pv
NAME      CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM           STORAGECLASS   REASON    AGE
pv001     1Gi        RWO,RWX        Retain           Available                                            6m
pv002     2Gi        RWO            Retain           Available                                            6m
pv003     2Gi        RWO,RWX        Retain           Bound       default/mypvc                            6m
pv004     4Gi        RWO,RWX        Retain           Available                                            6m
pv005     5Gi        RWO,RWX        Retain           Available                                            6m
[root@k8s-master volumes]# kubectl get pvc
NAME      STATUS    VOLUME    CAPACITY   ACCESS MODES   STORAGECLASS   AGE
mypvc     Bound     pv003     2Gi        RWO,RWX                       12s

验证挂载

[root@192-168-80-114 volumes]# echo "welcome to use pv3" > /data/volumes/v3/index.html
[root@k8s-master volumes]# kubectl get pods -o wide
NAME      READY     STATUS    RESTARTS   AGE       IP            NODE        NOMINATED NODE
pod-pvs   1/1       Running   0          2m        10.244.2.20   k8s-node1   <none>
[root@k8s-master volumes]# curl 10.244.2.20
welcome to use pv3

在Pod创建时会根据pvc去寻找合适的pv建立关联关系，再根据pv的描述去挂载存储系统。

当现有的pv都不符合pvc要求时，可以动态的创建合适pv，这里又需要一个新的概念StorageClasses。

举个例子，在存储系统中划分一个1TB的存储空间提供给Kubernetes使用，当用户需要一个10G的PV时，会立即通过restful发送请求，从而让存储空间创建一个10G的image，之后在我们的集群中定义成10G的PV供给给当前的PVC作为挂载使用。在此之前我们的存储系统必须支持restful接口，比如ceph分布式存储，而glusterfs则需要借助第三方接口完成这样的请求。

configmap和Secret
为容器中应用提供配置的方式有如下几种：

  1. 启动容器时，通过命令传递参数 args[]
  2. 将定义好的配置文件通过拷贝docker cp 写入到容器中
  3. 通过环境变量的方式传递配置数据
    cloud native类型的应用一般都可以直接使用环境变量；
    非cloud native类的应用使用entrypoint脚本预处理完成应用配置文件的修改；
  4. 挂载Docker卷传送配置文件
    而在Kubernetes系统之中也存在这样的组件，就是特殊的存储卷类型。其并不是提供pod存储空间，而是给管理员或用户提供从集群外部向Pod内部的应用注入配置信息的方式。这两种特殊类型的存储卷分别是：configMap和secret。他们都是键值对的形式。

ConfigMap：主要用于向Pod注入非敏感数据，使用时用户将数据直接存储在ConfigMap对象当中，然后Pod通过使用ConfigMap卷进行引用，实现容器的配置文件集中定义和管理。ConfigMap可以被用来保存单个属性，也可以用来保存整个配置文件或者JSON二进制大对象。

创建方式：

  1. 通过 --from-literal：每个 --from-literal 对应一个信息条目(键值对)。
[root@k8s-master volumes]# kubectl create configmap nginx-config --from-literal=nginx_port=80 --from-literal=server_name=myapp.magedu.com
configmap/nginx-config created
[root@k8s-master volumes]# kubectl get cm
NAME           DATA      AGE
nginx-config   2         6s
[root@k8s-master volumes]# kubectl describe cm nginx-config
Name:         nginx-config
Namespace:    default
Labels:       <none>
Annotations:  <none>

Data
====
server_name:
----
myapp.magedu.com
nginx_port:
----
80
Events:  <none>
  1. 通过 --from-file：从文件获取键值对。文件名为键，文件内容为值
[root@k8s-master configmap]# vim www.conf
server {
    server_name myapp.magedu.com;
    listen 80;
    root /data/web/html;
}
[root@k8s-master configmap]# kubectl create configmap nginx-www --from-file=./www.conf 
configmap/nginx-www created
[root@k8s-master configmap]# kubectl get cm
NAME           DATA      AGE
nginx-config   2         3m
nginx-www      1         4s
[root@k8s-master configmap]# kubectl get cm nginx-www -o yaml
apiVersion: v1
data:
  www.conf: "server {\n\tserver_name myapp.magedu.com;\n\tlisten 80;\n\troot /data/web/html;\n}\n"
kind: ConfigMap
metadata:
  creationTimestamp: 2018-10-10T08:50:06Z
  name: nginx-www
  namespace: default
  resourceVersion: "389929"
  selfLink: /api/v1/namespaces/default/configmaps/nginx-www
  uid: 7c3dfc35-cc69-11e8-801a-000c2972dc1f

将ConfigMap注入到Pod中
方式1：传递环境变量(只在容器启动时才能成功获取configmap)

[root@k8s-master volumes]# vim configmap-1.yaml 
apiVersion: v1
kind: Pod
metadata:
   name: pod-cm-1
   namespace: default
   labels:
     app: ngx
spec:
   containers:
   - name: ngxapp
     image: 192.168.80.146:5000/my_ngx:v1
     imagePullPolicy: IfNotPresent
     env:   ##定义容器中的环境变量
     - name: NGINX_SERVER_PORT   ##环境变量的名字
       valueFrom:   ##环境变量值的来源
          configMapKeyRef:   ##环境变量值的来源为configmap资源
             name: nginx-config  ##提供环境变量值的configmap名为
             key: nginx_port  ##从名为nginx-config的configmap中获取key为nginx_port的值作为环境变量NGINX_SERVER_PORT的值
     - name: NGINX_SERVER_NAME
▽      valueFrom:
          configMapKeyRef:
             name: nginx-config
             key: server_name
##验证
[root@k8s-master volumes]# kubectl apply -f configmap-1.yaml 
pod/pod-cm-1 created
[root@k8s-master volumes]# kubectl get pods
NAME       READY     STATUS    RESTARTS   AGE
pod-cm-1   1/1       Running   0          1m
pod-pvs    1/1       Running   0          52m
[root@k8s-master volumes]# kubectl exec -it pod-cm-1 /bin/sh
# echo $NGINX_SERVER_PORT
80
# echo $NGINX_SERVER_NAME
myapp.magedu.com

方式2：挂载为容器的存储卷，能实时获取configmap。
以configmap中键的名字为文件名在pod的mountPath中新建文件，并以configmap中键的值为该文件的内容

[root@k8s-master volumes]# vim configmap-2.yaml 
apiVersion: v1
kind: Pod
metadata:
   name: pod-configmap2
   namespace: default
   labels:
     app: ngx

spec:
   containers:
   - name: ngxapp
     image: 192.168.80.146:5000/my_ngx:v1
     imagePullPolicy: IfNotPresent
     volumeMounts:
     - name: html
       mountPath: /usr/share/nginx/html/

   volumes:
   - name: html
     configMap:
        name: nginx-config
[root@k8s-master volumes]# kubectl get pod
NAME             READY     STATUS    RESTARTS   AGE
pod-cm-1         1/1       Running   0          19m
pod-configmap2   1/1       Running   0          46s
pod-pvs          1/1       Running   0          1h
[root@k8s-master volumes]# kubectl exec -it pod-configmap2  /bin/sh
# cat //usr/share/nginx/html/server_name
myapp.magedu.com# 
# cat /usr/share/nginx/html/nginx_port
80# 

[root@k8s-master volumes]# vim configmap-3.yaml 
apiVersion: v1
kind: Pod
metadata:
   name: pod-configmap3
   namespace: default
   labels:
     app: ngx

spec:
   containers:
   - name: ngxapp
     image: 192.168.80.146:5000/my_ngx:v1
     imagePullPolicy: IfNotPresent
     volumeMounts:
     - name: html
       mountPath: /usr/share/nginx/html/

   volumes:
   - name: html
     configMap:
        name: nginx-www
[root@k8s-master volumes]# kubectl get pod
NAME             READY     STATUS    RESTARTS   AGE
pod-cm-1         1/1       Running   0          19m
pod-configmap3   1/1       Running   0          46s
pod-pvs          1/1       Running   0          1h
[root@k8s-master volumes]# kubectl exec -it pod-configmap3  /bin/sh
# cd  /usr/share/nginx/html/
# cat www.conf
server {
    server_name myapp.magedu.com;
    listen 80;
    root /data/web/html;
}

Secret：用于向Pod传递敏感信息，比如密码，私钥，证书文件等，这些信息如果在容器中定义容易泄露，Secret资源可以让用户将这些信息存储在急群众，然后通过Pod进行挂载，实现敏感数据和系统解耦的效果。

用法和configmap类似

secret的三种类型：
kubelet拉取docker仓库的镜像，使用secret必须是dockers-registry类型
generic

上一篇
下一篇

Logo
K8S/Kubernetes

K8S/Kubernetes社区为您提供最前沿的新闻资讯和知识内容

更多推荐

【深度】阿里巴巴万级规模 K8s 集群全局高可用体系之美

作者 |  韩堂、柘远、沉醉来源 | 阿里巴巴云原生公众号​前言台湾作家林清玄在接受记者采访的时候，如此评价自己 30 多年写作生涯：“第一个十年我才华横溢，‘贼光闪现’，令周边黯然失色；第二个十年，我终于‘宝光现形’，不再去抢风头，反而与身边的美丽相得益彰；进入第三个十年，繁华落尽见真醇，我进入了‘醇光初现’的阶段，真正体味到了境界之美”。​长夜有穷，真水无香。领略过了 K8s“身在江

avatar K8S/Kubernetes

如何基于 K8s 构建下一代 DevOps 平台？

作者 | 孙健波（天元）导读：当前云原生 DevOps 体系现状如何？面临哪些挑战？如何通过 OAM 解决云原生 DevOps 场景下的诸多问题？云原生开发应用模型 OAM(Open Application Model) 社区核心成员孙健波将为大家一一解答，并分享如何基于 OAM 和 Kubernetes 打造无限能力的下一代 DevOps 平台。什么是 DevOps？为什么基于 Kub

avatar K8S/Kubernetes

k8s 火了！

2020，上云之年，产品云端化成为一种趋势。在一线城市，很多公司都已经构建了自己的私有云环境，比如阿里云、网易云、华为云等。而Kubernetes 作为基于容器编排领域的王者，具备扩展...

avatar K8S/Kubernetes