k8s--Kubernetes存储--Volumes配置管理

容器中的文件在磁盘上是临时存放的，这给容器中运行的特殊应用程序带来一些问题。首先，当容器崩溃时，kubelet 将重新启动容器，容器中的文件将会丢失,因为容器会以干净的状态重建。其次，当在一个 Pod 中同时运行多个容器时，常常需要在这些容器之间共享文件。 Kubernetes 抽象出 Volume 对象来解决这两个问题。

Gong_yz

915人浏览 · 2023-03-13 00:28:26

Gong_yz · 2023-03-13 00:28:26 发布

文章目录

一、简介
二、emptyDir卷
- 1.简介
- 2.实验示例
三、hostpath卷
- 1.简介
- 2.实验示例
四、nfs卷

一、简介

容器中的文件在磁盘上是临时存放的，这给容器中运行的特殊应用程序带来一些问题。首先，当容器崩溃时，kubelet 将重新启动容器，容器中的文件将会丢失,因为容器会以干净的状态重建。其次，当在一个 Pod 中同时运行多个容器时，常常需要在这些容器之间共享文件。 Kubernetes 抽象出 Volume 对象来解决这两个问题。

Kubernetes 卷具有明确的生命周期,与包裹它的 Pod 相同。因此，卷比 Pod 中运行的任何容器的存活期都长，在容器重新启动时数据也会得到保留。当然，当一个 Pod 不再存在时，卷也将不再存在。也许更重要的是，Kubernetes 可以支持许多类型的卷，Pod 也能同时使用任意数量的卷。

卷不能挂载到其他卷，也不能与其他卷有硬链接。 Pod 中的每个容器必须独立地指定每个卷的挂载位置。

Kubernetes 支持下列类型的卷：
awsElasticBlockStore 、azureDisk、azureFile、cephfs、cinder、configMap、csi
downwardAPI、emptyDir、fc (fibre channel)、flexVolume、flocker
gcePersistentDisk、gitRepo (deprecated)、glusterfs、hostPath、iscsi、local、
nfs、persistentVolumeClaim、projected、portworxVolume、quobyte、rbd
scaleIO、secret、storageos、vsphereVolume

二、emptyDir卷

1.简介

当 Pod 指定到某个节点上时，首先创建的是一个 emptyDir 卷，并且只要 Pod 在该节点上运行，卷就一直存在。就像它的名称表示的那样，卷最初是空的。尽管 Pod 中的容器挂载 emptyDir 卷的路径可能相同也可能不同，但是这些容器都可以读写 emptyDir 卷中相同的文件。当 Pod 因为某些原因被从节点上删除时，emptyDir 卷中的数据也会永久删除。

emptyDir 的使用场景：
缓存空间，例如基于磁盘的归并排序。
为耗时较长的计算任务提供检查点，以便任务能方便地从崩溃前状态恢复执行。
在 Web 服务器容器服务数据时，保存内容管理器容器获取的文件。

默认情况下， emptyDir 卷存储在支持该节点所使用的介质上；这里的介质可以是磁盘或 SSD 或网络存储，这取决于您的环境。但是，您可以将 emptyDir.medium 字段设置为 “Memory”，以告诉 Kubernetes 为您安装 tmpfs（基于内存的文件系统）。虽然 tmpfs 速度非常快，但是要注意它与磁盘不同。 tmpfs 在节点重启时会被清除，并且您所写入的所有文件都会计入容器的内存消耗，受容器内存限制约束。

如果文件超过sizeLimit，则一段时间后（1-2分钟）会被kubelet evict(驱离)掉。之所以不是“立即”被evict，是因为kubelet是定期进行检查的，这里会有一个时间差。

emptydir缺点：
不能及时禁止用户使用内存。虽然过1-2分钟kubelet会将Pod挤出，但是这个时间内，其实对node还是有风险的；
影响kubernetes调度，因为empty dir并不涉及node的resources，这样会造成Pod“偷偷”使用了node的内存，但是调度器并不知晓；
用户不能及时感知到内存不可用

2.实验示例

pod内挂载点不同，卷相同

[root@k8s2 volumes]# vim emptydir.yaml
apiVersion: v1
kind: Pod
metadata:
  name: vol1
spec:
  containers:
  - image: busyboxplus
    name: vm1
    command: ["sleep", "300"]                               
    volumeMounts:
    - mountPath: /cache                      
      name: cache-volume
  - name: vm2
    image: nginx
    volumeMounts:
    - mountPath: /usr/share/nginx/html
      name: cache-volume
  volumes:
  - name: cache-volume
    emptyDir:
      medium: Memory                      ##不定义是，使用和宿主机相同
      sizeLimit: 100Mi

[root@k8s2 volumes]# kubectl apply -f emptydir.yaml
[root@k8s2 volumes]# kubectl get pod
NAME   READY   STATUS    RESTARTS   AGE
vol1   2/2     Running   0          44s
[root@k8s2 volumes]# kubectl exec vol1 -c vm1 -it -- sh     ##进入
/ # cd /cache/
/cache # ls
/cache # curl  localhost
<html>
<head><title>403 Forbidden</title></head>
<body>
<center><h1>403 Forbidden</h1></center>
<hr><center>nginx/1.21.5</center>
</body>
</html>
/cache # echo www.westos.org > index.html
/cache # curl  localhost                         ##vm1的挂载点协发布目录，用vm2的80端口nginx访问成功（公用一个网络栈）
www.westos.org
/cache # dd if=/dev/zero of=bigfile bs=1M count=200
dd: writing 'bigfile': No space left on device
101+0 records in
99+1 records out
/cache # du -h bigfile                            ##以前的版本会超，等2分钟左右检测数据后，再核减
100.0M  bigfile

三、hostpath卷

1.简介

类似于docker中的-v选项，把宿主机的数据同步到pod；不会因为pod被删除，而丢数据

hostPath 卷能将主机节点文件系统上的文件或目录挂载到您的 Pod 中。 虽然这不是大多数 Pod 需要的，但是它为一些应用程序提供了强大的逃生舱。
 
hostPath 的一些用法有：
运行一个需要访问 Docker 引擎内部机制的容器,挂载 /var/lib/docker 路径。
在容器中运行 cAdvisor(可以理解为监控) 时，以 hostPath 方式挂载 /sys。
允许 Pod 指定给定的 hostPath 在运行 Pod 之前是否应该存在，是否应该创建以及应该以什么方式存在。
 
除了必需的 path 属性之外，用户可以选择性地为 hostPath 卷指定 type。

在这里插入图片描述

当使用这种类型的卷时要小心，因为：
具有相同配置（例如从 podTemplate 创建）的多个 Pod 会由于节点上文件的不同而在不同节点上有不同的行为。(每个节点访问的是不同的资源，比如server3访问docker目录下的file1,server4访问docker目录下的file2)
当 Kubernetes 按照计划添加资源感知的调度时，这类调度机制将无法考虑由 hostPath 使用的资源。(删除pod不影响hostpath下的内容，所以叫逃生仓)
基础主机上创建的文件或目录只能由 root 用户写入。您需要在特权容器中以 root 身份运行进程，或者修改主机上的文件权限以便容器能够写入 hostPath 卷。

针对路径加其他选项
在这里插入图片描述

2.实验示例

[root@k8s2 volumes]# vim hostpath.yaml
apiVersion: v1
kind: Pod
metadata:
  name: vol2
spec:
  nodeName: k8s4                            ##调度到k8s4节点
  containers:
  - image: nginx
    name: test-container
    volumeMounts:
    - mountPath: /usr/share/nginx/html        ##容器内
      name: test-volume
  volumes:
  - name: test-volume
    hostPath:
      path: /data                                          ##宿主机
      type: DirectoryOrCreate                                 ##类型

[root@k8s2 volumes]# kubectl apply -f hostpath.yaml
[root@k8s2 volumes]# kubectl get pod -o wide
NAME   READY   STATUS    RESTARTS   AGE   IP               NODE   NOMINATED NODE   READINESS GATES
vol2   1/1     Running   0          6s    10.244.106.140   k8s4   <none>           <none>

[root@k8s4 data]# echo www.westos.org > index.html

[root@k8s2 volumes]# curl 10.244.106.140
www.westos.org

四、nfs卷

是一个网路文件系统，是同步的

配置nfsserver
[root@k8s1 ~]# yum install -y nfs-utils
[root@k8s1 ~]# vim /etc/exports
/nfsdata        *(rw,sync,no_root_squash) 
共享的数据目录       共享给所有人：rw读写，sync同步，no_root_squash超级用户不转换身份

[root@k8s1 ~]# mkdir -m 777 /nfsdata
[root@k8s1 ~]# systemctl  enable --now nfs
[root@k8s1 ~]# showmount -e                 ##能列出表示OK
Export list for k8s1:
/nfsdata *


[root@k8s2 volumes]# vim nfs.yaml
apiVersion: v1
kind: Pod
metadata:
  name: nfs
spec:
  containers:
  - image: nginx
    name: test-container
    volumeMounts:
    - mountPath: /usr/share/nginx/html
      name: test-volume
  volumes:
  - name: test-volume
    nfs:
      server: 192.168.56.171        ##server1的ip
      path: /nfsdata

需要在所有k8s节点上安装nfs-utils软件包
yum install -y nfs-utils

没有安装会有以下错误
在这里插入图片描述

[root@k8s2 volumes]# kubectl apply -f nfs.yaml

[root@k8s2 volumes]# kubectl get pod -o wide
NAME   READY   STATUS    RESTARTS   AGE   IP               NODE   NOMINATED NODE   READINESS GATES
nfs    1/1     Running   0          19s   10.244.106.141   k8s4   <none>           <none>

在nfsserver端创建测试页
[root@k8s1 ~]# cd /nfsdata/
[root@k8s1 nfsdata]# echo www.westos.org > index.html           ##远端文件系统创建

[root@k8s2 volumes]# curl 10.244.106.141
www.westos.org

K8S/Kubernetes

K8S/Kubernetes社区为您提供最前沿的新闻资讯和知识内容

更多推荐

【深度】阿里巴巴万级规模 K8s 集群全局高可用体系之美

作者 | 韩堂、柘远、沉醉来源 | 阿里巴巴云原生公众号前言台湾作家林清玄在接受记者采访的时候，如此评价自己 30 多年写作生涯：“第一个十年我才华横溢，‘贼光闪现’，令周边黯然失色；第二个十年，我终于‘宝光现形’，不再去抢风头，反而与身边的美丽相得益彰；进入第三个十年，繁华落尽见真醇，我进入了‘醇光初现’的阶段，真正体味到了境界之美”。长夜有穷，真水无香。领略过了 K8s“身在江

K8S/Kubernetes

如何基于 K8s 构建下一代 DevOps 平台？

作者 | 孙健波（天元）导读：当前云原生 DevOps 体系现状如何？面临哪些挑战？如何通过 OAM 解决云原生 DevOps 场景下的诸多问题？云原生开发应用模型 OAM(Open Application Model) 社区核心成员孙健波将为大家一一解答，并分享如何基于 OAM 和 Kubernetes 打造无限能力的下一代 DevOps 平台。什么是 DevOps？为什么基于 Kub