节点资源管理

节点资源管理包括

  • 状态上报:kubelet负责将节点的基础信息、节点资源信息(cpu、内存、Hugepage、临时存储、GPU等注册设备);调度器在位pod选择节点时会将将机器的状态作为依据
    • 上报信息会造成不必要的开销,自K8S1.12版本起,K8S引入node lease对象,将上报信息划分为节点状态和Lease对象(每个节点都会有的对象,包含基本的节点信息)
    • kubelet在节点状态变更时或者默认一分钟周期到时,更新节点状态信息。并且默认10s周期更新Lease对象,如果40s内Lease没有被更新,则认为节点不健康
  • 资源预留
    • kubelet通过启动参数可以为CPU、内存、PID等系统预留资源
      • 可分配资源(Allocatable):用户pod可用资源(Capacity-分配给系统的资源的剩余部分)
      • 容量资源(Capacity):kubelet获取计算节点当前的资源信息
      • CPU:从/proc/cpuinfo中获取
      • Memory:从/proc/memoryinfo
      • ephemeral-storage:指节点根分区的大小
  • 资源可用额监控
    • kubelet内置组件cAdvisor检查节点资源信息(内存和磁盘是不可压缩资源、cpu是可压缩资源)
  • 驱逐管理:系统会在节点资源不够时终止一些容器进程,以空出资源保证节点的稳定性
    • 驱逐策略
      • 默认配置:
        • memory.available<10%(或者<5Gi) 系统内存少于总量的10%或者5Gi时,就会对pod进行驱逐
        • 驱逐方式
          • 软驱逐(EvientionSoft):检测到当前资源达到驱逐阈值时,并不会立刻驱逐,会有个宽限期,宽限期到后如果资源状况没有改善,就会驱逐pod(按照Qos)
          • 硬驱逐(EvientionHard):检测到当前资源达到驱逐阈值时会立刻驱逐pod(按照Qos)
        • 基于内存压力的驱逐:memory.avaiable,当前系统的可用内存(默认设置<100Mi,硬驱逐策略) 在这里插入图片描述
        • 基于磁盘压力的驱逐
          • 划分分区:pod的emptyDir卷、容器日志目录、容器运行时目录

          • kubelet只对系统分区和容器运行时分区进行管理
            在这里插入图片描述
            nodefs.available:根分区磁盘可使用率
            nodefs.inodesFree:根分区磁盘inode可使用率
            imagefs.available:容器分区磁盘使用率,如果没有容器分区就没有有该资源配置
            imagefs.inodesFree:容器分区inode可使用率

          • 建议:将kubelet工作目录和容器日志放在系统分区中,容器运行时分区可选

          • 当磁盘使用率高时,根据分区不同,kubelet采取的方式也不同:

            • 有容器运行时分区:
              • 如果系统分区到达驱逐阈值:kubelet删除已经退出容器
              • 如果容器运行时分区达驱逐阈值:kubelet删除所有未使用镜像
            • 无容器运行时分区:kubelet同时删除未运行的容器和未使用的镜像
          • 回收后,如果还是满足驱逐条件,kubelet就会开始驱逐pod

          • 驱逐pod选择目标的顺序:

            • pod使用量是否超过请求的大小,如果超过,该pod会成为备选目标
            • 查询pod的优先级,低优先级pod有限驱逐
            • 根据磁盘使用超过请求数量进行排行,差值越小、越容易被驱逐
        • 数据在不同的分区,kubelet针对不同的驱逐信号采取的驱逐策略不同:
          • 有容器运行时分区:
            • 系统分区触发驱逐:kubelet计算pod的磁盘使用量中所有容器的日志和本地卷数据
            • 容器运行时分区触发驱逐:kubelet计算pod的磁盘使用两种所有容器的可写层
          • 无容器运行时分区:
            • 系统分区触发驱逐:kubelet计算pod的磁盘使用量中所有容器的日志和本地卷数据和可写层
Logo

K8S/Kubernetes社区为您提供最前沿的新闻资讯和知识内容

更多推荐