1.pod控制器简介

Pod是kubernetes的最小管理单元,在kubernetes中,按照pod的创建方式可以将其分为两类:

  • 自主式pod:kubernetes直接创建出来的Pod,这种pod删除后就没有了,也不会重建
  • 控制器创建的pod:kubernetes通过控制器创建的pod,这种pod删除了之后还会自动重建
Pod控制器是管理pod的中间层,使用Pod控制器之后,只需要告诉Pod控制器,想要多少个什么样的Pod就可以了,它会创建出满足条件的Pod并确保每一个Pod资源处于用户期望的目标状态。如果Pod资源在运行中出现故障,它会基于指定策略重新编排Pod。

在kubernetes中,有很多类型的pod控制器,每种都有自己的适合的场景,常见的有下面这些:

ReplicationController:比较原始的pod控制器,已经被废弃,由ReplicaSet替代
ReplicaSet:保证副本数量一直维持在期望值,并支持pod数量扩缩容,镜像版本升级
Deployment:通过控制ReplicaSet来控制Pod,并支持滚动升级、回退版本
Horizontal Pod Autoscaler:可以根据集群负载自动水平调整Pod的数量,实现削峰填谷
DaemonSet:在集群中的指定Node上运行且仅运行一个副本,一般用于守护进程类的任务
Job:它创建出来的pod只要完成任务就立即退出,不需要重启或重建,用于执行一次性任务
Cronjob:它创建的Pod负责周期性任务控制,不需要持续后台运行
StatefulSet:管理有状态应用

1.1ReplicaSet

ReplicaSet的主要作用是保证一定数量的pod正常运行,它会持续监听这些Pod的运行状态,一旦Pod发生故障,就会重启或重建。同时它还支持对pod数量的扩缩容和镜像版本的升降级。

img

资源清单文件:

apiVersion: apps/v1 # 版本号
kind: ReplicaSet # 类型       
metadata: # 元数据
  name: # rs名称 
  namespace: # 所属命名空间 
  labels: #标签
    controller: rs
spec: # 详情描述
  replicas: 3 # 副本数量
  selector: # 选择器,通过它指定该控制器管理哪些pod
    matchLabels:      # Labels匹配规则
      app: nginx-pod
    matchExpressions: # Expressions匹配规则
      - {key: app, operator: In, values: [nginx-pod]}
  template: # 模板,当副本数量不足时,会根据下面的模板创建pod副本
    metadata:
      labels:
        app: nginx-pod
    spec:
      containers:
      - name: nginx
        image: nginx:1.17.1
        ports:
        - containerPort: 80

在这里面,需要新了解的配置项就是spec下面几个选项:

  • replicas:指定副本数量,其实就是当前rs创建出来的pod的数量,默认为1

  • selector:选择器,它的作用是建立pod控制器和pod之间的关联关系,采用的Label Selector机制

  • 在pod模板上定义label,在控制器上定义选择器,就可以表明当前控制器能管理哪些pod了

  • template:模板,就是当前控制器创建pod所使用的模板板,里面其实就是前一章学过的pod的定义

1.1.1创建ReplicaSet

创建pc-replicaset.yaml文件,内容如下:

apiVersion: apps/v1
kind: ReplicaSet   
metadata:
  name: pc-replicaset
  namespace: dev
spec:
  replicas: 3
  selector: 
    matchLabels:
      app: nginx-pod
  template:
    metadata:
      labels:
        app: nginx-pod
    spec:
      containers:
      - name: nginx
        image: nginx:1.17.1

查看结果

[root@master controller]# kubectl apply -f pc-replicaset.yaml
[root@master controller]# kubectl get pods -n dev
NAME                  READY   STATUS    RESTARTS   AGE
pc-replicaset-2l5tf   1/1     Running   0          32s
pc-replicaset-5zm4p   1/1     Running   0          32s
pc-replicaset-gbjrn   1/1     Running   0          32s

# 查看rs
# DESIRED:期望副本数量  
# CURRENT:当前副本数量  
# READY:已经准备好提供服务的副本数量
[root@master controller]# kubectl get rs pc-replicaset -n dev -o wide
NAME            DESIRED   CURRENT   READY   AGE     CONTAINERS   IMAGES         SELECTOR
pc-replicaset   3         3         3       3m10s   nginx        nginx:1.17.1   app=nginx-pod


#查看Pod
# 这里发现控制器创建出来的pod的名称是在控制器名称后面拼接了-xxxxx随机码
[root@master controller]# kubectl get pods -n dev -o wide
NAME                  READY   STATUS    RESTARTS   AGE    IP            NODE    NOMINATED NODE   READINESS GATES
pc-replicaset-2l5tf   1/1     Running   0          2m6s   10.244.2.5    node2   <none>           <none>
pc-replicaset-5zm4p   1/1     Running   0          2m6s   10.244.1.15   node1   <none>           <none>
pc-replicaset-gbjrn   1/1     Running   0          2m6s   10.244.1.14   node1   <none>           <none>

1.1.2扩缩容

# 编辑rs的副本数量,修改spec:replicas: 6即可
[root@master controller]# kubectl edit rs pc-replicaset -n dev
[root@master controller]# kubectl get pods -n dev
NAME                  READY   STATUS    RESTARTS   AGE
pc-replicaset-2l5tf   1/1     Running   0          6m40s
pc-replicaset-5zm4p   1/1     Running   0          6m40s
pc-replicaset-gbjrn   1/1     Running   0          6m40s
pc-replicaset-k6zz8   1/1     Running   0          5s
pc-replicaset-sbnp5   1/1     Running   0          5s
pc-replicaset-zhlbv   1/1     Running   0          5s


#使用命令实现: 使用scale命令实现扩缩容, 后面--replicas=n直接指定目标数量即可
[root@master controller]# kubectl scale rs pc-replicaset --replicas=2 -n dev
replicaset.apps/pc-replicaset scaled
[root@master controller]# kubectl get pods -n dev
NAME                  READY   STATUS        RESTARTS   AGE
pc-replicaset-2l5tf   1/1     Running       0          7m48s
pc-replicaset-5zm4p   1/1     Running       0          7m48s
pc-replicaset-gbjrn   0/1     Terminating   0          7m48s
pc-replicaset-k6zz8   0/1     Terminating   0          73s
[root@master controller]# kubectl get pods -n dev
NAME                  READY   STATUS    RESTARTS   AGE
pc-replicaset-2l5tf   1/1     Running   0          7m50s
pc-replicaset-5zm4p   1/1     Running   0          7m50s

1.1.3镜像升级

# 编辑rs的容器镜像 - image: nginx:1.17.2
[root@master controller]# kubectl edit rs pc-replicaset -n dev
[root@master controller]# kubectl get rs pc-replicaset -n dev -o wide
NAME            DESIRED   CURRENT   READY   AGE   CONTAINERS   IMAGES         SELECTOR
pc-replicaset   2         2         2       14m   nginx        nginx:1.17.2   app=nginx-pod

# 同样的道理,也可以使用命令完成这个工作
# kubectl set image rs rs名称 容器=镜像版本 -n namespace
[root@master controller]# kubectl get rs pc-replicaset -n dev -o wide
NAME            DESIRED   CURRENT   READY   AGE   CONTAINERS   IMAGES         SELECTOR
pc-replicaset   2         2         2       14m   nginx        nginx:1.17.2   app=nginx-pod
[root@master controller]# kubectl set image rs pc-replicaset nginx=nginx:1.17.1  -n dev
replicaset.apps/pc-replicaset image updated
[root@master controller]# kubectl get rs pc-replicaset -n dev -o wide
NAME            DESIRED   CURRENT   READY   AGE   CONTAINERS   IMAGES         SELECTOR
pc-replicaset   2         2         2       15m   nginx        nginx:1.17.1   app=nginx-pod

1.1.4删除ReplicaSet

# 使用kubectl delete命令会删除此RS以及它管理的Pod
# 在kubernetes删除RS前,会将RS的replicasclear调整为0,等待所有的Pod被删除后,在执行RS对象的删除
[root@master controller]# kubectl delete rs pc-replicaset -n dev
replicaset.apps "pc-replicaset" deleted
[root@master controller]# kubectl get pods -n dev
No resources found in dev namespace.
[root@master controller]# 

# 如果希望仅仅删除RS对象(保留Pod),可以使用kubectl delete命令时添加--cascade=false选项(不推荐)。

# 也可以使用yaml直接删除(推荐)
[root@master controller]# kubectl delete -f pc-replicaset.yaml
replicaset.apps "pc-replicaset" deleted

1.2Deployment(Deploy)

为了更好的解决服务编排的问题,kubernetes在V1.2版本开始,引入了Deployment控制器。值得一提的是,这种控制器并不直接管理pod,而是通过管理ReplicaSet来简介管理Pod,即:Deployment管理ReplicaSet,ReplicaSet管理Pod。所以Deployment比ReplicaSet功能更加强大

img

Deployment主要功能有下面几个:

  • 支持ReplicaSet的所有功能
  • 支持发布的停止、继续
  • 支持滚动升级和回滚版本

Deployment的资源清单文件:

apiVersion: apps/v1 # 版本号
kind: Deployment # 类型       
metadata: # 元数据
  name: # rs名称 
  namespace: # 所属命名空间 
  labels: #标签
    controller: deploy
spec: # 详情描述
  replicas: 3 # 副本数量
  revisionHistoryLimit: 3 # 保留历史版本
  paused: false # 暂停部署,默认是false
  progressDeadlineSeconds: 600 # 部署超时时间(s),默认是600
  strategy: # 策略
    type: RollingUpdate # 滚动更新策略
    rollingUpdate: # 滚动更新
      max违规词汇: 30% # 最大额外可以存在的副本数,可以为百分比,也可以为整数
      maxUnavailable: 30% # 最大不可用状态的 Pod 的最大值,可以为百分比,也可以为整数
  selector: # 选择器,通过它指定该控制器管理哪些pod
    matchLabels:      # Labels匹配规则
      app: nginx-pod
    matchExpressions: # Expressions匹配规则
      - {key: app, operator: In, values: [nginx-pod]}
  template: # 模板,当副本数量不足时,会根据下面的模板创建pod副本
    metadata:
      labels:
        app: nginx-pod
    spec:
      containers:
      - name: nginx
        image: nginx:1.17.1
        ports:
        - containerPort: 80

1.2.1创建deployment

创建pc-deployment.yaml,内容如下:

apiVersion: apps/v1
kind: Deployment      
metadata:
  name: pc-deployment
  namespace: dev
spec: 
  replicas: 3
  selector:
    matchLabels:
      app: nginx-pod
  template:
    metadata:
      labels:
        app: nginx-pod
    spec:
      containers:
      - name: nginx
        image: nginx:1.17.1
[root@master app]# kubectl apply -f pc-deployment.yaml 
deployment.apps/pc-deployment created

# 查看deployment
# UP-TO-DATE 最新版本的pod的数量
# AVAILABLE  当前可用的pod的数量
[root@master app]# kubectl get deploy pc-deployment -n dev
NAME            READY   UP-TO-DATE   AVAILABLE   AGE
pc-deployment   3/3     3            3           28s

[root@master app]# kubectl get pods -n dev
NAME                             READY   STATUS    RESTARTS   AGE
pc-deployment-6cb555c765-bgtp2   1/1     Running   0          6s
pc-deployment-6cb555c765-v7b45   1/1     Running   0          6s
pc-deployment-6cb555c765-wcgv9   1/1     Running   0          6s

1.2.2扩容缩容

# 变更副本数量为5个
[root@master app]# kubectl scale deploy pc-deployment --replicas=5  -n dev
deployment.apps/pc-deployment scaled
#查看
[root@master app]# kubectl get deploy pc-deployment -n dev
NAME            READY   UP-TO-DATE   AVAILABLE   AGE
pc-deployment   5/5     5            5           2m9s

[root@master app]# kubectl get pods -n dev
NAME                             READY   STATUS    RESTARTS   AGE
pc-deployment-6cb555c765-bgtp2   1/1     Running   0          2m52s
pc-deployment-6cb555c765-cmv8f   1/1     Running   0          53s
pc-deployment-6cb555c765-k4t7q   1/1     Running   0          53s
pc-deployment-6cb555c765-v7b45   1/1     Running   0          2m52s
pc-deployment-6cb555c765-wcgv9   1/1     Running   0          2m52s


# 编辑deployment的副本数量,修改spec:replicas: 4即可
kubectl edit deploy pc-deployment -n dev

1.2.3镜像更新

deployment支持两种更新策略:重建更新滚动更新,可以通过strategy指定策略类型,支持两个属性:

strategy:指定新的Pod替换旧的Pod的策略, 支持两个属性:
  type:指定策略类型,支持两种策略
    Recreate:在创建出新的Pod之前会先杀掉所有已存在的Pod
    RollingUpdate:滚动更新,就是杀死一部分,就启动一部分,在更新过程中,存在两个版本Pod
  rollingUpdate:当type为RollingUpdate时生效,用于为RollingUpdate设置参数,支持两个属性:
    maxUnavailable:用来指定在升级过程中不可用Pod的最大数量,默认为25%。
    maxSurge: 用来指定在升级过程中可以超过期望的Pod的最大数量,默认为25%。

重建更新

1.编辑pc-deployment.yaml,在spec节点下添加更新策略

spec:
  strategy: # 策略
    type: Recreate # 重建更新

2.创建deploy进行验证

[root@master controller]# kubectl apply -f pc-deployment.yaml 


[root@master controller]# kubectl get pods -n dev -w
NAME                             READY   STATUS    RESTARTS   AGE
pc-deployment-6cb555c765-29x7q   1/1     Running   0          3s
pc-deployment-6cb555c765-gztbn   1/1     Running   0          3s
pc-deployment-6cb555c765-jwmlg   1/1     Running   0          3s


#打开一个新的终端执行:
[root@master controller]# kubectl get pods -n dev -w
NAME                             READY   STATUS    RESTARTS   AGE
pc-deployment-6cb555c765-29x7q   1/1     Running   0          3s
pc-deployment-6cb555c765-gztbn   1/1     Running   0          3s
pc-deployment-6cb555c765-jwmlg   1/1     Running   0          3s


#在原来的终端执行
[root@master controller]# kubectl set image deployment pc-deployment nginx=nginx:1.17.2 -n dev

#观察新打开的终端
[root@master controller]# kubectl get pods -n dev -w
NAME                             READY   STATUS    RESTARTS   AGE
pc-deployment-6cb555c765-29x7q   1/1     Running   0          3s
pc-deployment-6cb555c765-gztbn   1/1     Running   0          3s
pc-deployment-6cb555c765-jwmlg   1/1     Running   0          3s
pc-deployment-6cb555c765-gztbn   1/1     Terminating   0          15s
pc-deployment-6cb555c765-29x7q   1/1     Terminating   0          15s
pc-deployment-6cb555c765-jwmlg   1/1     Terminating   0          15s
pc-deployment-6cb555c765-gztbn   0/1     Terminating   0          16s
pc-deployment-6cb555c765-jwmlg   0/1     Terminating   0          16s
pc-deployment-6cb555c765-29x7q   0/1     Terminating   0          16s
pc-deployment-6cb555c765-gztbn   0/1     Terminating   0          16s
pc-deployment-6cb555c765-29x7q   0/1     Terminating   0          16s
pc-deployment-6cb555c765-jwmlg   0/1     Terminating   0          16s
pc-deployment-6cb555c765-jwmlg   0/1     Terminating   0          16s
pc-deployment-6cb555c765-jwmlg   0/1     Terminating   0          16s
pc-deployment-6cb555c765-gztbn   0/1     Terminating   0          16s
pc-deployment-6cb555c765-gztbn   0/1     Terminating   0          16s
pc-deployment-6cb555c765-29x7q   0/1     Terminating   0          16s
pc-deployment-6cb555c765-29x7q   0/1     Terminating   0          16s
pc-deployment-5967bb44bb-gvh9j   0/1     Pending       0          0s
pc-deployment-5967bb44bb-wh7j5   0/1     Pending       0          0s
pc-deployment-5967bb44bb-gvh9j   0/1     Pending       0          0s
pc-deployment-5967bb44bb-c5dg6   0/1     Pending       0          0s
pc-deployment-5967bb44bb-wh7j5   0/1     Pending       0          0s
pc-deployment-5967bb44bb-c5dg6   0/1     Pending       0          0s
pc-deployment-5967bb44bb-gvh9j   0/1     ContainerCreating   0          0s
pc-deployment-5967bb44bb-wh7j5   0/1     ContainerCreating   0          0s
pc-deployment-5967bb44bb-c5dg6   0/1     ContainerCreating   0          0s
pc-deployment-5967bb44bb-wh7j5   1/1     Running             0          2s
pc-deployment-5967bb44bb-c5dg6   1/1     Running             0          2s
pc-deployment-5967bb44bb-gvh9j   1/1     Running             0          2s

滚动更新

1.编辑pc-deployment.yaml,在spec节点下添加更新策略

spec:
  strategy: # 策略
    type: RollingUpdate # 滚动更新策略
    rollingUpdate:
      maxSurge: 25% 
      maxUnavailable: 25%

验证

# 变更镜像
[root@master ~]# kubectl set image deployment pc-deployment nginx=nginx:1.17.2 -n dev 
deployment.apps/pc-deployment image updated


# 观察升级过程
[root@k8s-master01 ~]# kubectl get pods -n dev -w
NAME                           READY   STATUS    RESTARTS   AGE
[root@master controller]# kubectl get pods -n dev -w
NAME                             READY   STATUS    RESTARTS   AGE
pc-deployment-6cb555c765-29ccz   1/1     Running   0          48m
pc-deployment-6cb555c765-gjw5h   1/1     Running   0          44m
pc-deployment-6cb555c765-pjk4x   1/1     Running   0          48m
pc-deployment-6cb555c765-rbjzp   1/1     Running   0          48m
pc-deployment-6cb555c765-gjw5h   1/1     Terminating   0          44m
pc-deployment-5967bb44bb-rkp47   0/1     Pending       0          0s
pc-deployment-5967bb44bb-rkp47   0/1     Pending       0          0s
pc-deployment-5967bb44bb-btssh   0/1     Pending       0          0s
pc-deployment-5967bb44bb-rkp47   0/1     ContainerCreating   0          0s
pc-deployment-5967bb44bb-btssh   0/1     Pending             0          0s
pc-deployment-5967bb44bb-btssh   0/1     ContainerCreating   0          0s
pc-deployment-6cb555c765-gjw5h   0/1     Terminating         0          44m
pc-deployment-6cb555c765-gjw5h   0/1     Terminating         0          44m
pc-deployment-6cb555c765-gjw5h   0/1     Terminating         0          44m
pc-deployment-6cb555c765-gjw5h   0/1     Terminating         0          44m
pc-deployment-5967bb44bb-rkp47   1/1     Running             0          1s
pc-deployment-6cb555c765-rbjzp   1/1     Terminating         0          48m
pc-deployment-5967bb44bb-lf2lv   0/1     Pending             0          0s
pc-deployment-5967bb44bb-lf2lv   0/1     Pending             0          0s
pc-deployment-5967bb44bb-lf2lv   0/1     ContainerCreating   0          0s
pc-deployment-5967bb44bb-btssh   1/1     Running             0          2s
pc-deployment-6cb555c765-29ccz   1/1     Terminating         0          48m
pc-deployment-5967bb44bb-z6rjv   0/1     Pending             0          0s
pc-deployment-5967bb44bb-z6rjv   0/1     Pending             0          0s
pc-deployment-6cb555c765-rbjzp   0/1     Terminating         0          48m
pc-deployment-5967bb44bb-z6rjv   0/1     ContainerCreating   0          0s
pc-deployment-6cb555c765-29ccz   0/1     Terminating         0          48m
pc-deployment-6cb555c765-29ccz   0/1     Terminating         0          48m
pc-deployment-6cb555c765-29ccz   0/1     Terminating         0          48m
pc-deployment-6cb555c765-29ccz   0/1     Terminating         0          48m
pc-deployment-6cb555c765-rbjzp   0/1     Terminating         0          48m
pc-deployment-6cb555c765-rbjzp   0/1     Terminating         0          48m
pc-deployment-6cb555c765-rbjzp   0/1     Terminating         0          48m
pc-deployment-5967bb44bb-lf2lv   1/1     Running             0          2s
pc-deployment-6cb555c765-pjk4x   1/1     Terminating         0          48m
pc-deployment-6cb555c765-pjk4x   0/1     Terminating         0          48m
pc-deployment-5967bb44bb-z6rjv   1/1     Running             0          2s
pc-deployment-6cb555c765-pjk4x   0/1     Terminating         0          48m
pc-deployment-6cb555c765-pjk4x   0/1     Terminating         0          48m
pc-deployment-6cb555c765-pjk4x   0/1     Terminating         0          48m

# 至此,新版本的pod创建完毕,就版本的pod销毁完毕
# 中间过程是滚动进行的,也就是边销毁边创建

滚动更新的过程:

img

# 查看rs,发现原来的rs的依旧存在,只是pod数量变为了0,而后又新产生了一个rs,pod数量为4
# 其实这就是deployment能够进行版本回退的奥妙所在,后面会详细解释
[root@k8s-master01 ~]# kubectl get rs -n dev
NAME                       DESIRED   CURRENT   READY   AGE
pc-deployment-6696798b78   0         0         0       7m37s
pc-deployment-6696798b11   0         0         0       5m37s
pc-deployment-c848d76789   4         4         4       72s

1.2.4版本回退

deployment支持版本升级过程中的暂停、继续功能以及版本回退等诸多功能,下面具体来看.

kubectl rollout: 版本升级相关功能,支持下面的选项:

  • status 显示当前升级状态
  • history 显示 升级历史记录
  • pause 暂停版本升级过程
  • resume 继续已经暂停的版本升级过程
  • restart 重启版本升级过程
  • undo 回滚到上一级版本(可以使用–to-revision回滚到指定版本)
# 查看当前升级版本的状态
[root@master controller]# kubectl rollout status deploy pc-deployment -n dev
deployment "pc-deployment" successfully rolled out

# 查看升级历史记录
[root@master controller]# kubectl rollout history deploy pc-deployment -n dev
deployment.apps/pc-deployment
REVISION  CHANGE-CAUSE
1         kubectl create --filename=pc-deployment.yaml --record=true
2         kubectl create --filename=pc-deployment.yaml --record=true
3         kubectl create --filename=pc-deployment.yaml --record=true
# 可以发现有三次版本记录,说明完成过两次升级

# 版本回滚
# 这里直接使用--to-revision=1回滚到了1版本, 如果省略这个选项,就是回退到上个版本,就是2版本
[root@master controller]# kubectl rollout undo deployment pc-deployment --to-revision=1 -n dev
deployment.apps/pc-deployment rolled back

# 查看发现,通过nginx镜像版本可以发现到了第一版
[root@master controller]# kubectl get deploy -n dev -o wide
NAME            READY   UP-TO-DATE   AVAILABLE   AGE   CONTAINERS   IMAGES         
pc-deployment   4/4     4            4           74m   nginx        nginx:1.17.1   

# 查看rs,发现第一个rs中有4个pod运行,后面两个版本的rs中pod为运行
# 其实deployment之所以可是实现版本的回滚,就是通过记录下历史rs来实现的,
# 一旦想回滚到哪个版本,只需要将当前版本pod数量降为0,然后将回滚版本的pod提升为目标数量就可以了
[root@master controller]# kubectl get rs -n dev
NAME                       DESIRED   CURRENT   READY   AGE
pc-deployment-6696798b78   4         4         4       78m
pc-deployment-966bf7f44    0         0         0       37m
pc-deployment-c848d767     0         0         0       71m

1.3StatefulSet

Deploy主要负责无状态的服务部署,而StatefulSet是主要针对有状态服务(mysql、redis等)进行编排的控制器。是直接管理Pod的,不需要借助rs。

主要增加两个组件:

  • Headless Service:对于有状态服务的DNS管理
  • volumeClaim Template:用于创建持久化存储卷(后面会细说)的模板

配置文件:

---
apiVersion: v1
kind: Service
metadata:
  name: nginx
  labels:
    app: nginx
spec:
  ports:
  - port: 80
    name: web
  clusterIP: None
  selector:
    app: nginx
---
apiVersion: apps/v1
kind: StatefulSet #资源类型为StatefulSet
metadata:
  name: web
spec:
  serviceName: "nginx" #指定该控制器被哪个Service管理
  replicas: 2
  template:
    metadata:
      labels:
        app: nginx
    spec:
      containers:
      - name: nginx
        image: nginx:1.17.1
        ports: #容器内部要暴露的端口
        - containerPort: 80 #端口号
          name: web #该端口配置的名字
        volumeMounts: #加载持久化数据卷
        - name: www #指定加载哪个数据卷
          mountPath: /usr/share/nginx/html #指定加载到哪个目录
  volumeClaimTemplates: #数据卷模板
  - metadata:
      name: www #数据卷名称
      annotations: #数据卷的注解信息
        volume.alpha.kubernetes.io/storage-class: anything
    spec: #数据卷的规约
      accessModes: [ "ReadWriteOnce" ] #访问模式
      resources:
        requests:
          storage: 1Gi #需要1个G的资源

1.3.1创建sts

创建文件pc-statefulset.yaml

---
apiVersion: v1
kind: Service
metadata:
  namespace: dev
  name: nginx
  labels:
    app: nginx
spec:
  ports:
  - port: 80
    name: web
  clusterIP: None
  selector:
    app: nginx
---
apiVersion: apps/v1
kind: StatefulSet
metadata:
  namespace: dev
  name: web
spec:
  serviceName: "nginx"
  replicas: 2
  selector:
    matchLabels:
      app: nginx
  template:
    metadata:
      labels:
        app: nginx
    spec:
      containers:
      - name: nginx
        image: nginx:1.17.1
        ports:
        - containerPort: 80
          name: web
[root@master controller]# kubectl apply -f pc-statefulset.yaml
#查看sts
[root@master controller]# kubectl get sts -n dev
NAME   READY   AGE
web    2/2     2m34s

[root@master controller]# kubectl get pods -n dev
NAME    READY   STATUS    RESTARTS   AGE
web-0   1/1     Running   0          2m57s
web-1   1/1     Running   0          2m55s

#测试nginx可以访问
#web-0 是pod的名称 nginx是service的名称
[root@master controller]# kubectl run -it -n dev --image busybox:1.28.4 dns-test --restart=Never  --rm /bin/sh
/ # ping web-0.nginx
PING web-0.nginx (10.244.1.38): 56 data bytes
64 bytes from 10.244.1.38: seq=0 ttl=64 time=0.221 ms
64 bytes from 10.244.1.38: seq=1 ttl=64 time=0.161 ms

#查看DNS解析
/ # nslookup web-0.nginx
Server:    10.96.0.10
Address 1: 10.96.0.10 kube-dns.kube-system.svc.cluster.local

Name:      web-0.nginx
Address 1: 10.244.1.38 web-0.nginx.dev.svc.cluster.local


#StatefulSet中每个Pod的DNS格式为statefulSetName-{0..N-1}.serviceName.namespace.svc.cluster.local

1.3.2扩容和缩容

和deploy基本一致

root@master controller]# kubectl get sts -n dev
NAME   READY   AGE
web    2/2     17m
[root@master controller]# kubectl scale statefulset web --replicas=5 -n dev
statefulset.apps/web scaled
[root@master controller]# kubectl get sts -n dev
NAME   READY   AGE
web    3/5     18m
[root@master controller]# kubectl get sts -n dev
NAME   READY   AGE
web    5/5     18m

1.3.3镜像更新

目前不支持直接更新image,需要patch来间接实现。

kubectl patch sts web --type='json' -p='[{"op": "replace", "path": "/spec/template/spec/containers/0/image", "value":"nginx:1.17.3"}]'

#可以看到有两个版本
[root@master controller]# kubectl rollout history sts web -n dev
statefulset.apps/web 
REVISION  CHANGE-CAUSE
1         <none>
2         <none>

#查看版本信息
[root@master controller]# kubectl rollout history sts web -n dev --revision=2
statefulset.apps/web with revision #2
Pod Template:
  Labels:	app=nginx
  Containers:
   nginx:
    Image:	nginx:1.17.3
    Port:	80/TCP
    Host Port:	0/TCP
    Environment:	<none>
    Mounts:	<none>
  Volumes:	<none>

#查看更新信息
[root@master controller]# kubectl rollout status sts web -n dev
partitioned roll out complete: 5 new pods have been updated...

sts的更新策略有两种,1种是RollingUpdate (滚动更新)另一种是OnDelete

滚动更新:同样是修改 pod template 属性后会触发更新,但是由于 pod 是有序的,在 StatefulSet 中更新时是基于 pod 的顺序倒序更新的

通过滚动更新实现灰度发布

利用滚动更新中的 partition 属性,可以实现简易的灰度发布的效果

例如我们有 5 个 pod,如果当前 partition 设置为 3,那么此时滚动更新时,只会更新那些 序号 >= 3 的 pod

利用该机制,我们可以通过控制 partition 的值,来决定只更新其中一部分 pod,确认没有问题后再主键增大更新的 pod 数量,最终实现全部 pod 更新

#修改sts配置
# kubectl edit sts web -n dev

更改image为 nginx:1.17.4

并且将partation数量修改为3
  updateStrategy:
    rollingUpdate:
      partition: 3
    type: RollingUpdate

#查看pod
[root@master controller]# kubectl get po -n dev
NAME    READY   STATUS    RESTARTS   AGE
web-0   1/1     Running   0          10m
web-1   1/1     Running   0          10m
web-2   1/1     Running   0          10m
web-3   1/1     Running   0          2m33s
web-4   1/1     Running   0          2m35s

#describe pod发现web-3 web-4的镜像已经变成nginx:1.17.4 而其他三个仍然为1.17.3

#再次修改sts配置,将partation数量修改为0,可以看到所有的pod镜像都更改为nginx:1.17.4

OnDelete

只有在 pod 被删除时会进行更新操作

1)修改pc-statefulset.yaml 文件,修改updateStrategy的策略为OnDelete

[root@master controller]# vim pc-statefulset.yaml 
spec:
  ports:
  - port: 80
    name: web
  clusterIP: None
  selector:
    app: nginx
---
apiVersion: apps/v1
kind: StatefulSet
metadata:
  namespace: dev
  name: web
spec:
  serviceName: "nginx"
  replicas: 5
  selector:
    matchLabels:
      app: nginx
  template:
    metadata:
      labels:
        app: nginx
    spec:
      containers:
      - name: nginx
        image: nginx:1.17.1
        ports:
        - containerPort: 80
          name: web
  updateStrategy:
    type: OnDelete

2)应用并修改

[root@master controller]# kubectl apply -f pc-statefulset.yaml
[root@master controller]# kubectl get pods -n dev
NAME    READY   STATUS    RESTARTS   AGE
web-0   1/1     Running   0          9s
web-1   1/1     Running   0          8s
web-2   1/1     Running   0          6s
web-3   1/1     Running   0          5s
web-4   1/1     Running   0          3s

#修改镜像版本为nginx:1.17.2
[root@master controller]# kubectl edit sts web -n dev
statefulset.apps/web edited

#查看所有的pod 镜像并没有更新
[root@master controller]# kubectl describe pod web-4 -n dev

#删除web-4
[root@master controller]# kubectl delete pods  web-4 -n dev
#查看镜像,此时变更为nginx:1.17.2
[root@master controller]# kubectl describe pod web-4 -n dev

1.3.4删除sts

删除 StatefulSet 和 Headless Service

级联删除(默认)

# 级联删除:删除 statefulset 时会同时删除 pods
kubectl delete statefulset web

非级联删除

#删除 statefulset 时不会删除 pods,删除 sts 后,pods 就没人管了,此时再删除 pod 不会重建的
kubectl deelte sts web --cascade=false

删除service

kubectl delete service nginx

1.3DaemonSet(DS)

DaemonSet类型的控制器可以保证在集群中的每一台(或指定)节点上都运行一个副本。一般适用于日志收集、节点监控等场景。也就是说,如果一个Pod提供的功能是节点级别的(每个节点都需要且只需要一个),那么这类Pod就适合使用DaemonSet类型的控制器创建。

img

DaemonSet控制器的特点:

每当向集群中添加一个节点时,指定的 Pod 副本也将添加到该节点上
当节点从集群中移除时,Pod 也就被垃圾回收了
下面先来看下DaemonSet的资源清单文件

apiVersion: apps/v1 # 版本号
kind: DaemonSet # 类型       
metadata: # 元数据
  name: # rs名称 
  namespace: # 所属命名空间 
  labels: #标签
    controller: daemonset
spec: # 详情描述
  revisionHistoryLimit: 3 # 保留历史版本
  updateStrategy: # 更新策略
    type: RollingUpdate # 滚动更新策略
    rollingUpdate: # 滚动更新
      maxUnavailable: 1 # 最大不可用状态的 Pod 的最大值,可以为百分比,也可以为整数
  selector: # 选择器,通过它指定该控制器管理哪些pod
    matchLabels:      # Labels匹配规则
      app: nginx-pod
    matchExpressions: # Expressions匹配规则
      - {key: app, operator: In, values: [nginx-pod]}
  template: # 模板,当副本数量不足时,会根据下面的模板创建pod副本
    metadata:
      labels:
        app: nginx-pod
    spec:
      containers:
      - name: nginx
        image: nginx:1.17.1
        ports:
        - containerPort: 80

创建pc-daemonset.yaml,内容如下:

apiVersion: apps/v1
kind: DaemonSet #创建DaemonSet类型的资源对象
metadata:
  name: fluentd #名称
spec:
  selector:
    matchLabels:
        app: logging
  template:
    metadata:
      labels: #标签
        app: logging
        id: fluentd
      name: fluentd #pod的名称
    spec:
      containers:
      - name: fluentd-es #容器名称
        image: agilestacks/fluentd-elasticsearch:v1.3.0
        env: #环境变量
         - name: FLUENTD_ARGS #环境变量的key
           value: -qq #环境变量的值
        volumeMounts: #主机存储卷
         - name: containers
           mountPath: /var/lib/docker/containers #挂载的目录
         - name: varlog
           mountPath: /varlog
      volumes: #定义数据卷
         - hostPath:
             path: /var/lib/docker/containers
           name: containers
         - hostPath:
             path: /var/log
           name: varlog
#查看
[root@master controller]# kubectl get ds
NAME      DESIRED   CURRENT   READY   UP-TO-DATE   AVAILABLE   NODE SELECTOR   AGE
fluentd   2         2         0       2            0           <none>          27s

[root@master controller]# kubectl get pods
NAME            READY   STATUS              RESTARTS   AGE
fluentd-2mtxr   0/1     ContainerCreating   0          48s
fluentd-s8zd6   0/1     ContainerCreating   0          48s

#pod启动成功
[root@master controller]# kubectl get pods
NAME            READY   STATUS    RESTARTS   AGE
fluentd-2mtxr   1/1     Running   0          71s
fluentd-s8zd6   1/1     Running   0          71s

#默认情况是在每一个非master节点部署一份。

测试匹配node的标签

#先为node1打标签
[root@master controller]# kubectl label no node1 type=microsvc

#编辑配置文件,增加nodeSelector
···
        id: fluentd
      name: fluentd #pod的名称
    spec:
      nodeSelector:
        type: microsvc
      containers:
···

#应用
[root@master controller]# kubectl apply -f pc-daemonset.yaml 
daemonset.apps/fluentd configured
#此时只在node1上面
[root@master controller]# kubectl get pods -o wide
NAME            READY   STATUS    RESTARTS   AGE   IP            NODE    NOMINATED NODE   READINESS GATES
fluentd-6kw2c   1/1     Running   0          23s   10.244.1.57   node1   <none>           <none>


#给node2也加上标签
kubectl label no node2 type=microsvc
#node2也出现了这个pod
[root@master controller]# kubectl get pods -o wide
NAME            READY   STATUS    RESTARTS   AGE   IP            NODE    NOMINATED NODE   READINESS GATES
fluentd-6kw2c   1/1     Running   0          87s   10.244.1.57   node1   <none>           <none>
fluentd-l4mjt   1/1     Running   0          3s    10.244.2.44   node2   <none>           <none>

滚动更新

不建议使用 RollingUpdate,建议使用 OnDelete 模式,这样避免频繁更新 ds

1.4HPA

通过观察 pod 的 cpu、内存使用率或自定义 metrics 指标进行自动的扩容或缩容 pod 的数量。

通常用于 Deployment,不适用于无法扩/缩容的对象,如 DaemonSet

控制管理器每隔30s(可以通过–horizontal-pod-autoscaler-sync-period修改)查询metrics的资源使用情况。

  • 支持三种metrics类型
    • 预定义metrics(比如Pod的CPU)以利用率的方式计算
    • 自定义的Pod metrics,以原始值(raw value)的方式计算
    • 自定义的object metrics
  • 支持两种metrics查询方式:Heapster和自定义的REST API
  • 支持多metrics

1.4.1安装metric-server

metrics-server可以用来收集集群中的资源使用情况

wget https://github.com/kubernetes-sigs/metrics-server/releases/latest/download/components.yaml -O metrics-server-components.yaml

#编辑配置文件
#将镜像修改为阿里云
image: registry.cn-hangzhou.aliyuncs.com/google_containers/metrics-server:v0.6.4
#containers里面的args增加参数
      containers:
      - args:
        - --kubelet-insecure-tls
       
#应用配置文件       
[root@master hpa]# kubectl apply -f metrics-server-components.yaml

#查看pod
[root@master hpa]# kubectl get pods --all-namespaces | grep metrics
kube-system    metrics-server-789bbdd878-7bftz   1/1     Running   0          27m


1.4.2创建测试deploy

[root@master hpa]# cat deploy-nginx.yaml 
---
apiVersion: v1
kind: Service
metadata:
  name: nginx-svc
  labels:
    app: nginx
spec:
  ports:
  selector:
    app: nginx
  ports:
  - port: 80
    targetPort: 80
    name: web
  type: NodePort
---
apiVersion: apps/v1
kind: Deployment      
metadata:
  name: deployment-nginx
spec: 
  replicas: 1
  selector:
    matchLabels:
      app: nginx
  template:
    metadata:
      labels:
        app: nginx
    spec:
      containers:
      - name: nginx
        image: nginx:1.17.1
        resources:
          limits:
            cpu: 200m
            memory: 128Mi
          requests:
            cpu: 100m
            memory: 128Mi
[root@master controller]# kubectl get pods
NAME                             READY   STATUS    RESTARTS   AGE
pc-deployment-6cb555c765-mw87n   1/1     Running   0          4s

1.4.3创建hpa

#最小副本数是2 最大副本数是5

[root@master controller]# kubectl autoscale deploy deployment-nginx --cpu-percent=20 --min=2 --max=5
horizontalpodautoscaler.autoscaling/pc-deployment autoscaled

#此时pod数量变成2个
[root@master hpa]# kubectl get pods
NAME                                READY   STATUS    RESTARTS   AGE
deployment-nginx-56f6475485-fcxnw   1/1     Running   0          9s
deployment-nginx-56f6475485-n7d8h   1/1     Running   0          5m45s

[root@master hpa]# kubectl top pods
NAME                                CPU(cores)   MEMORY(bytes)   
deployment-nginx-56f6475485-fcxnw   5m           1Mi             
deployment-nginx-56f6475485-n7d8h   0m           1Mi 


yaml文件格式:
apiVersion: autoscaling/v1
kind: HorizontalPodAutoscaler
metadata:
  name: deployment-nginx
  namespace: dev
spec:
  minReplicas: 1  #最小pod数量
  maxReplicas: 10 #最大pod数量
  targetCPUUtilizationPercentage: 20 # CPU使用率指标
  scaleTargetRef:   # 指定要控制的nginx信息
    apiVersion:  /v1
    kind: Deployment
    name: deployment-nginx

1.4.4请求压力测试

#循环测试shell,访问service来增加pod压力
[root@master ~]# while true; do wget -q -O- http://10.97.193.4 > /dev/null ; done

NAME               REFERENCE                     TARGETS   MINPODS   MAXPODS   REPLICAS   AGE
deployment-nginx   Deployment/deployment-nginx   32%/20%   2         5         2          2m44s

#副本变成4个
[root@master hpa]# kubectl get pods
NAME                                READY   STATUS    RESTARTS   AGE
deployment-nginx-56f6475485-d59rs   1/1     Running   0          24s
deployment-nginx-56f6475485-dsxw7   1/1     Running   0          24s
deployment-nginx-56f6475485-fcxnw   1/1     Running   0          2m39s
deployment-nginx-56f6475485-n7d8h   1/1     Running   0          8m15s

#停止压测后,逐渐变回2个pod
[root@master hpa]# kubectl get pods
NAME                                READY   STATUS    RESTARTS   AGE
deployment-nginx-56f6475485-d59rs   1/1     Running   0          5m55s
deployment-nginx-56f6475485-n7d8h   1/1     Running   0          13m

1.5Job

Job,主要用于负责**批量处理(一次要处理指定数量任务)短暂的一次性(每个任务仅运行一次就结束)**任务。Job特点如下:

  • 当Job创建的pod执行成功结束时,Job将记录成功结束的pod数量
  • 当成功结束的pod达到指定的数量时,Job将完成执行

Job的资源清单文件:

apiVersion: batch/v1 # 版本号
kind: Job # 类型       
metadata: # 元数据
  name: # rs名称 
  namespace: # 所属命名空间 
  labels: #标签
    controller: job
spec: # 详情描述
  completions: 1 # 指定job需要成功运行Pods的次数。默认值: 1
  parallelism: 1 # 指定job在任一时刻应该并发运行Pods的数量。默认值: 1
  activeDeadlineSeconds: 30 # 指定job可运行的时间期限,超过时间还未结束,系统将会尝试进行终止。
  backoffLimit: 6 # 指定job失败后进行重试的次数。默认是6
  manualSelector: true # 是否可以使用selector选择器选择pod,默认是false
  selector: # 选择器,通过它指定该控制器管理哪些pod
    matchLabels:      # Labels匹配规则
      app: counter-pod
    matchExpressions: # Expressions匹配规则
      - {key: app, operator: In, values: [counter-pod]}
  template: # 模板,当副本数量不足时,会根据下面的模板创建pod副本
    metadata:
      labels:
        app: counter-pod
    spec:
      restartPolicy: Never # 重启策略只能设置为Never或者OnFailure
      containers:
      - name: counter
        image: busybox:1.30
        command: ["bin/sh","-c","for i in 9 8 7 6 5 4 3 2 1; do echo $i;sleep 2;done"]

关于重启策略设置的说明:
如果指定为OnFailure,则job会在pod出现故障时重启容器,而不是创建pod,failed次数不变
如果指定为Never,则job会在pod出现故障时创建新的pod,并且故障pod不会消失,也不会重启,failed次数加1
如果指定为Always的话,就意味着一直重启,意味着job任务会重复去执行了,当然不对,所以不能设置为Always

创建pc-job.yaml

apiVersion: batch/v1
kind: Job      
metadata:
  name: pc-job
  namespace: dev
spec:
  manualSelector: true
  selector:
    matchLabels:
      app: counter-pod
  template:
    metadata:
      labels:
        app: counter-pod
    spec:
      restartPolicy: Never
      containers:
      - name: counter
        image: busybox:1.30
        command: ["bin/sh","-c","for i in 9 8 7 6 5 4 3 2 1; do echo $i;sleep 3;done"]

创建

[root@master job]# kubectl apply -f pc-job.yaml 
job.batch/pc-job created


[root@master job]# kubectl get pods -n dev
NAME           READY   STATUS    RESTARTS   AGE
pc-job-k4tqk   1/1     Running   0          22s

# 通过观察pod状态可以看到,pod在运行完毕任务后,就会变成Completed状态
[root@master job]# kubectl get pods -n dev
NAME           READY   STATUS      RESTARTS   AGE
pc-job-k4tqk   0/1     Completed   0          29s

# 接下来,调整下pod运行的总数量和并行数量 即:在spec下设置下面两个选项
#  completions: 6 # 指定job需要成功运行Pods的次数为6
#  parallelism: 3 # 指定job并发运行Pods的数量为3
#  然后重新运行job,观察效果,此时会发现,job会每次运行3个pod,总共执行了6个pod

[root@master job]# kubectl get pods -n dev -w
NAME           READY   STATUS    RESTARTS   AGE
pc-job-q5grb   1/1     Running   0          11s
pc-job-r5dtb   1/1     Running   0          11s
pc-job-wqhrj   1/1     Running   0          11s
pc-job-r5dtb   0/1     Completed   0          29s
pc-job-q5grb   0/1     Completed   0          29s
pc-job-wqhrj   0/1     Completed   0          29s
pc-job-r5dtb   0/1     Completed   0          30s
pc-job-q5grb   0/1     Completed   0          30s
pc-job-wqhrj   0/1     Completed   0          30s
pc-job-xtc7h   0/1     Pending     0          0s
pc-job-r5dtb   0/1     Completed   0          31s
pc-job-bv55j   0/1     Pending     0          0s
pc-job-xtc7h   0/1     Pending     0          0s
pc-job-mfjp7   0/1     Pending     0          0s
pc-job-bv55j   0/1     Pending     0          0s
pc-job-mfjp7   0/1     Pending     0          0s
pc-job-xtc7h   0/1     ContainerCreating   0          0s
pc-job-wqhrj   0/1     Completed           0          31s
pc-job-r5dtb   0/1     Completed           0          31s
pc-job-q5grb   0/1     Completed           0          31s
pc-job-mfjp7   0/1     ContainerCreating   0          0s
pc-job-bv55j   0/1     ContainerCreating   0          0s
pc-job-wqhrj   0/1     Completed           0          31s
pc-job-q5grb   0/1     Completed           0          31s
pc-job-bv55j   1/1     Running             0          1s
pc-job-xtc7h   1/1     Running             0          1s
pc-job-mfjp7   1/1     Running             0          2s

1.6CronJob

CronJob控制器以 Job控制器资源为其管控对象,并借助它管理pod资源对象,Job控制器定义的作业任务在其控制器资源创建之后便会立即执行,但CronJob可以以类似于Linux操作系统的周期性任务作业计划的方式控制其运行时间点及重复运行的方式。也就是说,CronJob可以在特定的时间点(反复的)去运行job任务。

CronJob的资源清单文件:

apiVersion: batch/v1beta1 # 版本号
kind: CronJob # 类型       
metadata: # 元数据
  name: # rs名称 
  namespace: # 所属命名空间 
  labels: #标签
    controller: cronjob
spec: # 详情描述
  schedule: # cron格式的作业调度运行时间点,用于控制任务在什么时间执行
  concurrencyPolicy: # 并发执行策略,用于定义前一次作业运行尚未完成时是否以及如何运行后一次的作业
  failedJobHistoryLimit: # 为失败的任务执行保留的历史记录数,默认为1
  successfulJobHistoryLimit: # 为成功的任务执行保留的历史记录数,默认为3
  startingDeadlineSeconds: # 启动作业错误的超时时长
  jobTemplate: # job控制器模板,用于为cronjob控制器生成job对象;下面其实就是job的定义
    metadata:
    spec:
      completions: 1
      parallelism: 1
      activeDeadlineSeconds: 30
      backoffLimit: 6
      manualSelector: true
      selector:
        matchLabels:
          app: counter-pod
        matchExpressions: 规则
          - {key: app, operator: In, values: [counter-pod]}
      template:
        metadata:
          labels:
            app: counter-pod
        spec:
          restartPolicy: Never 
          containers:
          - name: counter
            image: busybox:1.30
            command: ["bin/sh","-c","for i in 9 8 7 6 5 4 3 2 1; do echo $i;sleep 20;done"]
需要重点解释的几个选项:
schedule: cron表达式,用于指定任务的执行时间
    */1    *      *    *     *
    <分钟> <小时> <日> <月份> <星期>

    分钟 值从 0 到 59.
    小时 值从 0 到 23.
    日 值从 1 到 31.
    月 值从 1 到 12.
    星期 值从 0 到 6, 0 代表星期日
    多个时间可以用逗号隔开; 范围可以用连字符给出;*可以作为通配符; /表示每...
concurrencyPolicy:
    Allow:   允许Jobs并发运行(默认)
    Forbid:  禁止并发运行,如果上一次运行尚未完成,则跳过下一次运行
    Replace: 替换,取消当前正在运行的作业并用新作业替换它

创建pc-cronjob.yaml,内容如下:

apiVersion: batch/v1
kind: CronJob
metadata:
  name: pc-cronjob
  namespace: dev
  labels:
    controller: cronjob
spec:
  schedule: "*/1 * * * *"
  jobTemplate:
    metadata:
    spec:
      template:
        spec:
          restartPolicy: Never
          containers:
          - name: counter
            image: busybox:1.30
            command: ["bin/sh","-c","for i in 9 8 7 6 5 4 3 2 1; do echo $i;sleep 3;done"]
[root@master job]# kubectl apply -f pc-cronjob.yaml 
cronjob.batch/pc-cronjob created

#查看cronjob
[root@master job]# kubectl get cronjobs -n dev
NAME         SCHEDULE      SUSPEND   ACTIVE   LAST SCHEDULE   AGE
pc-cronjob   */1 * * * *   False     0        <none>          23s

[root@master job]# kubectl get jobs -n dev
NAME                  COMPLETIONS   DURATION   AGE
pc-cronjob-28417057   1/1           31s        44s

[root@master job]# kubectl get pods -n dev
NAME                        READY   STATUS    RESTARTS   AGE
pc-cronjob-28417057-hbmlz   1/1     Running   0          18s


#删除
[root@master job]# kubectl delete -f pc-cronjob.yaml 
cronjob.batch "pc-cronjob" deleted
Logo

K8S/Kubernetes社区为您提供最前沿的新闻资讯和知识内容

更多推荐