前言

本节使用 StatefulSet 控制器部署一个 MySQL 集群，然后进行宕机测试，观察集群是否可以正常恢复使用并且不丢失数据。

实现的集群有如下特征：

是一个主从复制的 MySQL 集群

1 个主节点， 多个从节点

从节点能够水平扩展

所有的写操作，只能在主节点上执行

读操作可以在所有节点上执行

更新历史

所需服务资源

所需资源为：

一个 ConfigMap

两个 Service

一个 StatefulSet

ConfigMap

kubectl apply -f https://k8s.io/examples/application/mysql/mysql-configmap.yaml

Service

kubectl apply -f https://k8s.io/examples/application/mysql/mysql-services.yaml

MySQL StatefulSet

wget https://k8s.io/examples/application/mysql/mysql-statefulset.yaml

修改 mysql-statefulset.yaml， 使用上一节创建的 NFS 动态存储卷

volumeClaimTemplates:

- metadata:

name: data

annotations:

volume.beta.kubernetes.io/storage-class: managed-nfs-storage

spec:

accessModes: ["ReadWriteOnce"]

resources:

requests:

storage: 1Gi

创建 MySQL 有状态应用

kubectl apply mysql-statefulset.yaml

写入数据测试

写入数据

kubectl run mysql-client --image=mysql:5.7 -i --rm --restart=Never -- mysql -h mysql-0.mysql <

CREATE TABLE test.messages (message VARCHAR(250));

INSERT INTO test.messages VALUES ('hello');

EOF

检查从机是否可以读取到数据

kubectl run mysql-client --image=mysql:5.7 -i -t --rm --restart=Never -- mysql -h mysql-read -e "SELECT * FROM test.messages"

循环读取，可以看到server-id不断变化，说明每次从不同机器读取数据

kubectl run mysql-client-loop --image=mysql:5.7 -i -t --rm --restart=Never -- bash -ic "while sleep 1; do mysql -h mysql-read -e 'SELECT @@server_id,NOW()'; done"

宕机测试

将 mysql-2 模拟宕机

kubectl exec mysql-2 -c mysql -- mv /usr/bin/mysql /usr/bin/mysql.off

从循环读取 SELECT @@server_id 中将看不到 server-id 102 服务器的记录

kubectl run mysql-client-loop --image=mysql:5.7 -i -t --rm --restart=Never -- bash -ic "while sleep 1; do mysql -h mysql-read -e 'SELECT @@server_id,NOW()'; done"

恢复节点 mysql-2 后，service-id 102 将出现在循环记录中

kubectl exec mysql-2 -c mysql -- mv /usr/bin/mysql.off /usr/bin/mysql

扩展从节点数量

[root@master01 ~]# kubectl scale statefulset mysql --replicas=5

statefulset.apps/mysql scaled

[root@master01 ~]# kubectl get pods -l app=mysql --watch

NAME READY STATUS RESTARTS AGE

mysql-0 2/2 Running 0 29m

mysql-1 2/2 Running 0 28m

mysql-2 2/2 Running 1 24m

mysql-3 0/2 Init:1/2 0 9s

mysql-3 1/2 Running 0 44s

mysql-3 2/2 Running 1 55s

......

mysql-4 0/2 Pending 0 3s

mysql-4 0/2 Init:0/2 0 3s

mysql-4 0/2 Init:1/2 0 7s

mysql-4 0/2 PodInitializing 0 43s

mysql-4 1/2 Running 0 46s

mysql-4 1/2 Running 1 51s

mysql-4 2/2 Running 1 56s

[root@master01 ~]# kubectl get pod -l app=mysql

NAME READY STATUS RESTARTS AGE

mysql-0 2/2 Running 0 32m

mysql-1 2/2 Running 0 31m

mysql-2 2/2 Running 1 28m

mysql-3 2/2 Running 1 3m22s

mysql-4 2/2 Running 1 2m27s

扩容成功后，server-id 103/104 也将出现在 select @@server_id 的执行结果中。

基本原理

首先通过 ConfigMap 引用提前准备的 MySQL 主节点配置文件和 从节点配置文件。

然后定义了两个 Service，一个是 mysql，一个是 mysql-read。

第一个 MySQL Service 是 headless service，不会做负载均衡和流量分配，只会给每个 Pod 分配一个 DNS 名称，由于 StatefulSet 管理的 Pod 名称是固定的，所以 Pod DNS 名称也会是固定的。

这样程序可以找到 MySQL 主服务器 mysql-0.mysql，进行数据的写入。

第二个 Service 是一个正常 Service，用于提供读操作。将读操作代理到后端全部 Pod。

下面就可以进行 MySQL 的自动安装了。

由于 Pod 名称是固定的，所以始终将 mysql-0 作为主节点，Pod-1 -2 -3 为从节点。

当一个 Pod 启动之前，它会执行两个初始化容器，第一个 init 容器用来拷贝自己要使用的配置文件，第二个 init 容器用来从前一个 Pod 中克隆数据，当然如果是主节点就可以跳过克隆这一步了。

最后就可以启动各自的应用容器了，而 slave 容器需要一个挂斗容器 xtrabackup 来配合进行数据的初始化。

结束语

今天通过 K8S 搭建了 mysql 主从，将数据进行了持久化存储。

Pod 宕机后能够自动恢复原有秩序，同时原有数据不会丢失。

联系我

微信公众号：zuolinux_com