kubeadm部署k8s集群

将三个master节点中两个文件中的 #- --port=0注释重启即可。如何解决kubeadm部署k8s集群中状态显示Unhealthy？kubeadm安装k8s的重启方法。方法一：通过脚本升级证书有效期。

爱学习的甜甜圈

465人浏览 · 2024-08-02 16:57:37

爱学习的甜甜圈 · 2024-08-02 16:57:37 发布

1.环境准备

2.升级内核

3.所有节点安装docker

4.安装kubeadm，kubelet和kubectl

hostname	ip
master01	20.0.0.100
master02	20.0.0.101
master03	20.0.0.103
node01	20.0.0.104
node02	20.0.0.105
负载均衡master	20.0.0.112
负载均衡backup	20.0.0.113

1.环境准备

//所有节点，关闭防火墙规则，关闭selinux，关闭swap交换
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
sed -i 's/enforcing/disabled/' /etc/selinux/config
iptables -F && iptables -t nat -F && iptables -t mangle -F && iptables -X
swapoff -a						#交换分区必须要关闭
sed -ri 's/.*swap.*/#&/' /etc/fstab		#永久关闭swap分区，&符号在sed命令中代表上次匹配的结果

#加载 ip_vs 模块
for i in $(ls /usr/lib/modules/$(uname -r)/kernel/net/netfilter/ipvs|grep -o "^[^.]*");do echo $i; /sbin/modinfo -F filename $i >/dev/null 2>&1 && /sbin/modprobe $i;done

 
//修改主机名
hostnamectl set-hostname master01
hostnamectl set-hostname master02
hostnamectl set-hostname master03
hostnamectl set-hostname node01
hostnamectl set-hostname node02

vim /etc/hosts  #所有主机操作   除了两个负载均衡器
20.0.0.100 master01
20.0.0.101 master02
20.0.0.103 master03
20.0.0.104 node01
20.0.0.105 node02

//调整内核参数
cat > /etc/sysctl.d/kubernetes.conf << EOF
#开启网桥模式，可将网桥的流量传递给iptables链
net.bridge.bridge-nf-call-ip6tables=1
net.bridge.bridge-nf-call-iptables=1
#关闭ipv6协议
net.ipv6.conf.all.disable_ipv6=1
net.ipv4.ip_forward=1
EOF
 
//生效参数
sysctl --system

vim /etc/security/limits.conf  内核限制配置
尾部添加
*  soft  nofile  65536
*  hard  nofile  65536
*  soft  nproc   65536
*  hard  nproc   65536
*  soft  memlock  unlimited
*  hard  memlock  unlimited

2.升级内核

#配置elrepo镜像源   所有服务器操作    除了两个负载均衡器
vim /etc/yum.repos.d/elrepo.repo
[elrepo]
name=elrepo
baseurl=https://mirrors.aliyun.com/elrepo/archive/kernel/el7/x86_64
gpgcheck=0
enabled=1
 
cd /etc/yum.repos.d/
mv local.repo repo.bak/
上传阿里云在线云
 
yum clean all
 
#集群升级内核
yum install -y kernel-lt kernel-lt-devel
 
#设置默认启动内核
grub2-set-default 0
 
#重启操作系统
reboot
 
#查看生效版本
hostnamectl

3.所有节点安装docker

所有服务器操作除了两个负载均衡器

yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo 
yum install -y docker-ce docker-ce-cli containerd.io
 
 
cat > /etc/docker/daemon.json <<EOF
{
  "registry-mirrors": 镜像加速地址,
  "exec-opts": ["native.cgroupdriver=systemd"],
  "log-driver": "json-file",
  "log-opts": {
    "max-size": "500m", "max-file": "3"
  }
}
EOF
#使用Systemd管理的Cgroup来进行资源控制与管理，因为相对Cgroupfs而言，Systemd限制CPU、内存等资源更加简单和成熟稳定。
#日志使用json-file格式类型存储，大小为500M，保存在/var/log/containers目录下，方便ELK等日志系统收集和管理日志。

systemctl enable --now docker
docker info 查看docker引擎是否为systemd

4.安装kubeadm，kubelet和kubectl

所有服务器操作除了两个负载均衡器

//定义kubernetes源
cat > /etc/yum.repos.d/kubernetes.repo << EOF
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=0
repo_gpgcheck=0
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF
 
yum install -y kubelet-1.20.15 kubeadm-1.20.15 kubectl-1.20.15

 
//开机自启kubelet
systemctl enable kubelet.service
#K8S通过kubeadm安装出来以后都是以Pod方式存在，即底层是以容器方式运行，所以kubelet必须设置开机自启

5.高可用配置

以上一篇博客中nginx配置高可用为基础

两个负载均衡服务器都操作

vim nginx.conf 
server 20.0.0.100:6443;
server 20.0.0.101:6443;
server 20.0.0.103:6443;
 
systemctl restart nginx

6.部署K8S集群

master01节点操作

cd /opt
mkdir k8s/
kubeadm config print init-defaults > /opt/kubeadm-config.yaml

vim kubeadm-config.yaml
#12行修改为本机地址
advertiseAddress: 20.0.0.100
#22行添加
certSANS:
   - 20.0.0.100
   - 20.0.0.101
   - 20.0.0.103
   - 20.0.0.200
 
#31行添加
controlPlaneEndpoint: "20.0.0.200:6443"
 
#38行
imageRepository: registry.cn-hangzhou.aliyuncs.com/google_containers
 
#40行
kubernetesVersion: v1.20.15
 
#43行修改   
serviceSubnet: 10.96.0.0/16
 
#44行添加   
podSubnet: "10.244.0.0/16"
 
 
#46行添加
 ---
 apiVersion: kubeproxy.config.k8s.io/v1alpha1
 kind: KubeProxyConfiguration
 mode: ipvs

master01节点操作

//在线拉取镜像
kubeadm config images pull --config /opt/kubeadm-config.yaml

master02、master03节点

cd /opt
mkdir k8s

#将master01节点文件进行远程复制

scp kubeadm-config.yaml master02:/opt/k8s/
scp kubeadm-config.yaml master03:/opt/k8s/

master02、master03节点

cd k8s
kubeadm config images pull --config kubeadm-config.yaml

master01节点

 //初始化 master
kubeadm init --config=/opt/kubeadm-config.yaml --upload-certs | tee kubeadm-init.log
#--upload-certs 参数可以在后续执行加入节点时自动分发证书文件
#tee kubeadm-init.log 用以输出日志
 
  mkdir -p $HOME/.kube
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
  sudo chown $(id -u):$(id -g) $HOME/.kube/config
 
kubectl get nodes

kubeadm join 20.0.0.200:6443 --token abcdef.0123456789abcdef \
    --discovery-token-ca-cert-hash sha256:0c42ac037f5caaf4ed230ea43e3b83c7a33c4fbad323b13b420f385ab528a3a6 \
    --control-plane --certificate-key 24e130d67c8cdaf6c5d71b0e5fe5007e530dcbd441b065dddcfaaab20a3a0c43

将所有master加入集群

master01节点在使用kubeadm init --config=/opt/kubeadm-config.yaml --upload-certs | tee kubeadm-init.log命令后会有提示命令将node加入集群

kubeadm join 20.0.0.200:6443 --token abcdef.0123456789abcdef \
    --discovery-token-ca-cert-hash sha256:0c42ac037f5caaf4ed230ea43e3b83c7a33c4fbad323b13b420f385ab528a3a6

master01节点查看

kubectl get nodes   #所有节点都已加入集群

7.所有节点部署网络插件flannel

master01节点

cd /opt/k8s/
上传flannel-v0.21.5.zip压缩包
unzip flannel-v0.21.5.zip
docker load -i flannel.tar
docker load -i flannel-cni-plugin.tar

两个node节点

cd /opt
mkdir k8s

master01节点

scp cni-plugins-linux-amd64-v1.3.0.tgz flannel-cni-plugin.tar flannel.tar master02:/opt/k8s/
scp cni-plugins-linux-amd64-v1.3.0.tgz flannel-cni-plugin.tar flannel.tar master03:/opt/k8s/
scp cni-plugins-linux-amd64-v1.3.0.tgz flannel-cni-plugin.tar flannel.tar node01:/opt/k8s/
scp cni-plugins-linux-amd64-v1.3.0.tgz flannel-cni-plugin.tar flannel.tar node02:/opt/k8s/

在其余所有节点进入/opt/k8s目录执行

docker load -i flannel.tar
docker load -i flannel-cni-plugin.tar

所有服务器操作

cd /opt
mv cni/ cni_bak
mkdir -p /opt/cni/bin
cd /opt/k8s/
tar xf cni-plugins-linux-amd64-v1.3.0.tgz -C /opt/cni/bin/
ls !$

master01节点操作

kubectl apply -f kube-flannel.yml   #创建资源
kubectl get nodes

8.部署 Dashboard可视化面板

//在 master01 节点上操作

#上传 recommended.yaml 文件到 /opt/k8s 目录中
cd /opt/k8s
kubectl apply -f recommended.yaml
 
 
#创建service account并绑定默认cluster-admin管理员集群角色
kubectl create serviceaccount dashboard-admin -n kube-system
kubectl create clusterrolebinding dashboard-admin --clusterrole=cluster-admin --serviceaccount=kube-system:dashboard-admin
kubectl describe secrets -n kube-system $(kubectl -n kube-system get secret | awk '/dashboard-admin/{print $1}')   #查看用户使用的令牌，需复制，后面要用

kubectl get pods -A -o wide  #master01节点上使用，即可查看到dashboard运行在那个节点上进而获取ip
#使用输出的token登录Dashboard
https://192.168.9.112：30001

如何解决kubeadm部署k8s集群中状态显示Unhealthy？

cd /etc/kubernetes/manifests
vim kube-controller-manager.yaml
vim kube-scheduler.yaml

将三个master节点中两个文件中的 #- --port=0注释重启即可

systemctl restart kubelet.service
kubectl get cs

9.更新k8s证书有效期

#查看证书有效期

kubeadm alpha certs check-expiration
openssl x509 -noout -dates -in /etc/kubernetes/pki/apiserver.crt

方法一：通过脚本升级证书有效期

master01节点
cd /opt/k8s/
上传脚本update-kubeadm-cert.sh
chmod +x update-kubeadm-cert.sh
./update-kubeadm-cert.sh all

方法二：

kubeadm alpha certs renew all --config kubeadm.yaml         #重新刷新证书一年有效期
kubeadm init phase kubeconfig all --config kubeadm.yaml      #更新kubeconfig配置文件

随后重启证书

systemctl restart kubelet     二进制安装k8s重启方法

kubeadm安装k8s的重启方法

mv /etc/kubernetes/manifests/*.yaml  /tmp/
mv /tmp/*.yaml /etc/kubernetes/manifests/

K8S/Kubernetes

K8S/Kubernetes社区为您提供最前沿的新闻资讯和知识内容

更多推荐

【深度】阿里巴巴万级规模 K8s 集群全局高可用体系之美

作者 | 韩堂、柘远、沉醉来源 | 阿里巴巴云原生公众号前言台湾作家林清玄在接受记者采访的时候，如此评价自己 30 多年写作生涯：“第一个十年我才华横溢，‘贼光闪现’，令周边黯然失色；第二个十年，我终于‘宝光现形’，不再去抢风头，反而与身边的美丽相得益彰；进入第三个十年，繁华落尽见真醇，我进入了‘醇光初现’的阶段，真正体味到了境界之美”。长夜有穷，真水无香。领略过了 K8s“身在江

K8S/Kubernetes

如何基于 K8s 构建下一代 DevOps 平台？

作者 | 孙健波（天元）导读：当前云原生 DevOps 体系现状如何？面临哪些挑战？如何通过 OAM 解决云原生 DevOps 场景下的诸多问题？云原生开发应用模型 OAM(Open Application Model) 社区核心成员孙健波将为大家一一解答，并分享如何基于 OAM 和 Kubernetes 打造无限能力的下一代 DevOps 平台。什么是 DevOps？为什么基于 Kub