Docker下ELK三部曲之三：K8S上的ELK和应用日志上报

本章是《Docker下ELK三部曲》系列的终篇，前面章节已经详述了ELK环境的搭建以及如何制作自动上报日志的应用镜像，今天我们把ELK和web应用发布到K8S环境下，模拟多个后台server同时上报日志的场景；原文地址：https://blog.csdn.net/boling_cavalry/article/details/80141800前文链接《Docker下ELK三部曲》前面两篇...

程序员欣宸

11830人浏览 · 2018-04-30 20:34:09

程序员欣宸 · 2018-04-30 20:34:09 发布

本章是《Docker下ELK三部曲》系列的终篇，前面章节已经详述了ELK环境的搭建以及如何制作自动上报日志的应用镜像，今天我们把ELK和web应用发布到K8S环境下，模拟多个后台server同时上报日志的场景；

原文地址：https://blog.csdn.net/boling_cavalry/article/details/80141800

前文链接

《Docker下ELK三部曲》前面两篇的地址如下：

关于K8S

如果您在想快速搭建一套K8S环境用于学习，可以参考以下文章：

基础结构

本次实战的基础结构如下图所示：
这里写图片描述

一共有两个Pod：ELK和web应用；
ELK的Pod会暴露两个服务，一个暴露logstash的5044端口，给filebeat用，另一个暴露kibana的5601端口，给搜索日志的用户访问的时候用；
web应用暴露一个服务，给用户通过浏览器访问；

实战步骤简介

部署ELK的pod和服务；
部署web应用的pod和服务；
web应用的pod从一个扩展为三个；
体验ELK；

部署ELK

我们从ELK Sever开始部署吧：

ssh登录到可以执行kubectl命令的机器上去；
创建elk的部署脚本elkhost.yaml，内容如下：

apiVersion: extensions/v1beta1
kind: Deployment
metadata:
  name: elkhost
spec:
  replicas: 1
  template:
    metadata:
     labels:
       name: elkhost
    spec:
     containers:
     - name: elkhost
       image: sebp/elk:622
       tty: true
       ports: [{
          "containerPort": 5601
        },{
          "containerPort": 5044
        }]

如上所示，暴露了两个端口：kibana的5601和logstash的5044；

在elkhost.yaml所在目录执行命令kubectl create -f elkhost.yaml，即可创建elk对应的pod，如下：

root@willzhao-Vostro-3267:/usr/local/work/elkk8s# kubectl get pods
NAME                       READY     STATUS    RESTARTS   AGE
elkhost-54c9bbd8d5-ffq68   1/1       Running   0          3m

将kibana的5601端口以NodePort的方式对外暴露，这样外部就可以通过节点IP地址来访问kibana服务了，创建部署脚本elkkibana-svc.yaml，kibana的服务通过node节点的30001端口对外暴露，内容如下：

apiVersion: v1
kind: Service
metadata:
  name: elkkibana
spec:
  type: NodePort
  ports:
       - port: 5601
         nodePort: 30001
  selector:
    name: elkhost

将logstash的5044端口以ClusterIP的方式对外暴露，这样其他pod的filebeat就可以通过服务名加5044端口来访问logstash服务了，创建部署脚本elkhost-svc.yaml，logstash的服务通过5044端口对K8S内部的pod暴露，内容如下：

apiVersion: v1
kind: Service
metadata:
  name: elkhost
spec:
  type: ClusterIP
  ports:
       - port: 5044
         targetPort: 5044
  selector:
    name: elkhost

在elkhost-svc.yaml所在目录执行命令kubectl create -f elkhost-svc.yaml && kubectl create -f elkkibana-svc.yaml，即可创建elkhost和elkkibana这两个服务，如下：

root@willzhao-Vostro-3267:/usr/local/work/elkk8s# kubectl create -f elkhost-svc.yaml && kubectl create -f elkkibana-svc.yaml
service "elkhost" created
service "elkkibana" created
root@willzhao-Vostro-3267:/usr/local/work/elkk8s# kubectl get service
NAME         TYPE        CLUSTER-IP      EXTERNAL-IP   PORT(S)          AGE
elkhost      ClusterIP   10.43.103.244   <none>        5044/TCP         9s
elkkibana    NodePort    10.43.219.137   <none>        5601:30001/TCP   9s
kubernetes   ClusterIP   10.43.0.1       <none>        443/TCP          16d

执行命令查看elkhost的pod部署在K8S的哪个node节点上：

root@willzhao-Vostro-3267:/usr/local/work/elkk8s# kubectl describe pod elk
Name:           elkhost-54c9bbd8d5-ffq68
Namespace:      default
Node:           willzhao-vostro-3267/192.168.31.89
Start Time:     Mon, 30 Apr 2018 16:22:04 +0800
Labels:         name=elkhost
                pod-template-hash=1075668481
Annotations:    kubernetes.io/created-by={"kind":"SerializedReference","apiVersion":"v1","reference":{"kind":"ReplicaSet","namespace":"default","name":"elkhost-54c9bbd8d5","uid":"9096cde8-4c4f-11e8-a776-024f8a041a1a"...
Status:         Running
...

如上所示，Node: willzhao-vostro-3267/192.168.31.89显示了这个pod部署的节点IP是192.168.31.89；
8. 打开浏览器，输入192.168.31.89:30001，即可访问到Kibana服务，如下图：
这里写图片描述

部署应用

ELK Sever已经OK，接下来部署web应用：

创建elkwebdemo的部署脚本elkwebdemo.yaml，内容如下：

apiVersion: extensions/v1beta1
kind: Deployment
metadata:
  name: elkwebdemo
spec:
  replicas: 1
  template:
    metadata:
     labels:
       name: elkwebdemo
    spec:
     containers:
     - name: elkwebdemo
       image: bolingcavalry/elkdemo:0.0.1-SNAPSHOT
       tty: true
       ports:
       - containerPort: 8080

在elkwebdemo.yaml所在目录执行命令kubectl create -f elkwebdemo.yaml，即可创建elk对应的pod，如下：

root@willzhao-Vostro-3267:/usr/local/work/elkk8s# kubectl get pod
NAME                         READY     STATUS    RESTARTS   AGE
elkhost-944bcbcd4-8vpbs      1/1       Running   0          4m
elkwebdemo-dddbcfc6f-x4pk6   1/1       Running   0          9s

创建elk对外服务的部署脚本elkwebdemo-svc.yaml，web的服务通过node节点的30002端口对外暴露，内容如下：

apiVersion: v1
kind: Service
metadata:
  name: elkwebdemo
spec:
  type: NodePort
  ports:
       - port: 8080
         nodePort: 30002 
  selector:
    name: elkwebdemo

在elkwebdemo-svc.yaml所在目录执行命令kubectl create -f elkwebdemo-svc.yaml，即可创建elkwebdemo对应的pod，如下：

root@willzhao-Vostro-3267:/usr/local/work/elkk8s# kubectl get service
NAME         TYPE        CLUSTER-IP      EXTERNAL-IP   PORT(S)          AGE
elkhost      ClusterIP   10.43.103.244   <none>        5044/TCP         6m
elkkibana    NodePort    10.43.219.137   <none>        5601:30001/TCP   6m
kubernetes   ClusterIP   10.43.0.1       <none>        443/TCP          16d

执行命令查看elkwebdemo的pod部署在K8S的哪个node节点上：

root@willzhao-Vostro-3267:/usr/local/work/elkk8s# kubectl describe pod elkwebdemo
Name:           elkwebdemo-dddbcfc6f-8bbrb
Namespace:      default
Node:           willzhao-vostro-3267/192.168.31.89
Start Time:     Mon, 30 Apr 2018 16:28:37 +0800
Labels:         name=elkwebdemo
                pod-template-hash=888679729
Annotations:    kubernetes.io/created-by={"kind":"SerializedReference","apiVersion":"v1","reference":{"kind":"ReplicaSet","namespace":"default","name":"elkwebdemo-dddbcfc6f","uid":"7a9364d1-4c50-11e8-a776-024f8a041a1...
Status:         Running
...

如上所示，Node: willzhao-vostro-3267/192.168.31.89显示了这个pod部署的节点IP是192.168.31.89；
7. 打开浏览器，输入http://192.168.31.89:30002/hello/tom，即可访问到web服务，如下图：
这里写图片描述

设置kibana

再次打开kibana页面，如下图所示，点击红框中的“Discover”，发现已经搜集到了上报的日志，如绿框所示：
如下图设置：
继续设置，如下图：
再此点击左上角的"Discover"，既可开始搜索web应用日志，如下图：

web应用扩容

现在我们模拟生产环境的在线扩容：

将web应用从一个扩展到三个，执行以下命令：

kubectl scale deployment elkwebdemo --replicas=3

可以看到web应用对应的pod已经扩展了，如下所示：

root@willzhao-Vostro-3267:~# kubectl scale deployment elkwebdemo --replicas=3
deployment "elkwebdemo" scaled
root@willzhao-Vostro-3267:~# kubectl get pod
NAME                         READY     STATUS    RESTARTS   AGE
elkhost-944bcbcd4-8vpbs      1/1       Running   0          1h
elkwebdemo-dddbcfc6f-crzcp   1/1       Running   0          11s
elkwebdemo-dddbcfc6f-tsppk   1/1       Running   0          11s
elkwebdemo-dddbcfc6f-x4pk6   1/1       Running   0          1h

为了能多上报一些日志，在浏览器上多刷新几次这个地址：http://192.168.31.89:30002/hello/tom
回到kibana页面，如下图，点击红框中的“host”，展开的信息显示，这些日志来自三个host：
打开K8S的dashboard页面看一下容器信息，如下图，可以见到三个web容器的hostname和kibana中的host是一样的：
在K8S上体验ELK的日志服务已经完成；

至此，《Docker下ELK三部曲》三部曲就全部完成了，希望您在实践容器化的ELK服务时，该系列文章能够对您有所帮助。

欢迎关注我的公众号：程序员欣宸

在这里插入图片描述

K8S/Kubernetes

K8S/Kubernetes社区为您提供最前沿的新闻资讯和知识内容

更多推荐

【深度】阿里巴巴万级规模 K8s 集群全局高可用体系之美

作者 | 韩堂、柘远、沉醉来源 | 阿里巴巴云原生公众号前言台湾作家林清玄在接受记者采访的时候，如此评价自己 30 多年写作生涯：“第一个十年我才华横溢，‘贼光闪现’，令周边黯然失色；第二个十年，我终于‘宝光现形’，不再去抢风头，反而与身边的美丽相得益彰；进入第三个十年，繁华落尽见真醇，我进入了‘醇光初现’的阶段，真正体味到了境界之美”。长夜有穷，真水无香。领略过了 K8s“身在江

K8S/Kubernetes

如何基于 K8s 构建下一代 DevOps 平台？

作者 | 孙健波（天元）导读：当前云原生 DevOps 体系现状如何？面临哪些挑战？如何通过 OAM 解决云原生 DevOps 场景下的诸多问题？云原生开发应用模型 OAM(Open Application Model) 社区核心成员孙健波将为大家一一解答，并分享如何基于 OAM 和 Kubernetes 打造无限能力的下一代 DevOps 平台。什么是 DevOps？为什么基于 Kub