logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

k8s中filebeat使用multiline合并日志

介绍业务上线到k8s,日志接入到elfkk,filebeat收集pod日志方法见这里。由于日志中有java的报错日志,还有sql的查询语句,导致kibana展示日志时,一行sql就是一条日志,占用大量空间不说,还不方便查询。这个时候需要用到multiline,这个参数,可以在logstash中配置,也可以在filebeat中配置,经过测试,logstash中,存在无序及不完整性,这里不过多阐...

#elk#k8s
logstash处理多个topic,处理不同类型的日志

背景之前已经收集了k8s的日志,但是现在又想通过filebeat收集物理机的程序日志,传输到kafka,并通过logstash输出到es,有个小问题就是,如何在logstash中区分开不同的topic,或者相同topic中不同程序日志,假设多种程序日志的日志格式相同,并且已经配置了grok过滤思考解决收集本地日志,并且输出到kafka处理java异常日志logstash从topic中过...

logstash处理多个topic,处理不同类型的日志

背景之前已经收集了k8s的日志,但是现在又想通过filebeat收集物理机的程序日志,传输到kafka,并通过logstash输出到es,有个小问题就是,如何在logstash中区分开不同的topic,或者相同topic中不同程序日志,假设多种程序日志的日志格式相同,并且已经配置了grok过滤思考解决收集本地日志,并且输出到kafka处理java异常日志logstash从topic中过...

到底了