logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

去中心化redis集群搭建

之前学redis时,都是在单实例节点上进行操作,而作为一个可灵活横向拓展的键值数据库,分布式搭建形成服务集群能更好的体验出其魅力现在。一直没时间去进行实际的分布式搭建,主要是觉得它简单,但最近进行集群搭建的实践操作时却出现了一些错误,故而进行记录学习。实验环境:centos6.8、redis3.2.5虚拟机配置了DNS:chdp01单节点配置多实例redis服务伪分布式首先需要进行常规的...

记虚拟机启动黑屏背后挖出的各种问题

环境描述:在vmware12上搭建安装了centos6.8。时常出现莫名的黑屏问题,在vmware上尝试关闭启动失败的虚拟机vmware还提示虚拟机正忙。problems遇到了好几种错误组合连环阻遏,为了以后可以愉快的解决黑屏问题,在此对几种报错进行记录,以便在今后的工作学习中进行回顾思考。1、 无法以独占方式启动虚拟机(后台误判的假启动)之前用的比较多的是使用netsh winsock...

#centos
外网访问需求下的虚拟机节点网络配置

太久没有搭建集群环境,有些配置文件的名字都记不太清了。这次在自己的电脑上搭建了一个虚拟机集群,为了以后工作学习中能够在忘记相关细节配置后可以快速的回忆起来,在此将几个关键点进行记录,毕竟好记性不如烂笔头。环境:vmware12+centos6.8(minimal安装)注:关于基本的网段、网关、DNS、防火墙之类的问题不再赘述记录,若模糊了忘记了得好好反思了。此外关于免密登录、局域网yum源搭建..

windows下通过hosts文件配置DNS

记得之前在进行大数据开发学习中,会利用secureCRT、xhell或其他各种各样的方式连接虚拟机节点,这些方式都离不开虚拟机的“定位”问题。而书写记忆长长的ip总是觉得麻烦,记得在学网络编程时就有个域名ip映射机制可以较好的解决这个问题。但是吧,像这种不常用的配置比较容易忘记,为了避免不必要的搜索时间消耗,干脆就自己写个笔记记录下来吧。实验环境:windows101903windows ...

#windows
kafka生产者端dns配置与集群端配置不一致问题:java.io.IOException: Can't resolve address: chdp11:9092

背景描述:在虚拟机集群上搭建了zk、kafka(version:0.11)集群,在控制台上测试生产消费时正常。而后在windows端使用java api向虚拟机消费端生产发送数据,发现程序正常运行起来过了大概十秒后结束( exit code 0),但在虚拟机开启的消费者端并没有收到数据。经过几次检查,确保通信没问题,在java api端给未创建的topic发送数据时还可以发现在kafka集群端主.

#kafka
记一次hadoop namenode 启动失败问题及解决过程(启动几秒钟后又挂了)

这是个小问题,但如果新手接触的话可能会花费一番时间才能解决,甚至会不知所措。在此重点记录的还是解决问题的方式。**问题描述:**在自己虚拟机上新安装了hadoop。在做单节点启动测试时发现namenode启动几秒钟后又挂了,datanode还是好好的。难不成是资源问题?敲入free -h、top查看了一下节点资源使用情况,没问题呀。尝试着又重启一下namenode,嗯,几秒后又挂了。居然感到很..

#hdfs#hadoop
master.HMaster:Failed to become active master java.io.IOException: error or interrupted while split

在自己的机器上操作的,之前因为网络出问题强行关闭虚拟机。再次开启时发现HMaster进程启动不了(HRegionServer正常启动,而HMaster启动几秒后挂了),查看日志发现如下:2019-09-20 20:32:05,519 INFO[main-EventThread] coordination.SplitLogManagerCoordination: task /hbase/spl...

#hbase
[myid:] - ERROR [main:QuorumPeerMain@88] - Invalid config, exiting abnormally:/myid file is missing

在启动zookeeper集群时发现没启动成功,查看日志发现如下报错:2019-08-31 09:18:14,407 [myid:] - ERROR [main:QuorumPeerMain@88] - Invalid config, exiting abnormallyorg.apache.zookeeper.server.quorum.QuorumPeerConfig$ConfigExcep..

#zookeeper
基于Spark的交互式大数据预处理系统设计与实现(七)  Web站点搭建(数据可视化)

分享我的本科毕业论文,欢迎指教。Web站点开发概述在web端主要负责从集群获取数据进行展示以及简单的数据图形化操作。获取数据沿用kafka工具实时从集群获取数据流处理结果,而后展示至web页面。为了快捷开发,本系统采用springboot为基础架构,实现的依旧是传统mvc模式,但基于springboot的架构省去了繁琐的配置文件编写及其他糅杂工作,因而大大加快了系统总体开发进程。为了更...

#echarts#mvc
Expected timestamp in the Flume event headers, but it was null:搭建flume多路复用写数据到hdfs时所遇问题与解决

在进行本机实践时遇到的错误具体见这篇博客:flume复制和多路复用简单示例(监控日志文件对接hdfs、kafka、本地文件系统)错误如下:19/09/17 03:59:34 ERROR hdfs.HDFSEventSink: process failedjava.lang.NullPointerException: Expected timestamp in the Flume event ...

#kafka
    共 17 条
  • 1
  • 2
  • 请选择