logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

hadoop SequenceFile

SequenceFile是专为mapreduce设计的,是可分割的二进制格式,以key/value对的形式存储。write先看下 在hadoop中如何写SequenceFile。 private static final String[] DATA = {"One, two, buckle my shoe","Three, four, shut t

#hadoop#mapreduce
hadoop之 mapreduce Combiner

许多mapreduce作业会受限与集群的带宽,因此尽量降低map和reduce任务之间的数据传输是有必要的。Hadoop允许用户针对map任务的输出指定一个combiner函数处理map任务的输出,并作为reduce函数的输入。因为combine是优化方案,所以Hadoop无法确定针对map输出记录需要调用多少次combine函数。in the other word,不管调用多少次combine函

zookeeper 一直拒绝连接

用虚拟机搭建zookeeper集群一直拒绝连接,异常如下:2016-02-22 00:49:45,687 [myid:1] - WARN[QuorumPeer[myid=1]/0:0:0:0:0:0:0:0:2181:QuorumCnxManager@382] - Cannot open channel to 2 at election address hadoop1/10.0.0.1

到底了