logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

最近hadoop集群维护有感

还没开始写,就有朋友给我评论,总结的简单精辟。不过再怎么困难,填坑的事情,必须有人来做,对公司和对个人都是有益的。 最近折腾一个多礼拜,总算又让hadoop稳定了。我这里主要总结下是两个方面(我这里所指的维护范围更广泛):第一:是运维第二:是开发首先说下运维,在一年的使用中,由于操作系统设置不当所导致的各种异常情况,我都碰到了,而且解决的方案都很简单。对于多数问题来

hadoop节点中不关闭防火墙体验

最近新增节点后,导致相关运行程序出现异常。检查下来发现,一个很简单的问题导致,有一个节点运维人员忘记关闭防火墙了。如果不关闭防火墙,有以下几种情况出现:第一:hdfs的web管理页面,打不开该节点的文件浏览页面第二:后台运行脚本(HIVE的),会出现莫名其妙的假死状态第三:在删除和增加节点的时候,会让数据迁移处理时间更长,甚至不能正常完成相关操作第四:不管你做任何操作,都是

#hadoop
推荐学习hadoop入门几本书(中文版)

在我学习hadoop的过程中,对中文版的书籍重点推荐以下两本(我都看过,并做过相应的实验)第一本 hadoop实战第二本 hadoop权威指南另外有一本hadoop实战(hadoop in action)也可以。更重要的还有一本英文版的书好像叫Pro hadoop,非常好,在最初部署和调整环境的时候,给我很大的帮助和指导。

#hadoop
hadoop和hive结合使用总结(关于一个稳定性的问题)

最近在外网试运行了一个月以来,hive在hadoop平台中的一个主要问题是:经常报此异常:org.apache.hadoop.ipc.Server: IPC Server handler 495 on 8020 caught: java.nio.channels.ClosedChannelException导致任务执行失败(每次任务失败,关闭的连接都是hive连接到hadoop的mas

#hadoop#集群#测试
hadoop清理回收站

Hadoop回收站trash,默认是关闭的。 修改conf/core-site.xml,增加 property>  name>fs.trash.intervalname>  value>3value>  description>Number of minutes between trash checkpoints.   If zero, the tras

#hadoop
hadoop任务运行报错记录

org.apache.hadoop.ipc.RemoteException:org.apache.hadoop.hdfs.server.namenode.LeaseExpiredException: No lease on/order_closed_compress/_temporary/_attempt_201311152318_5890_m_000065_0/part-m-0006

Java 工具(jmap,jstack)在linux上的源码分析(二)信号处理

当java虚拟机启动的时候,会启动很多内部的线程,这些线程主要在thread.cpp里的create_vm方法体里实现而在thread.cpp里主要起了2个线程来处理信号相关的JvmtiExport::enter_live_phase();// Signal Dispatcher needs to be started before VMInit event is

#linux#java
Java 工具(jmap,jstack)在linux上的源码分析(一)

在我们常用的Jstack, Jmap 用于分析java虚拟机的状态的工具,通过起另一个虚拟机通过运行sun.tools包下的java文件,去跟踪另一个虚拟机的状态。如果让你设计一个跟踪另一个进程的方法,你也通常会考虑这几种常用的方式。第一种,就是通知被跟踪的进程,让进程执行相应的消息,同时对该消息做出反应。第二种,就是通过内核的调用,直接能够访问进程的内存,堆栈

#java#linux#虚拟机
Azul开源Zing Jvm

Azul Systems 工程部副总裁和合作创始人Shyam Pillalamarri向InfoQ说明道:我们的部署很大一部分基于开源组件,所以我们认为:“假设我们不能将一些有价值的东西免费提供给开源项目贡献者,他们将一直受限于从Java虚拟机(JVM)视角所看到的内容”,他们将不会考虑额外的用例,或者选择其他能解决了所有内存或扩展性问题、类似Zing的系统。如果这样的话,他们会面临堆占用

#jvm#lucene#linux +2
到底了