logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

spark on yarn 模式开启historyserver(转载)

Spark history Server产生背景以standalone运行模式为例,在运行Spark Application的时候,Spark会提供一个WEBUI列出应用程序的运行时信息;但该WEBUI随着Application的完成(成功/失败)而关闭,也就是说,Spark Application运行完(成功/失败)后,将无法查看Application的历史记录;Spark histo...

#spark
hadoop2.x配置jobHistory server(转)

Hadoop自带了一个历史服务器,可以通过历史服务器查看已经运行完的Mapreduce作业记录,比如用了多少个Map、用了多少个Reduce、作业提交时间、作业启动时间、作业完成时间等信息。默认情况下,Hadoop历史服务器是没有启动的,我们可以通过下面的命令来启动Hadoop历史服务器$ sbin/mr-jobhistory-daemon.sh   start historyserv...

#mapreduce
hadoop1.0和hadoop2.0的区别

1. Hadoop 1.0中的资源管理方案Hadoop 1.0指的是版本为Apache Hadoop 0.20.x、1.x或者CDH3系列的Hadoop,内核主要由HDFS和MapReduce两个系统组成,其中,MapReduce是一个离线处理框架,由编程模型(新旧API)、运行时环境(JobTracker和TaskTracker)和数据处理引擎(MapTask和ReduceTask)...

#hadoop
存储过程动态获取表名,然后以表名做参数

CREATE DEFINER=`coolcloudstat`@`%` PROCEDURE `selectPkg`()BEGINDECLARE tableName VARCHAR(100);DECLARE table_name_done INT DEFAULT 0;DECLARE table_name_cursor CURSOR FOR SELECT tabl...

到底了