logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

spark在yarn上运行报错:Yarn application has already ended

spark在yarn上运行报错:Exception in thread "main" org.apache.spark.SparkException: Yarn application has already ended! It might have been killed or unable to launch application master.    at org.ap

#yarn
spark原理之专用术语和运行流程

目录spark专用术语1、Master:2、Worker3、Application4、Driver5、Executor:执行器6、RDD:弹性分布式数据集7、窄依赖8、宽依赖9、有向无环图10、DAGScheduler:有向无环图调度器11、TaskScheduler:任务调度器12、Job:作业13、Stage:调度阶段15、Task:...

局域网下连接其他电脑的HDFS集群

第一步:参看我的局域网下用其他电脑连接VM虚拟机方法这个是必须的,如果你会了那可以跳过第二步:学会怎么配置虚拟网路之后我们看一下这个配置文件hdfs-site.xml<?xml version="1.0" encoding="UTF-8"?&

完全分布式集群搭建步骤

完全分布式集群搭建步骤[注]本文假设您的虚拟机配置已经完毕, 其需要的操作有:/etc/hosts文件需将文章所用到的主机名和Ip映射虚拟机防火墙关闭Hadoop环境变量配置完毕jdk配置完毕若以上步骤都做完了,那么可以开始我们的集群搭建(1)时间同步①各个节点安装ntp命令yum install ntp②上网查找最新的时间服务器ntp1.aliyun.com③同步...

局域网下用其他电脑连接VM虚拟机方法

局域网下想访问其他主机需要在vmware上打开--->[编辑]--->[虚拟机网络编辑器]接下来会弹出这个窗口 ,点击添加主机端口设置一个大于8888小于65535的数虚拟机Ip地址填写你要连虚拟机的Ip虚拟机端口为默认的22(PS:想填多少填多少,后面可以支持用其他电脑的eclips连接同一局域网的HDFS集群并可以操作)点击确定!到这里vm就修改...

#虚拟机
到底了