logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

[hadoop] yarn工作机制详细步骤及流程图

详细步骤(1)MR程序提交到客户端所在的节点。(2)YarnRunner向ResourceManager申请一个Application。(3)RM将该应用程序的资源路径返回给YarnRunner。(4)该程序将运行所需资源提交到HDFS上。(5)程序资源提交完毕后,申请运行mrAppMaster。(6)RM将用户的请求初始化成一个Task。(7)其中一个NodeManager领取到T...

#yarn#hadoop#流程图
[hadoop] hadoop的优缺点总结

hadoop有以下四个优点:1)高可靠性:Hadoop底层维护多个数据副本,所以即使Hadoop某个计算元素或存储出现故障,也不会导致数据的丢失。2)高扩展性:能在廉价机器组成的集群间分配任务数据,可方便的扩展数以干计的节点。3)高效性:在MapReduce的思想下,Hadoop是并行工作的,以加快任务处理速度。4)高容错性:能够自动将失败的任务重新分配。同时hadoop 1.x有以下三...

#hadoop#hdfs
[linux] linux虚拟机如何正确配置网络

友情链接手把手教你如何通过自定义安装CentOS6.5虚拟机(手动分区/详细配置):https://blog.csdn.net/a755199443/article/details/95333137本篇博客以CentOS_6.5操作系统来配置网络.1 输入用户名密码登录系统2 网卡配置文件位于/etc/sysconfig/network-scripts/目录输入 cd /etc/sys...

#linux#虚拟机
[linux] yum命令如何改为本地源安装软件

1 挂载linux镜像虚拟机先在CD/DVD选项使用linux系统镜像然后使用命令,将cdrom设备挂载到/mnt目录(每次重启后都需要重新挂载)mount /dev/cdrom /mnt2 修改repo配置文件进入/etc/yum.repos.d目录(本文示范时使用的时CentOS系统)备份CentOS-Base.repo文件修改CentOS-Base.repo文件cd /...

#linux
[Zookeeper]启动后查看状态显示Error contacting service. It is probably not running解决办法

需求分析:运行Zookeeper集群.问题描述:执行 zkService.sh start方法后显示:JMX enabled by defaultUsing config: /usr/local/zookeepercluster/zookeeper01/bin/../conf/zoo.cfgStarting zookeeper ... STARTED但是继续调用 zkService...

#zookeeper
[springboot] spring-boot:run 命令启动报错,Unable to find a suitable main class, please add a 'mainClass'

问题描述:使用maven命令 spring-boot:run 启动springboot项目报错:Unable to find a suitable main class, please add a ‘mainClass’ property问题解决:首先我是能确定我没有错误,通过java类可以启动项目,但是spring-boot:run命令就是无法启动项目.1 首先根据网上的建议在pom配...

[idea] idea导包的三种方式(导入jar包/添加库/全局库)

网上已有的三种导包方式教程都是基于普通项目,第二第三种不适用于idea的web项目,现在开始web项目导包教程.1 直接复制这是单次导包最简单的方式,在web/WEB-INF目录下新建lib文件夹(位置不能错),将需要导入的jar包复制进lib文件夹,选中右键,添加为库即可完成导包操作.2 通过Libraries添加这种方式需要预先准备好jar包库,在磁盘任意一个地方准备好内有jar包...

#idea#java
[servlet] JSP知识点整理

JSP知识点整理简述特点Jsp的访问原理Jsp的语法和指令Jsp四大作用域page指令属性九大对象basePath作用简述JSP全名Java Server Pages,中文名叫Java服务器页面,其根本是一个简化的Servlet设计,是由Sun公司倡导,多家公司参与建立的一种动态网页技术标准.特点1 本质上还是Servlet2 跨平台,一次编写处处运...

#servlet
[大数据]大数据体系整理

大数据体系整理开发语言分布式存储分布式计算数据仓库技术机器学习开发语言Java大数据框架的编写支持很多开发语言,但是Java在大数据开发方面有很大的优势,目前流行的大数据Hadoop框架、map-reduce框架,很多部分都是用开源的Java语言编写,因此Java在大数据方面有很大优势!PythonPython的优势在于资源丰富,拥有坚实的数值算法、图标和数...

#大数据
到底了