项目一 大数据分布式集群

一、大数据运维师遇到的问题:
1、A能上网,B不能上网?
2、A能访问B,反之不行?
3、给100台机器修改同一个参数?
4、发坚地址可以访问,主机名无法访问?
5、A给B发送一个信息,B说没有收到?
6、集群出现的问题无数,如何保证在不停机的情况下,业务正常运转,这就“大数据运维师”的职责


需要了解的虚拟机部署的基本框架
1.大数据技术回顾
2.分布式大数据集群规划
3.Windows环境下Linux仿真工具

本次课教学目标:
课点1.集群规划内容有哪些?
课点2.重要数据目录
课点3.Hosts位置及作用?
课点4.VMware Workstation功能?
课点5.SecureCRT功能?
课点6.SecureFX功能?


二、什么是Hadoop
Hadoop是一个由Apache 基金会所开发的分布式系统基础架构。Hadoop是以分布式文件系统(Hadoop Distributed File System,简称HDFS)和MapReduce等模块为核心,为用户提供底层分布式基础架构
三、Hadoop生态系统

四、Hadoop应用场景

二.分布式大数据集群框架
1.规划必要性
2.规划内容
1.1规划必要性
Hadoop分布式集群环境搭建是每个入门级新手都非常头疼的事情,因为你可能花费了很久的时间在搭建运行环境,最终却不知道什么原因无法创建成功。但对新手来说,运行环境搭建不成功的概率还很高,所以,在正式开始搭建集群前做好集群规划是很有必要的。
任务:用4台主机搭建Hadoop2.0
1.2集群拓扑 master/slave

2.1 规划内容-主机规划

2.2规划内容-软件规划

2.3规划内容-数据目录规划

2.4规划内容-WindowsIP映射
(1)打开hosts文件 [root@hadoop1 ~]# vi /etc/hosts
(2)添加如下参数 172.16.206.16 master 172.16.206.26 masterback 172.16.206.27 slave1 172.16.206.29 slave2
三.练习

三.Windows环境下Linux仿真工具
1.VMware Workstation Pro
2.SecureCRT
3.SecureFX
1.1VMware Workstation Pro
(1)功能
VMware Workstation(中文名"威睿工作站")是一款功能强大的桌面虚拟计算机软件,提供用户可在单一的桌面上同时运行不同的操作系统,和进行开发,测试,部署新的应用程序的最佳解决方案。VMware Workstation可在一部实体机器上模拟完整的网络环境,以及可便于携带的虚拟机器,其更好的灵活性与先进的技术胜过了市面上其他的虚拟计算机软件。对于企业的IT开发人员和系统管理员而言,VMware在虚拟网路,实时快照,拖曳共享文件夹支持PXE 等方面的特点使它成为必不可少的工具。
(2)下载软件安装包
官方试用版地址:
http://www.vmware.com/ch/products/workstation/wor kstation-evaluation.htm
许可证密钥:5A02H-AU243-TZJ49-GTC7K-3C61N
百度网盘地址:http://pan.baidu.com/s/1jl6WLvS
(3)安装方法
安装方法很简单,直接双击安装程序,默认安装即可。安装完成后,点击桌面的快捷启动图标,会提示你输入许可证密钥,把上面的密钥输入就可以激活了。
(4)创建一台虚拟机



虚拟机创建完成后,就可以在VMware的主界面看到我们刚刚创建好的虚拟机CentOS6.6,如下图:

这样,我们的虚拟机就创建好了。这个虚拟机就相当于一台真实的电脑,只不过我们还没有给它安装操作系统。在安装操作系统之前,如果有必要,我们可以灵活更改该虚拟机的硬件设置(如:内存大小,处理器数量,网络适配器等等)。可以点击主菜单栏的"虚拟机设置",来进行更改。


最后,点击完成即可。这样,我们就可以在VMware的主界面,看到两台一模一样的虚拟机了。

5、给虚拟机安装Linux操作系统
我们已经有了一台创建好的虚拟机(CentOS6.6),硬件设置也配置好了,只差给该虚拟机安装操作系统了。
(1) 点击VMware的虚拟机界面,选择我们创建好的虚拟机CentOS6.6,然后双击虚拟机中模拟的光驱设备。如下图:

(2)更改光驱设置,使用ISO映像文件来安装linux系统。

(3)开启该虚拟机,相当于打开电脑的电源启动电脑。

(4) 开启虚拟机后,迅速将虚拟机的光盘设置,改为下面的设置,即勾选“已连接”和“启动时连接”,如下图:

(5) 如果都正常的话,就会进入linux的图形安装界面。如下图:

(6) 设置虚拟PC的计算机名称,用默认值即可。点击“下一步”。

(7) 设置根账号(root用户,即超级管理员)的密码。这里,为了方便,就设置为123456。点击“下一步”。

(8) 安装完成后,出现下面的界面,告知你CentOS系统已经安装好了,并提示你重启。点击“重新引导”即可。

(9)重启后的CentOS系统界面,如下:

更多推荐
所有评论(0)