大数据分部式集群

大数据岗位分工
◦ 核心:展示了大数据领域的不同角色。
◦ 重点:本课角色是平台运维师(或运维工程师)。你的核心任务是保障Hadoop集群稳定、安全、高性能地运行。
运维常见问题场景
◦ 核心:列出了运维日常最头疼的几类问题。
◦ 重点:这些都是高频故障场景,如网络连通性(A能上B不能)、配置错误(IP通但域名不通)、批量操作、消息队列故障。本节课的目标就是教你解决这些问题的方法论。

◦ 核心:梳理了整门课的知识路径。
◦ 重点:路线是环境准备(虚拟机)→基础配置→集群部署→系统调优→安全加固。这是一个从0到1搭建企业级集群的完整闭环。

大数据技术回顾(谷歌三驾马车)
◦ 核心:Hadoop的技术源头。
◦ 重点:GFS(分布式文件系统)、MapReduce(分布式计算模型)、BigTable(分布式数据库)。这三者是Hadoop的设计灵感来源。

Hadoop定义
◦ 核心:什么是Hadoop?
◦ 重点:它是一个开源的分布式系统基础架构,核心由HDFS(存储)和MapReduce(计算)组成。

Hadoop生态系统
◦ 核心:Hadoop全家桶。
◦ 重点:除了核心HDFS、YARN、MapReduce外,还有Spark(计算引擎)、Hive(数据仓库)、HBase(数据库)、ZooKeeper(协调服务)等。理解它们的分工即可。

Hadoop应用场景
◦ 核心:真实的业务数据链路。
◦ 重点:日志采集(Flume)→ 存储(HDFS)→ 计算(MapReduce/Spark)→ 分析(Hive)→ 输出展示。这是理解大数据价值的流程图。

集群拓扑
◦ 核心:给每台机器“上户口”。
◦ 重点:定义每台主机的主机名(hostname)、IP地址、所属角色(Master/Slave)。这是服务器之间互相识别的基础。

主机规划
◦ 核心:版本兼容性。
◦ 重点:必须统一操作系统(CentOS7)、JDK版本、Hadoop版本等。版本冲突是搭建失败的最常见原因之一。

软件规划
◦ 核心:文件系统的树状结构。
◦ 重点:记住/etc(配置文件)、/home(用户目录)、/var(数据日志)、/usr(软件安装)。规划软件安装目录和数据存储目录时要用到。
17. hosts文件配置
◦ 核心:本地DNS解析。
◦ 重点:路径是/etc/hosts。作用是IP地址与主机名的映射,让集群内各机器能通过名字互相访问,而不是记复杂的IP。
18. 课堂练习题
◦ 核心:检验对规划和配置的掌握。
◦ 重点:通常是让你根据需求编写hosts文件或检查网络连通性。
第三部分:实战环境——Windows下的仿真
19. VMware Workstation介绍
◦ 核心:在Windows电脑上模拟Linux环境的工具。
◦ 重点:它是我们的“模拟器”,没有它无法在单机上搭建多节点集群。
20. 新建虚拟机向导
◦ 核心:创建第一台Linux机器的步骤。
◦ 重点:步骤是典型配置 → 选择Linux系统(CentOS)→ 命名虚拟机 → 指定磁盘大小 → 完成。
21. 虚拟机设置界面
◦ 核心:调整虚拟机的“硬件配置”。
◦ 重点:主要设置内存、CPU核心数、网络适配器(桥接/NAT模式)、光驱(加载ISO镜像)。这直接决定了虚拟机的性能和网络环境。
22. 克隆虚拟机
◦ 核心:快速批量复制节点。
◦ 重点:提供完整克隆和链接克隆两种方式。克隆可以让你一次性快速生成多台Slave节点,效率极高。
23. CentOS安装界面
◦ 核心:系统安装的最后一步。
◦ 重点:安装时需设置root管理员密码,这是登录系统的关键。
24. SecureCRT功能
◦ 核心:远程连接Linux的终端工具。
◦ 重点:通过SSH协议连接,支持多标签页,操作比在虚拟机窗口里更方便,是程序员/运维师的标配。
25. SecureCRT会话创建
◦ 核心:配置连接参数。
◦ 重点:输入虚拟机的IP地址、端口(默认22)、用户名密码,即可建立连接。
26. SecureCRT快捷键
◦ 核心:提高操作效率。
◦ 重点:记住Ctrl+C(终止)、Ctrl+D(退出)、Tab(自动补全)等常用快捷键。
27. SecureFX功能
◦ 核心:图形化的文件传输工具。
◦ 重点:可以像操作本地文件夹一样,拖拽上传/下载文件,方便部署软件或查看日志。
28. 文件传输演示
◦ 核心:本地与服务器的文件交互。
◦ 重点:展示了从本地Windows上传安装包到Linux服务器的过程。
29. 工具类练习题
◦ 核心:区分工具用途。
◦ 重点:搞清楚哪个工具是用来跑系统的(VMware),哪个是用来远程操作的(SecureCRT),哪个是用来传文件的(SecureFX)。
30. 回顾与休息
◦ 核心:总结本节课6个核心知识点。
◦ 重点:帮助你巩固记忆,为后续实操课做好准备。
这些内容构成了整个大数据运维的基础框架。需要我针对某个具体的知识点(比如如何配置hosts文件)给你更详细的操作指导吗?
更多推荐
所有评论(0)