分布式集群基础配置(大数据运维实践)
本次教学内容
本项目主要围绕分布式集群的基础配置展开,涵盖网络配置、防火墙设置、开发环境搭建以及免密登录等内容。
本次教学目标
-
集群基础配置主要内容?
-
有哪些上网模式?
-
网络配置文件所在目录?
-
为什么要关闭防火墙?
-
如何关闭防火墙?
-
什么是 SSH 协议?
-
简述免密过程
目录
-
连网模式
-
主机网络配置
-
防火墙和时钟同步
-
安装开发环境 JDK
-
集群网络配置
-
免密登录和用户管理
01 连网模式
在搭建分布式集群之前,首先需要保证虚拟机可以正常联网。
01、检查上网状态
可以通过以下命令检测当前网络是否连通:
ping www.baidu.com
如果返回正常数据,则说明网络连接成功。
此外,也可以通过以下命令获取 IP:
dhclient
需要注意的是:通过 DHCP 获取的 IP 是动态的,系统重启后可能会发生变化。
02、桥接模式
桥接模式下:
-
虚拟机与物理机处于同一网段
-
可以直接访问局域网
适用于对网络要求较高的场景。
03、NAT 模式
NAT 模式特点:
-
虚拟机与物理机不在同一网段
-
通过地址转换访问外网
-
配置简单,最常用
👉 实际学习环境推荐使用 NAT 模式。
04、仅主机模式
该模式下:
-
虚拟机只能与宿主机通信
-
无法访问互联网
适用于隔离测试环境。
05、多网卡设置
生产环境通常需要多网卡支持。
查看网卡信息
ip a
ifconfig
ifconfig -a
修改网卡配置
vi /etc/sysconfig/network-scripts/ifcfg-eth0
重启网络
service network restart
查看网关
route -n
02 主机网络配置
01、网段规划
在集群部署前,需要统一规划:
-
IP 地址
-
子网掩码
-
网关
确保所有节点在同一网段,保证通信正常。
02、使用文件配置网络
Linux 通过配置文件设置网络参数:
vi /etc/sysconfig/network-scripts/ifcfg-eth0
配置项说明
-
DEVICE:设备名称
-
NAME:设备名称(兼容模式)
-
ONBOOT:是否开机启动
-
BOOTPROTO:IP 获取方式(dhcp / static)
-
IPADDR:IP 地址
-
NETMASK:子网掩码
-
GATEWAY:默认网关
-
DNS:DNS 服务器
示例配置
BOOTPROTO=static
ONBOOT=yes
IPADDR=192.168.2.128
NETMASK=255.255.255.0
GATEWAY=192.168.2.2
DNS1=119.29.29.29
03、通过机器名访问网络
编辑 hosts 文件:
vi /etc/hosts
添加:
192.168.2.128 bigdata01
192.168.2.129 bigdata02
04、网络配置生效
systemctl restart network.service
然后通过 ping 测试配置是否成功。
03 防火墙和时钟同步
01、关闭防火墙
为什么要关闭
在集群中,多台机器需要通信,防火墙可能会阻止连接,因此学习阶段需要关闭。
操作命令
systemctl stop firewalld.service
firewall-cmd --state
systemctl start firewalld.service
02、时钟同步
作用
集群中所有节点时间必须一致,否则会导致任务异常。
安装 NTP
yum install ntp ntpdate -y
启动服务
systemctl start ntpd
systemctl enable ntpd
手动同步
ntpdate -u 10.82.71.73
04 安装开发环境 JDK
01、下载安装 JDK
JDK 是 Java 开发环境,是大数据组件运行的基础。
一般安装在 /usr 目录。
02、配置 JDK 环境变量
vi /etc/profile
添加:
export JAVA_HOME=/usr/java/jdk1.8
export PATH=$PATH:$JAVA_HOME/bin
03、环境变量生效
source /etc/profile
05 集群网络配置
01、克隆
通过克隆虚拟机快速构建多节点环境。
02、唯一性配置
克隆后必须修改:
-
IP 地址
-
主机名
-
MAC 地址
否则会导致冲突。
03、优化
为了防止重启后配置失效,需要:
-
固定 IP
-
配置 hosts
-
设置开机启动
06 免密登录和用户管理
01、为什么要免密
在集群操作中,需要频繁登录不同节点,免密登录可以大幅提升效率。
02、免密原理
基于公钥和私钥机制:
-
私钥保存在本机
-
公钥分发到其他机器
03、生成密钥
ssh-keygen -t rsa -C "your_email@example.com"
04、测试免密登录
ssh localhost
ssh bigdata01
05、用户管理
创建用户
groupadd bd
useradd -g bd py
passwd py
切换用户
su py
su
删除用户
userdel py
06、SSH 免密方式
ssh-copy-id localhost
ssh-copy-id hadoop2
更多推荐
所有评论(0)