
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
Hadoop集群节点扩容与缩容操作指南 扩容时,需确保新节点配置(硬件、网络、Hadoop文件)与集群一致,启动DataNode和NodeManager后,集群会自动识别新节点,可通过Web UI或命令行验证。缩容需谨慎,通过创建排除列表文件并修改配置文件指定待移除节点,执行刷新命令触发优雅退役流程。HDFS会复制数据块至其他节点,YARN会等待任务完成,确认节点状态变为"Decommi
客户端拿出来之后,一定要注意一个相当关键的问题,不要让执行客户端的服务器持有集群的ssh公钥串,正常执行hadoop fs等命令时,不涉及节点直接的交互,但如果你没有其他反制措施,比如改了客户端的源码加校验这种,则一旦对方持有了ssh串就会通过Linux的身份校验,说白了别人从官网下载一个完整包,在持有一个同名用户,拿着你的ssh串,替换你的配置文件就能操作你的集群了,很危险的事情这是。如果确实需
本文介绍了Kerberos认证系统在Hadoop集群中的部署与应用。Kerberos通过KDC(票据发放中心)解决企业级安全两大问题:细粒度服务访问控制和凭证有效性验证。部署过程包括:1)准备4台服务器(1台KDC+3台Hadoop节点);2)安装krb5相关软件包;3)配置krb5.conf文件,重点说明日志路径、加密算法、票据有效期等参数;4)解释域映射规则和常用命令(kinit/klist)
Docker实现秒级重启的关键在于两点:1)直接使用宿主机内核,省去了虚拟机加载操作系统内核的耗时过程;2)采用分层文件系统(UnionFS)存储镜像,容器启动时只需加载应用层。镜像由基础层和只读层构成,容器启动时在其顶部添加可写层。相比虚拟机完整的GuestOS启动,Docker只需加载用户空间的rootfs,极大提升了启动效率。此外,Docker镜像打包原理类似于Git,可通过修改容器并提交来
本文介绍了Docker容器编排工具Compose的安装与使用,以及私有镜像仓库Harbor的部署流程。Compose作为服务级编排工具,适合在单机环境下启动包含多种容器类型的完整服务。重点演示了Harbor的安装过程,包括自签证书的生成方法(使用OpenSSL创建PEM格式证书)、证书配置要求,以及如何将CA根证书配置到Docker信任路径。文章还详细说明了Harbor配置文件的修改规范,包括YA
主流的商用环境中,所使用的虚拟化技术通常就是linux+docker+k8s,好处是docker将虚拟化的使用变得更简洁更轻量化,大大的简化了运维成本,而k8s是后面我们要介绍的一个东西,它其实是一个容器或者虚拟化的脚手架,这个脚手架的作用就是用来解决服务器的序列、服务器故障切换等等的运维问题,它的运行的核心是基于逻辑单元pod,你可以把pod看成我们开发好的一个服务包,一个pod里面包含着各种对
本文介绍了Docker的基本概念和常用命令。Docker作为软件虚拟化技术,实质是宿主机的隔离进程,与宿主机共享内核,因此不支持部分系统命令(如systemctl)。文章详细分类了Docker命令,包括容器运行时管理、文件操作、状态监控、镜像管理等8大类,并特别提醒谨慎使用docker attach命令,可能导致容器卡死。随后重点讲解了镜像拉取(pull)和搜索(search)命令的用法及注意事项
此时容器存在了,并且可以外部网络发现,但无法外部连接,因为结合前面做镜像的知识点,应该不难明白现在这个容器没有SSH软件,毕竟本来就是即插即用的容器,考虑到SSH软件不必要,所以就没自带,至少centos的docker镜像是这样的,只有最基本的rootfs文件。本文前面的知识点介绍容器命令的时候,说过一个cp命令,可以把宿主机和容器的文件相互拷贝,但是这种偏向于比较独立完整的单一文件,有没有想过遇
本文摘要:Kubernetes(K8s)是主流的容器编排工具,通常与Docker配合使用。K8s在1.20版本后不再默认支持Docker,但国内仍普遍采用K8s+Docker组合。K8s采用中心节点架构,包含管理节点和工作节点,提供多种部署方式如kubeadm、minikube等。本文详细介绍了使用kubeadm部署测试集群的步骤,包括环境准备、主机配置、内核升级等操作,为读者构建K8s学习环境提
本文介绍了生产环境下高可用Kubernetes集群的部署方法。与单节点部署不同,高可用集群需要至少3台主节点(建议奇数台)和HAProxy+Keepalived提供负载均衡和虚拟IP入口服务。部署步骤包括:所有节点网络配置、主机名映射、关闭防火墙和SELinux、时间同步、升级内核至5.6.15版本、配置系统参数启用网桥过滤和IP转发、安装IPVS相关模块等环境准备工作。文中详细说明了内核编译、G







