logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

(十一)大数据实战——hadoop高可用之HDFS手动模式高可用

本节内容我们介绍一下hadoop在手动模式下如何实现HDFS的高可用,HDFS的高可用功能是通过配置多个 NameNodes(Active/Standby)实现在集群中对 NameNode 的热备来解决上述问题。如果出现故障,如机器崩溃或机器需要升级维护,这时可通过此种方式将 NameNode很快的切换到另外一台机器,并通过JournalNode实现主备节点的数据同步。

文章图片
#大数据#hadoop#hdfs
(十六)大数据实战——安装使用mysql版的hive服务

hive默认使用的是内嵌据库derby,Derby 是一个嵌入式数据库,可以轻松地以库的形式集成到应用程序中。它不需要独立的服务器进程,所有的数据存储在应用程序所在的文件系统中。为了支持hive服务更方便的使用,我们使用mysql数据库的方式,使得服务部署更加灵活。数据库是分开部署的,使用十分灵活,性能也相对更高。

文章图片
#大数据#hive
(六)库存超卖案例实战——使用mysql分布式锁解决“超卖”问题

本节内容是关于使用分布式锁解决并发访问“超卖”问题的最终篇,在前面的章节中我们介绍了使用mysql的行锁、乐观锁、悲观锁解决并发访问导致的超卖问题,存在的问题是行锁、乐观锁、悲观锁不太灵活,需要和具体的业务耦合到一起,不利于使用,本节内容我们通过mysql的唯一索引特性,数据不能重复插入,达到独占排它的基本要求,实现通用的分布式锁功能。

文章图片
#spring boot
(三)库存超卖案例实战——使用redis分布式锁解决“超卖”问题

在上一节内容中我们介绍了如何使用mysql数据库的传统锁(行锁、乐观锁、悲观锁)来解决并发访问导致的“超卖问题”。虽然mysql的传统锁能够很好的解决并发访问的问题,但是从性能上来讲,mysql的表现似乎并不那么优秀,而且会受制于单点故障。本节内容我们介绍一种性能更加优良的解决方案,使用内存数据库redis实现分布式锁从而控制并发访问导致的“超卖”问题。关于redis环境的搭建这里不做介绍,可查看

文章图片
#spring boot
(二)大数据实战——hadoop的模板虚拟机搭建

在实际的开发过程中,我们的hadoop都是以集群的方式存在,该系列内容我们使用vmware工具构建我们的虚拟机,从而实现hadoop集群搭建。在开始hadoop集群搭建之前,我们需要先创建一个模板虚拟机,便于我们集群虚拟机的快速克隆复制使用。关于vmware工具的安装,这里不在介绍,读者可以查看我往期的博客内容。

文章图片
#大数据#hadoop
(六)devops持续集成开发——jenkins的全局工具配置之node环境安装及配置

本节内容主要是关于jenkins集成node组件,从而实现前端node项目的流水线CICD发布功能。我们需要先安装好前端组件node,并在jenkins中配置好node组件,这样就可以流水线发布一个前端工程了。

文章图片
#jenkins#devops#ci/cd
(十三)devops持续集成开发——jenkins流水线发布一个sonar qube质量检查项目

在前面的内容中我们已经介绍过如何在jenkins中集成质量检查工具sonar qube,以及sonar qube服务的安装。本节内容我们通过使用jenkins构建一个包含sonar qube质量检查的流水线项目,从而实现项目部署发布上线前的代码质量检查。从而保证系统的稳定性。

文章图片
#jenkins#devops#ci/cd
(三十)大数据实战——HBase集成部署安装Phoenix

Phoenix 是一个开源的分布式关系型数据库查询引擎,它基于 Apache HBase构建。它提供了在 Hadoop 生态系统中使用 SQL查询和事务处理的能力。本节内容我们主要介绍一下Hbase如何集成部署安装Phoenix服务工具,并集成hive框架,能够快速、灵活和可扩展的方式来在Hadoop生态系统中进行 SQL 查询和事务处理。

文章图片
#大数据#hbase#hive
(二)devops持续集成开发——jenkins的权限管理配置

jenkins作为目前主流的devops工具,受到了广大开发用户的追捧。由于其丰富的插件库,其可插拔的功能使得其功能和生态都十分强大,本节内容是关于jenkins的权限管理组件Role-based Authorization Strategy的安装及使用。

文章图片
#jenkins#devops#ci/cd
(八)devops持续集成开发——jenkins流水线发布一个docker版的后端maven项目

本节内容我们使用jenkins的流水化工具发布一个后端docker项目,实现后端项目的容器化部署。在开始本节内容之前,我们需要在生产环境安装好docker环境并且能够联网下载镜像。通过jenkins的流水化工具,实现代码拉取,maven打包编译,上传运行项目到生产服务器,打包docker镜像,启动镜像容器,通过这个完整流程实现一个docker环境的后端项目发布。

文章图片
#jenkins#devops#ci/cd
    共 43 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择