logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Hadoop集群的高可用(HA)搭建

本文介绍了Hadoop高可用集群的配置过程,主要包括ZooKeeper集群搭建、HDFS和YARN高可用配置。配置步骤包括:1)设置ZooKeeper集群环境变量和数据目录;2)配置HDFS高可用性,包括NameNode、JournalNode和故障转移设置;3)配置YARN资源管理器高可用性;4)节点规划与软件安装要求;5)ZooKeeper集群的详细配置步骤;6)HDFS和YARN服务的启动流

#hadoop#linux#大数据
Hadoop 框架入门:核心架构与工作原理

Hadoop 是一个开源的分布式计算框架,专为处理海量数据(TB/PB 级)设计,具有高容错性、高扩展性和低成本的特点。它的核心是和两大能力,通过集群化部署实现对大规模数据的高效处理。

#hadoop#大数据#分布式
Spark on Hive

Hive 作为主导框架,将默认计算引擎从 MapReduce 替换为 Spark,即用 Spark 执行 HQL 查询,充分利用 Spark 的内存计算优势提升 Hive 的处理速度。Spark 作为主导框架,通过 Spark SQL 读取 Hive 的元数据(Metastore),直接操作 Hive 中的数据,即用 Spark SQL 处理 Hive 表数据,此时 Hive 仅作为 “元数据管理

文章图片
#hive#spark#大数据 +3
KingbaseES(人大金仓)Linux系统部署

在安装KingbaseES时,安装用户对于安装路径需有“读”、“写”、“执行”的权限。也可以自定义安装路径。定制安装:在数据库服务器、高可用组件、接口、数据库开发管理工具、数据库迁移工具、数据库部署工具所有组件中自由选择。根据安装后数据库服务功能的不同,KingbaseES可分为完全安装、客户端安装和定制安装三种安装集。完全安装:包括数据库服务器、高可用组件、接口、数据库开发管理工具、数据库迁移工

文章图片
#服务器#前端#linux +1
人大金仓 KingbaseES 数据库深度解析

人大金仓作为国产数据库"国家队"核心成员,其核心产品KingbaseES(KES)形成了三大分布式架构模式:TDC集群支持高并发事务场景,Sharding集群满足混合负载需求,ADC集群面向大数据分析。同时通过多模一体化存储和集中-分布一体化架构,实现关系型、文档、时序等数据的统一管理,支持从单机到分布式的平滑扩展。此外还提供异地多活灾备和异构同步等增强模式,满足关键行业对高可

文章图片
#数据库#大数据
人大金仓 KingbaseES 数据库深度解析

人大金仓作为国产数据库"国家队"核心成员,其核心产品KingbaseES(KES)形成了三大分布式架构模式:TDC集群支持高并发事务场景,Sharding集群满足混合负载需求,ADC集群面向大数据分析。同时通过多模一体化存储和集中-分布一体化架构,实现关系型、文档、时序等数据的统一管理,支持从单机到分布式的平滑扩展。此外还提供异地多活灾备和异构同步等增强模式,满足关键行业对高可

文章图片
#数据库#大数据
KingbaseES常用配套工具

本文介绍了金仓数据库(KingbaseES)系列工具的六大核心功能模块及辅助运维工具: 数据迁移工具(KDTS)支持异构/同构数据库迁移,提供图形化界面和自动类型转换; 迁移评估工具(KDMS)可进行迁移前兼容性分析和SQL转换; 开发管理工具(KStudio)提供SQL编辑、调试等一体化开发环境; 运维管控平台(KOPS)实现多实例集中监控与批量管理; 快速开发平台(KESPlus)整合应用开发

文章图片
#大数据
Canal安装

它的核心作用是,主要用于解析,把这些变化数据同步到其他系统,比如 Kafka、Elasticsearch,甚至是其他数据库。常见的用例数据同步: 你有两个 MySQL 数据库,一个主数据库(生产库),一个从数据库(备份库),Canal 就是“搬运工”,实时把数据变化从主库同步到从库。数据中台: 你需要把 MySQL 的数据实时推到 Kafka,然后再分发到各种业务系统。消息驱动: 当数据库里某条数

文章图片
#sql#mysql
到底了