logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

数据迁移工具之DataX

一、DataXDataX 是阿里巴巴开源的一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle 等)、HDFS、Hive、ODPS、HBase、FTP 等各种异构数据源之间稳定高效的数据同步功能。1、DataX框架[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Z79kVoKg-1645612858233)(.\DataX\DataX框架.

#hadoop#big data
Docker基本操作之创建Cgroups

一、DockerDocker作为一个开源的镜像,我们可以很简单的在GitHub上下载到docker的镜像文件,但是对于刚接触到Docker的人来说,我们很难知道Docker源码文件及其包括的内容。下面我将详细介绍Docker源码的文件结构。二、文件介绍...

#运维
利用Java的API实现HBase数据库的增删查改

文章目录一、功能描述二、依赖导入三、配置信息3.1log4j的配置3.2连接配置四、Configuration五、Common六、Java操作HBase集群一、功能描述本功能组件主要通过Java的API实现HBase的操作。利用log4j进行数据迁移过程的记录,采取批处理的方式实现数据迁移的过程。技术实现利用Java的API连接HBase数据库利用log4j将执行信息进行输出,并捕获异常二、依赖导

#hbase#java#数据库 +2
基于Docker-compose构建Kafka集群

首先,先向大家道个歉。由于前段时间的工作调整,导致我一直没有进行更新。现在工作逐渐走上正轨,现在决定继续更新自己学习的内容。希望对于学习或者从事大数据开发的你提供一些帮助。本次更新的内容为如何使用Docker-compose技术进行Kafka集群的构建。...

#docker#kafka#java
详细介绍yum仓库搭建的两种方式

一、yum仓库yum仓库用于存放各种rpm的软件包以及软件包之间的依赖关系,我们正常用rpm命令安装时会导致软件的相互依赖进而导致文件安装失败,yum可以在很大程度上避免这个发生,下面我将详细介绍yum仓库的搭建。二、本地安装1、创建文件存放路径并搭建安装源mkdir /var/repo #创建文件夹mount /iso/CentOS7-1804.iso/var/repo/#挂载镜像源2、查看是否

#运维
Java连接ClickHouse实现数据库基本增删查

引言ClickHose作为一个新的列式数据库,其在实时数仓中作为结果存储的数据库。对于Java程序员来说,我们需要对于ClickHouse进行数据的增删查改,进而支持后续的处理业务。我使用面向对象的思想,实现Java操作ClickHouse的增删改,希望对于学习和使用ClickHouse的你有些帮助。一、依赖导入<dependency><groupId>ru.yandex.

#java#数据库#开发语言
Hive函数大全

一、数学函数1、取整函数: round1.函数描述返回值语法结构功能描述doubleround(double a)返回double类型的整数值部分(遵循四舍五入)2.例程hive> select round(10.235);#----10.0#----2、指定精度取整函数: round1.函数描述返回值语法结构功能描述doubleround(double a, int d)返回指定精度d的d

#hive#hadoop#数据仓库
Docker基础之containerd的shim

一、shimcontainerd下的shim是充当containerd和runc之间的中间件,用来组装runc命令的参数,负责容器中进程的启动。containerd中调用shim时执行的命令如下:/root/lib-containerd/containerd/bin/containerd-shim {containerID} {bundleDirPath} runc其中三个参数如下:1、Arg0:

#运维
Docker基础之容器(container)创建命令

Table of Contents用法postContainersCreateContainerCreatefunc createnewContainerBaseContainertype CommonContainer struct创建一个container的RWLayerMountPoints的设置用法# docker container create --name myetcd etcd_c

#运维#docker
暂无文章信息