logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

数据治理(三)-平台架构

本文从数据平台治理角度讲数据治理

文章图片
#数据仓库#数据库架构
数据治理(二)-基线治理

Mapjoin/Auto Mapjoin参数不合理。Map/Join/Reduce参数不合理。ServiceMode参数不合理。小fuxi instance治理。超大merge任务治理。logview异常耗时处理。被高频访问的adm视图治理。D2/DG互通链路治理。D2/DG的DQC治理。高频预警/破线治理。性能差的自定义函数治理。Owner离职/转岗。

#数据仓库#数据库架构
【数据治理】方法论

数据治理是一种组织内部的规范体系,通过组织内各相关方的治理协同,以实现数据资源治理、数据成本治理、数据质量治理、数据稳定性治理,从而保障组织内低成本、高治理的数据资产管理和使用,进而赋能组织业务策略和目标。

文章图片
#数据仓库#数据库架构
hbase docker本地开发环境

部门需求hbase做数据存储,只有一个正式环境集群,没有测试环境.所以考虑本地部署一个hbase测试环境.hbase本地环境部署安装docker容器,windows只支持win10.我是mac,直接从官网下载https://www.docker.com/docker-mac安装启动docker:#拉取容器docker pull harisekhon/hbase#启动容器docker

#hbase#集群#docker
Kafka集群数据同步MirrorMaker

修改配置文件vim $KAFKA_HOME/config/consumer.properties 添加修改bootstrap.servers=HK70:9092,HK69:9092,HK68:9092group.id=hk-consumer-groupauto.offset.reset=earliest##下面SASL加密(如不需要忽略)sasl.jaas.config=org.apache

#kafka
spring boot 与kafka集成

新建spring boot项目这里使用intellij IDEA添加kafka集成maven<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:s

#kafka#intellij idea#spring
到底了