
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
摘要 数据库与数据仓库的核心区别在于设计目标不同:数据库(OLTP)面向业务系统,强调高并发事务处理;数据仓库(OLAP)面向分析决策,侧重大规模数据聚合分析。主要差异体现在: 数据模型:数据库采用范式化设计减少冗余,数据仓库采用星型/雪花模型优化查询。 存储方式:数据库行存适合点查,数据仓库列存优化扫描分析。 时间视角:数据库关注当前状态,数据仓库存储历史数据支持趋势分析。 数据流向:数据仓库通
Flink实时数仓项目架构解析 本文详细介绍了Flink实时数仓项目的完整架构设计,包含四大核心层级: 数据采集层:业务数据通过MySQL+Maxwell,行为数据通过Flume实现双通道采集 消息缓冲层:Kafka作为数据枢纽,按数仓分层设计不同Topic实现数据分流 流处理层:Flink实现精确一次性消费,包括DWD明细处理、DWS聚合计算和DIM维度管理 数据应用层:Doris作为统一查询入
Hadoop 3.3.6 集群搭建指南 本文详细介绍了在3台CentOS 7虚拟机上部署Hadoop 3.3.6集群的全流程,内容涵盖: 环境准备:创建hadoop用户、关闭防火墙、配置静态IP和主机名、设置SSH免密登录 基础软件安装:JDK 8安装与集群分发 Hadoop部署: 集群规划(NameNode/ResourceManager角色分配) 软件安装与环境变量配置 核心配置文件修改(hd
Flink 是一个开源的分布式流处理框架,被设计用于在有界和无界数据流上进行有状态的计算。与传统的微批处理(Micro-Batch)引擎不同,Flink 从底层就将流处理作为一等公民——批处理仅仅是有界流的特例。这种"流批一体"的设计哲学使 Flink 能够在低延迟、高吞吐和精确一次(Exactly-Once)语义之间取得卓越的平衡。Flink 的核心能力包括:有状态计算、事件时间处理、轻量级容错
数据仓库设计是数仓建设的核心环节,本文系统介绍了数据仓库的分层规划和构建流程。数据仓库通常采用四层架构:ODS层存储原始数据,DWD层进行数据清洗和维度退化,DWS层实现公共汇总,ADS层面向具体业务应用。构建流程包含数据调研、明确数据域、构建业务总线矩阵、定义统计指标和维度模型设计五个关键步骤。其中,维度建模采用Kimball方法论,通过事实表+维度表的星型或雪花模型组织数据,支持业务分析需求。
本文系统剖析了Redis的核心架构与关键技术。Redis作为开源内存数据库,支持10万+ QPS,延迟低至亚毫秒级。文章从四个维度展开: 核心架构:采用单线程模型+epoll多路复用,通过RESP协议通信,包含键空间字典和过期字典的双字典设计。 数据结构:采用逻辑类型与物理编码分离的两层架构,自动选择最优编码(如SDS字符串、跳表、压缩列表等),实现高性能操作。 性能优化:纯内存操作、高效数据结构
Git Flow 是一种高效的 Git 分支管理模型,通过定义 main/develop 长期分支和 feature/release/hotfix 短期分支,实现并行开发与版本控制。核心流程包括:从 develop 创建 feature 分支开发新功能;功能完备后创建 release 分支进行测试和发布;出现生产问题时从 main 创建 hotfix 分支紧急修复。相比 GitHub Flow 更
Hadoop 3.3.6 集群搭建指南 本文详细介绍了在3台CentOS 7虚拟机上部署Hadoop 3.3.6集群的全流程,内容涵盖: 环境准备:创建hadoop用户、关闭防火墙、配置静态IP和主机名、设置SSH免密登录 基础软件安装:JDK 8安装与集群分发 Hadoop部署: 集群规划(NameNode/ResourceManager角色分配) 软件安装与环境变量配置 核心配置文件修改(hd
ZooKeeper是Apache开源的分布式协调服务,主要用于解决分布式系统中的一致性问题。其核心特性包括高可用、强一致性和高性能,采用树形结构的ZNode数据模型,支持四种节点类型(持久/临时节点及其顺序变体)。ZooKeeper集群通过主从架构和ZAB协议实现数据一致性,包含Leader、Follower和Observer三种角色。Watch机制提供事件驱动通知功能,适用于分布式锁、配置中心、
Kafka是一个分布式流处理平台,具备发布订阅、持久化存储和实时流处理三大核心能力。其架构基于Broker节点、Topic分区和副本机制,通过顺序写入、零拷贝、页缓存等技术实现高吞吐低延迟。支持消费者组并行消费和消息广播,但需注意Rebalance问题。典型应用场景包括日志收集、系统解耦削峰和实时数据管道,适用于高并发数据传输和处理需求。







