logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

三、数据库 vs 数据仓库:不只是“大“与“小“的区别

摘要 数据库与数据仓库的核心区别在于设计目标不同:数据库(OLTP)面向业务系统,强调高并发事务处理;数据仓库(OLAP)面向分析决策,侧重大规模数据聚合分析。主要差异体现在: 数据模型:数据库采用范式化设计减少冗余,数据仓库采用星型/雪花模型优化查询。 存储方式:数据库行存适合点查,数据仓库列存优化扫描分析。 时间视角:数据库关注当前状态,数据仓库存储历史数据支持趋势分析。 数据流向:数据仓库通

#数据库#数据仓库
五、Flink 实时数仓架构全剖析

Flink实时数仓项目架构解析 本文详细介绍了Flink实时数仓项目的完整架构设计,包含四大核心层级: 数据采集层:业务数据通过MySQL+Maxwell,行为数据通过Flume实现双通道采集 消息缓冲层:Kafka作为数据枢纽,按数仓分层设计不同Topic实现数据分流 流处理层:Flink实现精确一次性消费,包括DWD明细处理、DWS聚合计算和DIM维度管理 数据应用层:Doris作为统一查询入

#flink#架构#大数据 +1
六、Hadoop 3.3.6 分布式集群安装部署

Hadoop 3.3.6 集群搭建指南 本文详细介绍了在3台CentOS 7虚拟机上部署Hadoop 3.3.6集群的全流程,内容涵盖: 环境准备:创建hadoop用户、关闭防火墙、配置静态IP和主机名、设置SSH免密登录 基础软件安装:JDK 8安装与集群分发 Hadoop部署: 集群规划(NameNode/ResourceManager角色分配) 软件安装与环境变量配置 核心配置文件修改(hd

#分布式#hadoop#大数据
十五、Flink 核心原理与架构详解

Flink 是一个开源的分布式流处理框架,被设计用于在有界和无界数据流上进行有状态的计算。与传统的微批处理(Micro-Batch)引擎不同,Flink 从底层就将流处理作为一等公民——批处理仅仅是有界流的特例。这种"流批一体"的设计哲学使 Flink 能够在低延迟、高吞吐和精确一次(Exactly-Once)语义之间取得卓越的平衡。Flink 的核心能力包括:有状态计算、事件时间处理、轻量级容错

#flink#架构#大数据 +1
十四、 数据仓库设计

数据仓库设计是数仓建设的核心环节,本文系统介绍了数据仓库的分层规划和构建流程。数据仓库通常采用四层架构:ODS层存储原始数据,DWD层进行数据清洗和维度退化,DWS层实现公共汇总,ADS层面向具体业务应用。构建流程包含数据调研、明确数据域、构建业务总线矩阵、定义统计指标和维度模型设计五个关键步骤。其中,维度建模采用Kimball方法论,通过事实表+维度表的星型或雪花模型组织数据,支持业务分析需求。

#数据仓库#大数据
十七、Redis 核心原理与架构详解

本文系统剖析了Redis的核心架构与关键技术。Redis作为开源内存数据库,支持10万+ QPS,延迟低至亚毫秒级。文章从四个维度展开: 核心架构:采用单线程模型+epoll多路复用,通过RESP协议通信,包含键空间字典和过期字典的双字典设计。 数据结构:采用逻辑类型与物理编码分离的两层架构,自动选择最优编码(如SDS字符串、跳表、压缩列表等),实现高性能操作。 性能优化:纯内存操作、高效数据结构

#redis#架构#数据库 +3
二、Git Flow 完全指南:让你的团队协作井然有序

Git Flow 是一种高效的 Git 分支管理模型,通过定义 main/develop 长期分支和 feature/release/hotfix 短期分支,实现并行开发与版本控制。核心流程包括:从 develop 创建 feature 分支开发新功能;功能完备后创建 release 分支进行测试和发布;出现生产问题时从 main 创建 hotfix 分支紧急修复。相比 GitHub Flow 更

#git#gitlab#团队开发
六、Hadoop 3.3.6 分布式集群安装部署

Hadoop 3.3.6 集群搭建指南 本文详细介绍了在3台CentOS 7虚拟机上部署Hadoop 3.3.6集群的全流程,内容涵盖: 环境准备:创建hadoop用户、关闭防火墙、配置静态IP和主机名、设置SSH免密登录 基础软件安装:JDK 8安装与集群分发 Hadoop部署: 集群规划(NameNode/ResourceManager角色分配) 软件安装与环境变量配置 核心配置文件修改(hd

#分布式#hadoop#大数据
七、ZooKeeper 原理与常见应用场景

ZooKeeper是Apache开源的分布式协调服务,主要用于解决分布式系统中的一致性问题。其核心特性包括高可用、强一致性和高性能,采用树形结构的ZNode数据模型,支持四种节点类型(持久/临时节点及其顺序变体)。ZooKeeper集群通过主从架构和ZAB协议实现数据一致性,包含Leader、Follower和Observer三种角色。Watch机制提供事件驱动通知功能,适用于分布式锁、配置中心、

#flink#zookeeper#分布式 +1
八、Kafka 原理与常见应用场景

Kafka是一个分布式流处理平台,具备发布订阅、持久化存储和实时流处理三大核心能力。其架构基于Broker节点、Topic分区和副本机制,通过顺序写入、零拷贝、页缓存等技术实现高吞吐低延迟。支持消费者组并行消费和消息广播,但需注意Rebalance问题。典型应用场景包括日志收集、系统解耦削峰和实时数据管道,适用于高并发数据传输和处理需求。

#kafka#分布式#flink +1
    共 17 条
  • 1
  • 2
  • 请选择