logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

企业级大数据项目【3】数仓-流量域DWD-DWS开发篇

1DW层整体设计建模思想:DWD:放明细数据DWS:数仓服务层;它的建模思想,就是为最终需求计算来提供支持服务,所以建模相对灵活常见的建模套路有:1.建大宽表(对应:维度建模思想中的维度退化)2.轻度聚合3.看具体需求(如,用户连续活跃区间记录表)1.1技术选型概述存储:HDFS运算:HIVE/SPARK1.2输入输出数仓内部输入dwd层事实表及dim层维度表输出dws层聚合表1.3主题模型举例流

#大数据#数据分析#数据仓库 +2
企业级大数据项目【2】数仓-流量域ODS-DWD开发篇

1数仓整体说明什么数仓:一个面向分析的,反映历史变化的数据仓库;数仓的技术手段:1)传统数仓一般都是采用关系型数据库软件;2)大数据领域中则尚无一站式解决方案,通常需要用到很多技术组件来实现不同环节:使用HDFS做存储使用 spark、mapreduce 作为底层计算引擎使用hive或者sparksql,作为sql引擎另外,还有impala/presto纯内存运算引擎,kylin,clickhou

《大型综合项目-基于大数据平台的数据仓库》学习笔记(08):ID-MAPPING

目录一、id-mapping概述二、id-mapping技术手段1:借助redis三、id-mapping技术手段2:借助图计算四、id-mapping开发实现        1、开发目标        2、整体逻辑        3、重点细节问题  &...

《大型综合项目-基于大数据平台的数据仓库》学习笔记(15):用户画像概念介绍篇

目录一、用户画像基本概念二、用户画像的应用一、用户画像基本概念用户画像是大数据领域中一个非常核心的应用,它是和精准营销、精细化运营直接钩挂的。用户画像一点也不神秘,它是根据用户在互联网留下的种种数据,主动或被动地收集,最后加工成一系列的标签。比如猜用户是男是女,哪里人,工资多少,有没有谈恋爱,喜欢什么,准备剁手购物吗?二、用户画像的应用用户画像在企业迈大迈强的过程中有举足轻重的...

#数据仓库
《大型综合项目-基于大数据平台的数据仓库》学习笔记(12):埋点日志报表篇3

目录一、【App分析】app版本升级分析        1、需求分析        2、ADS模型:ADS_APP_UPG        3、计算               1)、计算...

《大型综合项目-基于大数据平台的数据仓库》学习笔记之(05):数据采集篇

目录一、日志埋点技术二、Flume采集系统架构图三、4.3Sqoop/DataX采集业务数据       1、导入策略分析              1)、要导入的表             &nb...

#数据仓库
27_多易教育之《yiee数据运营系统》数据治理-atlas部署使用篇

目录一、atlas编译打包二、atlas安装配置        1、编译环境        2、编译步骤        3、安装步骤        4、hive-hook钩子配置      &nb...

26_多易教育之《yiee数据运营系统》数据治理-atlas介绍篇

目录一、前言二、概要介绍三、核心组件        1、Core        2、Integration        3、Metadata source        4、Applications四、核心特性&nbsp...

《大型综合项目-基于大数据平台的数据仓库》学习笔记之(04):数仓概念篇2

目录一、事实和维度       1、基本概念       2、事实表及维度举例       3、维表举例       4、维度建模经典模型二、数仓分层管理       1、数仓分层概述...

#数据仓库
jquery向服务端发送json数据的api模板

1、第一种,后端采用String接收$("#confirm1").click(function (){var jsonArr=[{"count":1,"name":"aa"},{"count":2,"name":"bb"}];$.ajax({type: 'post',url: 'getJsonData1',data: ...

    共 12 条
  • 1
  • 2
  • 请选择