logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

hbase启动时报错:java.lang.NoClassDefFoundError: org/htrace/Trace

hbase启动时报错:java.lang.NoClassDefFoundError: org/htrace/Tracehadoop2.6,搭配hbase1.0.1,启动hadoop时,报错如下:java.lang.NoClassDefFoundError: org/htrace/Traceat org.apache.hadoop.ipc.ProtobufRpcEngine$...

拉链表和快照表的选择

有明确的流程节点的适用于累计快照事实表。而对于维度缓慢变化或者说没有明确的顺序&流程节点的则考虑快照表。

文章图片
#数据库#hive
Idea突然启动报错,显示kotlin版本问题

kotlin版本问题的解决方案之插件disable

文章图片
#java#ide
flink读取kafka

flink1.11.读取kafka数据Watermark的核心本质可以理解成一个延迟触发机制。在 Flink 的窗口处理过程中,如果确定全部数据到达,就可以对 Window 的所有数据做 窗口计算操作(如汇总、分组等),如果数据没有全部到达,则继续等待该窗口中的数据全 部到达才开始处理。这种情况下就需要用到水位线(WaterMarks)机制,它能够衡量数据处 理进度(表达数据到达的完整性),保证事

flink中和数据共享和参数传递

Flink中参数传递和数据共享众所周知,flink作为流计算引擎,处理源源不断的数据是其本意,但是在处理数据的过程中,往往可能需要一些参数的传递,那么有哪些方法进行参数的传递?在什么时候使用?这里尝试进行简单的总结。使用configuration  在main函数中定义变量// Class in Flink to store parametersConfiguration configuratio

pycharm 插件

大家好,我是一行之前一行分享过Python好用的几种编辑器IDLE,测试Python有没有下载成功jupyter notebook & spyder, 用来做数据分析pycharm,python开发的大杀器vscode,txt等等,小众猿群使用那在用pycharm这个python开发大杀器的同时,一行也来分享几个它很好用的插件,来给你的搬砖提提速1staticsstaitcs可以作为KPI

#python#pycharm#ide
数仓建设及数据治理

数仓为什么要分层?用空间换时间,通过大量的预处理来提升应用系统的用户体验(效率),因此数据仓库会存在大量冗余的数据;不分层的话,如果源业务系统的业务规则发生变化将会影响整个数据清洗过程,工作量巨大。通过数据分层管理可以简化数据清洗的过程,因为把原来一步的工作分到了多个步骤去完成,相当于把一个复杂的工作拆成了多个简单的工作,把一个大的黑盒变成了一个白盒,每一层的处理逻辑都相对简单和容易理解,这样我们

#postgresql#数据库
Group by后使用rollup

一、如何理解group by后带rollup子句所产生的效果group by后带rollup子句的功能可以理解为:先按一定的规则产生多种分组,然后按各种分组统计数据(至于统计出的数据是求和还是最大值还是平均值等这就取决于SELECT后的聚合函数)。因此要搞懂group by后带rollup子句的用法主要是搞懂它是如何按一定的规则产生多种分组的。另group by后带rollup子句所返回的结果集,

Java8之Stream基本特性

什么是StreamStream 中文称为 “流”,通过将集合转换为这么一种叫做 “流” 的元素序列(注意是抽象概念),通过声明性方式,能够对集合中的每个元素进行一系列并行或串行的流水线操作。通俗来说就是你只用告诉“流”你需要什么,便在出口处等待结果接口。上图为Steam操作的基本流程,在后面的学习过程中可反复与具体的代码进行对照,加深学习印象。Stream相关概念Str...

    共 14 条
  • 1
  • 2
  • 请选择