logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

flink之延迟数据处理watermark allowedLateness() sideOutputLateData()

针对eventtime处理乱序数据,如何保证在需要的窗口内获得指定的数据?flink采用watermark allowedLateness() sideOutputLateData()三个机制来保证获取数据先来示例import org.apache.flink.streaming.api.TimeCharacteristicimport org.apache.flink.strea...

For input String: "xx"错误

   最常见的这个错误是类型转化异常,例如字符串Integer.parseInt("123abc"),abc不能转化为数字,通常在console报错栏可以找到对应位置。    由此在使用hibernate开发的时候 从数据库进进行多表连接查询,使用的是sql方法,查询的字段数据查到了,用List<User> users接收,在向前端传数据过程中mod

hive创建1-10的多条记录,或者一条数据复制为多条记录

poexplode可以改为explode和rownumber。其中repeat函数可以改为space(10)2.udtf函数1变多。

文章图片
#hive
R语言-连接Mysql数据库

第一步> install.packages("RODBC")第二步>https://downloads.mysql.com/archives/c-odbc/ 下载odbc.msi包,一路yes安装。第三步>我的电脑->控制面板->管理工具->ODBC 数据源(64 位)->添加->输入mysql信息记得test connect下第四步>libr

详细讲解hive on tez中各个参数作用,以及如何优化sql

最近经常有优化sql的任务,但是自己能力有限,只能凭经验去优化,现整理加学习一波,也欢迎各位学习和讨论。我们经常用hivesql 的模型就是 join.如下。这里面发生了什么,执行流程是什么,为什么有的insert要几十分钟有的只要几分钟。--造1000w条数据 文件大小为300M已知上面的数据为1000w条其中 id=1的有1000条 其余id=1000到1000w的依次分布。

文章图片
#hive#sql#hadoop
hive如何取出数据的前几个元素

今天遇到个问题,例如selectcompany_name,concat_ws(',',collect_set(contract_num)) contract_numsfrom tablegroup by contract_num如果这个contract_nums数量有100个,我只显示5个。那么怎么办呢?1.基础版select concat_ws(",",array(array('1','2','

#hive
hive decimal计算出现null或者精度丢失

hive decimal计算出现null或者精度丢失

hive之正则函数研究学习regex/regex_replace/regex_extract

首先学习这个之前要先知道一些正则的基本知识。随便百度一下将下一个字符标记为一个特殊字符、或一个原义字符、或一个 向后引用、或一个八进制转义符。例如,'n' 匹配字符 "n"。'\n' 匹配一个换行符。序列 '\\' 匹配 "\" 而 "\(" 则匹配 "("。匹配输入字符串的开始位置。如果设置了 RegExp 对象的 Multiline 属性,^ 也匹配 '\n' 或 '\r' 之后的位置。匹配输

文章图片
#学习
kafka踩坑-kafka能够连上,但是消费者无消费

object MyKafkaSenderUtil {val props = new Properties()// Kafka服务端的主机名和端口号props.put("bootstrap.servers", "hadoop201:9092,hadoop202:9092,hadoop203:9092")// key序列化props.put("key...

#kafka
oracle和hive之间关于sql的语法差异及转换

oracle存储过程中的各种oracle的独有用法如何转化为hive的函数,以及oracle和hive语法之间的差异

文章图片
#oracle#hive
    共 27 条
  • 1
  • 2
  • 3
  • 请选择