logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

hive中的contact,concat_ws,collect_set(),explode实现行列互转

hive工作中用到的一些拼接函数1. concat(string s1, string s2, string s3)这个函数能够把字符串类型的数据连接起来,连接的某个元素可以是列值。如 concat( aa, ':', bb) 就相当于把aa列和bb列用冒号连接起来了,aa:bb。2. cast用法:cast(value as type)功能:将某个列的值显示的转化为某个类型例...

文章图片
#hive
正则表达式入门!附常用表达式

首先区分一下正反斜杠,这两个经常搞混。正斜杠:/ 一般用作除号或者间隔,也可以叫撇斜杠或撇杠;反斜杠:\ 一般用作目录,也可以叫捺斜杠或捺杠;注意一点:在window系统下,\ 表示目录,在unix系统下,/ 表示目录,由于web遵循unix命名,所以网址(URL)用 / 表示目录;一、元字符元字符是构造正则表达式的一种基本元素。. :匹配除换行符以外的任意字符w:匹配字母或...

文章图片
#正则表达式#unix#服务器
DataX批量生成json文件(java程序)

DataX抽数时,需要配置json文件,如果一两个可以手动配就完事了,但是如果有上百个,手动配的话就要死人了,所以简单写了个java程序,批量生成json文件,包括全量导数和增量导数。首先,需要配一个相关参数文件,设定格式:ip|port|username|password|schema|table|target_table|splitPk|pk_column|columns|add_col...

#java#json
canal+kafka部署测试全记录

canal地址:https://github.com/alibaba/canal

springboot项目apollo加载顺序调整

问题:项目做配置分离,apollo配置kafka参数,传到logback,启动时拉不到这个参数。原因:apollo配置加载顺序问题,logback初始化时apollo配置还没有注入到spring容器解决办法:调整apollo加载优先级,添加参数:# 启用Apollo配置开关 在应用启动阶段是否向Spring容器注入被托管的properties文件配置信息。apollo.bootstrap.enab

java读文件判断编码格式

是 Mozilla 开发的一个 Java 库,用于自动检测字符集的编码格式。首先,需要将需要检测编码的字符串转换为。来判断字符串的编码格式。Java 中可以使用。

文章图片
#java
JDBC连接Hive获取YARN application_id和进度信息

待写....参考:https://blog.csdn.net/supperman_009/article/details/77508354

SpringBoot跨系统调用接口方案

参考:Spring Boot实现跨系统接口调用

#spring boot#java#后端
kafka消费者offset相关说明

1.kafka中的offset概念Last Committed Offset:consumer group 最新一次 commit 的 offset,表示这个 group 已经把 Last Committed Offset 之前的数据都消费成功了。Current Position:consumer group 当前消费数据的 offset,也就是说,Last Committed Offset 到

#kafka
    共 12 条
  • 1
  • 2
  • 请选择