logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

记录一次hiveserver2卡死(假死)问题

由于执行的sql太长导致hive卡死的问题记录

文章图片
#大数据#hive
sqoop从mysql导入数据到hive,密码比较复杂时要用英文单引号‘‘

上一篇博客 同样的问题 https://blog.csdn.net/weixin_41956627/article/details/108238467今天发现mysql密码比较复杂,有个 & 符合,要用单引号括起来才行不处理的时候密码被拆了,两个报错如下:1、未找到命令,2、把mysql指到本地地址了其中192.168.x.x是远程mysql的地址,172.xxx是sqoop本地地址[ro

#sqoop
记录一次脏数据导致flink任务失败的处理

这个报错,我记得以前有字符长度不够时,日志会记录是哪个字段长度不够导致的,但这次的日志没有指出具体是哪个字段有问题,排查发现应该不是mysql字段长度不够导致,后来在网上看可能是时间类型字段不匹配也会导致此报错。最终抓取到异常数据,有个日期相关的字段值为‘0024-01-16’(正确的应该为2024-01-16),这个格式写入mysql的timestamp类型字段会报错。是报错中的 CreateT

文章图片
#flink#大数据
hive on spark报错:Client closed before SASL negotiation finished

hive on spark报错 Client closed before SASL negotiation finished

#hive#spark#大数据
hive insert into 插入数据后表中原来的数据丢失了

转载自 https://zhidao.baidu.com/question/689926317574498524.html您好,问下您是否在表名加了这种 `` 号?如果是建议你使用以下这种方式处理转义字符,可以正常insert into `DatabaseName`.`TableName`例如,insert into `db`.`tableA` select t.a, t.b from table

pandas to_sql写入数据很慢

最开始没加dtype,发现to_sql很慢,几百条数据都要十多秒;而且有时候会有如下莫名其妙的报错,但仔细检查数据发现数据是没问题的。后面加上 to_sql 中加上 dtype 参数后,就快非常快了,上万条数据不到1s,而且同样的数据也没报错了。嫌pandas的to_sql方法过慢?神方法让你一分钟搞定。有个任务需要通过pandas向oracle写数据。这个好像是专门针对postgresql 的。

文章图片
#pandas#sql#数据库
flink-Table&sql-碰到的几个问题记录

flink-sql读取kafka数据(json)报错:Could not find any factories that implement ‘org.apache.flink.table.factories.DeserializationFormatFactory’ in the classpath.at org.apache.flink.table.factories.FactoryUtil.

#flink
presto整合hive问题记录

sqlinsert into hive.db.tb1 partition(dt)selectaaa,bbb,dtfrom hive.db.tb2where xxx;Q1:报错:failed: line 1:38: mismatched input ‘partition’. Expecting: ‘(’, <query>解决办法:去掉sql中的partition(dt),presto写的

到底了