logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

hadoop distcp报错记录

1.报如下错误:Caused by: java.io.IOException: Check-sum mismatch between hdfs://xxx.xxx.xxx.xxx:8888/warehouse/dtp.db/stg_t02_lender_predict_income/003584_0 and hdfs://nebula/user/nebula/warehouse/ods/le...

#hadoop#hdfs
postman+jwt接口做各个环境接口测试

最近公司做的项目中用到了jwt做登录校验,在请求接口时候需要在header中加入X-Authorization(此处吐槽下做登录校验的同事,如果用Authorization的话postman天然支持Bearer Token),值为Bearer xxxxxx,jwt生成的token时间长了就自动过期失效了,每次改postman中头部有点浪费时间,同时如果要测试不同的环境还得改变请求的地址。基于以上两

#postman#测试
项目开源准备-license和notice文件

近期接到个任务,组内有个项目计划开源,让我负责生成license和notice文件,看了网上别的开源项目的,最终采用org.codehaus.mojo.license-maven-plugin和org.jasig.maven.maven-notice-plugin这两个插件,pom配置如下:<plugin><groupId>org.codehaus.mojo</gro

#maven
java操作kudu1.8

kudu1.8没有提供Linux客户端可供使用,所以只能通过api进行测试。pom引入kudu-client<dependency><groupId>org.apache.kudu</groupId><artifactId>kudu-client</artifactId><version&gt...

安装k8s-v1.20.6

本文将基于虚拟机器中centos7.9安装单节点k8s-v1.20.6。0.系统信息ip: 172.16.89.2hostname: hadoop00user: root1.系统参数配置1.1 关闭swap# 不关闭swap初始化会报错,有办法跳过,但是建议还是关闭swapoff -ased -i.bak '/swap/s/^/#/' /etc/fstab1.2关闭selinuxsetenforc

文章图片
#docker#k8s#kubernetes +1
kafka 0.10.2.2配置kerberos

公司最新需要新搭建一套带kerberos的kafka集群,kerberos已经有别的团队搭建完成,此文章只记录kafka配置kerberos的部分。在kerberos配置kafka用户# 创建kafka/hadoop03用户kadmin.local -q "addprinc -randkey kafka/hadoop03"# 导出keytab文件kadmin.local -q

#kafka
flinkcdc同步mongo数据到clickhouse

通过flink-mongo-cdc同步数据到clickhouse

#mongodb#flink#大数据
到底了