logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Hadoop、Hive On k8s

HDFS、Hive整合后,on k8s 运行

文章图片
#hadoop#hive#kubernetes
SparkStreaming Kafka Kerberos 认证问题

目前在公司开发SparkStreaming 消费kafka数据,因为hadoop集群启用了kerberos认证,走了不少弯路,现在记录一下:代码使用local模式跑是完全ok的,但是run on yarn 上,一直报错:Exception in thread "main" org.apache.kafka.common.KafkaException: Failed to construct kaf

#spark#kafka
Group coordinator lookup failed: The coordinator is not available.问题

背景:最近使用的项目中用到了kafka,并且需要集成kerberos.这边kerberos认证已经通过,但是在消费的时候一直拉不到数据,随后使用shell命令在服务器上消费数据,结果一样。后面更改日志级别,发现一直循环打印如下日志:2020-05-21 10:05:06.651 [ForkJoinPool-1-worker-5] DEBUG org.apache.kafka.clients.Met

#kafka#大数据
R语言安装之Rserve服务初始化

由于调用.R文件脚本是通过Rserve 服务实现的,所以这里必须保证Rserve 服务的可用1: 保证本地安装了R环境2: 准备工作:2.1: 打开本地R.GUI2.2: 安装Rserve: install.packages("Rserve")2.3: 加载Rserve: library(Rserve)2.4: 下面有两种方法,可...

到底了