logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

(四)大数据集群运维

大数据集群运维1:集群扩容均衡1.1:hdfs均衡bash /opt/client/HDFS/hadoop/sbin/start-balancer.sh -threshold 偏差值例如:bash /opt/client/HDFS/hadoop/sbin/start-balancer.sh -threshold 10这个命令中-threshold 参数值是 HDFS 达到平衡状态的磁盘使用率偏差值

文章图片
#hadoop#大数据#hdfs
linux或者windows系统离线安装nginx和jenkins实现vue前端代码自动化部署

1:安装dockerdocker安装以及使用安装成功后docker verion检查是否安装成功1:启动docker systemctl start docker2:检查docker运行状态systemctl status docker3:利用docker部署nigex2:linux部署nigexNginx相关地址源码:https://trac.nginx.org/nginx/browser官网:

文章图片
#linux#nginx#jenkins
windows以及linux常用运维命令

cdm目录切换1:ctrl+r进去cmd2:dir:当前目录文件展示,相当于linux的ll3:目录切换磁盘名。例如:或者f:即可进入目录: cd 路径4:查看ip

文章图片
#linux#运维#windows
(5.2)kafka消费者源码——Fetcher类

Fetcher类的主要功能是发送Fetcher请求,获取指定消息集合,处理FetchResponse,更新消息位置。fetchedRecords处理已经获取的每个分区的记录,清空记录缓冲区并更新消耗位置。向分配分区的所在节点发送fetch请求,拉取数据sendFetches。此类管理broker上的的提取过程。...

#kafka#java#分布式
flink流处理实战样例

flink概念介绍flink源码以及样例等:https://github.com/apache/flinkflink各个版本开发文档:https://nightlies.apache.org/flink/1:实战1:flink的StreamExecutionEnvironment这StreamExecutionEnvironment是所有 Flink 程序的基础(创建批处理请使用Execution

文章图片
#flink#big data#java
(4.3)kafka生产者源码——Partitioner分区器,决定消息发送的分区

通过类图查看默认的Partitioner接口只有一个实现类DefaultPartitioner,也可以自己实现接口自定义每个topic都有一个固定的随机数作为开头,用于hash计算。

#kafka#哈希算法#分布式
(二)ElasticSearch结合kibana常见运维命令使用

1:ES在linux使用curl工具查询文章目录1:ES在linux使用curl工具查询1.1curl1.2:curl的shell使用1.3:curl -X2:结合kibana使用ES2.1常用运维命令2.1.1:get _cluster/health :查看集群状态2.1.2:GET /_nodes/stats:查看节点索引性能状态2.1.3:ES的cat 操作,查看ES的各种数据:get _.

文章图片
#elasticsearch#大数据
(5.1)kafka消费者源码——消费者demo及源码解析

消费者分为高级和简单两种消费者高级:消费者组形式消费,更加简单高效可以使用shell命名消费topic使用客户端消费2:源码解析主要类介绍消费数据时最终调用发起消费的请求。下面进入分析消费者和分区的消费订阅关系在处实现。............

#kafka#java#分布式
(5.3)kafka消费者源码——SubscriptionState类

SubscriptionState是KafkaConsumer用来追踪TopicPartition和offset的对应关系。

#kafka#分布式
linux部署java程序启动停止脚本

java程序linux部署启动停止脚本1:启动start#!/bin/shBASE="$(dirname $(readlink -f $0))"#获取当前程序部署目录APPNAME=$BASE/LIB_PATH="$BASE/lib"#获取lib目录CONF=$BASE/conf#获取conf配置文件目录APPJAR=KafkaMessToLocal.jar#打包的程序jar包名if [ ! -d

文章图片
#linux#java#bash
    共 44 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择