logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

如何将HDFS文件系统挂载到Linux本地文件系统

本文转自https://cloud.tencent.com/developer/article/1078538,如果侵权请联系我删除。1.文档编写目的Hadoop支持通过NFSv3挂载HDFS文件系统到本地目录,允许用户像访问本地文件系统一样访问HDFS,对于普通用户来说大大的简化了HDFS的使用。该功能通过引入NFS Gateway服务实现,将NFS协议转换为HDFS访问协议。本篇文章主...

K8S原理、安装和部署

参考:Kubernetes中文文档一、K8S架构和原理首先看一下K8S的架构图,方便对组件有所了解Master主要有以下组件:apiserver: K8s的网关,提供了资源操作的唯一入口,并提供认证、授权、访问控制、API注册和发现等机制,;controller manager负责维护集群的状态,比如故障检测、自动扩展、滚动更新等,类似于CRUD,不直接调度node节点,而是把指令给Apiserv

Flink on K8s安装与使用

1.安装K8S2.安装HelmHelm可以帮忙管理k8s的应用。curl -fsSL -o get_helm.sh https://raw.githubusercontent.com/helm/helm/master/scripts/get-helm-3chmod 700 get_helm.sh./get_helm.sh

SuperSet安装与使用

一、安装1.安装docker如果没有安装docker可以看这里K8S原理、安装和部署2.安装dockers-composesudo curl -L "https://github.com/docker/compose/releases/download/1.29.2/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-c

实时大数据平台搭建Flume+Kafka+HDFS+SparkStreaming

整体架构图一、python模拟生成日志import randomimport timeiplist=[101,198,65,177,98,21,34,61,19,11,112,114]urllist=['baidu.com','google.com','sougou.com','360.com','yahoo.com','yisou.com']mobile=['xiaomi'...

Kafka+flume实时采集数据

一、模拟产生日志在IDEA的resource文件夹下面新建log4j.properties定义日志格式,其中flume和log4j的整合配置可以查看Log4j Appender#设置日志格式log4j.rootCategory=ERROR,console,flumelog4j.appender.console=org.apache.log4j.ConsoleAppenderlog4...

Flink解析kafka的json字段并利用Flink CEP实时监控订单数据写入MySQL

上篇博客写了Flink接入Kafka数据并实时写入数据库实时展示,这次利用Flink CEP进行实时监控。实现目标如下:1.如果同一个顾客买了5次牛奶,输出用户id,时间2.如果2分钟内某个产品被卖了10个,输出商品,时间3.如果一个顾客来了10次,输出用户id,初始消费时间,最后消费时间先了解一下Flink CEP 开发过程:a.定义Patternb.把pattern应用于输入流CEP.patt

Flink实时读取Kafka数据写入Clickhouse并实时展示

1.启动ZooKeeper./zkServer.sh start.2.启动Kafka./kafka-server-start.sh -daemon $KAFKA_HOME/config/server.properties3.创建topic./kafka-topics.sh --create --zookeeper 192.168.226.10:2181 --replication-factor 1

#flink
Linux下面Maven、Kafka、HBASE、flume、Hive安装

一、安装Maven1.下载并解压wget http://archive.apache.org/dist/maven/maven-3/3.5.2/binaries/apache-maven-3.5.2-bin.tar.gz tar -xvzf apache-maven-3.5.2-bin.tar.gz2.添加环境变量vim ~/.bashrcexport MAVEN_HOME=/...

Kafka启动后很快自动关闭进程

今天kafka启动之后,刚开始输入jps还有进程,大概几秒钟不一会儿就关闭了,我这边是-daemon守护进程的方式启动的,到kafka下面的logs文件夹查看server.log日志发现了报错[2019-01-05 11:02:00,473] INFO Unable to read additional data from server sessionid 0x0, likely serve...

    共 11 条
  • 1
  • 2
  • 请选择