logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

sparkStreaming+kafka+redis小项目实战

一、项目说明1、需求实时更新每个用户走的总步数;每隔5s统计一次,包括某个用户新统计时的时间、所在地点、新增步数;这里为了方便只将每个用户以及实时更新的步数总和两个维度保存到redis数据库中;2、大数据组件kafka:kafka_2.10-0.10.2.1spark:spark-2.2.0-bin-hadoop2.7redis:redis-3.0.03、...

#spark#kafka#redis
CPU、核心数、线程数、运行内存、超线程理解

一、CPU和运行内存的关系CPU是负责运算和处理的,内存是交换数据的,没有内存,CPU就没法接收到数据。内存是计算机与CPU进行沟通的桥梁。计算机中所有程序的运行都是在内存中进行的,因此内存的性能对计算机的影响非常大。cpu一般是银白色的薄薄的,反面有针脚的小方块:二、CPU个数、核心数、线程数对cpu的描述有这几种:“双核”、“双核四线程”、“四核”、“四核四线程”、...

vmWare启动虚拟机一直出现黑屏解决办法

问题图像:1、修复Lsp:开始运行cmd打开命令行窗口-----输入netsh winsock reset-----重启计算机2、更换vmWare许可证密钥

【python】将json字符串转化为json对象

首先导入python自带的json模块import jsonloads方法将json<key,value>字符串转化为dict形式info = '{"name":"Lucy","age":22,"addr": "China"}'print(type(info))info_dict = json.loads(info)print(info_dict)print(type(info_dic

#json#python
(四)presto集成kafka

一、集成之前1、启动zookeeper2、启动kafka3、查看kafka有哪些主题[root@master bin]# ./kafka-topics.sh --list --zookeeper master:2181,slaves1:2181,slaves2:2181topic_walkCountmytestmytopic4、选择一个主题进行数据写入[root@master bin]# ./ka

Kafka日志的清除策略

一、说明Kafka将消息存储在磁盘中,为了控制磁盘占用空间的不断增加就需要对消息做一定的清理操作。Kafka中每一个分区partition都对应一个日志文件,而日志文件又可以分为多个日志分段文件,这样也便于日志的清理操作。Kafka提供了两种日志清理策略:日志删除(Log Deletion):按照一定的保留策略来直接删除不符合条件的日志分段。log.cleanup.policy=delete...

Could not locate executable null\bin\winutils.exe in the Hadoop binaries

目录1、问题描述:2、问题分析:3、解决办法:4、配置hadoop环境变量5、重启计算机-->完美解决1、问题描述:在windows上运行spark项目(scala)时出现:java.io.IOException: Could not locate executable null\bin\winutils.exe in the Hadoop binaries....

#spark#hadoop
【python】将json字符串转化为json对象

首先导入python自带的json模块import jsonloads方法将json<key,value>字符串转化为dict形式info = '{"name":"Lucy","age":22,"addr": "China"}'print(type(info))info_dict = json.loads(info)print(info_dict)print(type(info_dic

#json#python
【Spark+Es】Spark多方案读取Es性能比较

目录一、测试环境二、测试1、代码2、输出3、用时比较一、测试环境环境:spark:2.2.0Elasticsearch:7.14.0主要maven:<dependency><groupId>org.elasticsearch</groupId><artifactId>elasticsearch-spark-20_2.11</artifactId

#spark#elasticsearch#big data
Redis单机安装部署

1、创建目录/opt/softWare/redis5.0.52、解压压缩包[root@master redis5.0.5]# tar -zxvf redis-5.0.5.tar.gz3、编译安装[root@master redis5.0.5]# cd redis-5.0.5/[root@master redis-5.0.5]# ls00-RELEASENOTES...

    共 11 条
  • 1
  • 2
  • 请选择