logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

[mysql必备面试题]-InnoDB和MyISAM引擎的区别

如果指定了 DELAY_KEY_WRITE 选项,在每次修改执行完成时,不会立即将修改的索引数据写入磁盘,而是会写到内存中的键缓冲区,只有在清理键缓冲区或者关闭表的时候才会将对应的索引块写入磁盘。如果应用程序以读取为主,不需要事务支持,MyISAM可能是一个更好的选择。其它存储引擎不支持在线热备份,要获取一致性视图需要停止对所有表的写入,而在读写混合场景中,停止写入可能也意味着停止读取。可以手工或

文章图片
#mysql#数据库#java +1
[hive面试必备]-hive如何解决数据倾斜问题

在join字段后面增加随机数,使原本倾斜的key分散到不同的reduce中去,然后在生成的结果数据中去掉随机数即可。对于group by 和order by的操作,增加"DISTRIBUTE BY"和"SORT BY",来代替group by和order by,数据倾斜问题会有所减轻。重新设计表结构:如果数据倾斜问题很严重,可能需要重新设计表的结构,确保数据更加均匀地分布在各个节点上。分桶和随机采

文章图片
#hive#hadoop#数据仓库
全网最细最全OLAP之clickhouse笔记|clickhouse文档|clickhouse揭秘文档(二)--clickhouse核心概念

免费视频教程https://www.51doit.com/或者联系博主微信 177102996061 架构设计1.1 单节点架构在单节点上安装好CH以后,启动CH的服务以后,可以使用CH提供的客户端交互窗口进行操作,可以操作数据库,表 , 表中的数据....同时CH也支持和其他数据源的对接!CH可以将整个表中的数据缓存在内存中,方便快速查询,分析计算结果,也可将数据存储在本地磁盘的执行目录中, 不

#数据库#大数据#数据挖掘
hive详细笔记(四)-Hive内部表,外部表,分区表,分桶表详解(附带讲解视频)

本节目录内部表和外部表静态分区表动态分区表分桶表抽样查询1 内部表和外部表未被external修饰的是内部表(managed table),被external修饰的为外部表(external table);区别:内部表数据由Hive自身管理,外部表数据由HDFS管理;内部表数据存储的位置是hive.metastore.warehouse.dir(默认:/user/hive/warehouse),外

#hadoop#大数据#hive
zookeeper频繁异常问题分析

1.1操作系统信息1.1.1CPU信息从上述可以看出在问题点CPU使用率并不高,故排除CPU问题。1.1.2内存信息CM监控界面并无内存信息,无法提供图片。但问题期间,监控机器内存,发现还有剩余,故排除内存问题。1.2ZKFAILOVER日志信息2017-09-0109:45:57,390 INFO org.apache.zookeeper.ClientCnxn: Cli...

clickhouse分布式表实践和原理

分布式表一个逻辑上的表, 可以理解为数据库中的视图, 一般查询都查询分布式表. 分布式表引擎会将我们的查询请求路由本地表进行查询, 然后进行汇总最终返回给用户.本地表:实际存储数据的表1 多切片单副本分布式表conf.xml中的开启远程连接配置/etc/metrika.xml文件<!-- Listen specified host. use :: (wildcard IPv6 address

数据湖之iceberg系列(五)-hive处理iceberg中的数据

1 将iceberg-hive-runtime-0.10.0.jar包添加到hive的lib包下 , 或者是在客户端使用add jar 添加到项目中2 设置参数 / 或者在hive-site.xml中设置3 读取catalog为hadoop的表中的数据 , 需要完成hive表和hadoop表的映射SET engine.hive.enabled=true;SET iceberg.engine.hiv

#hive#hadoop#big data
clickhouse集成HDFS

1 使用的是集成引擎 HDFScreate table tb_hdfs(uid Int32 ,name String ,gender String)engine=HDFS('hdfs://doit01:8020/ch' , 'CSV') ;insert into tb_hdfs values(1,'zss','M'),(2,'lss','F') ;2 from准备一个数据上传到HDFS中1,URL

hive详细笔记(七)-Hive之case when语法详解(附带讲解视频 )

1 基本语法语法一CASE 字段WHEN 值1THEN 值1[WHEN 值2THEN 值2]*[ELSE 值]END语法二CASEWHEN 条件表达式THEN 值1[WHEN 条件表达式 [and or] 条件表达式THEN 值2]*[ELSE 值]END2 实例一2.1 数据和需求数据悟空 A 男娜娜 A 男宋宋 B 男凤姐 A 女热巴 B 女慧...

#大数据#hive
    共 53 条
  • 1
  • 2
  • 3
  • 6
  • 请选择