logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

java.net.SocketException: Too many open files 解决方法

解决方法有个功能模块会频繁的使用mysql和redis来刷新数据,每过一段时间就会报这个错。原因就是那台新的服务器没有做系统的优化,linux对进程操作的数据文件有限制,服务器默认限制为1024。查看各系统各限制配置信息ulimit -a将最大文件打开数设置高一些ulimit -n 65536注意:这个操作只对一次session有效,就是你退出服务器再登陆的话还是默认的1024。需要修改/etc/

文章图片
#linux#服务器#运维
spark读取hive数据的两种方式

spark读取hive数据常用的有两种方式一是通过访问hive metastore的方式,这种方式通过访问hive的metastore元数据的方式获取表结构信息和该表数据所存放的HDFS路径,这种方式的特点是效率高、数据量大、使用spark操作起来更加友好。二是通过spark jdbc的方式访问,就是通过链接hiveserver2的方式获取数据,这种方式底层大题上跟spark链接其他rdbms上一

文章图片
#spark#hadoop#大数据 +2
暂无文章信息