logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

hive小文件相关的处理

小文件的问题有很多,实际中各种原因,由于自己的不小心,前期没有做好预防都会产生大量小文件,让线上的离线任务神不知鬼不觉,越跑越慢。上面是平时开发数据任务时候,小文件的预防,但如果由于我们的大意,小文件问题已经产生了,就需要解决了。,这种表最坑,每天都会有一个快照,到后面10G大小的数据,表文件体积可以达到600G,时间越长越大;失败,数据没了,这里面是有事物性保证的,可以观察一下执行的时候,在te

#hive#hadoop#数据仓库
机器学习十大算法案例

机器学习十大算法案例实现监督学习1. 线性回归2. 逻辑回归3. 神经网络4. SVM支持向量机5. K邻近6. 贝叶斯7. 决策树8. 集成学习非监督学习9. 降维—主成分分析10. 聚类分析监督学习1. 线性回归2. 逻辑回归3. 神经网络4. SVM支持向量机5. K邻近6. 贝叶斯7. 决策树8. 集成学习非监督学习9. 降维—主成分分析10. 聚类分析跳转 —>聚类分析综述与案例实

#机器学习
监督学习-线性回归及代码实现

线性回归线性回归单变量线性回归损失函数(Cost Function)梯度下降法多变量线性回归线性回归单变量线性回归房价和面积—预测给定一组房价和房屋面积的数据集,通过机器学习算法(监督学习)来拟合画出一条线,根据这条线来对未知的数据进行判断。假设机器通过这些房价数据学习得到一条房价—面积关系线,如上图中红线,那么如果你朋友的750英尺的房子,就可以通过这条红线来估算出房价,可以看出,大约是在150

#python#机器学习#算法
模型优化方法总结

模型优化方法总结1. 梯度下降法SGD2. 动量法Momentum3. RMSpropAdamAdamWLookahead,RAdam?LazyAdam参考资料模型优化方法的选择直接关系到最终模型的性能。有时候效果不好,未必是特征的问题或者模型设计的问题,很可能是优化算法的问题,而且好的优化算法还能够帮助加速训练模型。深度学习模型的发展进程:SGD -> SGDM ->NAG -&gt

#人工智能#机器学习#深度学习
机器学习-(02)数据处理(numpy,pandas,matplotlib,Seaborn,爬虫)

Tensorflow(1)Tensorflow的安装与配置(2)核心高阶API _ tf.keras1.机器学习原理-线性回归(1)Tensorflow的安装与配置点击前往Tensorflow的安装与配置(2)核心高阶API _ tf.keras1.机器学习原理-线性回归...

#numpy#数据分析#机器学习 +2
Pytorch实现的LSTM模型结构

LSTM模型结构1、LSTM模型结构2、LSTM网络3、LSTM的输入结构4、Pytorch中的LSTM4.1、pytorch中定义的LSTM模型4.2、喂给LSTM的数据格式4.3、LSTM的output格式5、LSTM和其他网络组合1、LSTM模型结构BP网络和CNN网络没有时间维,和传统的机器学习算法理解起来相差无几,CNN在处理彩色图像的3通道时,也可以理解为叠加多层,图形的三维矩阵当做空

#pytorch#深度学习#算法 +2
分布式数据库系统体系结构

分布式数据库系统1)分布式数据库系统概述定义特点优缺点数据共享分类2)分布式数据库系统体系结构数据存储模式结构透明性分布式数据库管理系统1)分布式数据库系统概述定义分布式数据库系统(DDBS)是指数据存放在计算机网络的不同场地的计算机中,每个场地都具有自治处理能力并且可以完成局部应用,而且每一个场地也参与全局应用程序的执行,全局应用程序可以通过网络通信访问系统中多个场地的数据。其定义强调分布...

#数据库#mapreduce
二分法、梯度下降法、牛顿法求解根号(Python)

解方程方法1. 梯度下降法(Gradient descent)python2. 牛顿迭代法(Newton's method)python3. 二分法1. 梯度下降法(Gradient descent)若要求根号下2,即要求解 x^2 - 2 = 0 的根, 也就是函数 L=(x2−2)2L=\left(x^{2}-2\right)^{2}L=(x2−2)2取极小值时 x 的取值。这个也就对应机器学

#python#算法#机器学习
模型优化方法总结

模型优化方法总结1. 梯度下降法SGD2. 动量法Momentum3. RMSpropAdamAdamWLookahead,RAdam?LazyAdam参考资料模型优化方法的选择直接关系到最终模型的性能。有时候效果不好,未必是特征的问题或者模型设计的问题,很可能是优化算法的问题,而且好的优化算法还能够帮助加速训练模型。深度学习模型的发展进程:SGD -> SGDM ->NAG -&gt

#人工智能#机器学习#深度学习
机器学习十大算法案例

机器学习十大算法案例实现监督学习1. 线性回归2. 逻辑回归3. 神经网络4. SVM支持向量机5. K邻近6. 贝叶斯7. 决策树8. 集成学习非监督学习9. 降维—主成分分析10. 聚类分析监督学习1. 线性回归2. 逻辑回归3. 神经网络4. SVM支持向量机5. K邻近6. 贝叶斯7. 决策树8. 集成学习非监督学习9. 降维—主成分分析10. 聚类分析跳转 —>聚类分析综述与案例实

#机器学习
    共 14 条
  • 1
  • 2
  • 请选择