logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

pyspark 入门

为什么用python中pandas是数据分析的利器,具有并行的特兹那个,而且函数和数据计算的方法非常方便,是数据分析中的瑞士军刀。但是受限于单个机器性能和配置的限制,当大规模数据,比如100G-10TB规模的数据时,pandas就显得局限了,就像瑞士军刀杀牛,难以下手。这时就需要基于分布式计算的大数据工具spark,是基于分布式计算,可以基于hadoop和hive,进行分布式的数据计算,同时spa

文章图片
#big data#spark#python
算法工程师面试基础题目及答案

深度学习卷积类卷积神经网络的特点有哪些卷积深度可分离卷积1*1卷积的作用深度学习基础BN的原理,作用和实现细节优点:1)加快训练速度,这样我们就可以使用较大的学习率来训练网络。2)提高网络的泛化能力。解决过拟合3)BN层本质上是一个归一化网络层,可以替代局部响应归一化层(LRN层)。4)可以打乱样本训练顺序(这样就不可能出现同一张照片被多次选择用来训练)论文中提到可以提高1%的精度。BN层的输出Y

#面试#计算机视觉
Long-Tail(长尾)问题的解决方案

长尾问题在实际的视觉相关问题中,数据都存在长尾分布:少量类别占据绝大多数样本,大量的类别仅有少量的样本,比如open-images,ImageNet等。解决长尾问题嘚方案一般分为4种:1,Re-sampling:主要是在训练集上实现样本平衡,如对tail中的类别样本进行过采样,或者对head类别样本进行欠采样;2,Re-weighting:主要在训练loss中,给不同的类别的loss设置不同的权重

#神经网络
python时间序列异常检测库ADTK,风控算法工程师的福音

文章目录adtk简介数据要求异常特征加工滑动窗口adtk简介智能运维数据基本上都是时间序列形成的,时间序列数据的异常检测是风控算法的重要组成部分,而可以调用ADTK库完成基本的算法,和大家分享该库的使用。adtk(Anomaly Detection Toolkit)是无监督异常检测的python工具包,它提供常用算法和处理函数:简单有效的异常检测算法异常特征加工处理流程控制安装:pip insta

#python
到底了