logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

我谈Sobel算子与高斯一阶微分的关系

现在算力提升了,最常用的一阶差分边缘检测算子已经不是Sobel算子了,而是高斯一阶微分。

文章图片
#图像处理
为什么缩放点积自注意力除以√d

考虑两个独立的随机向量a和b,这两个向量的长度均为d,并且都取自均值为零、方差为单位方差的高斯分布N⋅∣0I。证明a⊤b的方差由d给出。ab∈Rda∼N0Ib∼N0Ia与b独立Vara⊤bd令Xa⊤bi1∑d​ai​bi​方差公式VarXEX2−EX2EX2期望的计算EXi1∑d​Eai​bi​i1∑d​Eai​Ebi。

#机器学习#深度学习#人工智能
机器学习中的数据预处理

不同的特征通常具有不同的量纲,数值间的差别可能很大,如果不进行归一化处理,则可能会影响到数据分析的结果。特征数据归一化的目标就在于使具有不同量纲的特征转换为无量纲的标量,并且将所有的特征都统一到一个大致相同的数值区间内,让不同维度上的特征在数值上具有可比性。虽然该方法在无量纲化过程中利用了所有的数据信息,但是该方法在无量纲化后不仅使得转换后的各变量均值相同,且标准差也相同,即无量纲化的同时还消除了

文章图片
#机器学习#人工智能
“神经网络之父”和“深度学习鼻祖”Geoffrey Hinton

GLOM架构的提出:在最新的研究中,Hinton提出了GLOM架构,这是一种可以在神经网络中使用胶囊来表示视觉层次结构的新方法。胶囊网络是一种全新的神经网络结构,旨在通过封装和组合多个低层次的特征来形成高层次的特征,从而提高模型的表达能力和鲁棒性。深度学习概念的提出:Hinton等人在2006年提出了深度学习的概念,并基于深度置信网络(DBN)提出了非监督贪心逐层训练算法,为解决深层结构相关的优化

文章图片
#神经网络#人工智能#深度学习 +1
统计学中的样本&概率论中的样本

不知道当初谁想的把概率论和数理统计合并,作为一门课。这本身是可以合并,完整的一条线。但是,作为任课老师应该从整体上交代清楚,毕竟是两个学科,不同的学科合并必然会有各种不协调的问题。凡是只讲怎么代入公式计算,没有解释,没有剖析,不讲整个知识体系以及逻辑关系,那样的概率老师都应该回家卖红薯。

#概率论
克里斯托弗·M. 毕晓普(Christopher M. Bishop)《深度学习基础与概念》

深度学习基础与概念》(Deep Learning Foundations and Concepts),英国作者克里斯托弗·M. 毕晓普(Christopher M. Bishop)和休·毕晓普(Hugh Bishop)。有的书图画的很漂亮,但是理论上弱;有的书一堆公式,云里雾里,抽象难以理解;有的书文字功底很差,不说人话;有的书西一榔头东一棒,完全没有逻辑;有的书有文字表达能力,数学功底很差,错误

文章图片
#机器学习
“神经网络之父”和“深度学习鼻祖”Geoffrey Hinton

GLOM架构的提出:在最新的研究中,Hinton提出了GLOM架构,这是一种可以在神经网络中使用胶囊来表示视觉层次结构的新方法。胶囊网络是一种全新的神经网络结构,旨在通过封装和组合多个低层次的特征来形成高层次的特征,从而提高模型的表达能力和鲁棒性。深度学习概念的提出:Hinton等人在2006年提出了深度学习的概念,并基于深度置信网络(DBN)提出了非监督贪心逐层训练算法,为解决深层结构相关的优化

文章图片
#神经网络#人工智能#深度学习 +1
循环矩阵和BCCB矩阵与向量乘积的快速计算——矩阵向量乘积与频域乘积之间的转换

循环矩阵是一种特殊的方阵,它的每一行都是前一行向右循环移位一个位置的结果。如果矩阵CCC是n×nn \times nn×n的循环矩阵,那么它可以由第一行的nnn个元素完全确定。假设c0c1cn−1c0​c1​...cn−1​是矩阵CCCCc0cn−1c2c1c1c0cn−1c2⋮c1c0⋱⋮cn−2⋱⋱cn−1cn−1cn−2c1c0C​。

#矩阵#线性代数
无偏估计&有偏估计

统计学中,无偏估计(Unbiased Estimation)是指对于某个参数的估计量,如果其期望值等于该参数的真实值,则称这个估计量为无偏估计。换句话说,如果多次从同一总体中抽取样本,并使用某种方法来估计参数,那么这些估计值的平均值应该等于该参数的真实值。,则样本方差将是一个有偏估计。另外,经常有偏比无偏有更好的性质,且在样本数充分大时,有偏则。一个经典的例子是样本均值作为总体均值的无偏估计。机器

#机器学习
    共 47 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择