牛客网原链接知识整理–机器学习知识点整理这里做了一点小改动一、机器学习单模型1、LR的损失函数的公式和函数2、LR的推导过程3、LR如何解决共线性，为什么深度学习不强调4、LR如何防止过拟合5、LR分布式训练怎么做6、LR为什么使用Sigmoid7、SVM的损失函数8、SVM的推导过程9、SVM怎么扩展到多分类问题10、SVM分类泛化，SVM回归泛化11、LR和SVM...

集成学习是一大类模型融合策略和方法的统称，其中包含多种集成学习的思想。主要有Bagging与Boosting，当然还有Stacking。BoostingBoosting的过程很类似于人类学习的过程，我们会对错误的地方反复巩固学习，是不是每个人都有一本错题集反复练习。以后学习的时候，我们就针对翻过的错误加强学习，以减少类似的错误发生。如此反复，直到犯错误的次数减少到很低的程度。所以Boost...

class Solution:def kthSmallest(self, root, k):""":type root: TreeNode:type k: int:rtype: int"""self.cn=0self.flag=Falsesel...

不难，考察代码编写能力class Solution:# @param root, a tree link node# @return nothingdef connect(self, root):if not root:return Nonedef isP(n):for i i...

为了去重要先对数组进行排序class Solution:def threeSum(self, nums):""":type nums: List[int]:rtype: List[List[int]]"""nums.sort()lenn = len(nums)...

方法与3Sum类似class Solution(object):def threeSumClosest(self, nums, target):""":type nums: List[int]:type target: int:rtype: int"""nums.sort()...

class Solution:def mergeTwoLists(self, l1, l2):""":type l1: ListNode:type l2: ListNode:rtype: ListNode"""if l1==None:return l2...

需要最小化的总的误差函数为ED(w)+λEW(w)E_{D}(w)+\lambda E_{W}(w)ED​(w)+λEW​(w)前面的一项是我们一般所说的损失函数，后一项是正则化项。一般有L1正则化：EW(w)=∣∣w∣∣1E_{W}(w)=||w||_{1}EW​(w)=∣∣w∣∣1​L2正则化：EW(w)=∣∣w∣∣22E_{W}(w)=||w||_{2}^{2}EW​(w)=∣∣w∣∣...

在深度前馈网络中假设有数据集{(x(1),y(1)),...,(x(m),y(m))}\left \{ (x^{(1)},y^{(1)}),...,(x^{(m)},y^{(m)}) \right \}{(x(1),y(1)),...,(x(m),y(m))}构建代价函数，其中sls_{l}sl​表示第lll层的节点数 J(W,b)=1m∑i=1mJ(W,b;x(i),y(i))+λ2∑l=1N.