感知机从入门到如土的奇妙学习笔记(深度学习范畴)

1.1理论部分:

— 课程参考如下:感知机简单理论(个人感觉讲的比较浅显,听了和没听一样)

1.1.1 什么是感知机

抽象的:感知机(Perceptron)是Frank Rosenblatt于1957年提出的线性二分类模型,是神经网络的基础单元。
奇妙小比喻:接受多个信号然后输出一个信号。
感知机的信号只有流或者不流两种取舍
x1w1+ x2w2>阈值:1
否则0
权重越大信号越大
其实这个公式更准一点
感知机是一个二分类问题(算是把。。。) 外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

简单的逻辑电路【 与门与非门或门】

与非门:w1,w2 和阈值取与门的-
或门:有1则为1

1.1.2简单感知机的实现

基于python简单感知机的逻辑

def AND(x1,x2):  
    
    w1,w2,thera = 0.5,0.5,0.7  
    tmp = x1*w1+x2*w2
    if tmp <= theta:
        return o
    elif tmp> theta:
        return 1


if name == 'main':
    for xs in [(0,0),(1,0),(0,1),(1,1)]:
        y = AND(xs[0],xs[1])
        print(str(xs)+ "->"+ str(y))

and(与门的逻辑)『额这代码我盲写的可能是个伪代码,这里仅仅展示逻辑。

下面是非门:

def NOTAND(x1,x2):  
    
    w1,w2,thera = -0.5,-0.5,-0.7  
    tmp = x1*w1+x2*w2
    if tmp <= theta:
        return o
    elif tmp> theta:
        return 1


if name == 'main':
    for xs in [(0,0),(1,0),(0,1),(1,1)]:
        y = AND(xs[0],xs[1])
        print(str(xs)+ "->"+ str(y))

not and(与非门逻辑)

1.1.3全重和偏置

偏置本质上就是-theta,移项了而已

1.1.4但一感知机的局限性

例如:异或门:俩不一样才输出
x1w1 +x2w2+b无法解决这类问题

引入线性和非线性概念,为了解决问题引入多层感知机

1.1.5多层感知机

一层不行就多来两层,两眼一睁就是凑
如下所示:
外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传
则根据逻辑以下是代码实现:
外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

1.2.1神经网络 (暂时到这,感知机这个讲的不全,完善)

目的:解决感知机不能自动学习全重参数的问题

2.1.简单感知机内容加深

深度学习感知机,理论比较深

2.1.1有关数据:

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

  • r:数据的多少,数据量越大收敛约慢

2.1.2问题:

不能拟合xor函数,他只能产生线性分割面(ai的第一个寒冬)

2.2.1隐藏层理论

单隐藏层:

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传
公式:
外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

3.1 算蛋直接敲代码,激励咕噜说啥呢

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

更多推荐