理论部分这一部分主要是为了证明为什么可以使用线性回归和逻辑斯蒂回归来做二元分类问题。我们想要将已知的线性模型应用到二分类甚至是多分类的问题。我们已知的线性模型有如下的三种，它们有一个共同的地方是都会利用输入的特征计算一个加权和 s=wTxs = w^Tx。线性分类不好解， 因为想要最小化E0/1(w)E_{0/1}(w)被证明是一个NP难问题。但相比之下，线性回归和逻辑斯蒂回归

监督学习从讨论监督学习问题的例子出发，假设我们有某个地区住房面积和相应房价的数据集合。对于这样的给定的数据， 我们的目的是要利用已有的信息，来对房价建立预测模型。即对于给定的房屋信息(房屋面积)预测其房价。为了方便以后的使用，我们首先定义一些符号标记。我们使用x(i)表示输入变量(或者是特征),使用y(i)表示我们将要预测的输出变量或者说是目标变量(或者叫做标记)。(x(i), y(i))

0.刚接触java，并且在学习机器学习的相关算法，knn又非常的易于实现，于是就有了这个小系统。1.knn算法简介：2.该程序的功能主要有如下几个，      功能1:可以在面板上手写输入数字      功能2:可以对特定的区域进行截屏，因为要获取用户手写的数字，保存为图像，然后使用算法进行分析      功能3:可以对图片进行缩放，要保证图片的大小（维度）要和

网络节点的重要性指标介数中心性的计算，使用python的包networkximport networkx as nxG = nx.Graph()#从文件中读取网络的adjacentMatrix，通过networkx的add_edges方法向对象G中添加边def readNetwork(filename):fin = open(filename, 'r')# for line

0. 概述：Logistic回归是统计学中的经典分类方法，最大熵是概率模型学习的一个准则，将其推广到分类问题得到最大熵模型，logistic回归模型与最大熵模型都是对数线性模型。本文第一部分主要讲什么是logistic（逻辑斯谛）回归模型，以及模型的参数估计，使用的是极大对数似然估计以及梯度下降法，第二部分介绍什么是最大熵模型，首先介绍最大熵原理， 然后根据最大熵原理推

理论部分线性支持向量机对偶形式支持向量机核函数支持向量机软间隔支持向量机Kernel Logistic RegressionSupport Vector Regression(SVR)使用sklearn实现的不同核函数的SVM使用不同核函数的SVMSVM用于二分类问题并可视化分类结果。# -*- coding: utf-8 -*-import numpy as npimport

cmap = plt.cm.Spectral用法理解%matplotlib inlineimport numpy as npimport matplotlib.pyplot as pltnp.random.seed(1) # 产生相同的随机数X = np.random.randn(1, 10)Y = np.random.randn(1, 10)label = np.arra

0. BA无标度网络模型简单介绍：实际网络的两个重要的特性：      （1）增长性：即网络的规模是不断的增长的，ER随机图和WS小世界模型中的网络的大小是固定      （2）优先连接（Preferential  attachment以下简称PA）：新的节点更倾向于和那些具有较高的连接度的hub节点相连。这种现象也叫作“富者更富（Rich get richer）”或者是“马太效应”

在上一篇的介绍中我们看到在Neural networkNeural\ network中有一层一层的神经元，它们的作用就是帮助我们识别出资料中的模式patternpattern，将这些模式当成是特征。通过BPBP算法可以帮助我们计算梯度，这样就可以利用GDGD类算法来更新每一个权重，最终得到神经网络中每一个神经元的权重 w(l)ijw_{ij}^{(l)}。所以神经网路的核心就是这些一层一层的神经元

Radial Basis Function Network先从一个之前介绍过的模型Gassian SVMGassian\ SVM 说起，简单的来说这个模型就是在SVMSVM中加入了高斯核函数，从而可以做到在无限维度的空间中找最大分隔超平面。该模型最终得到的分类器如下：gsvm(x)=sign(∑SVαnynexp(−γ∥x−xn∥2)+b)(1)g_{svm}(x) = sign\bigg