各层神经元的活动是前一层活动的非线性函数。在传统的神经网络模型中，是从输入层到隐含层再到输出层，层与层之间是全连接的，每层之间的节点是无连接的。二隐层节点数在BP网络中，隐层节点数的选择非常重要，它不仅对建立的神经网络模型的性能影响很大，而且是训练时出现“过拟合”的直接原因，但是目前理论上还没有一种科学的和普遍的确定方法。具体的表现形式为网络会对前面的信息进行记忆并应用于当前输出的计算中，即隐藏层

小波神经网络（Wavelet Neural Network， WNN）是在小波分析研究获得突破的基础上提出的一种人工神经网络写作猫。它是基于小波分析理论以及小波变换所构造的一种分层的、多分辨率的新型人工神经网络模型。即用非线性小波基取代了通常的非线性Sigmoid 函数，其信号表述是通过将所选取的小波基进行线性叠加来表现的。它避免了BP 神经网络结构设计的盲目性和局部最优等非线性优化问题，大大简化

卷积神经网络的连接性：卷积神经网络中卷积层间的连接被称为稀疏连接（sparseconnection），即相比于前馈神经网络中的全连接，卷积层中的神经元仅与其相邻层的部分，而非全部神经元相连。卷积神经网络的稀疏连接具有正则化的效果，提高了网络结构的稳定性和泛化能力，避免过度拟合，同时，稀疏连接减少了权重参数的总量，有利于神经网络的快速学习，和在计算时减少内存开销。表征函数f与经过翻转和平移的g的重叠

1、看看是不是训练效果好，预测效果不好。如果是这样那就是过拟合。网上搜搜有很多解决过拟合的方法。2、如果训练和预测都不好，那就是模型有问题。可能原因是（1）数据量太小。（2）输入和输出数据之间相关性小。（3）调整参数：除了调整误差和学习率这些参数之外，还可以调整传递函数，例如trainlm适合一般模型，还有其他例如trainbr等函数，可以网上搜索看看每个函数适用的区别。谷歌人工智能写作项目：小发

为了满足读者应用人工神经网络解决实际问题的需要，书中还介绍了人工神经网络应用开发设计的全过程，并在附录中给出了BP神经网络实现预测、Hop6eld神经网络实现图像自联想记忆、模拟退火算法实现TSP和ARTI神经网络的源程序，供读者参考。作为扩充知识，书中也简单介绍了人工神经网络的实现，以及人工神经网络技术与传统的基于规则的专家系统和模糊系统的融合。...

1、看看是不是训练效果好，预测效果不好。如果是这样那就是过拟合。网上搜搜有很多解决过拟合的方法。2、如果训练和预测都不好，那就是模型有问题。可能原因是（1）数据量太小。（2）输入和输出数据之间相关性小。（3）调整参数：除了调整误差和学习率这些参数之外，还可以调整传递函数，例如trainlm适合一般模型，还有其他例如trainbr等函数，可以网上搜索看看每个函数适用的区别。谷歌人工智能写作项目：小发

人工神经网络（Artificial Neural Network，即ANN ）是从信息处理角度对人脑神经元网络进行抽象，是20世纪80年代以来人工智能领域兴起的研究热点，其本质是一种运算模型，由大量的节点（或称神经元）之间相互联接构成，在模式识别、智能机器人、自动控制、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题，表现出了良好的智能特性。

人工神经网络（ArtificialNeuralNetwork，即ANN）是从信息处理角度对人脑神经元网络进行抽象，是20世纪80年代以来人工智能领域兴起的研究热点，其本质是一种运算模型，由大量的节点（或称神经元）之间相互联接构成，在模式识别、智能机器人、自动控制、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题，表现出了良好的智能特性。...