1、“.....,沈阳理工大学学士学位论文,,,,,,还是非常有用的工具。另外，要记住我们现在对人脑的认识仍很肤浅，相信将来天神经网络将会取得最重要的进展。尽管很难预料神经网络今后能否成功，但这种新技术的大量而广泛应用还是令人鼓舞的。人工神经网络利用相互联系的数学节点或神经元以形成个网络，可以模拟复杂的功能关系。它的发展始于世纪年代以帮助认知科学家理解中枢神经系统的复杂性。它已经稳步发展，并适应科学的许多领域。基本上，人工神经网络是源自人类的大脑在学习的过程中的数值结构灵感......”。

2、“.....人工神经网络中受到最多关注的是反向传播网络。有分层的前馈网络框架。在经典结构中，产出的每个图层被直接送到每个神经元的下层。有许多层，但人们认为至少三个图层个接收和分发输入的输入层捕捉输入和输出的非线性关系的中间层或隐藏层，和个生产计算数据的输出层。神经元也可能包含产生恒定的输出但没有收到输入这样的偏差。算法基于神经网络最小化。沈阳理工大学学士学位论文这些被描述为期望的产出与实际之间的差异。当训练精度满足时即训练完成。操作具有更好的推广和容错功能，然而，它也有些不足之处慢收敛性可能导致较长的训练时间。在训练过程中出现可能局部极值点......”。

3、“.....改进的算法被用来改进电渗析过程中分离百分比的预测能力。在这篇论文中，自适应学习算法和灵活的算法是改进的算法在电渗析过程中的应用。典型神经网络是个全神经网络包括个输入层隐藏层和输出层，训练过程的目标是调整权值。网络训练是个无约束非线性最小化问题。研究人员声称,个隐层的网络所需的任何精度逼近任意连续函数。神经网络由向前反馈和误差反向传播两部分组成。向前传播,输入从输入层开始传播，被些隐藏层处理后到达输出层，输出层的输出预测值与实际输出比较,它们之间的区别是聚合生成的误差。在误差反向传播中,当误差超出误差范围,误差被调整回传播权值......”。

4、“.....有关于神经网络的些预防措施预处理样品。通常样品没有直接使用网络训练,而是从原始数据预处理。实验数据包含些不确定因素训练。预处理方法是提高训练和测试数据可靠性的必要准备。归化公式优化初始权值。网络的初始权值影响最终的训练结果,影响网络是否能达到可接受的精度。选择隐藏的图层数和神经元的隐藏图层。隐藏图层和神经元的隐藏图层的选择，是直接影响复杂问题的映射能力的最关键的步。现在可靠的算法从隐藏层和大量的神经元开始,训练和测试,然后增加它们的数量。比较不同训练和测试样本的结果,选择更合适的隐藏层个数及其神经元。在这项研究中......”。

5、“.....选择训练样本。网络所需的样本取决于复杂程度的映射关系。般情况下，映射关系越复杂，需要越多训练样本。从所有数据中选择样本时，需要遵守以下原则足够数量的典型的和均匀的。沈阳理工大学学士学位论文基于坚实的理论和严格的推导，然而包括慢收敛偶尔出现的局部极值点，所以训练过程中有许多不足之处。在实际应用中，算法很难是见效，因此人们提出了些改进的算法，以提高预测能力。有几种方法改进的算法，如附加动量方法，自适应学习率方法，灵活的算法等等。算法的训练过程受不当学习速率的影响有慢收敛的缺点......”。

6、“.....在算法中，学习速率是恒定的。事实上，当学习速率较低训练时间变长，收敛变得较慢。当学习率太高，出现了振荡和分歧，这会造成系统不稳定。自适应学习速率的基本原理当学习速率η增加，将造成学习时间缩短学习速率越高，越难收敛。在这种情况，学习速率应该会减少直到训练过程的收敛。可以通过改变误差和斜率，也可以根据误差函数通过改变学习速率梯度调整学习速率。此外，通过探性地进行调整试可能改变总误差，规则如下所示如果的总误差减少，学习速率需要增加。如果的总误差增加，学习速率需要减少。当新误差与原来误差的比值超过个值时，学习速率迅速下降。般来说......”。

7、“.....此外，函数保持无限输入和有限界内输出。当输入大变量时，函数的斜率将接近。即使梯度发生了微妙的变化,这可能引起权值发生巨大的变化,所以权值逐渐倾斜最佳值,甚至使网络权值在修改过程中停止。当训练过程振动时，数量可变的权值将会减少。在几个迭代中权值变化方向保持不变时，可变数量的权值将会增加。因此，灵活的算法在收敛速度上有超越其他改进算法的优势。神经网络和改进的算法的设计中，需要确定四个重要方面神经元传递函数的选择隐藏图层节点的选择学习率增加比率的选择神经网络和改进的算法的泛化测试传递函数用于彼此相邻的两层中的神经元之间的传递......”。

8、“.....神经网络有个或多个隐藏层,隐藏层神经元使用传递函数。输出层神经元使用纯线性传递函数且输出可以是任意值。如果输出层神经元的传递函数是沈阳理工大学学士学位论文传递函数,则整个网络输出会被限制在−,内。传递函数包括和两个函数。对于这两个函数，输入分别映射到,和−,。函数是个单向传递函数。函数是个双向传递函数，并被称为双曲正切函数。在实际应用中，根据输入输出的关系使用个传递函数。如果输入不含负值，所以采纳函数。如果包括负值，则采纳函数。在本文中，隐藏层神经元使用传递函数，输出层神经元用纯线性传递函数......”。

9、“.....柯尔莫哥洛夫定理证明，只要个隐层的节点足够多，神经网络的隐藏层可以以任意精度逼近非线性函数。然而，对于个从输入到输出有限的映射，无限多的隐藏层节点是没有必要的。以及如何选择隐藏层节点仍是个尚未解决的问题。隐藏层节点是通过经验和实验设计确定的。般地，基于对输入和输出关系准确的反映，选择个隐藏层的小节点，以保持网络的结构简单。但规模越小的节点，神经网络的泛化能力越糟糕。在相反，如果隐藏层的节点越大，训练过程中的复杂度也会随之升高，那么这种情况将导致过度拟合现象。在设计过程中，许多因素必须结合起来。在具体设计中，首先选择个隐藏层......”。