印度Rourkela国立技术研究所的三种训练算法——反向传播算法

时间：2022-09-27 13:01:54来源：网络整理

本文为印度鲁尔克拉国家理工学院的学士论文（作者：Priyanka Mehtani），共45页。

空间数据挖掘的神经网络技术研究_基于变精度粗集的软件项目投标风险挖掘与规避研究_大数据技术能够网络舆情工作

分类是一种数据挖掘（机器学习）技术，用于预测数据实例的组成员身份。模式分类涉及构建一个函数空间数据挖掘的神经网络技术研究，将输入特征空间映射到两个或更多类的输出空间。神经网络是模式分类领域的有效工具，使用训练和测试数据构建模型。然而，神经网络的成功很大程度上取决于训练过程的性能，即训练算法。为了提高神经网络的性能，已经提出了许多训练算法。

在本主题中，我们将对前馈神经网络的三种训练算法进行比较研究——反向传播算法、改进的反向传播算法和光学反向传播算法，它们仅基于它们之间的误差函数不同我们将使用这些算法来训练神经网络并从 IRIS 数据集（取自 UCI 库，然后进行归一化）中获得 75 个实例，每类 25 个。达到精度所需的总周期数称为收敛速度。比较过程的基本标准是收敛速度和分类精度。为了检查这三种训练算法的效率，在循环数和均方误差 (MSE) 之间绘制了一个图表，并且训练过程一直持续到 MSE 下降到 0.01，同时观察动量和学习率对算法有负面影响，然后将性能的影响扩展到比较多层前馈网络和概率网络的性能。

分类是一种数据挖掘（机器学习）技术，用于预测数据实例的组成员身份。模式分类涉及构建一个函数，将输入特征空间映射到两个或两个以上类的输出空间。神经网络 (NN) 是模式分类领域的一种有效工具，它使用训练和测试数据来构建模型。然而空间数据挖掘的神经网络技术研究，网络的成功很大程度上取决于训练过程的性能以及训练算法。

到目前为止，已经提出了许多训练算法来提高神经网络的性能。在本项目中，我们将对使用三种算法训练前馈神经网络进行比较研究——反向传播算法、改进的反向传播算法和光学反向传播算法。这些算法的区别仅在于它们的误差函数。我们将使用这些算法训练神经网络，并从 iris 数据集中获取 75 个实例（从 UCI 存储库中获取，然后进行归一化）；每班25人。

大数据技术能够网络舆情工作_基于变精度粗集的软件项目投标风险挖掘与规避研究_空间数据挖掘的神经网络技术研究

达到准确度所需的epoch总数称为收敛速度。比较过程的基本标准是收敛速度和分类精度。为了检查三种训练算法的效率，我们在时期数与均方误差 (MSE) 之间绘制了图表。训练过程一直持续到 M. S. E 下降到 0.01 的值。还观察了使用动量和学习率对算法性能的影响。然后将比较扩展到多层前馈网络与概率网络的性能比较。

1 引言 2 文献综述 3 相关概念3.1 数据挖掘3.2 人工神经网络3.3 基于前馈神经网络的分类3.4 基于概率神经网络网络分类 4 模拟结果 5 讨论 6 结论