本教程解释了什么是人工神经网络、ANN 的工作原理、ANN 的结构和类型以及神经网络架构：
在这个面向所有人的机器学习训练中，我们在之前的教程中探讨了机器学习的所有类型。
在这里，在这个人工神经网络教程中，讨论神经网络中的各种算法，以及机器学习和 ANN 之间的比较。在我们了解 ANN 如何为机器学习做出贡献之前，我们需要了解什么是人工神经网络、有关机器学习的简要知识以及人工神经网络工作原理。
人工神经网络如何工作？让我们探索更多关于机器学习和人工神经网络的信息！！
你会学到什么：
- 什么是机器学习？
- 什么是人工神经网络？
- 生物神经网络的结构
- 生物神经元与人工神经元的比较
- 人工神经网络的特点
- 人工神经网络的结构
- 激活函数
- 什么是人工神经元？
- 人工神经元如何工作？
- #1) 身份函数
- #2) 二元阶跃函数
- #4) Sigmoidal 函数
- #5) 斜坡函数
- 人工神经网络的基本模型
- 神经网络架构
- #1) 单层前馈网络
- #2) 多层前馈网络
- #3) 具有自己反馈的单个节点
- #4) 单层循环网络
- #5) 多层循环网络
- 人工神经元网络示例
- 机器学习与人工神经网络的比较
- 神经网络和深度学习
- 人工神经网络应用
- 神经网络的局限性
- 结论
- 推荐阅读
什么是机器学习？
机器学习是一个科学领域，它允许计算机在没有明确编程的情况下学习和行动。它是人工智能的一个子领域。
什么是人工神经网络？
ANN是一种广泛应用于机器学习的非线性模型，在人工智能领域有着广阔的发展前景。
人工神经网络类似于生物神经网络。生物神经网络是人脑中数十亿个相互连接的神经元的结构。人脑由神经元组成，这些神经元响应执行的动作将信息发送到身体的各个部位。
与此类似，人工神经网络 (ANN) 是科学中类似于人脑特征的计算网络。ANN可以模拟人脑的原始神经元，因此ANN的处理部分称为人工神经元。
人工神经网络由大量受大脑工作启发的相互连接的神经元组成。这些神经元具有学习、概括训练数据并从复杂数据中得出结果的能力。
这些网络用于分类和预测、模式和趋势识别、优化问题等领域。ANN 无需任何编程即可从训练数据（已知输入和目标输出）中学习。
学习到的神经网络被称为专家系统，具有分析信息和回答特定领域问题的能力。
第一台神经计算机的发明者 Robert Hecht-Nielson 博士给出的 ANN 的正式定义是：
“……一个计算系统，由许多简单的、高度互连的处理元素组成，这些元素通过对外部输入的动态响应来处理信息”。
ANN工作原理：生物神经网络的结构
生物神经网络包括：
- Soma：这也叫胞体。它是细胞核所在的位置。
- 树突：这些是连接到细胞体的树状网络。它是由神经纤维制成的。
- 轴突：轴突携带来自细胞体的信号。它分裂成股，每股都以称为突触的灯泡状结构结束。电信号在突触和树突之间传递。
【图片来源】
生物神经元与人工神经元的比较
| 生物神经元 | 人工神经元 |
|---|---|
| 它是由细胞构成的。 | 细胞对应于神经元。 |
| 它有树突，是细胞体之间的互连。 | 连接权重对应于树突。 |
| Soma 接收输入。 | Soma 类似于净输入权重。 |
| 轴突接收信号。 | ANN 的输出对应于轴突。 |
人工神经网络的特点
- 非线性： ANN 中用于生成输入信号的机制是非线性的。
- 监督学习：映射输入和输出，并使用训练数据集训练 ANN。
- 无监督学习：未给出目标输出，因此 ANN 将通过发现输入模式中的特征自行学习。
- 自适应性： ANN 节点中的连接权重能够自行调整以提供所需的输出。
- 生物神经元类比： ANN 具有受人脑启发的结构和功能。
- 容错：这些网络具有高度的容错性，因为信息是分层分布的，并且计算是实时进行的。
人工神经网络的结构
人工神经网络是以算法形式或硬件设备形式的处理元素，它们以人脑大脑皮层的神经元结构为模型。
这些网络也简称为神经网络。NN 由许多层组成。相互连接的多个层通常称为“多层感知器”。一层中的神经元称为“节点”。这些节点具有“激活功能”。
ANN有3个主要层：
- 输入层：输入模式被馈送到输入层。有一个输入层。
- 隐藏层：可以有一个或多个隐藏层。发生在内层的处理称为“隐藏层”。隐藏层根据“权重”计算输出，权重是“加权突触连接的总和”。隐藏层通过去除冗余信息来细化输入，并将信息发送到下一个隐藏层进行进一步处理。
- 输出层：这个隐藏层连接到显示输出的“输出层”。
激活函数
激活函数是神经元的内部状态。它是神经元接收输入的函数。激活函数用于将 ANN 节点上的输入信号转换为输出信号。
什么是人工神经元？
人工神经网络由称为节点或神经元的高度互连的处理元素组成。
这些神经元并行工作并组织在一个架构中。节点通过连接链路相互连接。每个神经元携带一个权重，其中包含有关输入信号的信息。
人工神经网络教程：人工神经元如何工作？
人工神经元接收输入。这些输入具有称为“突触”的权重。这些神经元（也称为节点）具有“激活功能”。这个激活函数作用于输入并处理它以给出输出。
输入的加权和成为激活函数的输入信号以给出一个输出。这些输入权重是可调的，因此神经网络可以调整其参数以提供所需的输出。
人工神经网络工作原理 - 人工神经网络中使用的几个常见激活函数是：
#1) 身份函数
对于 x 的所有值，它可以定义为 f(x) = x。这是一个线性函数，其中输出与输入相同。
#2) 二元阶跃函数
人工神经网络如何工作？该函数用于单层网络，将网络输入转换为输出。输出是二进制的，即 0 或 1。t 代表阈值。
【图片来源】
#3) 双极阶跃函数
双极阶跃函数对于净输入具有双极输出（+1 或 -1）。T代表阈值。
#4) Sigmoidal 函数
它用于反向传播网络。
它有两种类型：
- 二元 Sigmoid 函数：也称为单极 sigmoid 函数或逻辑 sigmoid 函数。sigmoidal 泛函的范围是 0 到 1。
- 双极 Sigmoid：双极 Sigmoid函数的范围从 -1 到 +1。它类似于双曲正切函数。
【图片来源】
#5) 斜坡函数
投入的加权总和是 指所有投入的“投入权重与投入价值的乘积”相加。
让 I= {I1, I2, I3 ... In} 是神经元的输入模式。
设 W= {W1, W2, W3... Wn} 是与节点的每个输入相关联的权重。
输入的加权总和 = Y = (?Wi *Ii) 对于 i =1 到 n
人工神经网络的基本模型
ANN工作原理：人工神经网络模型由 3 个实体组成：
- 权重或突触连接
- 用于调整权重的学习规则
- 神经元的激活函数
神经网络架构
在 ANN 中，神经元相互连接，每个神经元的输出通过权重连接到下一个神经元。这些互连的架构在 ANN 中很重要。这种排列以层的形式存在，层之间和层内的连接是神经网络架构。
最常见的网络架构是：
- 单层前馈网络
- 多层前馈网络
- 具有自己反馈的单个节点
- 单层循环网络
- 多层循环网络
让我们详细看看这些人工神经网络工作原理。
#1) 单层前馈网络
层是由神经元组成的网络。这些神经元连接到下一层的其他神经元。对于单层，只有输入层和输出层。输入层通过权重连接到输出层节点。
所有输入节点都连接到每个输出节点。术语前馈描述了没有反馈从输出层发送到输入层。这形成了一个单层前馈网络。
【图片来源】
#2) 多层前馈网络
人工神经网络如何工作？多层网络由输入和输出之间的一层或多层组成。输入层只接收一个信号并缓冲它，而输出层显示输出。输入和输出之间的层称为隐藏层。
隐藏层不与外部环境接触。隐藏层数越多，输出响应就越有效。上一层中的节点连接到下一层中的每个节点。
由于没有连接到输入层或隐藏层的输出层，它形成了一个多层前馈网络。
#3) 具有自己反馈的单个节点
将输出层输出作为输入发送回输入层或其他隐藏层的网络称为反馈网络。在单节点反馈系统中，只有一个输入层，输出被重定向回作为反馈。
#4) 单层循环网络
在单层循环网络中，反馈网络形成一个闭环。在这个模型中，单个神经元接收反馈给它自己或网络中的其他神经元或两者。
#5) 多层循环网络
在多层循环网络中，存在多个隐藏层，输出被重定向回前一层的神经元和同一层的其他神经元或同一神经元本身。
人工神经元网络示例
让我们用下面的网络和给定的输入计算净输入神经元，并获得神经元 Y 的输出，激活函数为二元 sigmoidal。
输入有 3 个神经元 X1、X2 和 X3，单个输出 Y。
与输入相关的权重为：{0.2, 0.1, -0.3}
输入 = {0.3, 0.5, 0.6}
净输入 ={x1*w1+x2*w2+ x3*w3}
净输入 = (0.3*0.2) + (0.5*0.1) + (0.6*-0.3)
净投入= -0.07
二元 Sigmoidal 的输出：
X 是 -0.07
输出为 0.517
人工神经网络教程：机器学习与人工神经网络的比较
| 机器学习 | 人工神经网络 |
|---|---|
| 机器学习从输入数据中学习并发现感兴趣的输出数据模式。 | 人工神经网络在机器学习算法中使用突触、节点和连接链接来训练系统。 |
| ML 是人工智能领域的一个子集。 | ANN 也是人工智能科学领域的一部分，也是机器学习的一个子集。 |
| ML 算法从提供给算法的数据中学习以进行决策。其中一些算法是分类。聚类、关联数据挖掘。 | ANN 是一门深度学习科学，它像人类一样分析具有逻辑结构的数据。 一些 ANN 学习方案是 Hebbian、感知器、反向传播等。 |
| ML 算法具有自学习能力，但如果结果不准确，则需要人工干预。 | 如果结果出现错误，ANN 算法可以使用连接权重进行自我调整。 |
| ML 算法需要编程技能、数据结构和大数据数据库知识。 | ANN 还需要很强的数学、概率、数据结构等技能。 |
| ML 程序可以预测学习数据集的结果，并针对新数据进行自我调整。 | ANN 可以自行学习并为新数据做出智能决策，但它比机器学习更深入。 |
| ML 应用于电子商务、医疗保健、产品推荐等。 | ANN 应用于金融领域、机器学习和人工智能。 |
| 监督学习和无监督学习属于机器学习。 | Kohenen、径向偏差、前馈神经网络等学习都属于人工神经网络。 |
| ML 的一些示例是 Google 搜索结果等。 | 人工神经网络的一些例子是人脸识别、图像识别等。 |
神经网络和深度学习
深度学习网络在输入和输出之间包含多个隐藏层。这些网络的区别在于它们中隐藏层的深度。在显示输出之前，输入数据经过多个步骤。
这些网络不同于早期的神经网络，例如具有单个隐藏层并被称为浅层网络的感知器。深度学习网络中的每个隐藏层都根据前一层的输出训练具有特定特征的数据。
数据在节点处通过多层非线性函数。层数越多，可以识别的特征越复杂，因为下一层将执行来自前一层的特征聚合。
网络中的多个隐藏层增加了复杂性和抽象性。该深度也称为特征层次。因此，深度学习网络能够处理高维数据。
深度学习网络的一些示例包括基于特征和相似性对数百万张图像进行聚类、过滤电子邮件、对 CRM 中的消息应用过滤器、识别语音等。
深度学习网络可以在标记和未标记的数据集上进行训练。对于未标记的数据集，玻尔兹曼选择机等网络执行自动特征提取。
网络通过采样分析输入并最小化输出和输入分布的差异来自动学习。这里的神经网络发现特征和结果之间的相关性。
在标记数据上训练的深度学习网络可以应用于非结构化数据。提供给网络的训练数据越多，它就会变得越准确。
网络从未标记数据中学习的能力是优于其他学习算法的优势。
人工神经网络应用
神经网络已成功用于各种解决方案，如下所示。
#1) 模式识别： ANN 用于模式识别、图像识别、图像可视化、手写、语音和其他此类任务。
#2) 优化问题：诸如寻找最短路线、调度和制造等需要满足问题约束并需要实现最佳解决方案的问题正在使用神经网络。
#3) 预测： NN 可以通过分析过去的趋势来预测情况的结果。银行、股票市场、天气预报等应用使用神经网络。
#4) 控制系统：计算机产品、化学产品和机器人等控制系统使用神经网络。
神经网络的局限性
下面列出了神经网络的一些缺点。
- 这些网络对于用户来说是黑匣子，因为用户除了提供输入和观察输出之外没有任何角色。用户不知道算法中发生的训练。
- 这些算法相当慢，需要多次迭代（也称为 epoch）才能给出准确的结果。这是因为 CPU 单独计算每个节点的权重、激活函数，从而使其消耗时间和资源。这也会导致大量数据的问题。
结论
在这个人工神经网络教程中，我们了解了人工神经网络，它与生物神经元的类比和神经网络的类型等人工神经网络工作原理。
ANN工作原理：ANN 属于机器学习。它是由多个神经元节点组成的计算模型。这些节点接收输入，使用激活函数处理输入并将输出传递给下一层。
输入与称为突触的连接链接权重相关联。一个基本的人工神经网络由一个输入层、权重、激活函数、隐藏层和一个输出层组成。
激活函数用于将输入转换为输出。其中一些是二元函数、双极函数、S 形函数和斜坡函数。根据隐藏层的数量和反馈机制，有不同类型的 ANN，例如单层前馈、多层前馈、循环网络等。
人工神经网络如何工作？在输入和输出之间具有许多隐藏层的 ANN 构成了深度学习网络。深度学习网络具有很高的复杂性和抽象级别，这使得它们能够计算具有数千个参数的高维数据。
人工神经网络用于预测、图像处理、控制系统等领域。这些已成功应用于解决一系列科学问题。
我们希望本教程能够解释你需要了解的有关人工神经网络的一切！！
