神经网络是受生物神经网络启发的人工系统。这些系统通过在没有任何任务特定规则的情况下暴露于各种数据集和示例来学习执行任务。其思想是，该系统从传递的数据中生成识别特征，而无需对这些数据集进行预先编程的理解。神经网络是基于阈值逻辑的计算模型。阈值逻辑是算法和数学的结合。神经网络要么基于对大脑的研究，要么基于神经网络在人工智能中的应用。这项工作使有限自动机理论得到了改进。典型神经网络的组成部分包括神经元、被称为突触的连接、权重、偏差、传播函数和学习规则。神经元将从具有激活a_j（t）、阈值\ta_j、激活函数f和输出函数f_out}的前代神经元接收输入p_j（t）。连接由连接、权重和偏差组成，它们决定神经元$i$如何将输出转移到神经元$j$。传播计算输入并输出输出，并将前置神经元函数与权重相加。神经网络的学习基本上是指调整自由参数，即权重和偏差。学习过程基本上有三个事件序列。
其中包括：
1.神经网络是在一个新的环境中模拟的。
2.然后，作为该仿真的结果，神经网络的自由参数被改变。
3.然后，由于其自由参数的变化，神经网络以一种新的方式对环境做出响应。
有关神经网络算法的内容，你可以在中培IT学院机器学习、深度学习、计算机图像处理及知识图谱应用与核心技术实战课程中进阶学习。
监督与非监督学习：神经网络通过监督学习进行学习；监督机器学习涉及输入变量x和相应的期望输出变量y。在这里，我们介绍了了解环境的教师的概念。因此，我们可以说教师既有投入产出集。神经网络不知道环境。输入暴露于教师和神经网络，神经网络基于输入生成输出。然后将该输出与教师所期望的输出进行比较，同时产生误差信号。然后逐步调整网络的自由参数，使得误差最小。当算法达到可接受的性能水平时，学习停止。无监督机器学习有输入数据X，没有相应的输出变量。目标是对数据的底层结构进行建模，以了解更多关于数据的信息。监督机器学习的关键词是分类和回归。对于无监督机器学习，关键词是聚类和关联。
神经网络的进化：Hebbian学习涉及神经可塑性。Hebbian学习是无监督的，涉及长时程增强。Hebbian学习处理模式识别，exclusive或circuits处理if-then规则。反向传播解决了鹤壁学无法处理的排他性或问题。这也使得多层网络是可行和有效的。如果发现错误，则通过修改每个节点的权重来解决每个层的错误。这导致了支持向量机、线性分类器和最大池的发展。消失梯度问题影响使用反向传播和递归神经网络的前馈网络。这就是所谓的深度学习。基于硬件的设计用于生物物理模拟和神经营养计算。他们有大规模的分量分析和卷积创建了一类新的模拟神经计算。这也解决了多层前馈神经网络的反向传播问题。卷积网络用于在卷积层和最大池化层之间交替，其中连接层（完全或稀疏连接）具有最终分类层。学习是在没有监督的预训练的情况下完成的。每个滤波器相当于一个必须训练的权重向量。在处理小型和大型神经网络时，必须保证偏移方差。发展网络正在解决这一问题。其他一些学习技术包括纠错学习、基于记忆的学习和竞争性学习。
神经网络的类型
有七种类型的神经网络可以使用。
多层感知器（MLP）：一种具有三层或多层的前馈神经网络，包括输入层、一层或多层隐藏层和输出层。它使用非线性激活函数。
卷积神经网络（CNN）：一种设计用于处理具有网格状结构的输入数据（如图像）的神经网络。它使用卷积层和池化层从输入数据中提取特征。
递归神经网络（RNN）：一种可以对可变长度的输入序列（如文本）进行操作的神经网络。它使用权重进行结构化预测。
递归神经网络（RNN）：一种在有向循环中连接神经元的神经网络，使其能够处理顺序数据。
长短期记忆（LSTM）：一种RNN，旨在克服训练RNN时的消失梯度问题。它使用存储单元和门来选择性地读取、写入和擦除信息。
序列到序列（Seq2Seq）：一种使用两个RNN将输入序列映射到输出序列的神经网络，例如将一种语言翻译成另一种语言。
浅层神经网络：一种只有一个隐藏层的神经网络，通常用于更简单的任务或作为大型网络的构建块。
这些神经网络是下面演示的基本神经网络的应用。
例如，神经网络将使用三个向量：属性X的向量、类Y的向量和权重W的向量。代码将使用100次迭代来将属性拟合到类。预测被生成、加权，然后在通过权重向量W迭代后输出。神经网络处理反向传播。
示例：
输入：
X { 2.6, 3.1, 3.0,
3.4, 2.1, 2.5,
2.6, 1.3, 4.9,
0.1, 0.3, 2.3,};
y {1, 1, 1};
W {0.3, 0.4, 0.6};
输出：
0.990628
0.984596
0.994117
实施：
import numpy as np
# array of any amount of numbers. n = m
X = np.array([[1, 2, 3],
[3, 4, 1],
[2, 5, 3]])
# multiplication
y = np.array([[.5, .3, .2]])
# transpose of y
y = y.T
# sigma value
sigm = 2
# find the delta
delt = np.random.random((3, 3)) - 1
for j in range(100):
# find matrix 1. 100 layers.
m1 = (y - (1/(1 + np.exp(-(np.dot((1/(1 + np.exp(
-(np.dot(X, sigm))))), delt))))))*((1/(
1 + np.exp(-(np.dot((1/(1 + np.exp(
-(np.dot(X, sigm))))), delt)))))*(1-(1/(
1 + np.exp(-(np.dot((1/(1 + np.exp(
-(np.dot(X, sigm))))), delt)))))))
# find matrix 2
m2 = m1.dot(delt.T) * ((1/(1 + np.exp(-(np.dot(X, sigm)))))
* (1-(1/(1 + np.exp(-(np.dot(X, sigm)))))))
# find delta
delt = delt + (1/(1 + np.exp(-(np.dot(X, sigm))))).T.dot(m1)
# find sigma
sigm = sigm + (X.T.dot(m2))
# print output from the matrix
print(1/(1 + np.exp(-(np.dot(X, sigm)))))
输出：
[ 0.99999294 0.99999379 0.99999353]
[ 0.99999987 0.99999989 0.99999988]
[ 1. 1. 1. ]]
局限性：神经网络用于监督模型。它不处理无监督的机器学习，也不对数据进行聚类和关联。它还缺乏计算成本更高的神经网络所能达到的精度。基于Andrew Trask的神经网络。此外，神经网络不适用于X的行数和列数与Y和W的行数不匹配的任何矩阵。接下来的步骤是创建一个无监督的神经网络，并通过更多的迭代和线程来增加有监督模型的计算能力。
无论你是在为第一次面试做准备，还是打算在不断发展的科技环境中提高技能，中培IT学院的实践课程都是你成功的关键。中培IT学院机器学习、深度学习、计算机图像处理及知识图谱应用与核心技术实战课程涵盖了神经网络算法；Tensorflow DNN CNN构建；基于OpenCV计算机视觉识别；从0到1完成知识图谱构建等内容，通过展示教师的实际科研成果，讲述人工智能与知识图谱的技术原理与应用系统开发方法、知识图谱系统开发工具使用方法。使学员掌握知识图谱基础与专门知识，获得较强的知识图谱应用系统的分析、设计、实现能力，旨在以有时限的方式加速您的成长。
[1] |
