微软 ATP 小课堂| 走近AI之"人工神经网络"

（本文阅读时间：2分钟）

人工神经网络模型（以下简称“神经网络”）的研究和发展同样是以模仿生物神经网络为基础的。

▍神经网络模型简介

与其他模型不同，神经网络模型不仅仅源于数学。例如，线性回归模型最初由高斯发现并提出，用于人口统计。

在《人口论》中，马尔萨斯曾引用此模型，并对其进行了修正，最终形成了我们今天所知的逻辑回归模型。

▍神经网络要素

神经网络的结构包括层数、每层的神经元数量以及是否全连接等。神经元和网络结构的不同，定义了不同的神经网络。

神经元的连接方式不同，神经网络也不同。即便在全连接的情况下，输入数据加权后的非线性处理方式也可能多种多样。

▍深度神经网络的发展

2006年，加拿大多伦多大学的辛顿（Hinton）教授发表了一篇关于深度神经网络的论文，将当时的硬件发展与神经网络结合，首次将GPU应用于深度学习的训练中。

这一创新解决了运算力的问题，使得神经网络在理论研究和硬件设备两方面都具备了必要条件。同时，大数据技术的发展为训练深层神经网络提供了充足的数据。

神经网络再度成为热点，深度神经网络受到学术界和工业界的广泛关注，深度学习领域也随之兴起。

▍深度学习

“深度学习”与之前提到的“机器学习”的主要区别在于特征提取方式。机器学习依赖人工提取特征，而深度学习则完全由神经网络自动完成，只需将所有特征输入即可。

在充分训练的前提下，深度学习模型的自适应性优于机器学习模型，但对资源和计算能力的需求也更高。

深度学习所需的数据量远超机器学习，训练一个机器学习模型可能只需几千个样本，而训练深度学习模型则至少需要几万个样本。

由于深度学习对数据需求量大，对计算能力的要求也相应地大大超过机器学习模型。一个机器学习模型可能对硬件要求不高，训练时间几分钟或几小时即可，而深度学习模型则需要使用带有GPU的机器进行训练，训练时间可能长达十几、几十个小时，甚至几周几个月。