人工神经网络算法和神经计算机？

点击联系发帖人 时间：2022-07-09 11:41

人工智能神经网络技术

人工智能似乎一直是一个遥远的科幻的概念，但事实上，当今世界很多应用已经达到了“人工智能”的标准。除了前文提到的围棋软件，还有自动驾驶系统、智能管家，甚至苹果手机上的语音助手Siri都是一种人工智能。而这些应用背后的核心算法就是深度学习（Deep Learning），这也是机器学习（Machine Learning）领域最火热的一个分支，它和其他机器学习算法有很大不同，

深度学习依赖大量数据的迭代训练，进而发现数据中内在的特征（Feature），然后给出结果。这些特征中，有很多已经超越了人为定义的特征的表达能力，因此得以让深度学习在很多任务的表现上大大超越了其他机器学习算法，甚至超越了人类自己。

但是，深度学习还没能全方面超越人类。相反，它的工作完全依赖于人类对算法的设计。深度学习从诞生到爆发用了大约五十年。从其发展历程，我们可以窥见计算机科学家们的步步巧思，并从中探讨其可能的发展方向。

深度学习就是人工神经网络（Artificial Neural Network）。神经网络算法得名于其对于动物神经元传递信息方式的模拟，而深度学习这一“俗称”又来自于多层级联的神经元：众多的层让信息的传递实现了“深度”。

在动物身上，神经一端连接感受器，另一端连接大脑皮层，中间通过多层神经元传导信号。神经元之间也不是一对一连接，而是有多种连接方式（如辐射式、聚合式等），从而形成了网络结构。这一丰富的结构最终不仅实现了信息的提取，也使动物大脑产生了相应的认知。动物的学习过程则需要外界信息在大脑中的整合。外界信息进入神经系统，进而成为大脑皮层可以接收的信号；信号与脑中的已有信息进行比对，也就在脑中建立了完整的认知。

类似地，通过计算机编程，计算机科学家让一层包含参数（Parameter）和权重（Weight）的函数模拟神经元内部的操作，用非线性运算的叠加模拟神经元之间的连接，最终实现对信息的重新整合，进而输出分类或预测的结果。针对神经网络输出结果与真实结果之间的差异，神经网络会通过梯度（Gradient）逐层调整相应的权重以缩小差异，从而达到深度学习的目的。

其实，模拟动物的神经活动，并非深度学习的专利。早在1957年，Frank Rosenblatt就提出了感知机（Perceptron）的概念。这是一种只能分出两类结果的单层神经网络。这种模型非常简单，输出结果与输入信息之间几乎就是一个“加权和”的关系。虽然权重会直接根据输出结果与真实值之间的差异自动调整，但是整个系统的学习能力有限，只能用于简单的数据拟合。

几乎与此同时，神经科学界出现了重大进展。神经科学家David Hubel和Torsten Wiesel对猫的视觉神经系统的研究证实，视觉特征在大脑皮层的反应是通过不同的细胞达成的。其中，简单细胞（Simple Cell）感知光照信息，复杂细胞（Complex Cell）感知运动信息。

受此启发，1980年，日本学者福岛邦彦（Kunihiko Fukushima）提出了一个网络模型“神经认知机（Neocognitron）”（图1）用以识别手写数字。这种网络分成多层，每层由一种神经元组成。在网络内部，两种神经元交替出现，分别用以提取图形信息和组合图形信息。这两种神经元到后来演化成了重要的卷积层（Convolution Layer）和提取层（Pooling Layer）。但是这个网络的神经元都是由人工设计而成，其神经元也不会根据结果进行自动调整，因此也就不具有学习能力，只能限制在识别少量简单数字的初级阶段。

自此，计算机科学家们越来越多地利用神经网络算法来解决问题。除了上述在二维图像上的分类、分割、检测等方面的应用，神经网络还被用在时序信号甚至是无监督的机器学习中。循环神经网络（Recurrent Neural Network）可以按照时间顺序接受信号的输入。一方面，它的每层神经元可以压缩并储存记忆；另一方面，它可以从记忆中提取有效的维度进行语音识别和文字理解。而把神经网络用在无监督学习上，就跳出了“提取主成分”或者“提取特征值”的窠臼，简单地用一个包含了多层网络的自编码器（Autoencoder），就可以把原始信息自动地实现降维和提取。再结合向量量化网络，可以实现对特征的聚类，进而在没有太多标记数据的情况下得到分类结果。可以说，神经网络无论是效果还是应用范围上，都成为了无可争议的王者。

想继续了解深度学习的发展现状和趋势吗?速戳“了解更多”，贸泽原创博客文章，源源送上！

未来十年人工智能对哪个行业影响最大？

}

我对进化算法有很好的基础，所以现在我开始阅读有关人工神经网络的文章。我遇到了本教程

我的问题是：在我可以单独使用GA的情况下，使用ANN + GA之间在概念/实践上有什么区别？我的意思是，我的Tetris Bot是ANN吗？(我不这么认为)。

有几个与此相关的问题，但我找不到答案：

进化算法和神经网络是否在同一领域中使用？

何时使用遗传算法与何时使用神经网络？

遗传算法是一种优化算法。

人工神经网络是一个函数逼近器。为了使函数近似，您需要优化算法来调整权重。 ANN可以用于监督学习(分类，回归)或强化学习，有些甚至可以用于无监督学习。

在监督学习中，像遗传算法这样的无导数优化算法要比大多数使用梯度信息的优化算法慢。因此，只有在增强学习中使用遗传算法来进化神经网络才有意义。这被称为"神经进化"。在这种设置中，像多层感知器这样的神经网络的优势在于，当它们具有足够数量的隐藏节点时，它们可以以任意精度近似逼近任何函数。

创建tetris机器人时，不一定必须使用ANN作为函数逼近器。但是您需要某种函数逼近器来表示您的机器人策略。我想这比ANN更简单。但是，当您要创建复杂的非线性策略时，可以这样做。 G。与人工神经网络

阿尔法的答案是完美的。这只是一张图像，以说明他说的话：

元优化器=无(但可以)
问题=俄罗斯方块(例如ANN)

如果您还不知道答案，则可以使用进化算法，但是您能够以某种方式评估候选者并提供有意义的突变。

如果您已经有了答案(和输入)，并且想"训练计算机"，以便可以"猜测"未知输入的答案，那么神经网络非常有用。另外，您不必考虑太多问题，网络会自行解决。

检查此"游戏AI"示例：/#/
(请注意，这很简单，您要做的就是为他们提供足够的培训，而您不必了解游戏AI-一旦足够好，您要做的就是"下载"内存并在需要时运行它)

我不是专家，但基于我在该领域所掌握的知识。

人工神经网络最终具有神经科学的基础。它试图通过在算法中构建类似神经元的结构来模拟/建模其行为。与结果相比，非常强调问题的学术性质。据我了解，出于这个原因，从工程的角度来看，人工神经网络并不是很受欢迎。机器学习的统计基础(HMM和贝叶斯网络)产生更好的结果。

简而言之，只要它对某些潜在的神经科学对象有所帮助，即使使用某种形式的GA，它也可以是ANN。

如果您使用GA，则不一定是ANN。

}

DeepWalk是最早提出的基于 Word2vec 的节点向量化模型。其主要思路，就是利用构造节点在网络上的随机游走路径，来模仿文本生成的过程，提供一个节点序列，然后用Skip-gram和Hierarchical Softmax模型对随机游走序列中每个局部窗口内的节点对进行概率建模，最大化随机游走序列的似然概率，并使用最终随机梯度下降学习参数。

}

久游无息网