67

我是神经网络主题的新手。我遇到了两个术语卷积神经网络和递归神经网络。

我想知道这两个术语是否指的是同一件事，或者，如果不是，它们之间有什么区别？

4

8 回答 8

54

CNN和RNN的区别如下：

美国有线电视新闻网：

  1. CNN 采用固定大小的输入并生成固定大小的输出。

  2. CNN 是一种前馈人工神经网络——是多层感知器的变体，旨在使用最少的预处理。

  3. CNN 使用其神经元之间的连接模式，并受到动物视觉皮层组织的启发，其单个神经元的排列方式使得它们对重叠的视野区域做出反应。

  4. CNN 是图像和视频处理的理想选择。

循环神经网络：

  1. RNN 可以处理任意输入/输出长度。

  2. RNN 与前馈神经网络不同 - 可以使用其内部存储器来处理任意输入序列。

  3. 递归神经网络使用时间序列信息。即我最后说的将影响我接下来要说的。

  4. RNN 是文本和语音分析的理想选择。

于 2017-04-28T03:15:44.070 回答
15

卷积神经网络 (CNN) 旨在识别图像。它内部有卷积，可以看到图像上识别的对象的边缘。循环神经网络 (RNN) 旨在识别序列，例如语音信号或文本。循环网络内部有循环，这意味着网络中存在短记忆。我们已经应用 CNN 和 RNN 选择合适的机器学习算法来对 BCI 的 EEG 信号进行分类：http ://rnd.azoft.com/classification-eeg-signals-brain-computer-interface/

于 2015-10-26T10:19:11.093 回答
5

这些架构完全不同，因此很难说“有什么区别”，因为唯一的共同点是它们都是神经网络。

卷积网络是具有重叠“接收场”执行卷积任务的网络。

循环网络是具有循环连接的网络（与“正常”信号流方向相反），它们在网络拓扑中形成循环。

于 2014-01-05T19:51:02.673 回答
2

除其他外，在 CNN 中，我们通常使用沿轴的 2d 平方滑动窗口和卷积（与原始输入 2d 图像）来识别模式。

在 RNN 中，我们使用之前计算的内存。如果你有兴趣可以看看，LSTM (Long Short-Term Memory)，它是一种特殊的 RNN。

CNN 和 RNN 都有一个共同点，因为它们检测模式和序列，那就是你不能打乱你的单个输入数据位。

于 2017-08-26T08:54:22.363 回答
0

首先描述卷积层和循环层更有帮助。

卷积层：

包括输入、一个或多个过滤器（以及子采样）。

输入可以是一维或n维（n>1），例如可以是二维图像。在每一层中还定义了一个或多个过滤器。输入与每个过滤器进行卷积。卷积的方法几乎类似于图像处理中滤波器的卷积。一般来说，本节的目的是从输入中提取每个过滤器的特征。每个卷积的输出称为特征图。

例如，对水平边缘考虑一个滤波器，它与输入的卷积结果就是对输入图像的水平边缘的提取。通常，在实践中，尤其是在第一层中，定义了大量的过滤器（例如，一层中有 60 个过滤器）。另外，卷积后通常会进行二次采样操作，例如选择它们的两个邻域值的最大值或平均值。

卷积层允许从输入中提取重要的特征和模式。并删除输入数据相关性（线性和非线性）。

【下图展示了一个使用卷积层和模式提取进行分类的例子。】[1]

[1]：https : //i.stack.imgur.com/HS4U0.png [Kalhor, A. (2020)。分类和回归神经网络。演讲。]

卷积层的优点：

  • 能够消除相关性并减少输入维度

  • 网络泛化正在增加

  • 网络鲁棒性随着变化而增加，因为它提取了关键特征

  • 非常强大并广泛用于监督学习

  • ...

循环层：

在这些层中，当前层的输出或下一层的输出也可以作为该层的输入。它还可以接收时间序列作为输入。

不使用循环层的输出如下（一个简单的例子）：

y = f(W * x)

其中 x 是输入，W 是权重，f 是激活函数。

但在循环网络中，它可以如下所示：

y = f(W * x)
y = f(W * y)
y = f(W * y)
... until convergence

这意味着在这些网络中，生成的输出可以用作输入，因此具有记忆网络。某些类型的循环网络是离散 Hopfield 网络和循环自动关联 NET，它们是简单网络或复杂网络，例如 LSTM。

下图显示了一个示例。

循环层的优点：

  • 他们有记忆能力

  • 他们可以使用时间序列作为输入。

  • 他们可以使用生成的输出供以后使用。

  • 非常用于机器翻译、语音识别、图像描述

  • ...

使用卷积层的网络称为卷积网络 (CNN)。同样，使用循环层的网络称为循环网络。也可以根据所需的应用在网络中使用两个层！

于 2020-08-12T14:00:40.710 回答
0

用于计算机视觉的卷积神经网络 (CNN) 和用于自然语言处理的循环神经网络 (RNN)。

虽然这可以应用于其他领域，但 RNN 具有网络的优势，可以通过在网络中引入循环来使信号在两个方向上传播。

反馈网络功能强大，并且可能变得极其复杂。从先前输入中得出的计算被反馈到网络中，这给了它们一种记忆。反馈网络是动态的：它们的状态不断变化，直到达到平衡点。

于 2015-09-07T03:00:28.293 回答
0

首先，我们需要知道递归神经网络与递归神经网络不同。根据维基的定义，

递归神经网络 (RNN) 是一种通过在结构上递归地应用相同的权重集而创建的深度神经网络

从这个意义上说，CNN 是一种递归神经网络。另一方面，递归神经网络是一种基于时间差的递归神经网络。因此，在我看来，CNN 和递归 NN 是不同的，但都是从递归 NN 派生的。

于 2017-06-17T03:29:39.383 回答
0

这就是CNN和RNN的区别

卷积神经网络：

在深度学习中，卷积神经网络（CNN 或 ConvNet）是一类深度神经网络，最常用于分析视觉图像。...它们在图像和视频识别、推荐系统、图像分类、医学图像分析和自然语言处理中都有应用。

递归神经网络：

循环神经网络 (RNN) 是一类人工神经网络，其中节点之间的连接沿时间序列形成有向图。这允许它表现出时间动态行为。与前馈神经网络不同，RNN 可以使用其内部状态（记忆）来处理输入序列。

于 2019-11-25T05:06:54.003 回答