deep-learning - 一维 CNN 可以从其他两个包含的特征中推断出一个特征吗？

Question

我在时间数据上使用 1D CNN。假设我有两个特征 A 和 B。A 和 B 之间的比率（即 A/B）很重要 - 我们称之为特征 C。我想知道是否需要显式计算并包含特征 C，或者可以CNN 理论上从给定的特征 A 和 B 中推断出特征 C？

我知道在深度学习中，最好排除高度相关的特征（例如特征C），但我不明白为什么。

Answer 1

最简洁的答案是不。使用标准 DNN 层不会自动捕获这种A/B关系，因为标准层Conv/Dense只会执行矩阵乘法运算。

为了简化讨论，让我们假设您的输入特征是二维的，其中第一个维度是A，第二个维度是B。对这个特征应用一个Conv层简单地学习一个权重矩阵w和偏差b

y = w * [f_A, f_B] + b = w_A * f_A + w_B * f_B + b

如您所见，这种表示无法模拟甚至近似 和 之间的比率A运算B。

您不必以与feature和C相同的方式使用该功能。相反，将特征保留为单独的输入可能是一个更好的主意，因为它的动态范围可能与和的动态范围非常不同。这意味着您可以拥有一个多输入网络，其中每个输入都有自己的特征提取层，并且可以将两个输入的结果特征连接在一起以预测您的目标。ABCAB