artificial-intelligence - 降维是可逆的吗？

Question

我已经使用 ENCOG 实现了一种降维算法，它采用具有多个特征的数据集（称为 A）并将其简化为只有一个特征的数据集（B）（我需要时间序列分析）。

现在我的问题是，我有一个来自 B 的值 - 由时间序列分析预测，我可以将它转换回 A 数据集中的二维吗？

Answer 1

不，降维通常是不可逆的。它会丢失信息。

Answer 2

降维（信息压缩）在自动编码器中是可逆的。自动编码器是中间有瓶颈层的常规神经网络。例如，第一层有 20 个输入，中间层有 10 个神经元，最后一层有 20 个神经元。当你训练这样的网络时，你强制它把信息压缩到 10 个神经元，然后再次解压缩，最小化最后一层的误差（期望的输出向量等于输入向量）。当您使用众所周知的反向传播算法来训练此类网络时，它会执行 PCA - 主成分分析。PCA 返回不相关的特征。它不是很强大。

通过使用更复杂的算法来训练自动编码器，您可以使其执行非线性 ICA - 独立分量分析。ICA 返回统计上独立的特征。该训练算法搜索具有高泛化能力的低复杂度神经网络。作为正则化的副产品，你得到了 ICA。