3

这是来自 Wolfram 科学会议的一个雄心勃勃的问题：是否存在递归函数的网络模拟之类的东西？也许是一种迭代的“map-reduce”模式？如果我们在迭代中加入交互，事情就会变得复杂：大量交互实体的连续迭代会产生非常复杂的结果。如果有一种方法可以查看定义复杂系统的无数交互的后果，那就太好了。我们能否在包含嵌套传播循环的连接节点的迭代网络中找到递归函数的对应物？

分布式计算的基本模式之一是 Map-Reduce：它可以在元胞自动机 (CA) 和神经网络 (NN) 中找到。NN 中的神经元通过它们的突触收集信息（减少）并将其发送给其他神经元（映射）。CA 中的单元行为类似，它们从邻居那里收集信息（减少），应用转换规则（减少），然后再次将结果提供给他们的邻居。因此 >if< 有一个递归函数的网络模拟，那么 Map-Reduce 肯定是其中的一个重要部分。存在什么样的迭代“map-reduce”模式？某些类型的“map-reduce”模式是否会导致某些类型的流甚至漩涡或漩涡？我们可以为 map-reduce 模式制定一个演算吗？

4

1 回答 1

2

我将探讨关于神经网络中递归的问题，但我真的不明白 map-reduce 是如何影响这个问题的。我知道神经网络可以执行分布式计算，然后将其简化为更本地的表示，但术语map-reduce是这种分布式/本地管道的一个非常具体的品牌，主要与 google 和 Hadoop 相关。

无论如何，您的问题的简单答案是神经网络中没有通用的递归方法。事实上，在神经网络中实现通用角色-值绑定这个非常相关的简单问题目前仍然是一个悬而未决的问题。

为什么神经网络（ANN）中的角色绑定和递归等事情如此困难的一般原则是，ANN本质上是非常相互依赖的。事实上，这就是他们大部分计算能力的来源。而函数调用和变量绑定都是非常明确的操作；它们所包含的内容是全有或全无的事情，而这种离散性在许多情况下是一种有价值的属性。因此，在不牺牲任何计算能力的情况下实现一个内部另一个确实非常棘手。

以下是一小部分尝试解决部分解决方案的论文。幸运的是，很多人都觉得这个问题很有趣！

视觉分割和动态绑定问题：提高人工神经网络浮游生物分类器的鲁棒性 (1993)

组合连接主义绑定问题的解决方案

绑定问题的（有点）新解决方案

于 2011-06-30T03:00:45.787 回答