neural-network - 如何在 pytorch 模型中声明每个神经元连接？

Question

我想创造一个类似大脑的混乱：

• 我们有长度的输入张量I和长度的n输出张O量p
• 在这两者之间，我们有K“交叉”层
• +-在交叉层，神经元与“接近”神经元的随机子集（范围c）共享当时的值。形式为 w_i*current_neuron_val
• 和J“创建”层新神经元是从一组或 ReLued “关闭”神经元（+-范围c）创建的。封闭的神经元不会进入更深层。

我们可以用 PyTorch 做这样的事情，以便这样的模型可以训练吗？

Answer 1

您应该基于 nn.Module 创建自己的类并手动实现前进和后退。我猜你必须通过张量内的特征标签来控制那些类似大脑的混乱连接（又名“0” - 无连接）。因为所有框架都使用张量——默认情况下它们是完全连接的，而另一种行为必须是代码中的诱导。

查看bindsNET的代码- 他们如何使用 pytorch 实现类似尖峰的模型