问题标签 [biological-neural-network]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
c++ - 使用 FFT (FFTW) 计算两个函数的卷积
我正在尝试使用 FFT 加速神经模拟器的计算。
方程是：
(1) \sum(j=1 to N) (w(i - j) * s_NMDA[j])
其中 s_NMDA 是长度为 N 的向量，w 定义为：
(2) w(j) = tanh[1/(2 * sigma * p)] * exp(-abs(j) / (sigma * p)]
其中 sigma 和 p 是常数。
（有没有更好的方法在stackoverflow上渲染方程？）
必须对 N 个神经元进行计算。由于 (1) 仅取决于绝对距离 abs(i - j)，因此应该可以使用 FFT（卷积定理）进行计算。
我尝试使用 FFTW 来实现这一点，但结果与预期结果不匹配。我以前从未使用过 FFTW，现在我不确定我的实现是否不正确，我对卷积定理的假设是否错误。
这是 20 个神经元的示例输出：
结果似乎几乎是正确的，但误差随着神经元数量的增加而增加。此外，对于非常低或非常高的位置 (i)，结果似乎更准确。这里发生了什么？
更新：正如 Oli Charlesworth 所建议的，我在 octave 中实现了算法，看看它是实现还是数学问题：
结果：
结果非常相似。因此，我对卷积定理/FFT的理解一定有问题。
machine-learning - 偏斜特征的最合适的归一化/转换方法？
我正在尝试预处理生物数据以训练神经网络，尽管对各种标准化方法进行了广泛的搜索和重复介绍，但对于何时应该使用哪种方法我一无所知。特别是我有一些输入变量是正偏态的，并且一直在尝试确定是否存在最合适的归一化方法。
我还担心这些输入的性质是否会影响网络的性能，因此我尝试了数据转换（特别是对数转换）。然而，一些输入有许多零，但也可能是小的十进制值，并且似乎受到 log(x + 1) （或从 1 到 0.0000001 的任何数字）的高度影响，结果分布未能接近正常（要么仍然偏斜或变成双峰，在最小值处有一个尖峰）。
这与神经网络有关吗？IE。我应该使用特定的特征转换/归一化方法来解释倾斜的数据，还是应该忽略它并选择一种归一化方法并继续推进？
任何关于此事的建议将不胜感激！
谢谢！
neural-network - 创建自己的连接的人工神经网络
我一直在阅读有关前馈人工神经网络 (ANN) 的文章，通常他们需要训练来修改其权重以实现所需的输出。一旦调整后，当接收到相同的输入时，它们也将始终产生相同的输出（生物网络不一定）。
然后我开始阅读关于进化神经网络的文章。然而，进化通常涉及将两个亲本基因组重新组合成一个新的基因组，没有“学习”，而是真正通过适应度测试重新组合和验证。
我在想，人脑管理它自己的联系。它创造了联系，加强了一些联系，削弱了另一些联系。
是否有允许这样做的神经网络拓扑？神经网络一旦有不良反应，要么相应地调整它的权重，并可能创建随机的新连接（我不确定大脑是如何创建新连接的，但即使我没有，创建随机突变的机会新的连接可以缓解这种情况）。一个好的反应会加强这些联系。
我相信这种类型的拓扑被称为图灵 B 型神经网络，但我还没有看到任何关于它的编码示例或论文。
neural-network - 训练具有约束单元的神经网络
动机：
用于对象识别的最先进算法是通过反向传播训练的深度卷积神经网络，其中主要问题是让网络处于良好的局部最小值：http: //books.nips.cc/papers/files/nips25 /NIPS2012_0534.pdf
可以从支持对象识别的神经元记录来自大脑的尖峰计数，并且可以合理地声称近似这些神经元响应的神经网络处于良好的局部最小值。http://www.sciencedirect.com/science/article/pii/S089662731200092X
如果您要约束神经网络中的一个单元子集以再现某些输入的某些值（例如，响应这些图像从神经元记录的尖峰计数），然后通过受约束的梯度下降来减少误差，它可能能够迫使网络稳定在一个好的局部最小值。
准确的问题：
鉴于网络中的某些神经元必须具有某些预定值，在最大限度减少误差的方向上改变神经网络权重的计算效率最高的方法是什么？
迄今为止的进展：
这似乎是一个非常困难的拉格朗日乘数问题，在做了一些工作并搜索了有关该主题的现有文献之后，我想知道是否有人听说过类似的工作。
machine-learning - 训练图像和测试图像
我正在做一个关于腹侧流前馈通路的项目，我有 6 个图像要在 InferoTemporal 层识别。
请有人给我图像的示例，向我展示训练图像和测试图像之间的区别。那么我应该在包含我的训练图像的文件夹中添加什么？我是否应该添加另一个包含测试图像列表的文件夹？如果是，这些测试图像应该是什么？
训练图像必须包含要分析或识别的图像，而测试图像必须包含内存中的图像吗？换句话说，如果我们有例如 16 个训练人脸和一两个测试人脸。那么我们应该分析一下，训练中的人脸对应于测试中的人脸是什么？真的吗 ？？
注意：我不需要代码，我只是想简要解释一下测试图像和训练图像之间的区别。
任何帮助将不胜感激。
machine-learning - 比 k-mean 聚类更准确的方法
在径向基函数网络（RBF 网络）中，选择隐藏层中的所有原型（RBF 函数的中心向量）。此步骤可以通过多种方式执行：
- 可以从一组示例中随机抽取中心。
- 或者，它们可以使用 k 均值聚类来确定。
智能选择原型的方法之一是在我们的训练集上执行 k-mean 聚类，并使用聚类中心作为原型。我们都知道，k-mean 聚类的特点是简单（它很快）但不是很准确。
这就是为什么我想知道比 k-mean 聚类更准确的另一种方法是什么？
任何帮助将不胜感激。
java - 神经网络基础知识成倍增加
你好我正在学习神经网络。神经元是否只存储 1 或 -1 之间的值？我不能给出 255 或 1024 之类的值吗？我正在寻找 encog java 库 XOR 函数求解器示例。我想通过更改 XOR_INPUT 和 XOR_IDEAL 将 XOR 更改为乘数。
这里是源位置： http ://www.heatonresearch.com/wiki/Hello_World
我改变了
从：
至：
在将值更改为这些之后。我得到了无限循环并输出恒定：
纪元 #274107 错误：12.75
纪元 #274108 错误：12.75
纪元 #274109 错误：12.75
纪元 #274110 错误：12.75
纪元 #274111 错误：12.75
纪元 #274112 错误：12.75
纪元 #274113 错误：12.75
纪元 #274114 错误：12.75
纪元 #274115 错误：12.75
纪元 #274116 错误：12.75
纪元 #274117 错误：12.75
纪元 #274118 错误：12.75
纪元 #274119 错误：12.75
这是问题；
1-）这称为局部最小值吗？
2-) 我需要在 (0 和 1) 或 (-1 和 1) 之间设置值吗？
3-) 我怎样才能解决简单的乘法求解器问题？
谢谢。
neural-network - 支持 NeuronDotNet3.0
我想知道你们中是否有人知道，是否支持NeuronDotNet 3.0。网站 neurondotnet.freehostia.com 已关闭，我正在寻找更多示例文件或说明如何正确使用该库。
你们有什么想法吗？我将不胜感激。
machine-learning - 尖峰神经网络分类器实现
有没有实现脉冲神经网络的机器学习包？或任何其他可以让我开始使用它们的独立实现？