2

Pylearn2 通常被建议作为神经网络的 python 资源。

我想创建一个单隐藏层神经网络并使用反向传播算法对其进行训练。

这应该是基本的，但我不明白如何用 pylearn2 来做。我在多层感知器上找到了本教程，但尽管如此，我仍然迷路了。（http://nbviewer.ipython.org/github/lisa-lab/pylearn2/blob/master/pylearn2/scripts/tutorials/multilayer_perceptron/multilayer_perceptron.ipynb）

n = 200
p = 20
X = np.random.normal(0, 1, (n, p))
y = X[:,0]* X[:, 1] + np.random.normal(0, .1, n)

我想创建一个具有 40 个隐藏节点和一个 sigmoid 激活函数的单层神经网络。

有人能帮我吗？

编辑：

我已经能够编写此代码，但它仍然无法正常工作

ds = DenseDesignMatrix(X=X, y=y)

hidden_layer = mlp.Sigmoid(layer_name='hidden', dim=10, irange=.1, init_bias=1.)
output_layer = mlp.Linear(1, 'output', irange=.1)
trainer = sgd.SGD(learning_rate=.05, batch_size=10, 
                  termination_criterion=EpochCounter(200))

layers = [hidden_layer, output_layer]
ann = mlp.MLP(layers, nvis=1)
trainer.setup(ann, ds)

while True:
    trainer.train(dataset=ds)
    ann.monitor.report_epoch()
    ann.monitor()
    if not trainer.continue_learning(ann):
        break
4

2 回答 2

3

这是我目前的解决方案：

n = 200
p = 2
X = np.random.normal(0, 1, (n, p))
y = X[:,0]* X[:, 1] + np.random.normal(0, .1, n)
y.shape = (n, 1)

ds = DenseDesignMatrix(X=X, y=y)


hidden_layer = mlp.Sigmoid(layer_name='hidden', dim=10, irange=.1, init_bias=1.)
output_layer = mlp.Linear(dim=1, layer_name='y', irange=.1)
trainer = sgd.SGD(learning_rate=.05, batch_size=10, 
                  termination_criterion=EpochCounter(200))
layers = [hidden_layer, output_layer]
ann = mlp.MLP(layers, nvis=2)
trainer.setup(ann, ds)

while True:
    trainer.train(dataset=ds)
    ann.monitor.report_epoch()
    ann.monitor()
    if not trainer.continue_learning(ann):
        break

inputs = X 
y_est = ann.fprop(theano.shared(inputs, name='inputs')).eval()
于 2015-04-03T11:46:00.770 回答
0

pylearn2 可以通过实例化对象并像往常一样使用它们，或者通过配置 Yaml 文件定义网络拓扑和参数并让 pylearn2 处理其余部分来使用。了解事物如何工作的一个好方法是pylearn2/scripts/train.py查看执行的操作。此外，在pylearn2/train.py（不幸的名字选择，我猜）你会发现包含所有关于训练的信息的“训练对象”。基本上，当您使用配置文件时，yaml 解析器将使用配置文件中的信息构建一个训练对象，然后开始训练。有很多例子pylearn2/scripts/papers，如果你愿意，你可以看看。

我还建议您阅读这篇文章以更好地理解 pylearn2 的工作原理：Your models in Pylearn2

最后，您可能还想查看Blocks，这是一个新的神经网络框架，由与 pylearn2 相同的实验室开发。它正在非常活跃的开发中，并且具有比 pylearn2 更少的功能，但是您可能会更喜欢它，尤其是如果您了解 Theano 的一些知识。

于 2015-04-02T16:40:16.417 回答