0

我正在努力实现一个单层感知器：http ://en.wikipedia.org/wiki/Perceptron 。根据权重，我的程序要么在学习循环中丢失，要么找到错误的权重。作为测试用例，我使用逻辑 AND。你能告诉我为什么我的感知器不收敛吗？这是为了我自己的学习。谢谢。

# learning rate
rate = 0.1

# Test data
# logical AND
# vector = (bias, coordinate1, coordinate2, targetedresult)

testdata = [[1, 0, 0, 0], [1, 0, 1, 0], [1, 1, 0, 0], [1, 1, 1, 1]]

# initial weigths
import random
w = [random.random(), random.random(), random.random()]
print 'initial weigths = ', w

def test(w, vector):
    if diff(w, vector) <= 0.1:
        return True
    else:
        return False

def diff(w, vector):
    from copy import deepcopy
    we = deepcopy(w)
    return dirac(sum(we[i]*vector[i] for i in range(3))) - vector[3]

def improve(w, vector):
    for i in range(3):
        w[i] += rate*diff(w, vector)*vector[i]
    return w

def dirac(z):
    if z > 0:
        return 1
    else:
        return 0

error = True

while error == True:
    discrepancy = 0
    for x in testdata:
        if not test(w, x):
            w = improve(w, x)
            discrepancy += 1
    if discrepancy == 0:
        print 'improved weigths = ', w
        error = False
4

2 回答 2

1

看起来您需要一个围绕 for 循环的额外循环来迭代改进，直到您的解决方案收敛（您链接的维基百科页面中的第 3 步）。

就目前而言，您只给每个训练案例一次更新权重的机会，因此它没有机会收敛。

于 2013-04-12T08:36:38.863 回答
1
  1. 我能看到的唯一故障是激活函数。增加截止值，(z > 0.5)。
  2. 此外，由于每个 epoch 只有 4 个输入案例，因此很难将 0 和 1 作为唯一输出。尝试移除 dirac 函数并将阈值增加到 0.2。学习可能需要更长的时间，但会更精确。当然，在 NAND 的情况下，你真的不需要。但它有助于理解。
于 2013-04-12T11:06:22.877 回答