2

我是 python 新手，试图在 python 中学习机器学习。我试图从头开始编写一个神经网络，在著名的 iris 数据集上使用一个隐藏层。这是一个三类分类器，输出为一个热向量。我有还从已经编写的算法中寻求帮助。例如，我使用了与测试集相同的训练集。

这是一个巨大的代码，我想让你告诉我，我们如何减去维度（150,3）的“y”输出（这是一个热向量），而我的输出 y softmax 将是向量（ 150,21）。这是我最大的问题。我试图在网上查找每个人都使用过这种方法，但由于我在 python 中很弱，我不明白它。delta3[range(m1), y] -= 1 arrays used as indices must be of integer (or boolean) type如果 m1 是 sie of(150) 和如果我给出尺寸 m1(150,3) 那么 delta3[range(m1), y] -= 1 TypeError: range() integer end argument expected, got tuple.

remember m1=150
my y vector=150,3
softmax=150,21

我的代码是

#labels or classes
#1=iris-setosa
#2=iris-versicolor
#0=iris-virginica

#features
#sepallength
#sepalwidth
#petallengthcm
#petalwidth


import pandas as pd
import matplotlib.pyplot as plt
import csv
import numpy as np
df=pd.read_csv('Iris.csv')

df.convert_objects(convert_numeric=True)
df.fillna(0,inplace=True)

df.drop(['Id'],1,inplace=True)
#function to convert three labels into values 0,1,2
def handle_non_numericaldata(df):
    columns=df.columns.values
    for column in columns:
        text_digit_vals={}
        def convert_to_int(val):
            return text_digit_vals[val]
        if df[column].dtype!=np.int64 and df[column].dtype!=np.float:       
            column_contents=df[column].values.tolist()
            unique_elements=set(column_contents)
            x=0
            for unique in unique_elements:
                if unique not in text_digit_vals:
                    text_digit_vals[unique]=x
                    x+=1
            df[column]=list(map(convert_to_int,df[column]))
     return(df)
handle_non_numericaldata(df)    

x=np.array(df.drop(['Species'],1).astype(float))
c=np.array(df['Species'])


n_values=(np.max(c)+1)
y=(np.eye(n_values)[c])

m1=np.size(c)

theta=np.ones(shape=(4,1))
theta2=np.ones(shape=(1,21))
#no of examples "m"

#learning rate alpha
alpha=0.01
#regularization parameter
lamda=0.01
for i in range(1,1000):
    z1=np.dot(x,theta)  
    sigma=1/(1+np.exp(-z1))

    #activation layer 2.
    a2=sigma
    z2=np.dot(a2,theta2)

    probs=np.exp(z2)

    softmax=probs/np.sum(probs,axis=1,keepdims=True)
    delta3=softmax



    delta3[range(m1), y] -= 1

    A2=np.transpose(a2)
    dw2 = (A2).dot(delta3)
    W2=np.transpose(theta2)

    delta2=delta3.dot(W2)*sigma*(1-sigma)
    X2=np.transpose(x)
    dw1=np.dot(X2,delta2)


    dw2=dw2-lamda*theta2
    dw1=dw1-lamda*theta

    theta =theta -alpha* dw1

     theta2= theta2-alpha * dw2
    correct_logprobs=0
    correct_logprobs=correct_logprobs-np.log(probs[range(m1),y])
    data_loss=np.sum(correct_logprobs)
    data_loss+=lamda/2*(np.sum(np.square(theta))+ np.square(theta2))
    loss=1./m1*data_loss
    if 1000%i==0:
        print("loss after iteration%i:%f",loss)


final1=x.dot(theta)
sigma=1/(1+np.exp(-final1))
z2=sigma.dot(theta2)
exp_scores=np.exp(z2)
probs=exp_scores/np.sum(exp_scores,axis=1,keepdims=True)
print(np.argmax(probs,axis=1))
4

1 回答 1

0

在 Python中，使用 .xrange生成一个从 x 到 y 的数字元组range(x, y)。如果您生成类似的东西，range(10)那么它与(0, 1, 2, 3, 4, 5, 6, 7, 8, 9). Python 中的列表需要一个整数索引，例如list[0]or list[4]， not list[0, 4]，但是，Python 中有一个内置的东西允许从索引 x 访问列表中的索引 y 这里的语法是：list[0:4]. 这将返回列表中从 0 到 3 的每个值。比如如果一个列表是list = [0,10,3,4,12,5,3]thenlist[0:4]就会返回[0,10,3,4]。

尝试在Python Docs 上查看 Python 中的列表数据结构。以及理解 Python 中的生成器。

我认为您正在寻找的是这样的：delta3 = [[z-1 for z in delta3[x:y]] for x in range(m1)]. 此列表推导式使用两代，[x-1 for x in l]，从列表中的每个元素中减去一个，以及[l[x:y] for x in range(m)]，它生成一个列表列表，其值从 x 到 y 在 m 的范围内。虽然我不确定我完全理解你的最终目标是什么。

于 2017-06-29T17:16:28.310 回答