所以我有一个任务来编码随机梯度体面,基本上我发现从多个向量中随机采样同时保持顺序不变有点问题。我的代码如下:
import numpy as np
import matplotlib.pyplot as plt
import random
x = np.array([0.,0.,0.,100.,100.,300.,300.,900.,900.,900.])
y = np.array([0.,0.,1.,0.,1.,1.,1.,0.,1.,1.])
def f(b0,b1,x,y):
vec = [y[i]*np.log(1/(1+np.exp(-b0-b1*x[i]))) + (1-y[i])*np.log(1 - (1/(1+np.exp(-b0-b1*x[i])))) for i in range(len(y))]
return sum(vec)
def dervf0(b0,b1,x,y):
vec = [-y[i] + (1/(1+np.exp(-b0-b1*x[i]))) for i in range(len(y))]
return sum(vec)
def dervf1(b0,b1,x,y):
vec = [-x[i]*(y[i]-(1/(1+np.exp(-b0-b1*x[i])))) for i in range(len(y))]
return sum(vec)
def SGD(v,x,y,tol,maxiter):
x = #random selection
y= #random selection
for i in range(maxiter):
theta_new = v - 0.001*np.array(
[dervf0(v[0], v[1], x, y),
dervf1(v[0], v[1], x, y)])
if np.linalg.norm(theta_new - v) < tol:
break
else:
v = theta_new
#print('i\t{}\tv\t{}\ttheta_new\t{}'.format(i, v, theta_new))
return theta_new,i
正如你所看到的,我有 2 个向量,x 和 y,它们是链接的,例如 x[0] 是一个实验,它给了我们 y[0] = 0。在我看来,没有结构的随机抽样是没有意义的. 我正在努力做的是在 SGD 函数中,我想要 x 的 n 点和 y 的 n 点,但结构正确!任何帮助表示赞赏!
是