我预计我在这里遗漏了一些明显的东西。
我正在尝试建立一个过度拟合的演示。我有一个二次生成函数,从中抽取了 20 个样本,现在我想将递增程度的多项式线性模型拟合到采样数据。
出于某种原因,无论我使用哪种模型,每次运行时predict
都会返回 N 个预测,其中 N 是用于训练我的模型的记录数。
set.seed(123)
N=20
xv = seq(1,5,length.out=1e4)
x=sample(xv,N)
gen=function(v){v^2 + 2*rnorm(length(v))}
y=gen(x)
df = data.frame(x,y)
# convenience function for building formulas for polynomial regression
build_formula = function(N){
fpart = paste(lapply(2:N, function(i) {paste('+ poly(x,',i,',raw=T)')} ), collapse="")
paste('y~x',fpart)
}
## Example:
## build_formula(4)="y~x + poly(x, 2 ,raw=T)+ poly(x, 3 ,raw=T)+ poly(x, 4 ,raw=T)"
model = lm(build_formula(10), data=df)
predict(model, data=xv) # returns 20 values instead of 1000
predict(model, data=1) # even *this* spits out 20 results. WTF?
无论公式中的多项式程度如何,都会出现这种行为,包括平凡的情况'y~x'
:
formulas = sapply(c(2,10,20), build_formula)
formulas = c('y~x', formulas)
pred = lapply(formulas
,function(f){
predict(
lm(f, data=df)
,data=xv)
})
lapply(pred, length) # 4 x 20 predictions, expecting 4 x 1000
# unsuccessful sanity check
m1 = lm('y~x', data=df)
predict(m1,data=xv)
这让我发疯。我究竟做错了什么?