11

我在python中创建了以下函数：

def cross_validate(algorithms, data, labels, cv=4, n_jobs=-1):
    print "Cross validation using: "
    for alg, predictors in algorithms:
        print alg
        print
        # Compute the accuracy score for all the cross validation folds. 
        scores = cross_val_score(alg, data, labels, cv=cv, n_jobs=n_jobs)
        # Take the mean of the scores (because we have one for each fold)
        print scores
        print("Cross validation mean score = " + str(scores.mean()))

        name = re.split('\(', str(alg))
        filename = str('%0.5f' %scores.mean()) + "_" + name[0] + ".pkl"
        # We might use this another time 
        joblib.dump(alg, filename, compress=1, cache_size=1e9)  
        filenameL.append(filename)
        try:
            move(filename, "pkl")
        except:
            os.remove(filename) 

        print 
    return

我认为为了进行交叉验证，sklearn 必须适合您的功能。

但是，当我稍后尝试使用它时（f 是我在上面保存的 pkl 文件joblib.dump(alg, filename, compress=1, cache_size=1e9))：

alg = joblib.load(f)  
predictions = alg.predict_proba(train_data[predictors]).astype(float)

我在第一行没有收到错误（所以看起来负载正在工作），但它告诉我NotFittedError: Estimator not fitted, call适合before exploiting the model.下一行。

我究竟做错了什么？我不能重复使用适合计算交叉验证的模型吗？我在 scikits learn 中使用 cross_val_score 时查看了保持拟合参数，但要么我不明白答案，要么它不是我想要的。我想要的是用 joblib 保存整个模型，以便以后无需重新安装即可使用它。

4

3 回答 3

13

交叉验证必须适合您的模型并不完全正确；而是 k 折交叉验证在部分数据集上拟合您的模型 k 次。如果你想要模型本身，你实际上需要在整个数据集上再次拟合模型；这实际上不是交叉验证过程的一部分。所以实际上调用不会是多余的

alg.fit(data, labels)

在交叉验证后适合您的模型。

另一种方法是不使用专门的函数cross_val_score，您可以将其视为交叉验证网格搜索的特例（在参数空间中只有一个点）。在这种情况下GridSearchCV，默认情况下将在整个数据集上重新拟合模型（它有一个参数refit=True），并且在其 API 中也有predict和方法。predict_proba

于 2016-07-24T23:03:04.450 回答
9

您的模型未拟合的真正原因是该函数cross_val_score在拟合副本之前首先复制您的模型：源链接

所以你的原始模型没有安装。

于 2018-04-11T09:38:07.610 回答
0

Cross_val_score 不保留拟合模型 Cross_val_predict 没有 cross_val_predict_proba 但你可以这样做

predict_proba 用于交叉验证模型

于 2016-07-24T22:50:27.253 回答