machine-learning - 加速 sklearn 中的网格搜索

Question

我正在执行网格搜索以识别最佳 SVM 参数。我正在使用 ipython 和 sklearn。代码很慢，只在一个内核上运行。如何将其播种并利用多个内核？谢谢

random_state = np.random.RandomState(10)
X_train, X_test, y_train, y_test = train_test_split(X, Y, test_size=.2,random_state=random_state)

model_to_set = OneVsRestClassifier(svm.SVC(kernel="linear"))

parameters = {
    "estimator__C": [1, 2, 4, 8, 16, 32],
    "estimator__kernel": ["linear", "rbf"],
    "estimator__gamma":[1, 0.1, 1e-2, 1e-3, 1e-4],
}

model_tuning = GridSearchCV(model_to_set, param_grid=parameters)
model_tuning.fit(X_train, y_train)

print model_tuning.best_score_
print model_tuning.best_params_
print "Time passed: ", "{0:.1f}".format(time.time()-t), "sec"

Answer 1

GridSearchCV中有一个n_job参数

n_jobs：整数，默认=1

并行运行的作业数。在 0.17 版更改：升级到 joblib 0.9.3。

Answer 2

默认情况下，GridSearchCV 使用 1 个作业来搜索估计器的指定参数值。

因此，您需要通过更改以下行来明确设置所需的并行作业数量：

model_tuning = GridSearchCV(model_to_set, param_grid=parameters)

进入以下以允许作业并行运行：

model_tuning = GridSearchCV(model_to_set, param_grid=parameters, n_jobs=4)