我正在尝试使用随机森林来解决我的问题(以下是波士顿数据集的示例代码,而不是我的数据)。我打算GridSearchCV
用于超参数调整,但不同参数的值范围应该是多少?我怎么知道我选择的范围是正确的?
我在互联网上读到它,有人建议在第二次网格搜索中尝试“放大”最佳值(例如,如果它是 10,那么尝试 [5, 20, 50])。
这是正确的方法吗?我应该对随机森林所需的所有参数使用这种方法吗?这种方法可能会错过一个“好的”组合,对吧?
import numpy as np
from sklearn.grid_search import GridSearchCV
from sklearn.datasets import load_digits
from sklearn.ensemble import RandomForestRegressor
digits = load_boston()
X, y = dataset.data, dataset.target
model = RandomForestRegressor(random_state=30)
param_grid = { "n_estimators" : [250, 300],
"criterion" : ["gini", "entropy"],
"max_features" : [3, 5],
"max_depth" : [10, 20],
"min_samples_split" : [2, 4] ,
"bootstrap": [True, False]}
grid_search = GridSearchCV(clf, param_grid, n_jobs=-1, cv=2)
grid_search.fit(X, y)
print grid_search.best_params_