r - 如何在 R 中使用 XGBoost 算法进行回归？

Question

我正在尝试使用 XGBoost 技术进行预测。由于我的因变量是连续的，我使用 XGBoost 进行回归，但各种门户中可用的大多数参考资料都用于分类。虽然我知道通过使用

objective = "reg:linear"

我们可以进行回归，但我仍然需要对其他参数进行一些澄清。如果有人可以为我提供它的 R 片段，那将是一个很大的帮助。

Answer 1

xgboost(data = X, 
        booster = "gbtree", 
        objective = "binary:logistic", 
        max.depth = 5, 
        eta = 0.5, 
        nthread = 2, 
        nround = 2, 
        min_child_weight = 1, 
        subsample = 0.5, 
        colsample_bytree = 1, 
        num_parallel_tree = 1)

这些是您在使用树木助推器时可以使用的所有参数。对于线性助推器，您可以使用以下参数来玩...

xgboost(data = X, 
        booster = "gblinear", 
        objective = "binary:logistic", 
        max.depth = 5, 
        nround = 2, 
        lambda = 0, 
        lambda_bias = 0, 
        alpha = 0)

这些参数的详细含义可以参考xg.train()xgboost CRAN文档中的描述。

Answer 2

我发现的参数的最佳描述是

https://github.com/dmlc/xgboost/blob/master/doc/parameter.md

Kaggle 脚本存储库中有许多在 R 中使用 XGBoost 的示例。例如：

https://www.kaggle.com/michaelpawlus/springleaf-marketing-response/xgboost-example-0-76178/code