0

我正在学习使用xgboost,我已经阅读了文档!但是,我不明白为什么我的脚本输出介于0~~2. 首先,我认为它应该是 0 或 1,因为它是一个binary分类,但后来,我读到它的概率是 0 或 1,但是,一些输出是1.5+(至少在 CSV 上),这没有意义大部头书!

我不确定问题出在xgboost参数上还是在 csv 创建中!这条线,np.expm1(preds)我不确定它应该是np.expm1,但我不知道我可以改变它!

总之,我的问题是:

为什么输出不是 0 或 1,而是 0.0xxx 和 1.xxx ?

这是我的脚本:

import numpy as np
import xgboost as xgb
import pandas as pd

train = pd.read_csv('../dataset/train.csv')
train = train.drop('ID', axis=1)

y = train['TARGET']

train = train.drop('TARGET', axis=1)
x = train

dtrain = xgb.DMatrix(x.as_matrix(), label=y.tolist())

test = pd.read_csv('../dataset/test.csv')

test = test.drop('ID', axis=1)
dtest = xgb.DMatrix(test.as_matrix())


# XGBoost params:
def get_params():
    #
    params = {}
    params["objective"] = "binary:logistic"
    params["booster"] = "gbtree"
    params["eval_metric"] = "auc"
    params["eta"] = 0.3  #
    params["subsample"] = 0.50
    params["colsample_bytree"] = 1.0
    params["max_depth"] = 20
    params["nthread"] = 4
    plst = list(params.items())
    #
    return plst


bst = xgb.train(get_params(), dtrain, 1000)

preds = bst.predict(dtest)

print np.max(preds)
print np.min(preds)
print np.average(preds)

# Make Submission
test_aux = pd.read_csv('../dataset/test.csv')
result = pd.DataFrame({"Id": test_aux["ID"], 'TARGET': np.expm1(preds)})

result.to_csv("xgboost_submission.csv", index=False)
4

2 回答 2

1

当您运行xgb具有目标的模型时,binary:logistic您会获得每个样本的概率数组。这些概率是样本属于 class 的机会i

假设您有 3 个班级[A, B, C]。样例的输出表明该样本可能属于By类。[0.2, 0.6, 0.4]

如果您只想要更可能的类,请获取此类概率数组中最大元素的索引,例如使用numpy函数argmax

xgb您可以在包参数的文档中找到更多信息。

于 2016-03-06T12:56:48.980 回答
-1

你只需要这样做:

from xgboost import XGBClassifier

调用predict输出将为 0 或 1,如果调用predict_proba输出将是类的概率。

对不起我的英语不好。

于 2018-11-08T13:04:00.070 回答