我将使用逻辑回归预测一部电影的票房。我得到了一些火车数据,包括演员和导演。这是我的数据:
Director1|Actor1|300 million
Director2|Actor2|500 million
我将使用整数对导演和演员进行编码。
1|1|300 million
2|2|300 million
这意味着那X={[1,1],[2,2]} y=[300,500]
有效fit(X,y)
吗?
我将使用逻辑回归预测一部电影的票房。我得到了一些火车数据,包括演员和导演。这是我的数据:
Director1|Actor1|300 million
Director2|Actor2|500 million
我将使用整数对导演和演员进行编码。
1|1|300 million
2|2|300 million
这意味着那X={[1,1],[2,2]} y=[300,500]
有效fit(X,y)
吗?
您不能像这样在线性回归中使用分类变量。线性回归将所有变量视为数值变量。因此,如果将 Director1 编码为 1,将 Director2 编码为 2,线性回归将尝试根据该编码方案找到关系。它将假定 Director2 的大小是 Director1 的两倍。实际上,这些数字没有任何意义。您可以将它们编码为 143 和 9879,应该没有任何区别。它们没有任何数字含义。为了确保线性回归正确处理它们,您需要使用虚拟变量。
使用虚拟变量,每个类别级别都有一个变量。例如,如果您有 3 个主管,您将有 3 个变量:D1、D2 和 D3。如果对应的电影由 Director1 导演,则 D1 的值为 1,否则为 0;如果电影由 Director2 导演,则 D2 的值为 1,否则为 0...因此,使用一组值 D2 D1 D2 D3 D1 D2,您的虚拟变量将是:
D1 D2 D3
D2 0 1 0
D1 1 0 0
D2 0 1 0
D3 0 0 1
D1 1 0 0
D2 0 1 0
在线性回归中,为了避免多重共线性,我们只使用n-1
这些变量,其中n
是类别数(本例中的董事数)。将选择其中一位董事作为基数,并将在回归模型中由常数表示。不管是哪一个。例如,如果您排除 D3,您将知道该电影是由 Director3 导演的,如果D1=0
和D2=0
。您无需指定D3=1
.
在 scikit-learn 中,这种转换是使用OneHotEncoder完成的。该示例来自 scikit-learn文档:
您有三个分类变量:性别、区域和浏览器。Gender 有 2 个级别:["male", "female"]
, Region 有 3 个级别:["from Europe", "from US", "from Asia"]
和 Browser 有 4 个级别:["uses Firefox", "uses Chrome", "uses Safari", "uses Internet Explorer"]
。假设它们是用从零开始的数字编码的。所以[0, 1, 2]
是指使用 Safari 的美国男性。
>>> enc = preprocessing.OneHotEncoder()
>>> enc.fit([[0, 0, 3], [1, 1, 0], [0, 2, 1], [1, 0, 2]])
OneHotEncoder(categorical_features='all', dtype=<... 'float'>,
handle_unknown='error', n_values='auto', sparse=True)
>>> enc.transform([[0, 1, 3]]).toarray()
array([[ 1., 0., 0., 1., 0., 0., 0., 0., 1.]])
使用enc.fit
scikit-learn 推断每个变量的级别数。对于像 [0, 1, 3] 这样的观察,如果你打电话,enc.transform
你会看到他们的虚拟变量。请注意,结果数组的长度是 2 + 3 + 4 = 9。前两个代表性别(如果是男性,第一个是 1),接下来的三个代表地区,依此类推。