2

我有一个具有 int 和分类特征的数据框。分类特征有两种类型:数字和字符串。

我能够对整数列和分类列进行热编码。当我尝试对作为字符串的分类列进行一个热编码时出现错误。

ValueError:无法将字符串转换为浮点数:'13367cc6'

由于数据框很大且基数很高,所以我只想将其转换为稀疏形式。我更喜欢使用的解决方案,from sklearn.preprocessing import OneHotEncoder因为我熟悉它。

我也检查了其他问题,但没有一个能解决我的问题。

data = [[623, 'dog', 4], [123, 'cat', 2],[623, 'cat', 1], [111, 'lion', 6]]

上面的数据框包含 4 行 3 列

列名 -['animal_id', 'animal_name', 'number']

假设 animal_idanimal_name作为类别存储在熊猫中,数字作为 int64 dtype 存储。

4

2 回答 2

1

假设您有以下 DF:

In [124]: df
Out[124]:
   animal_id animal_name  number
0        623         dog       4
1        123         cat       2
2        623         cat       1
3        111        lion       6

In [125]: df.dtypes
Out[125]:
animal_id         int64
animal_name    category
number            int64
dtype: object

第一个保存animal_name列(如果您将来需要它):

In [126]: animal_name = df['animal_name']

animal_name列转换为分类(节省内存)数字列:

In [127]: df['animal_name'] = df['animal_name'].cat.codes.astype('category')

In [128]: df
Out[128]:
   animal_id animal_name  number
0        623           1       4
1        123           0       2
2        623           0       1
3        111           2       6

In [129]: df.dtypes
Out[129]:
animal_id         int64
animal_name    category
number            int64
dtype: object

现在 OneHotEncoder 应该可以工作了:

In [130]: enc = OneHotEncoder()

In [131]: enc.fit(df)
Out[131]:
OneHotEncoder(categorical_features='all', dtype=<class 'numpy.float64'>,
       handle_unknown='error', n_values='auto', sparse=True)

In [132]: X = enc.fit(df)

In [134]: X.n_values_
Out[134]: array([624,   3,   7])

In [135]: enc.feature_indices_
Out[135]: array([  0, 624, 627, 634], dtype=int32)
于 2017-03-28T16:37:06.037 回答
1

仅供参考,还有其他强大的编码方案没有添加大量列作为 onehot 编码(实际上他们根本没有添加任何列)。其中一些是计数编码,目标编码。有关更多详细信息,请参阅我的答案和我ipynb

于 2020-06-30T07:04:09.070 回答