scikit-learn - sklearn 模型用于新数据

Question

使用 scikit 的 DictVectorizer 制作特征向量

X = dataset.drop('Tag', axis=1)
v = DictVectorizer(sparse=False)
X = v.fit_transform(X.to_dict('records')) 
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size = 0.33, random_state=0)
classes = np.unique(y)
classes = classes.tolist()
per = Perceptron(verbose=10, n_jobs=-1, max_iter=5)
per.partial_fit(X_train, y_train, classes)
joblib.dump(per, 'saved_model.pkl') 

并将经过测试的模型保存到文件中。将模型加载到另一个文件中以获取新日期

new_X=df
v = DictVectorizer(sparse=False)
new_X = v.fit_transform(new_X.to_dict('records'))
#Load model
per_load = joblib.load('saved_model2.pkl')
per_load.predict(new_X)

我尝试预测新数据当我执行此代码时，输​​出是 值错误

ValueError：X 每个样本有 43 个特征；期待 983

如何保存模型？

Answer 1

您还需要为 vectorizer 保存 pickle 对象，并应用 transform 而不是 fit_transform 因为您的 vectorizer 已经学习了词汇表并且需要用于预测看不见的数据

 #use 
 import joblib

joblib.dump(v, 'vectorizer.pkl')

#loading pickle 
v =  joblib.load('vectorizer.pkl') 


per_load.predict(v.transform(["new comment"]) #don't use fit_transform , use transfom only