好吧,现在我有一个代码可以使用 nltk 进行自定义标记。我使用 NLTK 的 POS 标记器作为三元标记器的后退,我用自定义标记训练我自己的标记句子。这工作得很好,但我希望能够对 spacy 的 POS 标记器做同样的事情。有没有办法做到这一点?
这是我的代码:
import string
import nltk
from nltk.tokenize import RegexpTokenizer
from nltk.corpus import stopwords
import nltk.tag, nltk.data
tagger = nltk.TrigramTagger(train_sents, backoff=nltk.data.load(nltk.tag._POS_TAGGER))
def tagSentence(sentence):
# Method to tag sentence according to the tagger that is trained.
sentence = sentence.lower()
tokens = nltk.word_tokenize(sentence)
filtered_words = [w for w in tokens if not w in stopwords.words('english')]
" ".join(filtered_words)
return tagger.tag(filtered_words)