0

我从不同的 ngram 计数（Uni、Bi、Tri）创建了三个数据帧，每个数据帧包含分离的 ngram、频率计数（n），并使用平滑增加了概率。

我编写了三个函数来查看表格并根据输入字符串返回最可能的单词。并绑定了他们

##Prediction Model
trigramwords <- function(FirstWord, SecondWord, n = 5 , allow.cartesian =TRUE) {
probword <- trigramtable[.(FirstWord, SecondWord), allow.cartesian = TRUE][order(-Prob)]
if(any(is.na(probword)))
return(bigramwords(SecondWord, n))
if(nrow(probword) > n)
return(probword[1:n, ThirdWord])
count <-nrow(probword)
bgramwords <- bigramtable(SecondWord, n)[1:(n - count)]
return(c(probword[, ThirdWord], bgramwords))
}


bigramwords <- function(FirstWord, n = 5 , allow.cartesian = TRUE){
probword <- bigramtable[FirstWord][order(-Prob)]
if(any(is.na(probword)))
return(Unigramword(n))
if (nrow(probword) > n)
return(probword[1:n, SecondWord])
count <- nrow(probword)
word1 <- Unigramword(n)[1:(n - count)]
return(c(probword[, SecondWord], word1))
}

##Back off Model
Unigramword <- function(n = 5, allow.cartesian = TRUE){
return(sample(UnigramTable[, FirstWord], size = n))
}

## Bind Functions
predictword <- function(str) {
require(quanteda)
tokens <- tokens(x = char_tolower(str))
tokens <- char_wordstem(rev(rev(tokens[[1]])[1:2]), language = "english")

 words <- trigramwords(tokens[1], tokens[2], 5)
 chain_1 <- paste(tokens[1], tokens[2], words[1], sep = " ")

 print(words[1])
}

但是，我收到以下警告消息，并且输出始终是同一个单词。如果我只使用 bigramwords 函数，它可以正常工作，但是在添加 trigram 函数时，我会收到警告消息。我相信它，因为 1:n 定义不正确。

Warning message:
In 1:n : numerical expression has 5718534 elements: only the first used
4

0 回答 0