nlp - 确保编码器-解码器文本生成深度学习模型中存在单词/标记/名词

Question

我遇到了一个问题，我想确保在解码和生成抽象风格的句子时生成特定的标记/单词。

我正在使用 LSTM 和 Transformer 模型等深度学习模型来生成短句（100-200 个字符）。我希望在生成的文本中出现一些像地方或名词（如品牌名称）这样的词。

我不确定是否有这方面的研究，经过广泛搜索后，我真的找不到一篇论文。

TIA，任何线索或建议表示赞赏。:)

Answer 1

我不确定，但您可以尝试根据这些特定单词调整输出。您的培训师可以像一个 seq2seq 解码器，但它可以关注那些特定的单词，而不是关注编码器的输出。