keras - 如何使用 GPT 3 进行文本分类？

Question

我想知道是否可以在文本分类问题中使用 OpenAI GPT-3 进行迁移学习？如果是这样，我怎样才能开始使用 Tensorflow，Keras。

Answer 1

（在以下示例中，我用 ******** 替换了仇恨语言）

给定样本，例如：

("You look like ****** *** to me *******", true)
("**** you *********", true)
("**** my ****", true)
("hey my name is John can you help me?", false)
("hey my name is John, i think you ****** ***!", true)
("i have a problem with my network driver hpz-3332d", false)

然后，GPT-3 确实可以确定给定的输入是否可恨。GPT-3 实际上正在实现过滤器，可以非常有效地判断任意评论是否令人讨厌。您只需输入 msg 并让 GPT3 , true|false)在最后自动完成该部分，将令牌设置为大约 ~6 并将温度设置为 90%。

Boolean-ish 分类也依赖于更复杂的上下文（您可以在不使用粗俗语言的情况下侮辱某人）id 可以使用 GPT3 完成，也可以使用 GPT2 完成。