neural-network - 为什么 word2vec 优于其他神经网络方法？

Question

为什么 word2vec 优于其他神经网络方法？

Word2vec 比其他神经网络方法（NNLM、RNNLM 等）更浅。

可以解释吗？

而且我想知道它是否因为word2vec模型不包含隐藏层（激活函数如sigmoid等）而遭受任何缺点？

Answer 1

据我目前所了解的，隐藏层的去除确实会影响准确性。但是，它会带来很高的计算增益，我们可以使用该模型在比以前可能的更大的数据集上进行训练。该模型的要点是，在更多数据上训练一个简单的模型比使用更小数据集的更昂贵的模型得到更好的结果。