nlp - 手套中超参数的含义

Question

以下是glove 的 demo.sh 中的超参数。VERBOSE, MEMORY,WINDOW_SIZE和是什么意思BINARY。

是WINDOW_SIZE15，意思是从右边选了 15 个词，从左边选了 15 个词？

VERBOSE=2        ?
MEMORY=4.0       ?
VOCAB_MIN_COUNT=5
VECTOR_SIZE=128
MAX_ITER=15
WINDOW_SIZE=15   ?
BINARY=2         ?
NUM_THREADS=8
X_MAX=100

Answer 1

VERBOSE是当今模型训练的常规参数，它的值告诉函数在训练模型时要打印多少信息。通常0意味着没有中间信息，1意味着最少并且2意味着更多细节。（检查：https://github.com/stanfordnlp/GloVe/blob/master/src/cooccur.c）有关打印内容的更多详细信息。

MEMORY: 我不太确定，但我认为这与模型训练的内存使用有关。（随时更正和更新）

WINDOW_SIZE：是的，这是上下文大小（检查：https ://github.com/stanfordnlp/GloVe/blob/master/src/cooccur.c ）

BINARY：这是文件输出类型的开关选项。0对于文本文件、1二进制文件和2两者（检查：https ://github.com/stanfordnlp/GloVe/blob/master/src/glove.c ）。