在比较两个文档的嵌入时,我想在 Keras 模型中使用余弦相似度。
- 培训的目标应该在哪个值范围内?含义在哪个值范围内可能是 Dot 函数的结果?如果嵌入非常相似,目标应该是什么值,如果它们非常不同,目标应该是什么?
- 在这种情况下,axis 参数是什么意思?设置axis = 1是否正确?
我已经建立了我的模型如下:
from tensorflow.python.keras.layers import Dot
from tensorflow.keras import Input, Model
from tensorflow.keras.layers import Dense
from tensorflow.keras.models import Sequential
input_document1 = Input(200)
model_1 = Sequential()
model_1.add(Dense(100, activation='relu'))
encoded_document1 = model_1(input_document1)
input_document2 = Input(200)
model_2 = Sequential()
model_2.add(Dense(100, activation='relu'))
encoded_document2 = model_2(input_document2)
distance_layer = Dot(axes=1, normalize=True) # cosine proximity
prediction = distance_layer([encoded_document1, encoded_document2])
siamese_net = Model(inputs=[input_document1, input_document2], outputs=prediction)
他们在文档中说:
是否在取点积之前沿点积轴对样本进行 L2 归一化。如果设置为 True,则点积的输出是两个样本之间的余弦接近度。