假设我想使用module
TF Hub 中的特定(文本嵌入)来创建两个不同的models
,然后我想导出并提供服务。
选项 1:
导入module
for each model
,将每个分类器放在顶部,然后导出 2 models
;在各自的 docker 容器中提供服务。这些models
包含底层嵌入模块和分类器。
选项 2:
为module
自身服务,并使其输出转到 2 个不同的服务models
,它们本身不包含嵌入。(这甚至可能吗?)
我的计算机科学背景告诉我,选项 2更好,因为我们正在为两个模型重新使用原始嵌入模块,同时将模型本身与嵌入模块解耦。
然而,从实际的角度来看,当数据科学家在编码时,他们正在导入module
并在其上使用分类器进行训练,因此必须在model
没有底层嵌入的情况下导出自身变得很麻烦。
谁能指出我正确的方向?希望我的问题是有道理的,我自己不是数据科学家,我更多地来自开发背景。
谢谢