问题标签 [sentence-transformers]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
39 浏览

amazon-sagemaker - 如何从 Huggingface(在 sagemaker 中)而不是特征中获取嵌入?

我有一个文本分类器模型,它依赖于某个拥抱脸模型的嵌入

它的形状为 (768,)

tldr:在 sagemaker 上是否有一种干净简单的方法(希望使用它提供的图像)?

上下文:查看这个拥抱脸模型的文档,我看到的唯一 sagemaker 选项是特征提取

这给了我具有形状的特征 (9, 768)

这两个值之间存在联系,从另一个代码示例可以看出

但是正如您所看到的,仅给定特征就无法导出嵌入

0 投票
0 回答
31 浏览

nlp - 无法加载预训练模型以生成嵌入

我正在使用此代码通过拥抱人脸转换器库生成句子嵌入,但出现此错误。我似乎无法解决这个问题。任何指针都会有所帮助。谢谢。

我收到以下错误。

RuntimeError Traceback(最近一次调用)~\anaconda3\envs\tf_env\lib\site-packages\transformers\modeling_utils.py in from_pretrained(cls, pretrained_model_name_or_path, *model_args, **kwargs) 1434 try: -> 1435 state_dict = torch .load(resolved_archive_file, map_location="cpu") 1436
例外为 e:

~\anaconda3\envs\tf_env\lib\site-packages\torch\serialization.py in load(f, map_location, pickle_module, **pickle_load_args) 526 if _is_zipfile(opened_file): --> 527 with _open_zipfile_reader(f) as opens_zipfile : 528 返回 _load(opened_zipfile, map_location, pickle_module, **pickle_load_args)

~\anaconda3\envs\tf_env\lib\site-packages\torch\serialization.py in init (self, name_or_buffer) 223 def init (self, name_or_buffer): --> 224 super(_open_zipfile_reader, self)。初始化(火炬._C.PyTorchFileReader(name_or_buffer))225

RuntimeError: version_ <= kMaxSupportedFileFormatVersion INTERNAL ASSERT FAILED at ..\caffe2\serialize\inline_container.cc:132,请向 PyTorch 报告错误。尝试读取版本 3 的 PyTorch 文件,但支持读取的最大版本为 2。您的 PyTorch 安装可能太旧。(在 ..\caffe2\serialize\inline_container.cc:132 初始化)(没有可用的回溯)

在处理上述异常的过程中,又出现了一个异常:

MemoryError Traceback(最近一次调用最后一次)~\AppData\Local\Temp/ipykernel_31400/3667175826.py in ----> 1 model = AutoModel.from_pretrained('sentence-transformers/all-roberta-large-v1') 2 3 # 标记句子 4 encoded_input = tokenizer(sentences, padding=True, truncation=True, return_tensors='pt') 5

~\anaconda3\envs\tf_env\lib\site-packages\transformers\models\auto\auto_factory.py in from_pretrained(cls, pretrained_model_name_or_path, *model_args, **kwargs) 445 elif type(config) in cls._model_mapping.keys( ): 446 model_class = _get_model_class(config, cls._model_mapping) --> 447 return model_class.from_pretrained(pretrained_model_name_or_path, *model_args, config=config, **kwargs) 448 raise ValueError(449 f"Unrecognized configuration class { config.class }对于这种 AutoModel:{cls.name }。\n"

~\anaconda3\envs\tf_env\lib\site-packages\transformers\modeling_utils.py in from_pretrained(cls, pretrained_model_name_or_path, *model_args, **kwargs) 1437 try: 1438 with open(resolved_archive_file) as f: -> 1439 if f .read().startswith("version"): 1440 raise OSError( 1441
"你似乎克隆了一个没有安装 git-lfs 的存储库。请安装"

~\anaconda3\envs\tf_env\lib\encodings\cp1252.py in decode(self, input, final) 21 class IncrementalDecoder(codecs.IncrementalDecoder): 22 def decode(self, input, final=False): ---> 23 return codecs.charmap_decode(input,self.errors,decoding_table)[0] 24 25 class StreamWriter(Codec,codecs.StreamWriter):

内存错误:

0 投票
0 回答
27 浏览

python - 尝试 python 多处理编码的 Windows 上的 RuntimeError

我正在尝试运行 python 多处理库来加速 csv 文件的编码。但是我遇到了这个错误:

我确实创造了

这指向了我课堂上的功能,

在我的初始化函数中,我确实调用并设置了

self.map = Pool().map

有什么我缺少的提示吗?提前致谢

编辑

0 投票
0 回答
20 浏览

python-3.x - RuntimeError: module compiled against API version 0xe but this version of numpy is 0xd when importing sentence-transformers

I want to use sentence-transformers. To do this, I installed sentence-transformers as follows:

pip install sentence-transformers

Then, I did my import as follows:

from sentence_transformers import SentenceTransformer

Which resulted in the following error:

RuntimeError: module compiled against API version 0xe but this version of numpy is 0xd

The entire Traceback is:

I have tried upgrading Numpy:

pip install numpy --upgrade

But this returns:

Requirement already up-to-date: numpy in c:\...\site-packages (1.22.2)

What goes wrong here? And how can I overcome this error?

0 投票
0 回答
11 浏览

python - 无法在 ubuntu 中安装语句转换器使用的命令是 pip install -U sentence-transformers(在 pytorch 下载时停止)

操作系统错误:(104,'ECONNRESET')操作系统错误:(104,'ECONNRESET')

使用的命令是 pip install -U sentence-transformers

也试过这个 pip3 install torch==1.8.1+cpu torchvision==0.9.1+cpu torchaudio==0.8.1 -f https://download.pytorch.org/whl/torch_stable.html

这个 pip3 install torch==1.10.0 也不起作用

谁能帮我解决这个问题...