问题标签 [zstd]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
102 浏览

python - 如何使用c语言访问zstd中字符串的压缩值?

我是 C 新手。如何使用 c 访问 zstd 中字符串的压缩值?我知道如何在 python 中做到这一点,例如:

在此处输入图像描述

输出:

如何用 c 语言做同样的事情?在 CI 中尝试了 dictionary_compression 和 simple_compression 但我只能访问大小而不是压缩值。

0 投票
0 回答
69 浏览

database - 如何解决 mongo db 损坏转储错误。每当我删除一些数据时,就会出现这个错误。我在这里附上日志文件

我正在使用 zstd 块压缩器,当我使用 delete 命令时,会出现此错误。

0 投票
1 回答
347 浏览

python - 从 S3 读取 .zst 文件

我正在尝试以编程方式从 S3 解压缩和读取 .zst 文件(即不下载它并在其上运行命令行 decomp)。

这是我正在运行的代码:

所以我正在尝试用“## OR”分隔的最后两行中的任何一个。第一个告诉我它没有关于数据长度的任何信息,所以我尝试输入“max_output_size=number_from_file_metadata”,但它给出了同样的错误:

ZstdError:从帧头确定内容大小时出错

然后使用“with...”语句,它给出了这个错误:

ZstdError:zstd 解压缩错误:未知帧描述符

据我所知,第二个错误意味着文件没有真正使用 .zstd 压缩,或者它是使用“无魔法”压缩进行压缩的,并且解压缩无法识别该属性。我从这里得到:https ://github.com/indygreg/python-zstandard/issues/79

但这真的不清楚,似乎没有多少人对此有疑问。非常感谢任何帮助。

0 投票
1 回答
214 浏览

archive - 如何解压warc.zst 文件?

我正在尝试解压缩从此处下载的 WARC ZST 文件:https ://archive.org/details/archiveteam_yahooanswers_20210422220546_c4fac540

我尝试了该命令zstd -d yahooanswers_20210422220546_c4fac540.1619026173.megawarc.warc.zst,但出现此错误: 73.megawarc.warc.zst : 0 MB... 73.megawarc.warc.zst : Decoding error (36) : Dictionary mismatch 如何找到所述字典或有任何替代方法吗?

0 投票
1 回答
17 浏览

multidimensional-array - 什么样的转换可以使 3D 数组的大量数据更易于使用 zstd 压缩?

关于这方面的资料不多,我想要一些能让我理解的想法和思维方式。

0 投票
1 回答
205 浏览

compression - 如何解压缩存储在使用 zstd 压缩的 HDF5 文件中的数据?

在 zstd 情况下,我遇到了一些解压问题。我有 hdf5 格式的文件,以下列方式压缩:

所以它压缩时没有任何错误,但是当我尝试使用它查看数据时,h5ls或者h5dump它打印出我无法打印数据,并且没有其他方法可以查看文件内部,例如使用 h5py 在 python3 (3.6) 中读取这个压缩数据不成功。我还尝试了h5repack( h5repack -i compressed_file.h5 -o out_file.h5 --filter=var:NONE) 或以下代码:

什么都没有成功。在h5repack没有出现警告或错误的情况下,我得到了最后一段代码zstd.ZstdError: zstd decompressor error: Unknown frame descriptor,所以我得到这意味着压缩数据没有适当的标题。

我用python 3.6.7, hdf5 1.10.5。所以我有点困惑,不知道如何克服这个问题。

任何想法/建议都会很高兴!

0 投票
1 回答
928 浏览

compression - Zstd 解压错误 - 未知帧描述符

我正在尝试通过以下方式解压缩 .zst 文件:

我遇到了这个:

com.github.luben.zstd.ZstdException: 未知帧描述符 [java] com.github.luben.zstd.ZstdDecompressCtx.decompressByteArray(ZstdDecompressCtx.java:157) [java] com.github.luben.zstd.ZstdDecompressCtx.decompress(ZstdDecompressCtx .java:214) [java]

有没有人遇到过类似的事情?谢谢!

0 投票
1 回答
217 浏览

python - 如何检测 zstd 压缩?

我目前正在开发一个与 facebook api 一起使用的 python 应用程序。众所周知,facebook 喜欢自己的技术,并且正在使用 zstd 进行数据压缩。

问题:facebook 正在返回带有普通 json 的未压缩响应,或者如果响应更长,它正在使用 zstd 压缩 json 响应。

我当前的代码是这样的:

我目前想知道,是否有更干净的方法可以做到这一点,甚至检测 zstd。

0 投票
0 回答
59 浏览

java - 逐行读取并插入数据(16 GB JSON)太慢(MySQL + JAVA spring boot)

我有 B2B2C 业务,而且很少有供应商会不断更新我的数据。每周我需要更新大约 30GB JSON(一个文件)。我想知道比 BufferedReader 的 readline 更快的方法,文件类型是 ZStandard(zstd)。现在它每 4 小时插入 500Mb。这么慢有什么意义吗?Web 应用程序和数据库部署在 unix 服务器上(Tomcat apache 9.06)

我的代码:

0 投票
1 回答
943 浏览

vim - 如何使用 Vim 查看 zst 文件?

我正在尝试以 zst 格式查看一些日志文件。我可以zstdcat用来查看内容,但是当我这样做时vim <filename.zst>,只有乱码。是否也有类似zstdcat使用 Vim 查看 zst 文件的方法?