问题标签 [zstd]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
database - 如何解决 mongo db 损坏转储错误。每当我删除一些数据时,就会出现这个错误。我在这里附上日志文件
我正在使用 zstd 块压缩器,当我使用 delete 命令时,会出现此错误。
python - 从 S3 读取 .zst 文件
我正在尝试以编程方式从 S3 解压缩和读取 .zst 文件(即不下载它并在其上运行命令行 decomp)。
这是我正在运行的代码:
所以我正在尝试用“## OR”分隔的最后两行中的任何一个。第一个告诉我它没有关于数据长度的任何信息,所以我尝试输入“max_output_size=number_from_file_metadata”,但它给出了同样的错误:
ZstdError:从帧头确定内容大小时出错
然后使用“with...”语句,它给出了这个错误:
ZstdError:zstd 解压缩错误:未知帧描述符
据我所知,第二个错误意味着文件没有真正使用 .zstd 压缩,或者它是使用“无魔法”压缩进行压缩的,并且解压缩无法识别该属性。我从这里得到:https ://github.com/indygreg/python-zstandard/issues/79
但这真的不清楚,似乎没有多少人对此有疑问。非常感谢任何帮助。
archive - 如何解压warc.zst 文件?
我正在尝试解压缩从此处下载的 WARC ZST 文件:https ://archive.org/details/archiveteam_yahooanswers_20210422220546_c4fac540
我尝试了该命令zstd -d yahooanswers_20210422220546_c4fac540.1619026173.megawarc.warc.zst
,但出现此错误:
73.megawarc.warc.zst : 0 MB... 73.megawarc.warc.zst : Decoding error (36) : Dictionary mismatch
如何找到所述字典或有任何替代方法吗?
multidimensional-array - 什么样的转换可以使 3D 数组的大量数据更易于使用 zstd 压缩?
关于这方面的资料不多,我想要一些能让我理解的想法和思维方式。
compression - 如何解压缩存储在使用 zstd 压缩的 HDF5 文件中的数据?
在 zstd 情况下,我遇到了一些解压问题。我有 hdf5 格式的文件,以下列方式压缩:
所以它压缩时没有任何错误,但是当我尝试使用它查看数据时,h5ls
或者h5dump
它打印出我无法打印数据,并且没有其他方法可以查看文件内部,例如使用 h5py 在 python3 (3.6) 中读取这个压缩数据不成功。我还尝试了h5repack
( h5repack -i compressed_file.h5 -o out_file.h5 --filter=var:NONE
) 或以下代码:
什么都没有成功。在h5repack
没有出现警告或错误的情况下,我得到了最后一段代码zstd.ZstdError: zstd decompressor error: Unknown frame descriptor
,所以我得到这意味着压缩数据没有适当的标题。
我用python 3.6.7
, hdf5 1.10.5
。所以我有点困惑,不知道如何克服这个问题。
任何想法/建议都会很高兴!
compression - Zstd 解压错误 - 未知帧描述符
我正在尝试通过以下方式解压缩 .zst 文件:
我遇到了这个:
com.github.luben.zstd.ZstdException: 未知帧描述符 [java] com.github.luben.zstd.ZstdDecompressCtx.decompressByteArray(ZstdDecompressCtx.java:157) [java] com.github.luben.zstd.ZstdDecompressCtx.decompress(ZstdDecompressCtx .java:214) [java]
有没有人遇到过类似的事情?谢谢!
python - 如何检测 zstd 压缩?
我目前正在开发一个与 facebook api 一起使用的 python 应用程序。众所周知,facebook 喜欢自己的技术,并且正在使用 zstd 进行数据压缩。
问题:facebook 正在返回带有普通 json 的未压缩响应,或者如果响应更长,它正在使用 zstd 压缩 json 响应。
我当前的代码是这样的:
我目前想知道,是否有更干净的方法可以做到这一点,甚至检测 zstd。
java - 逐行读取并插入数据(16 GB JSON)太慢(MySQL + JAVA spring boot)
我有 B2B2C 业务,而且很少有供应商会不断更新我的数据。每周我需要更新大约 30GB JSON(一个文件)。我想知道比 BufferedReader 的 readline 更快的方法,文件类型是 ZStandard(zstd)。现在它每 4 小时插入 500Mb。这么慢有什么意义吗?Web 应用程序和数据库部署在 unix 服务器上(Tomcat apache 9.06)
我的代码:
vim - 如何使用 Vim 查看 zst 文件?
我正在尝试以 zst 格式查看一些日志文件。我可以zstdcat
用来查看内容,但是当我这样做时vim <filename.zst>
,只有乱码。是否也有类似zstdcat
使用 Vim 查看 zst 文件的方法?