问题标签 [lz4]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
1400 浏览

cmake - CMakeLists.txt 不在根目录中,无法自动构建

我有一个存储库在根目录中没有其 CMakeLists 的问题,即https://github.com/lz4/lz4 CMakeLists.txt 位于子文件夹 contrib/cmake_unofficial 中。

我已经检查了关于 SO 的类似问题(Is it possible to have cmake build file (CMakeLists.txt) not in root in CLioncmake - CMakeLists.txt is not in root folder(但包含在源代码中)),但它们只提供替代方案,而不是适用于我的情况的解决方案。

这是我想出的cmake模块:

这里是完整的错误输出:

我尝试将路径“contrib/cmake_unofficial”添加到 CMAKE_ARGS 变量(如上面的模块中所示),但它不起作用(似乎被忽略了?)。

我还尝试在构建开始之前使用 PATCH_COMMAND 将 CMakeLists.txt 复制到根目录,但是文件的相对路径变得混乱。换句话说,我需要调用 cmake 命令来构建库:cmake contrib/cmake_unofficial。

我也尝试为此使用 CONFIGURE_COMMAND ,但由于某种原因(即使路径正确)不断收到文件未找到错误。该模块还有其他一些问题,但我只对非根 CMakeLists 感兴趣。

提前致谢!

0 投票
0 回答
115 浏览

python - 如何在crontab中解压lz4文件

我设置了一个 crontab 来定期执行一个 shell 脚本。

这是我的 shell 脚本的一部分:

当我直接通过命令行运行 shell 脚本时,它确实可以工作,它将 lz4 文件解压缩为 json 文件。

但是,当脚本被 crontab 执行时,它并没有解压成一个 json 文件。相反,它将所有数据放入日志文件中。

这是我的 crontab:

我尝试了以下方法,但没有一种方法有效:

我想在 crontab 中使用 lz4 时可能会有些奇怪。但我不知道如何处理这个问题。希望有人可以帮助我,在此先感谢!

0 投票
0 回答
828 浏览

qt - 如何在 qt 中解压缩 .tar 和 lz4 文件?

我制作了一个Qt用于提取ziptarlz4文件的应用程序,所以我使用QuaZipzlib库!

第一步(Qt cmd):

第二步:

第三步将以下代码添加到 QT 项目中的 .pro 中:

最后一步可以解压缩和压缩文件,如下代码:

现在我的问题是我无法提取 .tar 和 lz4 文件。请帮我!

0 投票
0 回答
514 浏览

python - 如何读取 Spark 日志文件?.Iz4 或 .snappy

我想阅读一些日志,但我不能。到目前为止,我已经尝试过:

  • hadoop fs -text <file>

但我唯一得到的是:( INFO compress.CodecPool: Got brand-new decompressor [.lz4]对于.snappy也是如此)

  • val rawRdd = spark.sparkContext.sequenceFile[BytesWritable, String](<file>)

它还给我<file> is not a SequenceFile

  • val rawRdd = spark.read.textFile(<file>)

在这种情况下java.lang.UnsatisfiedLinkError: org.apache.hadoop.util.NativeCodeLoader.buildSupportsSnappy()Z

  • 将文件下载到本地文件系统,然后用于lz4 -d <file>解压并尝试查看内容

  • 我关注了这个 SO 帖子

with open (snappy_file, "r") as input_file: data = input_file.read() decompressor = snappy.hadoop_snappy.StreamDecompressor() uncompressed = decompressor.decompress(data)

但是当我想的时候print(uncompressed),我只会得到' 'b

0 投票
1 回答
1633 浏览

asp.net-core - 如何在 Asp.net Core Web API 中为消息包内容类型启用 LZ4 压缩

我正在尝试在我正在处理的 .net Core Web API 项目上启用 MessagePack 内容类型。

经过一番研究,安装了这个nuget包并在启动文件中添加了以下代码。很容易!现在我可以看到通过我的 API 提供的 msgpack 内容。

现在我想在它上面应用 LZ4 压缩来减少这里提到的有效载荷大小。而且我找不到任何 nuget 包来添加此功能或找出插件 LZ4 压缩的方法。在一些博客中,我读到 LZ4 压缩是内置在 MessagePack 中的。我无法理解这意味着什么,而且关于这些东西的文档很少。

我是这个压缩/解压缩的新手,所以任何帮助表示赞赏。

谢谢

0 投票
1 回答
545 浏览

hadoop - lz4压缩不可分割

我正在使用 lz4 压缩并将数据写入 hive 表,该表有 20 个文件,每个文件在 HDFS 上为 15G,并且该表的每个文件名都以 lz4 结尾,例如part-m-00000.lz4.

当我select count(1)从这个表中运行时,它只启动了 20 个映射器,这意味着lz4 splittable不会生效。

据说lz4支持针对文本文件的拆分,所以我会问我应该做什么或额外的步骤来启用它。

0 投票
1 回答
251 浏览

java - LZ4 库兼容性问题:java 和 IOS

我想在IOS端用LZ4压缩数据,想在Java端解压。

我对 IOS使用LZ4 压缩流压缩方法,对 Java 使用jpountz ()。

它在解压缩时在 Java 端失败。(看起来两个平台的 LZ4 标头不同。)

请帮忙!

如果不可能,您能否推荐任何适用于 JAVA 和 IOS 的可互操作 LZ4 库?

0 投票
2 回答
876 浏览

java - 用Java解压压缩的ubuntu lz4文件

我从 Dockerfile 构建映像:

然后将图像保存到我的本地计算机,我得到了这个文件,例如:

我正在尝试在 Java lz4-java 中解压缩 ubuntu 仿生 lz4 文件:

我使用这个依赖:

但我仍然得到这个例外:

0 投票
0 回答
1551 浏览

c# - 如何在 .NET MessagePack 中序列化并在 Node.js 中反序列化

我有一个 RabbitMQ 队列和两个应用程序。第一个应用程序是用 .NET 核心编写的,以生成将有效负载发送到队列,第二个应用程序是在 Node.js 中从队列中读取。

生产者申请

我使用MessagePack-CSharp序列化和压缩(LZ4)有效负载。这是.NET中的序列化代码:

消费者应用

我正在使用amqplib库读取 Node.js 中的字节,如下所示:

我尝试使用一些 MsgPack 库(如messagepackmsgpack-node等)将有效负载反序列化为 Json 对象……但是,它们似乎没有在 .NET 中提供与我上面显示的相同的库。

问题: 如何将有效负载解压缩并反序列化为 Json 对象?

0 投票
1 回答
462 浏览

pyspark - net.jpounz.lz4 使用火花流从 kafka 读取时出现异常

我使用 python 使用 spark 2.4.0。并从 kafka_2.11-2.0.0 (binary not source)读取数据。我正在使用 spark-submit --jars sspark-streaming-kafka-0-8-assembly_2.11-2.4.0.jar script.py 错误报告中出现错误消息,如果有人可以提供帮助,谢谢:)

jar 文件的 pom.xml : spark-streaming-kafka-0-8-assembly_2.11-2.4.0.jar :