问题标签 [hortonworks-dataflow]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
570 浏览

java - Hortonworks Schema Registry + Nifi + Java:反序列化 Nifi 记录

我正在尝试使用 Hortonworks Schema Registry 反序列化一些由 Nifi 序列化的 Kafka 消息

  • 在 Nifi 端用作 RecordWritter 的处理器:AvroRecordSetWriter
  • Schema 写入策略:HWX CContent-Encoded Schema Reference

我能够在其他 Nifi kafka 消费者中反序列化这些消息。但是我正在尝试使用 Kafka 代码从我的 Flink 应用程序中反序列化它们。

我的 Flink 应用程序的 Kafka 反序列化处理程序中有以下内容:

这是反序列化消息的 HWXSchemaRegistryCode:

但我得到一个 404 HTTP 错误代码(找不到模式)。我认为这是由于 Nifi 配置和 HWX Schema Registry Client 实现之间的“协议”不兼容,因此客户端正在寻找的模式标识符字节在服务器上不存在,或者类似的东西。

有人可以帮忙吗?

谢谢你。

引起:javax.ws.rs.NotFoundException: HTTP 404 Not Found at org.glassfish.jersey.client.JerseyInvocation.convertToException(JerseyInvocation.java:1069) at org.glassfish.jersey.client.JerseyInvocation.translate(JerseyInvocation.java :866) 在 org.glassfish.jersey.client.JerseyInvocation.lambda$invoke$1(JerseyInvocation.java:750) 在 org.glassfish.jersey.internal.Errors.process(Errors.java:292) 在 org.glassfish.jersey .internal.Errors.process(Errors.java:274) 在 org.glassfish.jersey.internal.Errors.process(Errors.java:205) 在 org.glassfish.jersey.process.internal.RequestScope.runInScope(RequestScope.java :390) 在 org.glassfish.jersey.client.JerseyInvocation.invoke(JerseyInvocation.java:748) 在 org.glassfish.jersey.client.JerseyInvocation$Builder。方法(JerseyInvocation.java:404)在 org.glassfish.jersey.client.JerseyInvocation$Builder.get(JerseyInvocation.java:300) 在 com.hortonworks.registries.schemaregistry.client.SchemaRegistryClient$14.run(SchemaRegistryClient.java:1054 ) 在 com.hortonworks.registries.schemaregistry.client.SchemaRegistryClient$14.run(SchemaRegistryClient.java:1051) 在 java.security.AccessController.doPrivileged(Native Method) 在 javax.security.auth.Subject.doAs(Subject.java: 360) 在 com.hortonworks.registries.schemaregistry.client.SchemaRegistryClient.getEntities(SchemaRegistryClient.java:1051) 在 com.hortonworks.registries.schemaregistry.client.SchemaRegistryClient.getAllVersions(SchemaRegistryClient.java:872) 在 com.hortonworks.registries .schemaregistry.client.SchemaRegistryClient。getAllVersions(SchemaRegistryClient.java:676) 在 HWXSchemaRegistry.(HWXSchemaRegistry.java:56) 在 HWXSchemaRegistry.getInstance(HWXSchemaRegistry.java:26) 在 SchemaService.deserialize(SchemaService.java:70) 在 SchemaService.deserialize(SchemaService.java:26) ) 在 org.apache.flink.streaming.connectors.kafka.internal.KafkaFetcher.runFetchLoop(KafkaFetcher.java:140) 的 org.apache.flink.streaming.connectors.kafka.internals.KafkaDeserializationSchemaWrapper.deserialize(KafkaDeserializationSchemaWrapper.java:45) ) 在 org.apache.flink.streaming.api.operators.StreamSource.run(StreamSource.java:93) 在 org.apache.flink.streaming.connectors.kafka.FlinkKafkaConsumerBase.run(FlinkKafkaConsumerBase.java:712) 在 org. apache.flink.streaming.api.operators.StreamSource。在 org.apache.flink.streaming.runtime.tasks.StreamTask.invoke(StreamTask. java:302) 在 org.apache.flink.runtime.taskmanager.Task.run(Task.java:711) 在 java.lang.Thread.run(Thread.java:745)

0 投票
0 回答
70 浏览

apache-nifi - NIFI HDF 节点崩溃

我们安装了一个运行良好的三节点 Nifi HDF 集群。我们更改了 NiFi 内容存储库默认目录的路径,然后重新启动了 NiFi。重新启动后,所有三个节点都运行良好,但是一旦我们开始测试流程,节点 2 就停止了,当我尝试启动时,它重新启动,过了一会儿它自己断开了与集群的连接。

我附上日志以供参考。

在此处输入图像描述 我们使用的是 HDF 版本 3.0.0 和 NiFi 版本 1.2.0.3.0.2.0-76。

有什么建议么??

0 投票
1 回答
40 浏览

apache-nifi - Nifi - 从 Web 应用程序列表中安装特定应用程序

NiFi 由许多 Web 应用程序(Web UI、Web API、文档、自定义 UI、数据查看器等)组成

是否可以只安装特定的应用程序?

0 投票
0 回答
487 浏览

hive - Hive 备份和恢复

我想一次对 1000 多个表进行 Hive 元数据和 Hive 数据的月度/季度备份,并且具有轻松的恢复能力。到目前为止,我找到了以下选项,但不确定哪个最适合在生产中备份 Hive 表。有小费吗 ?

  1. 阿帕奇猎鹰 - http://saptak.in/writing/2015/08/11/mirroring-datasets-hadoop-clusters-apache-falcon
  • Pro:在 Ambari 中作为服务轻松提供以进行安装
  • 缺点:没有社区支持
  1. Hortonworks 数据流 - https://docs.hortonworks.com.s3.amazonaws.com/HDPDocuments/Ambari-2.7.4.0/bk_ambari-upgrade-major/content/prepare_hive_for_upgrade.html
  • 临:最新
  • 缺点:没有太多要测试的文档。请分享有关如何使用 Hortonworks 数据流进行备份的任何资源
  1. 其他方式 - 使用 Distcp、导出/导入、快照和使用关系数据库转储的 Hive 元数据备份的 Hive 数据备份
  • 缺点:不确定 Hive 数据和 Hive 元数据是否同时备份。花费时间实施每月/每季度的调度程序。
0 投票
1 回答
103 浏览

hadoop - 如何将文件从 /user/maria_dev/tutorials/test.csv (HDP) 复制到 /sandbox/tutorial-files/640/nifi/input (HDF)?

在 Docker 桌面上使用 Hortonworks HDP 3.0.1 和 HDF 沙箱

我已登录 HDP,并尝试将文件从 /user/maria_dev/tutorials/test.csv 点复制到 HDF 的 /sandbox/tutorial-files/640/nifi/input 但这不起作用。如何使用 HDFS 以这种方式将文件从 HDP 复制到 HDF?

0 投票
3 回答
1248 浏览

hortonworks-data-platform - wget + 下载 ambari tar 球

我们正在尝试下载 ambari 版本 2.6.1 但没有成功(根据https://docs.hortonworks.com.s3.amazonaws.com/HDPDocuments/HDF3/HDF-3.1.1/bk_installing-hdf-on-hdp -p...

知道为什么我们会得到ERROR 403: Forbidden吗?

为什么我们不能从 hortonworks 网站下载 ambari 版本?

注意 - 但我们可以从其他网站下载