问题标签 [hortonworks-dataflow]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
java - Hortonworks Schema Registry + Nifi + Java:反序列化 Nifi 记录
我正在尝试使用 Hortonworks Schema Registry 反序列化一些由 Nifi 序列化的 Kafka 消息
- 在 Nifi 端用作 RecordWritter 的处理器:AvroRecordSetWriter
- Schema 写入策略:HWX CContent-Encoded Schema Reference
我能够在其他 Nifi kafka 消费者中反序列化这些消息。但是我正在尝试使用 Kafka 代码从我的 Flink 应用程序中反序列化它们。
我的 Flink 应用程序的 Kafka 反序列化处理程序中有以下内容:
这是反序列化消息的 HWXSchemaRegistryCode:
但我得到一个 404 HTTP 错误代码(找不到模式)。我认为这是由于 Nifi 配置和 HWX Schema Registry Client 实现之间的“协议”不兼容,因此客户端正在寻找的模式标识符字节在服务器上不存在,或者类似的东西。
有人可以帮忙吗?
谢谢你。
引起:javax.ws.rs.NotFoundException: HTTP 404 Not Found at org.glassfish.jersey.client.JerseyInvocation.convertToException(JerseyInvocation.java:1069) at org.glassfish.jersey.client.JerseyInvocation.translate(JerseyInvocation.java :866) 在 org.glassfish.jersey.client.JerseyInvocation.lambda$invoke$1(JerseyInvocation.java:750) 在 org.glassfish.jersey.internal.Errors.process(Errors.java:292) 在 org.glassfish.jersey .internal.Errors.process(Errors.java:274) 在 org.glassfish.jersey.internal.Errors.process(Errors.java:205) 在 org.glassfish.jersey.process.internal.RequestScope.runInScope(RequestScope.java :390) 在 org.glassfish.jersey.client.JerseyInvocation.invoke(JerseyInvocation.java:748) 在 org.glassfish.jersey.client.JerseyInvocation$Builder。方法(JerseyInvocation.java:404)在 org.glassfish.jersey.client.JerseyInvocation$Builder.get(JerseyInvocation.java:300) 在 com.hortonworks.registries.schemaregistry.client.SchemaRegistryClient$14.run(SchemaRegistryClient.java:1054 ) 在 com.hortonworks.registries.schemaregistry.client.SchemaRegistryClient$14.run(SchemaRegistryClient.java:1051) 在 java.security.AccessController.doPrivileged(Native Method) 在 javax.security.auth.Subject.doAs(Subject.java: 360) 在 com.hortonworks.registries.schemaregistry.client.SchemaRegistryClient.getEntities(SchemaRegistryClient.java:1051) 在 com.hortonworks.registries.schemaregistry.client.SchemaRegistryClient.getAllVersions(SchemaRegistryClient.java:872) 在 com.hortonworks.registries .schemaregistry.client.SchemaRegistryClient。getAllVersions(SchemaRegistryClient.java:676) 在 HWXSchemaRegistry.(HWXSchemaRegistry.java:56) 在 HWXSchemaRegistry.getInstance(HWXSchemaRegistry.java:26) 在 SchemaService.deserialize(SchemaService.java:70) 在 SchemaService.deserialize(SchemaService.java:26) ) 在 org.apache.flink.streaming.connectors.kafka.internal.KafkaFetcher.runFetchLoop(KafkaFetcher.java:140) 的 org.apache.flink.streaming.connectors.kafka.internals.KafkaDeserializationSchemaWrapper.deserialize(KafkaDeserializationSchemaWrapper.java:45) ) 在 org.apache.flink.streaming.api.operators.StreamSource.run(StreamSource.java:93) 在 org.apache.flink.streaming.connectors.kafka.FlinkKafkaConsumerBase.run(FlinkKafkaConsumerBase.java:712) 在 org. apache.flink.streaming.api.operators.StreamSource。在 org.apache.flink.streaming.runtime.tasks.StreamTask.invoke(StreamTask. java:302) 在 org.apache.flink.runtime.taskmanager.Task.run(Task.java:711) 在 java.lang.Thread.run(Thread.java:745)
apache-nifi - NIFI HDF 节点崩溃
我们安装了一个运行良好的三节点 Nifi HDF 集群。我们更改了 NiFi 内容存储库默认目录的路径,然后重新启动了 NiFi。重新启动后,所有三个节点都运行良好,但是一旦我们开始测试流程,节点 2 就停止了,当我尝试启动时,它重新启动,过了一会儿它自己断开了与集群的连接。
我附上日志以供参考。
在此处输入图像描述 我们使用的是 HDF 版本 3.0.0 和 NiFi 版本 1.2.0.3.0.2.0-76。
有什么建议么??
apache-nifi - Nifi - 从 Web 应用程序列表中安装特定应用程序
NiFi 由许多 Web 应用程序(Web UI、Web API、文档、自定义 UI、数据查看器等)组成
是否可以只安装特定的应用程序?
hive - Hive 备份和恢复
我想一次对 1000 多个表进行 Hive 元数据和 Hive 数据的月度/季度备份,并且具有轻松的恢复能力。到目前为止,我找到了以下选项,但不确定哪个最适合在生产中备份 Hive 表。有小费吗 ?
- Pro:在 Ambari 中作为服务轻松提供以进行安装
- 缺点:没有社区支持
- Hortonworks 数据流 - https://docs.hortonworks.com.s3.amazonaws.com/HDPDocuments/Ambari-2.7.4.0/bk_ambari-upgrade-major/content/prepare_hive_for_upgrade.html
- 临:最新
- 缺点:没有太多要测试的文档。请分享有关如何使用 Hortonworks 数据流进行备份的任何资源
- 其他方式 - 使用 Distcp、导出/导入、快照和使用关系数据库转储的 Hive 元数据备份的 Hive 数据备份
- 缺点:不确定 Hive 数据和 Hive 元数据是否同时备份。花费时间实施每月/每季度的调度程序。
hadoop - 如何将文件从 /user/maria_dev/tutorials/test.csv (HDP) 复制到 /sandbox/tutorial-files/640/nifi/input (HDF)?
在 Docker 桌面上使用 Hortonworks HDP 3.0.1 和 HDF 沙箱
我已登录 HDP,并尝试将文件从 /user/maria_dev/tutorials/test.csv 点复制到 HDF 的 /sandbox/tutorial-files/640/nifi/input 但这不起作用。如何使用 HDFS 以这种方式将文件从 HDP 复制到 HDF?
hortonworks-data-platform - wget + 下载 ambari tar 球
我们正在尝试下载 ambari 版本 2.6.1 但没有成功(根据https://docs.hortonworks.com.s3.amazonaws.com/HDPDocuments/HDF3/HDF-3.1.1/bk_installing-hdf-on-hdp -p...)
知道为什么我们会得到ERROR 403: Forbidden
吗?
为什么我们不能从 hortonworks 网站下载 ambari 版本?
注意 - 但我们可以从其他网站下载