问题标签 [cloudera-cdp]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
30 浏览

apache-kafka - 在 CDP7.1.6 中执行 kafka-topics --version 命令时出错

从 CDH5 升级到 CDP7.1.6 后,使用命令 kafka-topics --version 获取 envionemnet 变量后检查 kakfa 的安装,我遇到以下错误

其中 CDH 是 CDH7.1.6 的软链接

我看到了正确版本的 kafka-client

找不到丢失的东西

0 投票
1 回答
84 浏览

hive - Apache Tez 任务在 Application Master 中暂停

我有一个 tez 问题,当同时运行大约 14 个查询时,其中一些会出现超过 5 分钟的延迟,但集群利用率仅为 14%。

这就是我正在谈论的信息。

INFO SessionState: [HiveServer2-Background-Pool: Thread-322319]: Get Query Coordinator (AM)            308.84s

我的配置如下:

这是一个 15 节点集群,254GB 内存 p/节点,32 核 p/节点。

任何线索可能会发生什么?AM尺寸合适吗?我没有内存不足的错误,只是在一切运行时等待时间很长,但是当它们一起处理时,它们只处理 3500 万条记录。

谢谢

0 投票
0 回答
18 浏览

cloudera-cdp - 无法将数据从 hdfs 复制到 cdp 上的 s3

WARN impl.MetricsConfig:找不到配置:尝试 hadoop-metrics2-s3a-file-system.properties、hadoop-metrics2.properties 信息 impl.MetricsSystemImpl:计划的指标快照周期为 10 秒。INFO impl.MetricsSystemImpl:s3a 文件系统指标系统已启动 INFO Configuration.deprecation:没有单位 fs.s3a.connection.request.timeout(0) 假设 SECONDS

我正在尝试在命令下方运行但超出警告 hadoop distcp -Dfs.s3a.access.key=key -Dfs.s3a.secret.key=key hdfs://pth s3a://path

0 投票
0 回答
26 浏览

hadoop - 在蜂巢中加入一个带有两个以上表的分桶表

我有一个关于 hive 分桶表(只分桶没有分区)优化的问题。

现在,我知道如果我们有表 A 和表 B,并且我们想使用 A.COL1 和 B.COL1(A.COL1 = B.COL1)连接它们,我们应该在 COL1 上存储表 A 和 B(由COL1) 放入相同的桶数或其倍数。

但是如果我想加入一个超过 2 个表的表怎么办?

例如,我有表 A,我想将它加入表 B 和表 C。

使用 COL1 (A.COL1 = B.COL1) 将表 A 与表 B 连接,使用 COL2 (A.COL2 = C.COL2 ) 将表 A 与表 C 连接

我应该为表 A 存储哪些列?它是由 COL1 和 COL2 存储的(由 col1、col2 聚集)吗?

总而言之,如果一个分桶表仅使用桶与多个表连接,我该如何优化它,我应该选择哪些列进行分桶?

提前致谢。

0 投票
1 回答
17 浏览

hive - 从 CDP 中的 hdfs 位置创建 Hive 表的 Hive 托管表问题

我有一个使用 sqoop 的 CDP 7.3.1,我已将 Postgres 数据库表中的数据加载到 HDFS 位置 /ts/gp/node 中。现在我正在尝试在此创建一个配置单元表。我收到以下错误。请帮忙

0 投票
0 回答
4 浏览

phoenix - 从现有 Phoenix 表生成创建表脚本

我很好奇 phoenix 当前是否有能力从现有的 phoenix 表生成创建脚本。