问题标签 [ibis]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
157 浏览

python-requests - 如何为 python ibis 或请求设置 impala namenode rpc 端口号

我正在使用“宜必思框架”。我有

这失败了,因为namenoderpcaddress构造者requests(在 ibis 中调用)具有端口 8020,而对我来说正确的是 8022(这是 Cloudera 推荐的端口;可能用于 HA 目的)。

(上面msg中的ip地址是我编辑的)

知道如何告诉 ibis 或请求此端口号吗?

谢谢。

0 投票
0 回答
2025 浏览

python - 尝试使用 ibis 连接到使用 kerberos 的 Impala 服务器

我正在尝试使用 ibis.impala.connect 连接到使用 kerberos 的 Impala 服务器,如下所示:

但我不断收到以下错误:

运行 Windows 7 和使用 Anaconda 安装的 python 2.7。

我设置了 Impala ODBC,它工作正常。

0 投票
1 回答
1113 浏览

python - python将ibis(Impala)表转换为熊猫数据框

有人知道如何将 ibis (Impala) 表 ( <class 'ibis.expr.types.TableExpr'>) 转换为 pandas 数据框吗?

其实我想合并(加入)宜必思表和熊猫数据框。

谢谢!!

0 投票
2 回答
1969 浏览

python - 模块 'ibis.impala' 没有属性 'connect'

我已经安装了 Python3.5 和 ibis-framework 0.10.0。我想直接将 Pandas 数据操作到 impala 数据库。但我遇到以下错误。你能帮我解决吗?命令行如下:

错误信息如下:

0 投票
2 回答
1810 浏览

python - 使用 Ibis python 将数据插入到 impala 表中

我正在尝试将 df 插入到 ibis 创建的带有分区的 impala 表中。我在远程内核上运行它,在 Windows 10 机器上使用 spyder 3.2.4,在运行 CentOS 的边缘节点机器上使用 python 3.6.2。

我收到以下错误:

0 投票
3 回答
6334 浏览

python - 使用 Python 连接 Impala 数据库(thriftpy 错误)

我要做的是非常基本的:使用 Python 连接到 Impala 数据库:

我正在使用 Impyla 包来做到这一点。我收到了这个错误:

还尝试了 Ibis 包,但由于相同的 thriftpy 相关错误而失败。

在使用 Dbeaver 的 Windows 中,我可以使用官方 Cloudera JDBC 连接器连接到数据库。我的问题是:

  • 应该在我的连接代码中将我的 JDBC 连接器作为参数传递吗?我进行了一些搜索,但找不到指向这个方向的东西。
  • 我应该尝试 Ibis 和 Impyla 套餐以外的其他方式吗?在使用它们时,我遇到了很多与版本相关的问题和依赖关系。如果是,您会推荐什么替代方案?

谢谢!

0 投票
1 回答
760 浏览

python - 尝试使用 `ibis` 将 Python 数据帧加载到 Hadoop(Impala)中,得到“AttributeError:模块 'ibis' 没有属性 'impala'”

我正在 Jupyter 笔记本中运行以下 Python 命令块,以将我的数据框(标记为df)上传到 Impala:

. . . 但我收到错误消息AttributeError: module 'ibis' has no attribute 'impala'

注意:我已经在 J​​upyter 终端中安装了 hdfs、ibis、ibis-framework[Kerberos] 和 impyla 模块。

我究竟做错了什么?

0 投票
1 回答
387 浏览

impala - Ibis Impala JOIN 重新标记/名称“列 AS 新名称”的问题

当您使用 Ibis API 查询 impala 时,出于某种原因,Ibis API 强制它成为子查询(当您加入 4-5 个表时,它突然变得超级慢)。由于连接时的列名重叠问题,它根本不会正常连接。我想要一种快速重命名列的方法,这不是 SQL 通常的工作方式吗?

然后你有 IBIS 生成 SQL,它在没有我建议的情况下对它进行 SUBQUERYING:

为什么这么难?

理想情况下,它应该很简单:

生成一个:SELECT s0.element_date as spend_date, i0.element_date INNER JOIN s0 dbp.shop_spend ON s0.spend_date == i0.element_date

正确的?

我们是否不允许在正在连接的表上使用相同的列名?我很确定在原始 SQL 中,您可以只使用“X AS Y”而无需子查询。

0 投票
1 回答
114 浏览

python - 将简单的 impala sql 查询转换为 ibis

我正在尝试将简单的 Impala sql 查询转换为 python 中的 ibis 查询,但是在从 sql 转换时我无法理解 ibis 的语法。

到目前为止,我已经尝试过:

我希望我的结果接近 sql 查询:

任何帮助表示赞赏。

0 投票
0 回答
129 浏览

python-2.7 - 无法使用 Ibis 通过 AWS Lambda 连接到 Impala

我有一个用 python2.7 编写的 AWS Lambda 函数。我正在尝试使用 lambda 函数连接到 Impala(安装在 ec2 实例上)。py lambda 函数使用 Ibis 连接到 Impala。

在尝试从 Lambda 进行测试时,我收到以下错误:

代码:

这不能通过 AWS Lambda 实现吗?