4

使用此链接尝试连接到远程配置单元。下面是使用的代码。收到的错误消息也在下面给出

如何通过 Python 访问 Hive?

代码

   from pyhive import hive
    conn = hive.Connection(host="10.111.22.11", port=10000, username="user1" ,database="default")

错误信息

Could not connect to any of [('10.111.22.11', 10000)]
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/opt/anaconda3/lib/python3.6/site-packages/pyhive/hive.py", line 131, in __init__
    self._transport.open()
  File "/opt/anaconda3/lib/python3.6/site-packages/thrift_sasl/__init__.py", line 61, in open
    self._trans.open()
  File "/opt/anaconda3/lib/python3.6/site-packages/thrift/transport/TSocket.py",line 113, in open
    raise TTransportException(TTransportException.NOT_OPEN, msg)
thrift.transport.TTransport.TTransportException: Could not connect to any of [('10.111.22.11', 10000)]

成功连接的其他要求是什么?我能够直接连接到服务器(使用 putty)并运行 hive。但是当从另一台服务器 X 尝试时,我得到了这个错误。我也可以从服务器 X ping 配置单元服务器。

端口号可能是问题吗?如何检查正确的端口号?

如以下答案中所述,我尝试启动 hiveserver2 。但该命令似乎不起作用。非常感谢任何帮助。

当我从 hive shell 执行查询时,我在日志中看到的端口也是8088。想知道这是否应该是端口而不是10000(无论如何都不起作用)

4

4 回答 4

4

无法使用pyhive. 下面必须使用paramikoinsted 是示例代码

import os
import paramiko
import time 

ssh = paramiko.SSHClient()
ssh.set_missing_host_key_policy(paramiko.AutoAddPolicy())
ssh.load_host_keys(os.path.expanduser(os.path.join("~", ".ssh", "known_hosts")))
ssh.connect('1.1.1.1', username='uid', password='pwd')
sshin, sshout, ssherr= ssh.exec_command('hive -e "create table test(key varchar(10),keyval varchar(200))"')
于 2017-07-05T07:50:03.503 回答
1

HiveServer2进程必须在您的远程 Hive 主机中启动。10000是默认端口号。

使用此命令启动 HiveServer2。

$HIVE_HOME/bin/hiveserver2 
于 2017-05-17T18:01:02.707 回答
0

请尝试以下代码以使用 pyhive 访问远程配置单元表:

from pyhive import hive
import pandas as pd

#Create Hive connection 
conn = hive.Connection(host="10.111.22.11", port=10000, username="user1")

# Read Hive table and Create pandas dataframe
df = pd.read_sql("SELECT * FROM db_Name.table_Name limit 10", conn)
print(df.head())
于 2017-08-15T09:02:32.513 回答
0

要使 PyHive 工作,Hive Server 2.0 应该使用传输模式作为“二进制”运行。如果它使用传输作为 Http 运行,请将其更改为“二进制”。

于 2019-09-18T08:31:45.637 回答