一 Python连接hive环境实例
经在网络查询相关的教程，发现有好多的例子，发现连接底层用的的驱动基本都是pyhive和pyhs2两种第三方库的来连接的 hive,下面将简介windows 10 python 3.10 连接hive的驱动程序方式，开发工具：pycharm ，经过测试已成功，分享给大家，有什么问题，可私信与我。
1 第一种：Python安装支持hive相关的库(pyhive)
1.1 安装sasl，本人建议采用离线安装方式，减少在线自动版本解决的问题
1.1.1 查询python版本 ，在命令下执行如下命令，如果不行，请查阅相关python安装教程
python --version
如下图所示
1.1.2 下载sasl相应版本的库(whl), 此处特别注意版本，如果版本不一致，导致不能安装同时使用
我的python为python 3.10的，
cp310:表示为python的版本，为python 3 10的
win_amd64:表示为驱动为windows 64位的驱动
下载网址(包括其他离线库和包)：sasl下载版本地址https://www.lfd.uci.edu/~gohlke/pythonlibs/#sasl
相应包：sasl-0.3.1-cp310-cp310-win_amd64.whl在
pip install sasl-0.3.1-cp310-cp310-win_amd64.whl
1.1.3 安装sasl,切换python环境的根目录，命令为
pip install sasl-0.3.1-cp310-cp310-win_amd64.whl
如下图所示，此处显示已安装成功的提示
1.2 安装thrift,命令如下，此处没有特别注意事项，如果有的话，请联系我
pip install thrift
如下图所示
1.3 安装thrift_sasl,命令如下
pip install thrift_sasl
1.4 安装phhive,命令如下
pip install pyhive
如下图所示,已安装提示
2 第二种: Python安装支持hive相关的库(pyhs2)
2.1 如果安装中，有提供c++的库或相关工具，建立直接执行c++库包，我本采采用的360的全部C++库的安装方式，此方法简单明了，减少缺包的情况；或到微信官网下功相应的包安装。
注：此步要很重要
2.1 安装命令如下
pig install pyhs2
二 Python开发实例
1 （本人推荐)使用pyhive和pandas连接和操作数据库,使用ORM框架(sqlalchemy)的
create_engine连接数据库,，代码如下
from pyhive import hive
import pandas as pd
import thrift_sasl
import puresasl
import sasl
# 定义数据库连接
from sqlalchemy import create_engine,types
# 读取数据
def select_pyhive(sql):
# 创建hive连接
engine = create_engine("hive://10.88.221.112:10000/ods")
try:
df = pd.read_sql(sql, engine)
return df
finally:
if engine:
engine.dispose()
#执行函数
df=select_pyhive('SHOW DATABASES')
print(df)
2 使用pyhive和pandas连接和操作数据库,使用pyhive中的connection来连接hive,代码如下
from pyhive import hive
import pandas as pd
# 读取数据
def select_pyhive(sql):
# 创建hive连接
conn = hive.Connection(host='10.88.221.112', port=10000, username='hive', password='hive',database='ods')
try:
df = pd.read_sql(sql, conn)
return df
finally:
if conn:
conn.close()
#执行函数
df=select_pyhive('SHOW DATABASES')
print(df)
精彩链接
您阅读本篇文章共花了：
发表评论