python连接hive读取数据并编辑相应excle进行发送_python 连hive数据库 读取数据写excel文件-程序员宅基地

技术标签: hive  python  pyhs2  

前情提要

shell脚本操作excle,难度很大,我没有去试验,但是用python搞定了,python连接hive是通过pyhs2客户端(hive官网hiveServe2的安装这一节,python客户端推荐的就是pyhs2),pyhs2四五年之前就停止维护了,github上会推荐你使用pyhive的,这个我用了下,跑复杂的sql报错,没深入研究,就还是用pyhs2,毕竟他是调用hiveServer2来执行任务的,基本和hive-cli是一样的。

难点

hive本身的化就是sql的语句的编写,比较困难的是python对excel的操作和追加,
python本生有一些库,比较好用,最后就是各种测试,直到满足你的需求为止,其中2.7版本的中文编码问题,搞了差不多一天加一晚上,想骂人……,原谅我是没有python基础的人……

正文

基础库 base.json

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# hive util with hive server2
"""
@author:tianjun
@create:2017年9月25日 20:19:08
"""
__author__ = 'tianjun'
__version__ = '0.1'

import pyhs2
import xlwt
import xlrd
import xlutils
import xlutils.copy
import sys
import smtplib  
import email.MIMEMultipart  
import email.MIMEText  
import email.MIMEBase  
import os.path 
import mimetypes 
import os
import time
import json

default_encoding = 'utf-8'
if sys.getdefaultencoding() != default_encoding:
    reload(sys)
    sys.setdefaultencoding(default_encoding)

class Base:
    def __init__(self, db_host, user, password, database, port=10000, authMechanism="PLAIN"):
        """
        create connection to hive server2
        """
        self.conn = pyhs2.connect(host=db_host,
                                  port=port,
                                  authMechanism=authMechanism,
                                  user=user,
                                  password=password,
                                  database=database,
                                  )

    def query(self, sql):

        """
        query
        """
        with self.conn.cursor() as cursor:
            cursor.execute(sql)
            return cursor.fetch()

    def close(self):
        """
        close connection
        """
        self.conn.close()

def loadJsonAndExec(jsonPath,pyhs2Client,book,fileName,sTime=None,eTime=None):
    datas=[]
    with open(jsonPath) as json_file:
        datas = json.load(json_file)
    for data in datas:
        cls = data['columnNames'].split(",")
        print "columnsNames:" + ",".join(cls)
        if sTime:
            hql = str(data['hql']).replace("startTime",sTime)
        if eTime:
             hql = str(data['hql']).replace("endTime",eTime)
        print "hql:" + hql
        sheetNum = int(data["sheetNum"])
        print "sheetNum:" + str(sheetNum)
        result = pyhs2Client.query(hql)
        print result
        #追加
        writeXlwt(result=result,book=book,sheetNum=sheetNum,columnNames=cls,isAppend=True,fileName=fileName)




"""
result,查询的结果;
sheetname,sheet名称
book 创建的工作簿
sheetnum,sheet的索引
cloumNames,列的中文名
isAppend,数据是否再excel中追加,默认不追加,
filename,需要追加的excle的路径
"""
def writeXlwt(result,book,columnNames,fileName,sheetNum=None,isAppend=False,sheetName=None):
    if isAppend == False:
        sheet1=book.add_sheet(sheetName)#添加一个sheet页
        for i in range(len(result)+1):
            if i ==0:
                for j in range(0,len(columnNames)):
                    sheet1.row(i).write(j,columnNames[j].decode("utf-8"))
                    if result[i][j] is None:
                        sheet1.row(i+1).write(j,result[i][j])
                    else:
                        sheet1.row(i+1).write(j,str(result[i][j]).decode("utf-8"))
            else:
                for a in range(len(result[i-1])):
                    if result[i-1][a] is None:
                        sheet1.row(i+1).write(a,result[i-1][a])
                    else:
                        sheet1.row(i+1).write(a,str(result[i-1][a]).decode("utf-8"))
        book.save(fileName)
    else:
        if fileName:
            r_xls = xlrd.open_workbook(fileName)
            table = r_xls.sheet_by_index(sheetNum)
            w_xls=xlutils.copy.copy(r_xls) #复制表
            rows = table.nrows
            sheet_write = w_xls.get_sheet(sheetNum)

            for i in range(1,len(result)+1):
                if i == 1:
                    for j in range(0,len(columnNames)):
                        sheet_write.write(rows+i,j,columnNames[j].decode("utf-8"))
                        if result[i-1][j] is None:
                            sheet_write.write(rows+i+1,j,result[i-1][j])
                        else:
                            sheet_write.write(rows+i+1,j,str(result[i-1][j]).decode("utf-8"))
                else:
                    for k in range(len(result[i-1])):
                        if result[i-1][k] is None:
                            sheet_write.write(rows+i+1,k,result[i-1][k])
                        else:
                            sheet_write.write(rows+i+1,k,str(result[i-1][k]).decode("utf-8"))
            w_xls.save(fileName)




#各种元素的邮件
def sendEmail(receivers,emailSubject,emailBody,sender=None,password=None,smtpServer=None,attachPath=None):
    """
    send E-mail
    """
    if sender is None:
        sender ="***@163.com"
    if password is None:
        password="***"
    if smtpServer is None:
        smtpServer="smtp.163.com"

    server = smtplib.SMTP(smtpServer)  
    server.login(sender,password) #仅smtp服务器需要验证时 

    # 构造MIMEMultipart对象做为根容器  
    main_msg = email.MIMEMultipart.MIMEMultipart("alternative") 

    # 构造MIMEText对象做为邮件显示内容并附加到根容器  
    text =""
    html = """
        <html> 
            <head>尊敬的用户:</head> 
            <body> 
                <p>
                    %s
                </p> 
            </body> 
            <hr>
            <footer>智慧家庭运营庭分析子系统<br>请勿回复!</footer>
        </html> 
    """% emailBody
    text_msg = email.MIMEText.MIMEText(text,"plain",_charset="utf-8")  
    text_msg2 = email.MIMEText.MIMEText(html,"html",_charset="utf-8")
    main_msg.attach(text_msg)  
    main_msg.attach(text_msg2)

    if attachPath:
        # 构造MIMEBase对象做为文件附件内容并附加到根容器  
        ctype,encoding = mimetypes.guess_type(attachPath)  
        if ctype is None or encoding is not None:  
            ctype='application/octet-stream'  
        maintype,subtype = ctype.split('/',1) 

        ## 读入文件内容并格式化  
        data = open(attachPath, 'rb')  
        file_msg = email.MIMEBase.MIMEBase(maintype, subtype)  
        file_msg.set_payload(data.read( ))  
        data.close( )  
        email.Encoders.encode_base64(file_msg)  

        ## 设置附件头  
        basename = os.path.basename(attachPath)  
        file_msg.add_header('Content-Disposition',  'attachment', filename = basename)  
        main_msg.attach(file_msg)  

    # 设置根容器属性  
    main_msg['From'] = sender  
    main_msg['To'] = ",".join(receivers)  
    main_msg['Subject'] = u"%s"% emailSubject  
    main_msg['Date'] = email.Utils.formatdate( )  

    # 得到格式化后的完整文本  
    fullText = main_msg.as_string( )  

    # 用smtp发送邮件  
    try:  
        server.sendmail(sender, receivers, fullText)  
    finally:  
        server.quit() 

example.py

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# hive util with hive server2
"""
@author:tianjun
@create:2017年9月25日 20:19:08
"""
__author__ = 'tianjun'
__version__ = '0.1'
import pyhs2
import xlwt
import sys
import os
import datetime # 提供操作日期和时间的类
import base.base as mybase
import traceback
import json

default_encoding = 'utf-8'
if sys.getdefaultencoding() != default_encoding:
    reload(sys)
    sys.setdefaultencoding(default_encoding)


def main():
    """
    main process
    """
    today = datetime.date.today()
    print "logs time : " + datetime.datetime.now().strftime('%Y-%m-%d %H:%M:%S')
    yesterday = today - datetime.timedelta(days=1)
    try:
        client = mybase.Base(db_host='172.25.30.105', port=10000, user='root', password='test',database='default', authMechanism='PLAIN')

        book=xlwt.Workbook()     #打开一个工作薄
        filename="tianjun.xls"

        ####这个地方需要注意,必须先新建所有的sheet在最后追加;如果,新建sheet1-追加sheet1-新建sheet2,会导致追加sheet1的内容丢失

         # 新建sheet1
        mybase.writeXlwt(result=[],book=book,columnNames=[],sheetName=u"新增用户1",fileName=filename)
        mybase.writeXlwt(result=[],book=book,columnNames=[],sheetName=u"新增用户2",fileName=filename)
        mybase.writeXlwt(result=[],book=book,columnNames=[],sheetName=u"新增用户3",fileName=filename)
        mybase.writeXlwt(result=[],book=book,columnNames=[],sheetName=u"新增用户4",fileName=filename)


        """
        jsonfile, json文件路径
        pyhs2Clinet, pyhs2客户端
        book, excel工作簿
        fileName,excel路径
        sTime=None, 时间范围开始(json里面一定要用startTime)
        eTime=None, 时间范围结束(json里面一定要用endTime)
        """
        print "yesterday:"+yesterday.strftime("%Y%m%d")
        #追加
        mybase.loadJsonAndExec(jsonPath="./json/example.json",pyhs2Client=client,book=book,fileName=filename,sTime=yesterday.strftime("%Y%m%d"))


        client.close()
        print u"hive执行成功"
        e_receivers=["***@163.com"]
        e_subject=today.strftime('%Y-%m-%d')+u"日报"
        e_body=u"详情内容请参见附件"
        e_attachPath="test.xls"
        mybase.sendEmail(receivers=e_receivers,emailSubject=e_subject,emailBody=e_body,attachPath=filename)
        print u"邮件发送成功"
        os.remove(filename)

    except Exception, e:
        e_receivers=["****@163.com"]
        e_subject=today.strftime('%Y-%m-%d')+u"日报采集脚本错误"
        e_body=u"日报采集脚本抛出异常,具体请参考日志信息!"
        mybase.sendEmail(receivers=e_receivers,emailSubject=e_subject,emailBody=e_body)
        print u"hive执行失败|python操作excel失败|者邮件发送失败"
        traceback.print_exc()
        sys.exit(1)  

if __name__ == '__main__':  
    main()

example.json

[
    {
        "columnNames":"用户号码","sheetNum":"0","hql":"select user_id from t_di_trace_event_d where dayid ='startTime' and tag='LifeHome_Album' limit 10"
    }

  ]

结果

邮件离得excel如下所示:
这里写图片描述
这里写图片描述

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/tianjun2012/article/details/78127692

智能推荐

分布式光纤传感器的全球与中国市场2022-2028年:技术、参与者、趋势、市场规模及占有率研究报告_预计2026年中国分布式传感器市场规模有多大-程序员宅基地

文章浏览阅读3.2k次。本文研究全球与中国市场分布式光纤传感器的发展现状及未来发展趋势,分别从生产和消费的角度分析分布式光纤传感器的主要生产地区、主要消费地区以及主要的生产商。重点分析全球与中国市场的主要厂商产品特点、产品规格、不同规格产品的价格、产量、产值及全球和中国市场主要生产商的市场份额。主要生产商包括:FISO TechnologiesBrugg KabelSensor HighwayOmnisensAFL GlobalQinetiQ GroupLockheed MartinOSENSA Innovati_预计2026年中国分布式传感器市场规模有多大

07_08 常用组合逻辑电路结构——为IC设计的延时估计铺垫_基4布斯算法代码-程序员宅基地

文章浏览阅读1.1k次,点赞2次,收藏12次。常用组合逻辑电路结构——为IC设计的延时估计铺垫学习目的:估计模块间的delay,确保写的代码的timing 综合能给到多少HZ,以满足需求!_基4布斯算法代码

OpenAI Manager助手(基于SpringBoot和Vue)_chatgpt网页版-程序员宅基地

文章浏览阅读3.3k次,点赞3次,收藏5次。OpenAI Manager助手(基于SpringBoot和Vue)_chatgpt网页版

关于美国计算机奥赛USACO,你想知道的都在这_usaco可以多次提交吗-程序员宅基地

文章浏览阅读2.2k次。USACO自1992年举办,到目前为止已经举办了27届,目的是为了帮助美国信息学国家队选拔IOI的队员,目前逐渐发展为全球热门的线上赛事,成为美国大学申请条件下,含金量相当高的官方竞赛。USACO的比赛成绩可以助力计算机专业留学,越来越多的学生进入了康奈尔,麻省理工,普林斯顿,哈佛和耶鲁等大学,这些同学的共同点是他们都参加了美国计算机科学竞赛(USACO),并且取得过非常好的成绩。适合参赛人群USACO适合国内在读学生有意向申请美国大学的或者想锻炼自己编程能力的同学,高三学生也可以参加12月的第_usaco可以多次提交吗

MySQL存储过程和自定义函数_mysql自定义函数和存储过程-程序员宅基地

文章浏览阅读394次。1.1 存储程序1.2 创建存储过程1.3 创建自定义函数1.3.1 示例1.4 自定义函数和存储过程的区别1.5 变量的使用1.6 定义条件和处理程序1.6.1 定义条件1.6.1.1 示例1.6.2 定义处理程序1.6.2.1 示例1.7 光标的使用1.7.1 声明光标1.7.2 打开光标1.7.3 使用光标1.7.4 关闭光标1.8 流程控制的使用1.8.1 IF语句1.8.2 CASE语句1.8.3 LOOP语句1.8.4 LEAVE语句1.8.5 ITERATE语句1.8.6 REPEAT语句。_mysql自定义函数和存储过程

半导体基础知识与PN结_本征半导体电流为0-程序员宅基地

文章浏览阅读188次。半导体二极管——集成电路最小组成单元。_本征半导体电流为0

随便推点

【Unity3d Shader】水面和岩浆效果_unity 岩浆shader-程序员宅基地

文章浏览阅读2.8k次,点赞3次,收藏18次。游戏水面特效实现方式太多。咱们这边介绍的是一最简单的UV动画(无顶点位移),整个mesh由4个顶点构成。实现了水面效果(左图),不动代码稍微修改下参数和贴图可以实现岩浆效果(右图)。有要思路是1,uv按时间去做正弦波移动2,在1的基础上加个凹凸图混合uv3,在1、2的基础上加个水流方向4,加上对雾效的支持,如没必要请自行删除雾效代码(把包含fog的几行代码删除)S..._unity 岩浆shader

广义线性模型——Logistic回归模型(1)_广义线性回归模型-程序员宅基地

文章浏览阅读5k次。广义线性模型是线性模型的扩展,它通过连接函数建立响应变量的数学期望值与线性组合的预测变量之间的关系。广义线性模型拟合的形式为:其中g(μY)是条件均值的函数(称为连接函数)。另外,你可放松Y为正态分布的假设,改为Y 服从指数分布族中的一种分布即可。设定好连接函数和概率分布后,便可以通过最大似然估计的多次迭代推导出各参数值。在大部分情况下,线性模型就可以通过一系列连续型或类别型预测变量来预测正态分布的响应变量的工作。但是,有时候我们要进行非正态因变量的分析,例如:(1)类别型.._广义线性回归模型

HTML+CSS大作业 环境网页设计与实现(垃圾分类) web前端开发技术 web课程设计 网页规划与设计_垃圾分类网页设计目标怎么写-程序员宅基地

文章浏览阅读69次。环境保护、 保护地球、 校园环保、垃圾分类、绿色家园、等网站的设计与制作。 总结了一些学生网页制作的经验:一般的网页需要融入以下知识点:div+css布局、浮动、定位、高级css、表格、表单及验证、js轮播图、音频 视频 Flash的应用、ul li、下拉导航栏、鼠标划过效果等知识点,网页的风格主题也很全面:如爱好、风景、校园、美食、动漫、游戏、咖啡、音乐、家乡、电影、名人、商城以及个人主页等主题,学生、新手可参考下方页面的布局和设计和HTML源码(有用点赞△) 一套A+的网_垃圾分类网页设计目标怎么写

C# .Net 发布后,把dll全部放在一个文件夹中,让软件目录更整洁_.net dll 全局目录-程序员宅基地

文章浏览阅读614次,点赞7次,收藏11次。之前找到一个修改 exe 中 DLL地址 的方法, 不太好使,虽然能正确启动, 但无法改变 exe 的工作目录,这就影响了.Net 中很多获取 exe 执行目录来拼接的地址 ( 相对路径 ),比如 wwwroot 和 代码中相对目录还有一些复制到目录的普通文件 等等,它们的地址都会指向原来 exe 的目录, 而不是自定义的 “lib” 目录,根本原因就是没有修改 exe 的工作目录这次来搞一个启动程序,把 .net 的所有东西都放在一个文件夹,在文件夹同级的目录制作一个 exe._.net dll 全局目录

BRIEF特征点描述算法_breif description calculation 特征点-程序员宅基地

文章浏览阅读1.5k次。本文为转载,原博客地址:http://blog.csdn.net/hujingshuang/article/details/46910259简介 BRIEF是2010年的一篇名为《BRIEF:Binary Robust Independent Elementary Features》的文章中提出,BRIEF是对已检测到的特征点进行描述,它是一种二进制编码的描述子,摈弃了利用区域灰度..._breif description calculation 特征点

房屋租赁管理系统的设计和实现,SpringBoot计算机毕业设计论文_基于spring boot的房屋租赁系统论文-程序员宅基地

文章浏览阅读4.1k次,点赞21次,收藏79次。本文是《基于SpringBoot的房屋租赁管理系统》的配套原创说明文档,可以给应届毕业生提供格式撰写参考,也可以给开发类似系统的朋友们提供功能业务设计思路。_基于spring boot的房屋租赁系统论文