shell脚本操作excle,难度很大,我没有去试验,但是用python搞定了,python连接hive是通过pyhs2客户端(hive官网hiveServe2的安装这一节,python客户端推荐的就是pyhs2),pyhs2四五年之前就停止维护了,github上会推荐你使用pyhive的,这个我用了下,跑复杂的sql报错,没深入研究,就还是用pyhs2,毕竟他是调用hiveServer2来执行任务的,基本和hive-cli是一样的。
hive本身的化就是sql的语句的编写,比较困难的是python对excel的操作和追加,
python本生有一些库,比较好用,最后就是各种测试,直到满足你的需求为止,其中2.7版本的中文编码问题,搞了差不多一天加一晚上,想骂人……,原谅我是没有python基础的人……
#!/usr/bin/env python
# -*- coding: utf-8 -*-
# hive util with hive server2
"""
@author:tianjun
@create:2017年9月25日 20:19:08
"""
__author__ = 'tianjun'
__version__ = '0.1'
import pyhs2
import xlwt
import xlrd
import xlutils
import xlutils.copy
import sys
import smtplib
import email.MIMEMultipart
import email.MIMEText
import email.MIMEBase
import os.path
import mimetypes
import os
import time
import json
default_encoding = 'utf-8'
if sys.getdefaultencoding() != default_encoding:
reload(sys)
sys.setdefaultencoding(default_encoding)
class Base:
def __init__(self, db_host, user, password, database, port=10000, authMechanism="PLAIN"):
"""
create connection to hive server2
"""
self.conn = pyhs2.connect(host=db_host,
port=port,
authMechanism=authMechanism,
user=user,
password=password,
database=database,
)
def query(self, sql):
"""
query
"""
with self.conn.cursor() as cursor:
cursor.execute(sql)
return cursor.fetch()
def close(self):
"""
close connection
"""
self.conn.close()
def loadJsonAndExec(jsonPath,pyhs2Client,book,fileName,sTime=None,eTime=None):
datas=[]
with open(jsonPath) as json_file:
datas = json.load(json_file)
for data in datas:
cls = data['columnNames'].split(",")
print "columnsNames:" + ",".join(cls)
if sTime:
hql = str(data['hql']).replace("startTime",sTime)
if eTime:
hql = str(data['hql']).replace("endTime",eTime)
print "hql:" + hql
sheetNum = int(data["sheetNum"])
print "sheetNum:" + str(sheetNum)
result = pyhs2Client.query(hql)
print result
#追加
writeXlwt(result=result,book=book,sheetNum=sheetNum,columnNames=cls,isAppend=True,fileName=fileName)
"""
result,查询的结果;
sheetname,sheet名称
book 创建的工作簿
sheetnum,sheet的索引
cloumNames,列的中文名
isAppend,数据是否再excel中追加,默认不追加,
filename,需要追加的excle的路径
"""
def writeXlwt(result,book,columnNames,fileName,sheetNum=None,isAppend=False,sheetName=None):
if isAppend == False:
sheet1=book.add_sheet(sheetName)#添加一个sheet页
for i in range(len(result)+1):
if i ==0:
for j in range(0,len(columnNames)):
sheet1.row(i).write(j,columnNames[j].decode("utf-8"))
if result[i][j] is None:
sheet1.row(i+1).write(j,result[i][j])
else:
sheet1.row(i+1).write(j,str(result[i][j]).decode("utf-8"))
else:
for a in range(len(result[i-1])):
if result[i-1][a] is None:
sheet1.row(i+1).write(a,result[i-1][a])
else:
sheet1.row(i+1).write(a,str(result[i-1][a]).decode("utf-8"))
book.save(fileName)
else:
if fileName:
r_xls = xlrd.open_workbook(fileName)
table = r_xls.sheet_by_index(sheetNum)
w_xls=xlutils.copy.copy(r_xls) #复制表
rows = table.nrows
sheet_write = w_xls.get_sheet(sheetNum)
for i in range(1,len(result)+1):
if i == 1:
for j in range(0,len(columnNames)):
sheet_write.write(rows+i,j,columnNames[j].decode("utf-8"))
if result[i-1][j] is None:
sheet_write.write(rows+i+1,j,result[i-1][j])
else:
sheet_write.write(rows+i+1,j,str(result[i-1][j]).decode("utf-8"))
else:
for k in range(len(result[i-1])):
if result[i-1][k] is None:
sheet_write.write(rows+i+1,k,result[i-1][k])
else:
sheet_write.write(rows+i+1,k,str(result[i-1][k]).decode("utf-8"))
w_xls.save(fileName)
#各种元素的邮件
def sendEmail(receivers,emailSubject,emailBody,sender=None,password=None,smtpServer=None,attachPath=None):
"""
send E-mail
"""
if sender is None:
sender ="***@163.com"
if password is None:
password="***"
if smtpServer is None:
smtpServer="smtp.163.com"
server = smtplib.SMTP(smtpServer)
server.login(sender,password) #仅smtp服务器需要验证时
# 构造MIMEMultipart对象做为根容器
main_msg = email.MIMEMultipart.MIMEMultipart("alternative")
# 构造MIMEText对象做为邮件显示内容并附加到根容器
text =""
html = """
<html>
<head>尊敬的用户:</head>
<body>
<p>
%s
</p>
</body>
<hr>
<footer>智慧家庭运营庭分析子系统<br>请勿回复!</footer>
</html>
"""% emailBody
text_msg = email.MIMEText.MIMEText(text,"plain",_charset="utf-8")
text_msg2 = email.MIMEText.MIMEText(html,"html",_charset="utf-8")
main_msg.attach(text_msg)
main_msg.attach(text_msg2)
if attachPath:
# 构造MIMEBase对象做为文件附件内容并附加到根容器
ctype,encoding = mimetypes.guess_type(attachPath)
if ctype is None or encoding is not None:
ctype='application/octet-stream'
maintype,subtype = ctype.split('/',1)
## 读入文件内容并格式化
data = open(attachPath, 'rb')
file_msg = email.MIMEBase.MIMEBase(maintype, subtype)
file_msg.set_payload(data.read( ))
data.close( )
email.Encoders.encode_base64(file_msg)
## 设置附件头
basename = os.path.basename(attachPath)
file_msg.add_header('Content-Disposition', 'attachment', filename = basename)
main_msg.attach(file_msg)
# 设置根容器属性
main_msg['From'] = sender
main_msg['To'] = ",".join(receivers)
main_msg['Subject'] = u"%s"% emailSubject
main_msg['Date'] = email.Utils.formatdate( )
# 得到格式化后的完整文本
fullText = main_msg.as_string( )
# 用smtp发送邮件
try:
server.sendmail(sender, receivers, fullText)
finally:
server.quit()
#!/usr/bin/env python
# -*- coding: utf-8 -*-
# hive util with hive server2
"""
@author:tianjun
@create:2017年9月25日 20:19:08
"""
__author__ = 'tianjun'
__version__ = '0.1'
import pyhs2
import xlwt
import sys
import os
import datetime # 提供操作日期和时间的类
import base.base as mybase
import traceback
import json
default_encoding = 'utf-8'
if sys.getdefaultencoding() != default_encoding:
reload(sys)
sys.setdefaultencoding(default_encoding)
def main():
"""
main process
"""
today = datetime.date.today()
print "logs time : " + datetime.datetime.now().strftime('%Y-%m-%d %H:%M:%S')
yesterday = today - datetime.timedelta(days=1)
try:
client = mybase.Base(db_host='172.25.30.105', port=10000, user='root', password='test',database='default', authMechanism='PLAIN')
book=xlwt.Workbook() #打开一个工作薄
filename="tianjun.xls"
####这个地方需要注意,必须先新建所有的sheet在最后追加;如果,新建sheet1-追加sheet1-新建sheet2,会导致追加sheet1的内容丢失
# 新建sheet1
mybase.writeXlwt(result=[],book=book,columnNames=[],sheetName=u"新增用户1",fileName=filename)
mybase.writeXlwt(result=[],book=book,columnNames=[],sheetName=u"新增用户2",fileName=filename)
mybase.writeXlwt(result=[],book=book,columnNames=[],sheetName=u"新增用户3",fileName=filename)
mybase.writeXlwt(result=[],book=book,columnNames=[],sheetName=u"新增用户4",fileName=filename)
"""
jsonfile, json文件路径
pyhs2Clinet, pyhs2客户端
book, excel工作簿
fileName,excel路径
sTime=None, 时间范围开始(json里面一定要用startTime)
eTime=None, 时间范围结束(json里面一定要用endTime)
"""
print "yesterday:"+yesterday.strftime("%Y%m%d")
#追加
mybase.loadJsonAndExec(jsonPath="./json/example.json",pyhs2Client=client,book=book,fileName=filename,sTime=yesterday.strftime("%Y%m%d"))
client.close()
print u"hive执行成功"
e_receivers=["***@163.com"]
e_subject=today.strftime('%Y-%m-%d')+u"日报"
e_body=u"详情内容请参见附件"
e_attachPath="test.xls"
mybase.sendEmail(receivers=e_receivers,emailSubject=e_subject,emailBody=e_body,attachPath=filename)
print u"邮件发送成功"
os.remove(filename)
except Exception, e:
e_receivers=["****@163.com"]
e_subject=today.strftime('%Y-%m-%d')+u"日报采集脚本错误"
e_body=u"日报采集脚本抛出异常,具体请参考日志信息!"
mybase.sendEmail(receivers=e_receivers,emailSubject=e_subject,emailBody=e_body)
print u"hive执行失败|python操作excel失败|者邮件发送失败"
traceback.print_exc()
sys.exit(1)
if __name__ == '__main__':
main()
[
{
"columnNames":"用户号码","sheetNum":"0","hql":"select user_id from t_di_trace_event_d where dayid ='startTime' and tag='LifeHome_Album' limit 10"
}
]
邮件离得excel如下所示:
文章浏览阅读1.6k次。安装配置gi、安装数据库软件、dbca建库见下:http://blog.csdn.net/kadwf123/article/details/784299611、检查集群节点及状态:[root@rac2 ~]# olsnodes -srac1 Activerac2 Activerac3 Activerac4 Active[root@rac2 ~]_12c查看crs状态
文章浏览阅读1.3w次,点赞45次,收藏99次。我个人用的是anaconda3的一个python集成环境,自带jupyter notebook,但在我打开jupyter notebook界面后,却找不到对应的虚拟环境,原来是jupyter notebook只是通用于下载anaconda时自带的环境,其他环境要想使用必须手动下载一些库:1.首先进入到自己创建的虚拟环境(pytorch是虚拟环境的名字)activate pytorch2.在该环境下下载这个库conda install ipykernelconda install nb__jupyter没有pytorch环境
文章浏览阅读5.2k次,点赞19次,收藏28次。选择scoop纯属意外,也是无奈,因为电脑用户被锁了管理员权限,所有exe安装程序都无法安装,只可以用绿色软件,最后被我发现scoop,省去了到处下载XXX绿色版的烦恼,当然scoop里需要管理员权限的软件也跟我无缘了(譬如everything)。推荐添加dorado这个bucket镜像,里面很多中文软件,但是部分国外的软件下载地址在github,可能无法下载。以上两个是官方bucket的国内镜像,所有软件建议优先从这里下载。上面可以看到很多bucket以及软件数。如果官网登陆不了可以试一下以下方式。_scoop-cn
文章浏览阅读4.5k次,点赞2次,收藏3次。首先要有一个color-picker组件 <el-color-picker v-model="headcolor"></el-color-picker>在data里面data() { return {headcolor: ’ #278add ’ //这里可以选择一个默认的颜色} }然后在你想要改变颜色的地方用v-bind绑定就好了,例如:这里的:sty..._vue el-color-picker
文章浏览阅读640次。基于芯片日益增长的问题,所以内核开发者们引入了新的方法,就是在内核中只保留函数,而数据则不包含,由用户(应用程序员)自己把数据按照规定的格式编写,并放在约定的地方,为了不占用过多的内存,还要求数据以根精简的方式编写。boot启动时,传参给内核,告诉内核设备树文件和kernel的位置,内核启动时根据地址去找到设备树文件,再利用专用的编译器去反编译dtb文件,将dtb还原成数据结构,以供驱动的函数去调用。firmware是三星的一个固件的设备信息,因为找不到固件,所以内核启动不成功。_exynos 4412 刷机
文章浏览阅读2w次,点赞24次,收藏42次。Linux系统配置jdkLinux学习教程,Linux入门教程(超详细)_linux配置jdk
文章浏览阅读3.3k次,点赞5次,收藏19次。xlabel('\delta');ylabel('AUC');具体符号的对照表参照下图:_matlab微米怎么输入
文章浏览阅读119次。顺序读写指的是按照文件中数据的顺序进行读取或写入。对于文本文件,可以使用fgets、fputs、fscanf、fprintf等函数进行顺序读写。在C语言中,对文件的操作通常涉及文件的打开、读写以及关闭。文件的打开使用fopen函数,而关闭则使用fclose函数。在C语言中,可以使用fread和fwrite函数进行二进制读写。 Biaoge 于2024-03-09 23:51发布 阅读量:7 ️文章类型:【 C语言程序设计 】在C语言中,用于打开文件的函数是____,用于关闭文件的函数是____。
文章浏览阅读3.4k次,点赞2次,收藏13次。跟随鼠标移动的粒子以grid(SOP)为partical(SOP)的资源模板,调整后连接【Geo组合+point spirit(MAT)】,在连接【feedback组合】适当调整。影响粒子动态的节点【metaball(SOP)+force(SOP)】添加mouse in(CHOP)鼠标位置到metaball的坐标,实现鼠标影响。..._touchdesigner怎么让一个模型跟着鼠标移动
文章浏览阅读178次。项目运行环境配置:Jdk1.8 + Tomcat7.0 + Mysql + HBuilderX(Webstorm也行)+ Eclispe(IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持)。项目技术:Springboot + mybatis + Maven +mysql5.7或8.0+html+css+js等等组成,B/S模式 + Maven管理等等。环境需要1.运行环境:最好是java jdk 1.8,我们在这个平台上运行的。其他版本理论上也可以。_基于java技术的停车场管理系统实现与设计
文章浏览阅读3.5k次。前言对于MediaPlayer播放器的源码分析内容相对来说比较多,会从Java-&amp;gt;Jni-&amp;gt;C/C++慢慢分析,后面会慢慢更新。另外,博客只作为自己学习记录的一种方式,对于其他的不过多的评论。MediaPlayerDemopublic class MainActivity extends AppCompatActivity implements SurfaceHolder.Cal..._android多媒体播放源码分析 时序图
文章浏览阅读2.4k次,点赞41次,收藏13次。java 数据结构与算法 ——快速排序法_快速排序法