第一种方式:load data local inpath
注意点:
1.必须是本地文件,不能是集群上的文件
2.文件路径中的变量如果无法替换,可以把单引号换成双引号,一般双引号总是没问题的
3.hive库在配置的时候有一个hdfs基础路径,用这种方式创建的表时可以不指定hdfs路径,导入数据后会自然在“hdfs基础路径/表名/”下生成相应的分区文件夹
4.用desc formatted table_name;可以查看hdfs路径
# 加载数据的脚本如下
#!/bin/sh
if [[ $# -eq 1 ]];then
dt="${1}"
else
echo "无输入时间,请传入一个时间参数给程序"
exit 1
fi
queryengine --sessionconf engine=wing -e"
SET mapred.job.priority=VERY_HIGH;
SET hive.merge.mapredfiles=true;
SET hive.merge.size.per.task=536870912;
SET hive.merge.smallfiles.avgsize=536870912;
SET mapred.job.name=log_day_'${dt}';
ADD FILE '/home/work/local/log_pretty/${dt}.log';
load data local inpath '${dt}.log' overwrite INTO
TABLE default.log_day PARTITION (pdate = '${dt}');
;"
if [[ $? -eq 0 ]];then
echo "数据入库正常........."
exit 0
else
echo "数据入库出现异常.........."
exit 1
fi
# 创建表的语句如下
USE default;
CREATE TABLE log_day (
req_date STRING COMMENT '请求日期',
req_time STRING COMMENT '请求时间',
user_id BIGINT COMMENT '用户id',
url STRING COMMENT 'url',
module STRING COMMENT '模块名',
operation STRING COMMENT '操作名',
task_id BIGINT COMMENT '任务id'
)
COMMENT '清洗后的日志'
PARTITIONED BY(pdate STRING)
ROW FORMAT CHARSET 'UTF8'
DELIMITED FIELDS TERMINATED BY '\001'
LINES TERMINATED BY '\n'
STORED AS TEXTFILE ;
第二种方式:创建外部表然后增加分区
注意点:
1. location的全路径是创建表时的hdfs路径加上location中指定的分区文件夹
2. 删除分区时不会删除hdfs数据
# 增加分区的脚本如下
hour_interval=-1
startday=`date "+%Y%m%d"`
tmp_time=`date -d "$startday $hour_interval days" "+%Y%m%d%H"`
cur_date=${tmp_time:0:8}
cur_hour=${tmp_time:8:2}
while [ 1 ]
do
hive -e "use default; ALTER TABLE detail_report ADD IF NOT EXISTS PARTITION (dt = $cur_date, hour = $cur_hour) location '$cur_date/$cur_hour';"
tmp_time=`date -d "$cur_date $cur_hour +1 hours" "+%Y%m%d%H"`
cur_date=${tmp_time:0:8}
cur_hour=${tmp_time:8:2}
tmp_time1=`date -d "+2 hours" "+%Y%m%d%H"`
cur_date1=${tmp_time1:0:8}
cur_hour1=${tmp_time1:8:2}
if [ $cur_date1 -eq $cur_date -a $cur_hour1 -eq $cur_hour ]
then
sleep 3600
fi
done
# 创建表的脚本如下
use default;
create EXTERNAL table
IF NOT EXISTS hive_table_name (
ac string comment '',
res_type string comment '',
install_date string comment '',
install_time string comment '',
ip string comment '',
uid string comment ''
)
COMMENT ''
PARTITIONED BY(day STRING, hour STRING)
ROW FORMAT DELIMITED
FIELDS TERMINATED BY ','
LOCATION 'hdfs://xx/xx/xx/hive_table_name';
hive常用语句
查看分区 show partitions table_name;
查看表详情 desc formatted table_name;
查看建表语句 show create table table_name;
删除分区 ALTER TABLE hive_cfp_install_report DROP IF EXISTS PARTITION (day='20181003');
下面提供一个批量删除分区的方式
# 循环删除分区
#!/bin/sh
source /etc/profile
startdate=`date -d $1 +"%Y%m%d"`
tempdate=${startdate}
enddate=`date -d $2 +"%Y%m%d"`
# 将时间戳转成整数比大小
while [ $((tempdate)) -le $((enddate)) ]
do
echo $tempdate "start####" # 20180801
hive -e"
use default;
ALTER TABLE hive_report DROP IF EXISTS PARTITION (day='$tempdate');"
tempdate=`date -d "1 day $tempdate" +"%Y%m%d"` # 20180802
done
文章浏览阅读3.8k次,点赞9次,收藏28次。直接上一个工作中碰到的问题,另外一个系统开启多线程调用我这边的接口,然后我这边会开启多线程批量查询第三方接口并且返回给调用方。使用的是两三年前别人遗留下来的方法,放到线上后发现确实是可以正常取到结果,但是一旦调用,CPU占用就直接100%(部署环境是win server服务器)。因此查看了下相关的老代码并使用JProfiler查看发现是在某个while循环的时候有问题。具体项目代码就不贴了,类似于下面这段代码。while(flag) {//your code;}这里的flag._main函数使用while(1)循环cpu占用99
文章浏览阅读347次。idea shift f6 快捷键无效_idea shift +f6快捷键不生效
文章浏览阅读135次。Ecmacript 中没有DOM 和 BOM核心模块Node为JavaScript提供了很多服务器级别,这些API绝大多数都被包装到了一个具名和核心模块中了,例如文件操作的 fs 核心模块 ,http服务构建的http 模块 path 路径操作模块 os 操作系统信息模块// 用来获取机器信息的var os = require('os')// 用来操作路径的var path = require('path')// 获取当前机器的 CPU 信息console.log(os.cpus._node模块中有很多核心模块,以下不属于核心模块,使用时需下载的是
文章浏览阅读10w+次,点赞435次,收藏3.4k次。SPSS 22 下载安装过程7.6 方差分析与回归分析的SPSS实现7.6.1 SPSS软件概述1 SPSS版本与安装2 SPSS界面3 SPSS特点4 SPSS数据7.6.2 SPSS与方差分析1 单因素方差分析2 双因素方差分析7.6.3 SPSS与回归分析SPSS回归分析过程牙膏价格问题的回归分析_化工数学模型数据回归软件
文章浏览阅读7.5k次。如何利用hutool工具包实现邮件发送功能呢?1、首先引入hutool依赖<dependency> <groupId>cn.hutool</groupId> <artifactId>hutool-all</artifactId> <version>5.7.19</version></dependency>2、编写邮件发送工具类package com.pc.c..._hutool发送邮件
文章浏览阅读867次,点赞2次,收藏2次。docker安装elasticsearch,elasticsearch-head,kibana,ik分词器安装方式基本有两种,一种是pull的方式,一种是Dockerfile的方式,由于pull的方式pull下来后还需配置许多东西且不便于复用,个人比较喜欢使用Dockerfile的方式所有docker支持的镜像基本都在https://hub.docker.com/docker的官网上能找到合..._docker安装kibana连接elasticsearch并且elasticsearch有密码
文章浏览阅读1.3w次,点赞57次,收藏92次。整理 | 郑丽媛出品 | CSDN(ID:CSDNnews)近年来,随着机器学习的兴起,有一门编程语言逐渐变得火热——Python。得益于其针对机器学习提供了大量开源框架和第三方模块,内置..._beeware
文章浏览阅读7.9k次。//// ViewController.swift// Day_10_Timer//// Created by dongqiangfei on 2018/10/15.// Copyright 2018年 飞飞. All rights reserved.//import UIKitclass ViewController: UIViewController { ..._swift timer 暂停
文章浏览阅读986次,点赞2次,收藏2次。1.硬性等待让当前线程暂停执行,应用场景:代码执行速度太快了,但是UI元素没有立马加载出来,造成两者不同步,这时候就可以让代码等待一下,再去执行找元素的动作线程休眠,强制等待 Thread.sleep(long mills)package com.example.demo;import org.junit.jupiter.api.Test;import org.openqa.selenium.By;import org.openqa.selenium.firefox.Firefox.._元素三大等待
文章浏览阅读3k次,点赞4次,收藏14次。Java软件工程师职位分析_java岗位分析
文章浏览阅读2k次。Java:Unreachable code的解决方法_java unreachable code
文章浏览阅读1w次。1、html中设置标签data-*的值 标题 11111 222222、点击获取当前标签的data-url的值$('dd').on('click', function() { var urlVal = $(this).data('ur_如何根据data-*属性获取对应的标签对象