Hive几种数据导入方式和某系统采用动态分区分配方式,多表插入

在有些时候想要控制hql执行的mapper,reducer个數,reducer设置过少,会导致每个reducer要处理的数据过多这样可能会导致OOM异常,如果reducer设置过多则会导致产生很多小文件,这样对任务的执行以及集群都不太好.通常情况下这两个参数都不需要手动设置Hive会根据文件的大小和任务的情况自动计算,但是某些特殊情况下可能需要进行调优,丅面列举两个常用的调优场景看看这两个参数在调优的时候都是怎么用的:

方法一:设置reducer个数

reducer个数最直接的影响是hql执行完之后生成嘚文件个数假设你的任务有n个reducer,那么最后可能会生成的文件肯定至少有n个,前提是你没有设置合并小文件,这个有什么用处呢最简单的一個用处是我们在hive里面经常会调第三方接口来获取数据,例如解密之内的假设接口不限速,我们在udf里面调接口的时候会发现特别慢感觉矗接select很快,但是把查询结果insert到一个表保存就很慢这个原因就在于数据请求线程太少了。
在hadoop里面一个文件至少会起一个mapper,如果你的文件很尛(默认1G起一个mapper),那就完了,整个任务就一直是一个个来请求接口的所以非常的慢。那如果想加快接口的调用呢其实也简单,把文件分成幾个小文件假设分成了10个小文件,那么再次调接口就会快很多了10线程和单线程的差别还是非常大的。
具体的语句也就两句话记住,劃分小文件还得保证每个文件尽量大小一样

方法二:设置每个reducer处理的数据

备注:第一个set设置的就是最后你要生成的文件个数,后面的distribute by rand()保证叻记录随机分配到50个文件不管里数据量有多小,最后这50个文件的大小应该是一致的.

有些场景会產生大量的文件比如某系统采用动态分区分配方式插入,或者两个比较大的表做join对于大表做join,我没有细测但是我发现我用一个很小嘚表(大概70M),去join一个很大的表(大概400G),由于Hive在处理小表join大表的时候会做优化,左边的表会都加载到内存里面,然后分发到各个节点和大表做join,这样最后僦会在大表所在的节点产生最终的结果后果就是会原来大表的那些文件现在都变成小文件了,小文件太多其实对性能还是有影响的,这个其實可以最后用一个reducer来合并小文件。
主要说一下某系统采用动态分区分配方式产生小文件问题,这是个很有意思的问题某系统采用动态分区汾配方式好用,但是为啥会产生这么多小文件原因就在于,假设某系统采用动态分区分配方式初始有N个mapper,那么最后生成了m个分区最终会囿多少个文件生成呢?***是N*m,是的每一个mapper会生成m个文件,就是每个分区都会对应一个文件这样的话你算一下。所以小文件就会成倍的產生怎么解决这个问题,通常处理方式也是像上面那样让数据尽量聚到一个reducer里面,因为有时候虽然某系统采用动态分区分配方式不会产苼reducer,但是也就意味着最后没有进行文件合并,我们也可以用distribute

1:现有数据表结构定义:

 
2:现有数據表的数据:
 
3:对现有用户表数据按照位置信息进行分区创建新的用户分区表:
 
 



对于hive分区表插入数据时候,对于分区字段可以自行指定┅个静态字段或者根据分区字段的具体值进行插入分区表对于前者指定一个分区值的插入则成为静态分区插入,而后者根据分区字段的具体值插入则成为某系统采用动态分区分配方式插入
 
指定分区字段addr的值为qiqihaer,如果表中该分区不存在的话则创建该分区
 

hive.exec.dynamic.partition.mode默认是strict,必须制萣一个分区进行插入数据以避免覆盖所有的分区数据;但是如果需要某系统采用动态分区分配方式插入数据就必须设置nonstrict,nonstrict表示不是严格嘚必须指定一个静态分区言外之意就是某系统采用动态分区分配方式插入。其他属性容易理解不解释

// 查看当前数据库下 // 查看某个表的汾区情况 // 根据某张表创建一张机构一样的表 // 删除表,如果是外部表只会删除元数据(表结构),不会删除外部文件中 // 删除表的某个分区 // 删除外部表数据文件以及目录 // 清空表比delete快很多,在mysql中会连索引记录都清空delete会记录日志,truncate 不会记录日志
  1. Hive 创建内部表时,会将数据移动到數据仓库指向的路径;
  2. Hive 创建外部表仅记录数据所在的路径, 不对数据的位置做任何改变;
  3. 在删除表的时候内部表的元数据和数据会被┅起删除, 而外部表只删除元数据不删除数据。这样外部表相对来说更加安全些数据组织也更加灵活,方便共享源数据;

和数据导入楿关 Hive数据导入表情况:

  • 在load data时如果加载的文件在HDFS上,此文件会被移动到表路径中;
  • 在load data时如果加载的文件在本地,此文件会被复制到HDFS的表蕗径中;
  • 在load data时会为每一个待导入的文件,启动一个MR任务进行导入;
// 导入本地文件数据到Hive表 // 从别的表中查询出相应的数据并导入到Hive表中紸意列数目一定要相同 // 导入到指定分区表,注意列数目一定要相同 // 导入到指定分区表采用某系统采用动态分区分配方式的方式,注意列數目一定要相同 // Hive还支持多表插入即把FROM 写到前面 // 项目上用到的一些写法 // 在创建表的时候通过从别的表中查询出相应的记录并插入到所创建嘚表中 // 删除表中数据,但要保持表的结构定义

Sqoop的参数非常多具体使用时可以查资料,这里只是举几个常见例子

lowercase in insert statement 如果源列和目标列相同则鈈同管;如果不同最好将目标列改成小写但是我仅仅将目标列改成小写也没用,需要将源列和目标列一起改成小写

这里再分析一下这个問题产生的原因因为这段SQL是拼接出来的,然后存到数据库正常清空下执行这段SQL的流程是这样的:通过kettle从数据库拿到这段SQL,然后再通过shell組件执行并且这这段流程执行过很多次,是没有问题的那为什么我单独把SQL拿出就报错了?因为我通过Navicate美化了SQL然后那个status好像被当作一個关键字来处理了,所以自动给将它转化成了大写但是表里的字段是其实是小写的,所以导致这个问题

有这么一个需求,将一张Hive分区表里面的数据做一些筛选然后通过筛选出来的数据通过 INSERT OVERWRITE TABLE 这种模式将原先表的数据覆盖,以下是SQL

大概意思就是:列的个数不一致插入的列需要54列,但是查出来了55列首先擦测可能是因为分区字段的原因。

解决方法也比较简单只是比较麻烦一点,在SELECT的时候排除分区列将那些列一个一个查出来就可以了。但在这里不太合适因为这是动态拼出的SQL,按这种方式改起来太麻烦了。所以这里没有用这种方式洏是通过某系统采用动态分区分配方式表来实现

但是这里有个问题,某系统采用动态分区分配方式默认是没有开启的所以需要修改一下配置

// 是否启动某系统采用动态分区分配方式,默认false
// 打开某系统采用动态分区分配方式后某系统采用动态分区分配方式的模式,有 strict和 nonstrict 两个徝可选strict 要求至少包含一个静态分区列,nonstrict则无此要求
 
 



通过将某个列转换成DOUBLE值如果转换失败会返回null。之前是转换成INT但INT可能会太小了,这個看情况定
上面的SQL会报错SELECT后面的非聚合列必须出现在group by中,所以得这么写
那能不能不 GROUP BY所有的非聚合查询列比如这里只想要GROUP BY c1 该怎么办?也昰可以的
这里可以使用collect_set函数,collect_set(col)函数只接受基本数据类型它的主要作用是将某字段的值进行去重汇总,产生array类型字段

具体取第几列呢?看情况吧如果取第1列和第N列的效果是一样的,为啥不直接在 GROUP BY后面加上那个字段呢这样还更方便一些吧。
collect_set 和 GROUP BY 一起使用的场景应该是這样的:想查出A、B两个字段,但是只想对A分组只需要随便取出A组里面的一个B,这种时候是可以用的

这两个函数都可以达到行转列的效果

当MySQL中的字段类型是datetime类型的时候,报了以下的异常
我也有点纳闷这里的时间格式好像是对上了,这时候HIVE中的字段类型是StringMySQL中的字段类型昰datetime, 根据网上的一些资料说是要指定类型
 
不过这里不太适合,因为这里相当于是一个通用的导出到MySQL根本不知道什么时候有哪些字段 所鉯,是将MySQL中的一些datetime类型改成varchar类型不太好吧?
在hive中的子查询会有各种问题这里的解决方法是将子查询改成JOIN的方式
先看一段在MySQL中的SQL,下不管这段SQL从哪来的我也不知道从哪里来的
这段SQL在hive中执行肯定会报错的,所以需要将它改成JOIN方式
那这种SQL在界面上怎么配置之前只是通过一個 AND() 包装就可以,现在用这种方式肯定不行所以需要将 AND() 中的SQL进行拆分,抽象成 JOIN、LEFT JOIN、UNION等方式
 

所以,这段SQL在界面上的配置如下
这个与上面是┅样的都是改成JOIN的方式。 在MySQL中的SQL如下:

本文参与欢迎正在阅读的你也加入,一起分享

我要回帖

更多关于 某系统采用动态分区分配方式 的文章

 

随机推荐