HIVE动态分区参数配置

设置如下参数开启动态分区：

hive.exec.dynamic.partition=true

默认值：false

描述：是否允许动态分区

hive.exec.dynamic.partition.mode=nonstrict

默认值：strict

描述：strict是避免全分区字段是动态的，必须有至少一个分区字段是指定有值的

设置如下参数配置动态分区的使用环境：

hive.exec.max.dynamic.partitions.pernode=100

默认值：100

描述：each mapper or reducer可以创建的最大动态分区数

hive.exec.max.dynamic.partitions=1000

默认值：1000

描述：一个DML操作可以创建的最大动态分区数

hive.exec.max.created.files=100000

默认值：100000

描述：一个DML操作可以创建的文件数

设置如下参数取消一些限制(HIVE 0.7后没有此限制)：

hive.merge.mapfiles=false

默认值：true

描述：是否合并Map的输出文件

hive.merge.mapredfiles=false

默认值：false

描述：是否合并Reduce的输出文件

评论

1 楼 onlyamoment 2018-11-13  

请问为什么要限制不合并文件呢？
事实上，用动态分区写表时候容易出现小文件过多的问题，设置文件在reduce输出端合并不是会减少小文件数吗？