`

kudu命令详解

 
阅读更多

kudu tablet

kudu tablet leader_step_down <master_addresses> <tablet_id>

 

功能:强制使<tablet_id>的leader step down(即强制使现在的leader节点变为follower节点)

 

kudu tablet leader_step_down 10.110.18.102:7051,10.110.18.184:7051,10.110.18.185:7051 08c7def983394ff3ac64b5292dfb5dea

1

kudu tablet change_config add_replica <master_addresses> <tablet_id> <ts_uuid> <replica_type>

 

功能:为<tablet_id>在tablet server:<ts_uuid>中添加一个备份,该备份类型为replica_type(VOTER/NON-VOTER:是否参加选举)

 

kudu tablet change_config add_replica  10.110.18.102:7051,10.110.18.184:7051,10.110.18.185:7051 08c7def983394ff3ac64b5292dfb5dea 1618d3a544e4463286ae91f78419f4c6

1

注意:经测试发现当类型为VOTER时,如果tablet备份为3,新增加一个备份后变为4,过一段时间(5分钟以后),会自动变为三份。 NON-VOTER有待在kudu1.5.0版本测试

 

kudu tablet change_config change_replica_type <master_addresses> <tablet_id> <ts_uuid> <replica_type>

 

功能:修改ts_uuid中tablet_id的类型(VOTER/NON-VOTER)

 

kudu tablet change_config move_replica <master_addresses> <tablet_id> <from_ts_uuid> <to_ts_uuid>

 

功能:将tablet_id从from_ts_uuid移动至to_ts_uuid

 

注意:kudu1.4.0不支持,kudu1.5.0版本开始支持,可负载均衡

 

kudu tablet change_config remove_replica <master_addresses> <tablet_id> <ts_uuid>

 

功能:将tablet_id的备份从ts_uuid删除

 

kudu tablet change_config remove_replica 10.110.18.102:7051,10.110.18.184:7051,10.110.18.185:7051 08c7def983394ff3ac64b5292dfb5dea 1f854d396f54483ea9e5e537b6b63503

1

注意:经测试发现当tablet个数等于或小于备份数时,删除指定tablet不成功。即想要迁移tablet可以先迁移到的目标机器上新增tablet 然后再删除源tablet

 

kudu tserver set_flag <tserver_address> [-force]

 

功能:设置指定flag

 

kudu tserver status <tserver_address>

 

查看指定tserver_address的状态

 

kudu tserver timestamp <tserver_address>

 

功能:获取tserver_address当前的时间戳

 

kudu tserver list <master_addresses> [-columns=] [-format=] [-timeout_ms=]

 

功能:获取集群中的tablet server

 

kudu wal dump [-print_entries=] [-noprint_meta] [-truncate_data=]

 

功能:显示指定path下的wal日志,path必须指定具体文件

 

kudu wal dump /data/kudu/tserver_data/wals/43c10f7d81144e3287a3f80aa0e0f684/wal-000000001

1

该操作会列数具体的wal内容,包括针对该tablet的具体操作

 

kudu table delete <master_addresses> <table_name>

 

功能:删除table_name表

 

kudu table list <master_addresses> [-list_tablets]

 

功能:列举所有表以及tablets

 

kudu remote_replica check <tserver_address>

 

功能:检查tserver_address的状态

 

kudu remote_replica copy <tablet_id> <src_address> <dst_address> [-force_copy]

 

kudu remote_replica copy bd556b05db4f4446b0223163223ffce6  10.110.18.185:7050  10.110.18.176:7050 -force_copy

1

验证失败,错误如下: W1101 10:22:27.238106 31485 tool_action_remote_replica.cc:333] NOTE: this copy may happen asynchronously and may timeout if the tablet size is large. Watch the logs on the target tablet server for indication of progress.

 

kudu remote_replica delete <tserver_address> <tablet_id>

功能:删除指定tserver_address的 tablet_id

 

kudu remote_replica delete 10.110.18.184:7050  bd556b05db4f4446b0223163223ffce6  movetablet

1

kudu remote_replica dump <tserver_address> <tablet_id>

 

功能:获取指定tserver_address指定tablet_id中的数据

 

kudu remote_replica dump 10.110.18.184:7050 bd556b05db4f4446b0223163223ffce6

1

结果如下: (int64 RowID=9, int64 ID=1, string NAME="kudu-content-1") (int64 RowID=5, int64 ID=1, string NAME="kudu-content-1")

 

kudu master set_flag master_address flag value [-force]

 

功能:为master_address节点设置参数

 

kudu master status <master_address>

 

功能:查看master_address信息

 

kudu master timestamp <master_address>

 

功能:获取master_address的时间戳

 

kudu master list <master_addresses> [-columns=] [-format=<format>] [-timeout_ms=]

 

功能:列举集群的master信息

 

kudu local_replica copy_from_remote <tablet_id> [-fs_wal_dir=<dir>] [-fs_data_dirs=]

 

功能:从source拷贝名为tablet_id到本地 [-fs_wal_dir=<ir>] [-fs_data_dirs=]

 

kudu local_replica copy_from_remote 8a94ebf9a7ec487dbcde74a2937ffc72 10.110.18.185:7050  -fs_wal_dir=/data/kudu/tserver_data  -fs_data_dirs=/data/kudu/tserver_data 

1

测试出现异常,如下: I1102 09:29:36.918705 13489 fs_manager.cc:263] Time spent opening block manager: real 0.000s user 0.000s sys 0.000s IO error: Could not lock /data/kudu/tserver_data/data/block_manager_instance: Could not lock /data/kudu/tserver_data/data/block_manager_instance: lock /data/kudu/tserver_data/data/block_manager_instance: Resource temporarily unavailable (error 11)

 

kudu local_replica data_size <tablet_id_pattern> [-fs_wal_dir=<dir>] [-fs_data_dirs=] [-format=]

       功能:获取 [-fs_wal_dir=<dir>] [-fs_data_dirs=]下的tablets

kudu local_replica data_size ea3dbfb02bf6411aae64b63247c2d7a9  -fs_wal_dir=/data/kudu/tserver_wal -fs_data_dirs=/data/kudu/tserver_data  -format=json

1

kudu local_replica list [-fs_wal_dir=<dir>] [-fs_data_dirs=] [-list_detail]

 

功能:获取 [-fs_wal_dir=<dir>] [-fs_data_dirs=]下的tablets

 

kudu local_replica cmeta print_replica_uuids <tablet_id> [-fs_wal_dir=<dir>] [-fs_data_dirs=]

 

功能:获取[-fs_wal_dir=<dir>] [-fs_data_dirs=] 下<tablet_id> 所在节点的uuid

 

kudu local_replica cmeta set_term <tablet_id> [-fs_wal_dir=<dir>] [-fs_data_dirs=]

 

kudu local_replica cmeta rewrite_raft_config <tablet_id> …​ [-fs_wal_dir=<dir>] [-fs_data_dirs=]

 

kudu local_replica dump block_ids <tablet_id> [-fs_wal_dir=<dir>] [-fs_data_dirs=]

 

功能:获取[-fs_wal_dir=<dir>] [-fs_data_dirs=]下<tablet_id>对应的Disk Rowset的block_id列表

 

kudu local_replica dump block_ids b7de17353521401b95576999a0e53b1c    -fs_wal_dir=/data/kudu/tserver_data  -fs_data_dirs=/data/kudu/tserver_data

1

kudu local_replica dump meta <tablet_id> [-fs_wal_dir=<dir>] [-fs_data_dirs=]

 

功能:获取[-fs_wal_dir=<dir>] [-fs_data_dirs=] 下<tablet_id>的元数据信息,包括各rowset的block id, column id等。

 

kudu local_replica dump meta b7de17353521401b95576999a0e53b1c   -fs_wal_dir=/data/kudu/tserver_data  -fs_data_dirs=/data/kudu/tserver_data

1

kudu local_replica dump rowset <tablet_id>

 

功能:获取[-fs_wal_dir=<dir>] [-fs_data_dirs=]中对应[-dump_data]的rowset的内容 信息

 

kudu local_replica dump block_ids b7de17353521401b95576999a0e53b1c    -fs_wal_dir=/data/kudu/tserver_data  -fs_data_dirs=/data/kudu/tserver_data   

1

kudu local_replica dump wals <tablet_id> [-fs_wal_dir=<dir>] [-fs_data_dirs=] [-print_entries=] [-noprint_meta] [-truncate_data=]

 

功能:获取[-fs_wal_dir=<dir>] [-fs_data_dirs=]中的<tablet_id>的wal信息

 

kudu local_replica dump wals b7de17353521401b95576999a0e53b1c -fs_wal_dir=/data/kudu/tserver_data  -fs_data_dirs=/data/kudu/tserver_data

1

kudu fs check [-fs_wal_dir=<dir>] [-fs_data_dirs=] [-repair]

 

**功能:检测[-fs_wal_dir=<dir>] [-fs_data_dirs=]的文件系统,-repair为修复该fs的问题,需要修复时需要把对应的kudu-master或kudu-tserver stop,不然会出现:Could not lock ****: Resource temporarily unavailable (error 11)

 

kudu fs check -fs_wal_dir=/data/kudu/tserver_data  -fs_data_dirs=/data/kudu/tserver_data 

1

kudu fs format [-fs_wal_dir=<dir>] [-fs_data_dirs=] [-uuid=]

 

功能:产生新文件系统[-fs_wal_dir=<dir>] [-fs_data_dirs=],可以指定-uuid=uuid,不指定会自动生成一个。

 

 ```

 [root@kudu-102 bin]# ./kudu fs format -fs_wal_dir=/data/kudu/ts_datas -fs_data_dirs=/data/kudu/ts_datas -uuid=b69cdeb85db14251afec1a952c1be9e9

 I1103 02:24:16.666724 23882 env_posix.cc:1460] Not raising process file limit of 50000; it is already as high as it can go

 I1103 02:24:16.666936 23882 file_cache.cc:463] Constructed file cache lbm with capacity 20000

 I1103 02:24:16.671298 23882 fs_manager.cc:377] Generated new instance metadata in path /data/kudu/ts_datas/instance:

 uuid: "b69cdeb85db14251afec1a952c1be9e9"

 format_stamp: "Formatted at 2017-11-03 02:24:16 on kudu-102"

 ```

1

2

3

4

5

6

7

8

数据目录下必须为空的kudu文件系统,否则无法产生新分系统

kudu fs dump block <block_id> [-fs_wal_dir=<dir>] [-fs_data_dirs=]

 

功能:输出[-fs_wal_dir=<dir>] [-fs_data_dirs=]下<block_id>的二进制内容,不会对内容进行解析

 

该命令kudu1.4.0未支持,kudu1.5.0有待验证

kudu fs dump cfile <block_id> [-fs_wal_dir=<dir>] [-fs_data_dirs=] [-noprint_meta] [-noprint_rows]

 

功能:输出<block_id>的cfile的文件内容,这解释了一个cfile格式的块的内容,并输出解码的行数据。

 

kudu fs dump cfile 8 -fs_wal_dir=/data/kudu/tserver_data  -fs_data_dirs=/data/kudu/tserver_data

1

kudu fs dump tree [-fs_wal_dir=<dir>] [-fs_data_dirs=]

 

功能:输出[-fs_wal_dir=<dir>] [-fs_data_dirs=]的文件目录结构

 

kudu fs dump uuid [-fs_wal_dir=<dir>] [-fs_data_dirs=]

 

功能:获取[-fs_wal_dir=<dir>] [-fs_data_dirs=] 的uuid

 

kudu perf loadgen <master_addresses> [-buffer_flush_watermark_pct=] [-buffer_size_bytes=] [-buffers_num=] [-flush_per_n_rows=] [-keep_auto_table] [-num_rows_per_thread=] [-num_threads=] [-run_scan] [-seq_start=] [-show_first_n_errors=] [-string_fixed=] [-string_len=] [-table_name=] [-table_num_buckets=] [-table_num_replicas=] [-use_random]

 

kudu1.4.0不支持

参考至:https://blog.csdn.net/weixin_39478115/article/details/78892325

如有错误,欢迎指正

邮箱:czmcj@163.com

分享到:
评论

相关推荐

    由浅入深掌握大数据列式存储NoSQL数据库Kudu视频教程

    第二章:Kudu原理详解 1.Kudu的介绍及其发展 2.Kudu的设计思想 3.Kudu与Hbase对比 4.Kudu的分布式架构模型 5.Kudu中的特殊概念 6.Kudu的存储模型 第三章:Kudu的分布式环境部署 1.Cloudera Yum镜像配置 ...

    kudu-client驱动

    java连接kudu所需要的驱动jar包 kudu-client-1.6.0.jar

    flink写入带kerberos认证的kudu connector

    - **创建principal**:使用`kadmin.local`或`kadmin`命令创建与Flink作业相关的principal。 - **生成keytab**:为principal生成keytab文件,例如`flink@YOUR-REALM.COM`。 - **分发keytab**:将keytab文件分发到...

    flink1.14.0 kudu1.10.0 connector

    按照我自己的环境将flink升级到1.14.0也就是目前最新的版本,kudu降到1.10.0。 由于flink api的改动,所以修改了一丢丢源码,同时最后编译打包时跳过了deprecation警告,得到目前的包。 【环境:cdh6.3.2(kudu...

    kudu1.9的rpm安装包

    kudu1.9的rpm安装包,包含以下六个资源: kudu-1.9.0+cdh6.2.1-1425774.el6.x86_64.rpm kudu-client0-1.9.0+cdh6.2.1-1425774.el6.x86_64.rpm kudu-client-devel-1.9.0+cdh6.2.1-1425774.el6.x86_64.rpm kudu-debug...

    kudu-rpm-6个.zip

    然后,使用`kudu-start`和`kudu-stop`命令启动和停止服务。 Kudu与Hadoop和Spark的关系也非常紧密。Kudu能够与Hadoop生态系统无缝集成,比如与HDFS和HBase协同工作,提供对大规模数据的实时访问。而Spark作为流行的...

    kudu1.6安装包.rar

    5. **启动和管理Kudu**:使用`systemctl start kudu-master`和`systemctl start kudu-tserver`命令启动Master节点和服务节点。可以使用`systemctl status kudu-*`查看服务状态,`systemctl stop kudu-*`停止服务,`...

    KUDU介绍及实践

    标题“KUDU介绍及实践”所蕴含的知识点主要集中在Kudu这个开源项目,它是Cloudera在2016年发布的开源分布式存储系统,设计用于支持快速的连续数据处理,满足大数据的实时分析需求。Kudu与Spark的整合部分,展示了...

    kudu2.3 for linux 安装包

    进入解压后的`KUDU`目录,执行以下命令来配置、编译和安装Kudu: ``` ./configure --prefix=/usr/local/kudu make sudo make install ``` 5. **初始化Kudu集群**: 安装完成后,你需要创建一个Kudu集群。这...

    kudu_1.13.tgz

    2. 使用tar命令解压文件,例如:`tar -zxvf kudu_1.13.tgz`。这将创建一个包含新版本Kudu组件的目录结构。 三、升级步骤 1. **停止服务**:在升级前,必须先停止现有的Kudu服务。依次停止kudu-master和kudu-...

    kudu1.15.zip

    《Kudu 1.15 编译升级指南》 Kudu是一款由Cloudera公司开发的开源数据存储系统,它提供了低延迟的在线事务处理(OLTP)能力,并支持实时分析(OLAP)。Kudu的设计目标是为现代大数据工作负载提供高性能、高可用性和...

    kudu cm安装方式文档

    Kudu CM 安装方式文档 Kudu 是一种高性能的分布式数据存储系统,设计之初是为了解决数据扫描和随机访问的高性能需求。它具有高 CPU 效率、高 IO 性能、支持数据的原地更新和跨数据中心 replication 等特点。 一、...

    kudu1.2操作文档

    ### Kudu 1.2 操作文档知识点解析 #### 关于 Apache Kudu Apache Kudu 是一款开源的列式存储管理系统,专为实时分析而设计。它能够在保持高性能的同时处理大规模的数据集。Kudu 旨在解决传统列式存储在实时查询...

    CDH 之 Kudu

    ### CDH 之 Kudu:全面解析与应用实践 #### Apache Kudu 概览 Apache Kudu 是一个开源的列式存储系统,旨在为大规模数据分析提供高性能的数据存储和查询功能。Kudu 作为 Cloudera Data Hub (CDH) 的核心组件之一,...

    kudu安装包.zip

    kudu安装,外网下载的,kudu安装,外网下载的,kudu安装,外网下载的,kudu安装,外网下载的,kudu安装,外网下载的,kudu安装,外网下载的,kudu安装,外网下载的,kudu安装,外网下载的,kudu安装,外网下载的,

    kudu1.14.tar.gz

    《Kudu 1.14 版本升级详解》 Kudu,作为一款开源的分布式存储系统,由Cloudera公司开发,旨在提供快速的在线分析处理(OLAP)和实时写入能力,广泛应用于大数据领域的实时数据仓库和流处理应用。在Kudu 1.14版本中...

    kudu安装包

    3. **编译与安装**:执行配置、编译和安装命令,这一步可能需要安装依赖库,例如protobuf、gflags等。 4. **初始化Master和Tablet Server**:启动Kudu集群,设置Master和Tablet Server的配置,管理集群的元数据和...

    利用Impala+Kudu构建准实时分析应用

    Kudu是Cloudera开源的新型列式存储系统,Apache Hadoop生态圈的顶级项目之一,解决了传统Lamda架构处理Hadoop上快速变化数据的存储和处理技术过于复杂的问题,同时Kudu能够与Hadoop生态的其他组件比如Impala、Spark...

    kudu java 客户端demo

    在本文中,我们将深入探讨如何使用Java客户端与Kudu进行交互。Kudu是Apache Hadoop生态系统中的一个开源列式存储管理系统,它支持实时分析和快速数据插入与更新。通过Java客户端,开发者可以轻松地在Java应用程序中...

    kudu1.4的rpm安装包

    kudu的rpm安装包,包含以下六个资源: kudu-1.4.0+cdh5.12.2+0-1.cdh5.12.2.p0.8.el7.x86_64.rpm kudu-client0-1.4.0+cdh5.12.2+0-1.cdh5.12.2.p0.8.el7.x86_64.rpm kudu-client-devel-1.4.0+cdh5.12.2+0-1.cdh...

Global site tag (gtag.js) - Google Analytics