- 浏览: 2097506 次
- 性别:
- 来自: 北京
文章分类
- 全部博客 (366)
- hadoop (91)
- DB (2)
- vmware (0)
- python (49)
- Java (72)
- Linux (57)
- 多线程 (2)
- hive (1)
- hbase (3)
- mongodb (5)
- Hibernate (3)
- nodejs (1)
- 模式与重构 (1)
- 持续集成CI (4)
- Mysql (2)
- chorme (1)
- 软件开发 (0)
- 敏捷 (5)
- maven (3)
- windows (7)
- 测试驱动 (1)
- scala (3)
- Jetty (0)
- android (1)
- eclipse (1)
- 设计模式 (1)
- 面向对象设计 (2)
- oracle (3)
- cassandra (15)
- pig (3)
- rails (1)
- redis (4)
- ruby (1)
- storm (0)
- 实时运算 (3)
- scribe (1)
- hadoop源码 (3)
- cassandra jna (1)
- Kafka (2)
- Sublime (2)
- C++ (2)
- C (1)
- 版本控制 (1)
- 服务器 (1)
- docker (0)
- flink (1)
最新评论
-
伍大都督:
解释太到位了,感谢分享
理解Linux系统中的load average(图文版) -
rfjian123:
非常感谢,用你的方法解决了问题。
Server sent unexpected return value (403 Forbidden) in response to OPTIONS -
yuhaifei12:
今天遇到同样的问题了。设置的是每分钟执行一次。结果发现每分钟执 ...
解决Linux下crontab同一时间重复执行问题 -
BigBird2012:
想问一下,使用ExecutorService每次都要调用 sh ...
spring quartz使用多线程并发“陷阱” -
zhuqx1130:
有用,谢谢
解决Sublime Text 3中文显示乱码(tab中文方块)问题
把下面的代码拷贝一份新建一个py文件,修改IP,port ,输入要执行的SQL。
第一步:
将hive-0.7.0\lib\py 中所有py文件拷贝到你自己的Python工程中。第二步:
#encoding=utf-8
from hive_service import ThriftHive
from hive_service.ttypes import HiveServerException
from thrift import Thrift
from thrift.transport import TSocket
from thrift.transport import TTransport
from thrift.protocol import TBinaryProtocol
def hiveExe(sql):
try:
transport = TSocket.TSocket('119.188.7.xx', 10000)
transport = TTransport.TBufferedTransport(transport)
protocol = TBinaryProtocol.TBinaryProtocol(transport)
client = ThriftHive.Client(protocol)
transport.open()
client.execute(sql)
print "The return value is : "
print client.fetchOne()
print "............"
except Thrift.TException, tx:
print '%s' % (tx.message)
finally:
transport.close()
if __name__ == '__main__':
hiveExe("select count(*) from pokes")
第三步:
评论
就尝试启动hive server
[root@vm11120053 data0]# hive --service hiveserver
Starting Hive Thrift Server
Exception in thread "main" java.lang.NoSuchMethodError: org.apache.thrift.server.TThreadPoolServer.<init>(Lorg/apache/thrift/server/TThreadPoolServer$Args;)V
at org.apache.hadoop.hive.service.HiveServer.main(HiveServer.java:676)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
at java.lang.reflect.Method.invoke(Method.java:597)
at org.apache.hadoop.util.RunJar.main(RunJar.java:156)
[root@vm11120053 data0]#
求解,为什么呢?
java.lang.NoSuchMethodError: org.apache.thrift.server.TThreadPoolServer
如果是cloudera版本hive,要安装hive server,apache版本不需要。
我这个是apache版本的,很奇怪,哥们能解决不?
就尝试启动hive server
[root@vm11120053 data0]# hive --service hiveserver
Starting Hive Thrift Server
Exception in thread "main" java.lang.NoSuchMethodError: org.apache.thrift.server.TThreadPoolServer.<init>(Lorg/apache/thrift/server/TThreadPoolServer$Args;)V
at org.apache.hadoop.hive.service.HiveServer.main(HiveServer.java:676)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
at java.lang.reflect.Method.invoke(Method.java:597)
at org.apache.hadoop.util.RunJar.main(RunJar.java:156)
[root@vm11120053 data0]#
求解,为什么呢?
java.lang.NoSuchMethodError: org.apache.thrift.server.TThreadPoolServer
如果是cloudera版本hive,要安装hive server,apache版本不需要。
就尝试启动hive server
[root@vm11120053 data0]# hive --service hiveserver
Starting Hive Thrift Server
Exception in thread "main" java.lang.NoSuchMethodError: org.apache.thrift.server.TThreadPoolServer.<init>(Lorg/apache/thrift/server/TThreadPoolServer$Args;)V
at org.apache.hadoop.hive.service.HiveServer.main(HiveServer.java:676)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
at java.lang.reflect.Method.invoke(Method.java:597)
at org.apache.hadoop.util.RunJar.main(RunJar.java:156)
[root@vm11120053 data0]#
求解,为什么呢?
发表评论
-
cloudera CDH5 vmware中cloudera manager报错"Internal error while querying the Host "
2014-07-22 10:19 2063无法获取host和service状态,解决办法: s ... -
thrift0.9.1简单教程(包含Java服务端和Java、python客户端)
2014-04-25 15:55 6414一、Thrift Java服务端和客户端 官 ... -
yum错误“Error in PREUN scriptlet in rpm package ”
2014-03-10 12:07 3983打算通过yum安装软件,发展之前有软件残骸。使用yu ... -
搭建cloudera yum私服
2014-03-05 11:08 3207一、安装Cloudera yum仓库 1. 下载仓库rpm ... -
cloudera创建私服错误一例
2014-02-24 11:41 1375执行“reposync -r cloudera-cdh4 ” ... -
Cloudera Manager的Hadoop配置文件管理
2014-02-11 10:21 11460本文基于Cloudera Manager 4.8,以下简称 ... -
修改cloudera manager管理主机名(转)
2014-02-10 14:22 7646I installed the Cloudera Mana ... -
cloudera manager tasktrakcer监控状态错误
2014-02-10 11:32 1302此文用作图片外链。cloudera网站坑爹呀! -
cloudera manager 4.8 添加设备DNS反向解析问题
2014-01-28 16:20 3769添加设备时agent会使用host命令反向解析获取clou ... -
apache kafka v0.8入门遇到问题
2014-01-23 12:20 1671官方文档:https://kafka.apache.org/ ... -
hadoop2.0(cdh4) fs client错误"java.io.IOException: No FileSystem for scheme: hdfe"
2013-12-31 12:32 10063启动dfs client时候报错:“java.io.IOE ... -
Hadoop Combiner的几个调用时间点
2013-12-20 08:37 2967Combiner是在Map端被执行,共有两个时机会被触 ... -
hadoop1.0中NameNode HA的妥协方案
2013-12-10 16:26 1529hadoop1.0没有HA,可以添加NFS做为metada ... -
hdaoop2.x (CDH4、5)下使用DFS Client(包含HA)
2013-12-09 16:42 3317一、不使用HA场景 1.1 获取FileSystem(下 ... -
Hadoop学习指南
2013-11-26 14:26 1395安装配置 CDH4(hadoop2.0) 端口 C ... -
cloudera cdh中hadoop-client包的作用
2013-11-22 22:12 4119hadoop-client是为了让开发者可以很方便的使用当前 ... -
could only be replicated to 0 nodes instead of minReplication (=1)
2013-11-18 17:02 13936一、出现这个错误,先看看DN是不是正常启动并与NN通信,使用 ... -
Hadoop Pig获取HDFS文件名
2013-11-15 08:37 3218A = LOAD 'input' using PigS ... -
cloudera CDH5正式版(与CDH4比较)
2013-11-04 22:14 2517要求JDK7以上,JDK6不被支持 基于a ... -
Pig写UDF解析XML遇到一诡异错误“ClassNotFoundException”
2013-10-16 10:11 1282UDF中使用apache digester做XML解析,代码 ...
相关推荐
使用PyHs2的`HiveClient`类来建立连接,通过调用`query`方法执行SQL语句,然后通过`fetch`方法获取结果集。示例代码展示了如何初始化`HiveClient`,定义`query`方法获取数据,并在最后通过`close`方法关闭连接。如果...
在本文中,我们将深入探讨如何使用Python 3.6.5版本通过Kerberos认证来连接Hive和HDFS。Kerberos是一种广泛使用的网络身份验证协议,它为不安全的网络环境提供了安全的身份验证机制。它依赖于共享密钥加密来确保通信...
Hive Metastore Client是为那些需要与Hive Metastore通信的Python应用程序设计的,比如数据分析工具、ETL(提取、转换、加载)流程或者自定义数据处理服务。通过这个客户端,开发人员可以创建、查询、更新和管理Hive...
资源全名:presto-client-0.301.0.tar.gz"进一步确认了这是一个Python库资源,文件名为`presto-client-0.301.0.tar.gz`,这通常意味着用户需要先下载文件,然后使用解压工具(如`tar`命令或Python的`tarfile`模块)...
hs2client, C 和Hive的本机客户端,带有 python/Pandas 绑定 hs2client: Impala和Hive的C Thrift 客户端生成状态 这是一个新项目,用于在 C 中创建一个健壮。高性能的开源HiveServer2客户端库。 in Impala和使用...
PyHive是和的Python 和接口的集合。 用法 数据库API from pyhive import presto # or import hive or import trino cursor = presto . connect ( 'localhost' ). cursor () cursor . execute ( 'SELECT * FROM my_...
- **Python 版本**:需要安装Python 2.6或以上版本,虽然这里提到了Python 2.6,但考虑到Python 2的支持已经结束,建议使用Python 3.x。 - **Anaconda 安装**:可以安装Anaconda以便更方便地管理Python环境及其相关...
在实际项目中,使用**aliyun-python-sdk-emr-3.2.5**时,开发者需要先安装此库,通常通过pip工具进行安装。之后,在代码中导入对应的模块,调用相应的函数来执行操作。例如,以下代码展示了如何创建一个EMR集群: `...
- **调用外部脚本**:Hive支持通过脚本扩展其功能,例如调用Python或Shell脚本。 **2.8 删除表** - 使用`DROP TABLE table_name [PURGE]`来删除表及其所有数据。 **2.9 其他操作** - **LIMIT**:`SELECT ... ...
Python是一种广泛使用的高级编程语言,以其简洁、易读的语法和丰富的库生态系统而闻名。在数据科学、机器学习和数据分析领域,Python库扮演着至关重要的角色。其中之一就是`ibis`,一个用于大数据分析的开源库,专为...
PyHS2的使用并不复杂,开发者可以通过创建一个`Client`实例连接到Hiveserver2,然后调用相关方法执行HQL语句或者获取结果集。例如: ```python from pyhs2 import connect from pyhs2.connect import ConnectParams...
python-ceilometerclient-1.0.8-1.el6.noarch.rpm python-chardet-2.0.1-1.el6.rf.noarch.rpm python-cheetah-2.4.1-1.el6.x86_64.rpm python-cinderclient-1.0.7-2.el6.noarch.rpm python-cliff-1.4.4-1.el6.noarch...
本篇文章将详细介绍如何使用Python连接HDFS进行文件的上传、下载,以及如何利用Pandas将文本文件转换为CSV格式。 首先,为了在Python中与HDFS进行交互,我们需要安装`pyhdfs`模块。这个模块允许Python程序直接读写...
- **WUI (Web User Interface)**:通过Web浏览器访问Hive服务,便于非技术用户使用。 - **元数据存储**:通常采用关系型数据库(如MySQL或Derby)来存储Hive的元数据信息,这些信息包括表的定义、列属性、表的属性...
以下是对如何使用 Python 访问 HDFS 的详细步骤和相关知识: 首先,确保你已经安装了 `hdfspython` 库。如果没有,可以通过 `pip` 来安装: ```bash pip install hdfspython ``` 一旦安装完成,你可以导入 `hdfs`...
Hive还提供了命令行选项和交互式shell命令,以及调用Python、Shell等语言的支持。 Hive支持的Map/Reduce操作包括: - JOIN - GROUPBY - DISTINCT 使用Hive时需要注意的点包括字符集、数据压缩、数据的count...
leetcode算法题主函数如何写 myinterview 记录我的面试过程,技术栈:python、golang、MySQL、redis、大数据、数据仓库、Linux、计算机网络、数据中台。 目录 python面试题; golang面试题; 数据库MySQL和redis; ...
### Hive操作指南知识点详解 ...以上是对“Hive操作指南”的详细介绍,包括Hive的架构、基本操作、高级特性以及使用注意事项等内容。通过这些内容的学习,可以帮助开发者更好地理解和使用Hive进行数据分析和处理。