`

Thrift概述

 
阅读更多


Thrift是跨语言的RPC框架,现在是一个Apache的顶级项目。Thrift通过一个中间语言--IDL接口定义语言,来定义RPC的接口和数据类型。使用Thrift的代码生成工具(thrift-0.9.1.exe编译器)读取IDL文件,生成不同语言的服务端与客户端代码,并由生成的代码负责RPC协议层和传输层的实现。目前支持语言C++,Java, Python, PHP, Ruby, Erlang, Perl, Haskell, C#, Cocoa, Smalltalk

基本概念
Thrift中的几个概念:
Server 服务模型
Handler 数据处理接口
Processor 数据处理对象
Protocol 数据传输协议
Transport 数据传输方式

(1)支持的传输格式
TBinaryProtocol – 二进制格式.
TCompactProtocol – 压缩格式
TJSONProtocol – JSON格式
TSimpleJSONProtocol –提供JSON只写协议, 生成的文件很容易通过脚本语言解析。
TDebugProtocol – 使用易懂的可读的文本格式,以便于debug
 

(2) 支持的通信方式(数据传输方式)(Transport)
TFileTransport:文件(日志)传输类,允许client将文件传给server,允许server将收到的数据写到文件中。
THttpTransport:采用Http传输协议进行数据传输
TSocket:采用TCP Socket进行数据传输
TZlibTransport:压缩后对数据进行传输,或者将收到的数据解压
 

下面几个类主要是对上面几个类地装饰(采用了装饰模式),以提高传输效率。
TBufferedTransport:对某个Transport对象操作的数据进行buffer,即从buffer中读取数据进行传输,或者将数据直接写入buffer
TFramedTransport:以frame为单位进行传输,非阻塞式服务中使用。同TBufferedTransport类似,也会对相关数据进行buffer,同时,它支持定长数据发送和接收。
TMemoryBuffer:从一个缓冲区中读写数据
 


(3)支持的服务模型
TSimpleServer – 简单的单线程服务模型,常用于测试
TThreadedServer - 多线程服务模型,使用阻塞式IO,每个请求创建一个线程。
TThreadPoolServer – 线程池服务模型,使用标准的阻塞式IO,预先创建一组线程处理请求。
TNonblockingServer – 多线程服务模型,使用非阻塞式IO(需使用TFramedTransport数据传输方式)
 
处理大量更新的话,主要是在TThreadedServer和TNonblockingServer中进行选择。TNonblockingServer能够使用少量线程处理大量并发连接,但是延迟较高;TThreadedServer的延迟较低。实际中,TThreadedServer的吞吐量可能会比TNonblockingServer高,但是TThreadedServer的CPU占用要比TNonblockingServer高很多。


服务端编写的一般步骤:
1. 创建Handler
2. 基于Handler创建Processor
3. 创建Transport(通信方式)
4. 创建Protocol方式(设定传输格式)
5. 基于Processor, Transport和Protocol创建Server
6. 运行Server
 
 
客户端编写的一般步骤:
1. 创建Transport
2. 创建Protocol方式
3. 基于Transport和Protocol创建Client
4. 运行Client的方法


需要注意的问题
 
1. Thrift生成的server端是thread safe的. 但是client端不是thread safe. 所以需要多个thread和server端通信,则每个thread需要initiate一个自己的client实例.
 
2. 如果服务器采用TNonblockingServer的话,客户端必须采用TFramedTransport。程序链接的时候需要thriftnb。
3. 默认TServerSocket和TSocket都设置了NoDelay为1,使得报文尽快发送出去,如果客户端和服务器间传输数据量较大,通过可以设置NoDelay为0来开启Nagel算法,缓存一段数据后再进行发送,减少报文数量。
TSocket默认开启了Linger,并设置linger time为0,这样close会丢弃socket发送缓冲区中的数据,并向对端发送一个RST报文,close不会被阻塞,立即返回。
TServerSocket默认关闭了Linger,close不会被阻塞,立即返回。
4. fb303作为handler的基类,里面预置了一些rpc方法,用于监控,包括系统状态,请求次数等状态信息。
thrift文件中需要include "fb303.thrift"这样来将service导入目标thrift文件中。thrift编译后的代码只需要相应的Handler多重继承facebook::fb303::FacebookBase就好了。
class scribeHandler : virtual public scribe::thrift::scribeIf,
                               public facebook::fb303::FacebookBase {

5.async有些问题,编译自动生成的代码需要TEventServer.h(0.7.0和svn trunk都是如此),但是thrift中没有这个文件。contrib/async中有一个http的异步测试代码,大致看了一下实现,使用std::tr1::function和std::tr1::bind实现完成回调函数,实现Processor的异步处理,增加了TAsyncProcessor,其process函数返回的时候,真正的逻辑可能没有完成,依赖完成回调函数处理请求完成的部分,对于服务器端来讲主要是将response发送给客户端。一般RPC业务同步的TProcessor就可以了,只有类似proxy这种中间服务需要异步处理,不过当前thrift中只有TEvhttpServer可用;-)

6.不支持返回值为空,如果返蜀犬吠日null会导致TApplicationException异常,可以捕获判断type并返回null
if (ee instanceof TApplicationException  && ((TApplicationException) ee).getType() ==   TApplicationException.MISSING_RESULT){

分享到:
评论
1 楼 rgqancy 2016-05-19  
不错不错!

相关推荐

    thrift入门学习教程

    #### 一、Thrift概述 Thrift是由Facebook开发并在2007年贡献给Apache基金会的一款开源项目。它的主要目的是解决跨平台、跨语言的系统间大数据量传输通信问题。在早期,Facebook面临着系统之间语言环境不一致的问题...

    thrift详解

    ### Thrift 概述 Thrift 是一个由 Facebook 开发并开源的软件框架,用于构建可扩展、跨语言的服务。其核心价值在于提供了一个统一的方法来定义数据类型和服务接口,从而使得不同编程语言之间能够无缝地进行通信。...

    thrift 小试牛刀

    **知识点一:Thrift概述与优势** Thrift是由Facebook开发并贡献给Apache基金会的一个跨语言服务框架,旨在简化RPC(远程过程调用)接口的创建和管理。它使用IDL(接口定义语言)来定义服务接口和数据类型,通过...

    Thrift下java服务器与客户端开发指南

    【Thrift 概述】 Thrift 是一个开源的跨语言服务开发框架,由 Facebook 开发并贡献给 Apache 基金会。它通过定义一种中间表示(IDL,Interface Description Language)来描述数据结构和服务接口,然后自动生成各种...

    ThriftC#实现

    #### 一、Thrift 概述 Thrift 是一款由 Apache 开发的跨语言服务开发框架,旨在为不同语言环境下的应用提供高效且一致的远程过程调用 (RPC) 功能。Thrift 的核心优势在于其能够支持多种现代编程语言,包括但不限于 ...

    ThriftBook:《 Apache Thrift程序员指南》中示例的源代码

    Apache Thrift程序员指南以下示例中的源代码:Apache Thrift程序员指南 本书分为三个部分:第一部分-Apache Thrift概述对Apache Thrift及其体系结构的高级介绍。 这部分的例子非常有趣。 本部分还介绍了基本的Apache...

    Python-pycassaCassandra的PythonThrift驱动

    Thrift 概述 Thrift 是 Facebook 开源的一个跨语言的服务框架,用于构建可伸缩的服务。它通过定义服务接口和数据类型,自动生成不同编程语言的客户端和服务器端代码,使得不同语言的系统可以方便地进行通信。在 `...

    go-thrift, Go的本机 Thrift 包.zip

    go-thrift, Go的本机 Thrift 包 Thrift 封装 API文档:http://godoc.org/github.com/samuel/go-thrift许可证3-clause BSD请参见许可证文件。概述Thrift 是一个可以用来为各种语言生成RPC客户

    facebook thrift

    #### 概述 Facebook Thrift是一种软件库及一组代码生成工具,由Facebook开发,旨在加速高效、可扩展后端服务的开发与实施。其主要目标是通过将每种语言中通常需要高度定制的部分抽象成一个通用库并为每种语言实现该...

    thrift-0.11.0.tar.gz

    ### Thrift 0.11.0 版本概述 Thrift是一款由Facebook开发并开源的RPC(远程过程调用)框架,它提供了一种高效、可扩展的方式来进行跨语言的服务开发。Thrift通过定义一个IDL(接口定义语言)来描述服务的结构,允许...

    maven-thrift-plugin:将 thrift 文件生成为源代码的 Maven Thrift 插件

    目标概述 generate-java绑定到 generate-sources 阶段,用于编译 thrift 文件。 generate-java-test绑定到 generate-test-sources 阶段,用于编译测试 thrift 文件。 执行参数 节俭可执行文件 指向thrift的路径,...

    python操作hbase

    #### HBase 接口概述 HBase提供了多种访问接口: - **HBase Shell**:一个命令行工具,可以直接执行SQL-like命令。 - **Java Client API**:通过Java SDK提供的API来操作HBase。 - **Jython/Groovy/Scala**:基于...

    HBase技术介绍.docx

    #### 一、HBase概述 **HBase**,全称为Hadoop Database,是一款构建在Hadoop之上、面向列的分布式数据库系统。它具备高可靠性、高性能和可扩展性等特点,能够在成本相对低廉的硬件设备上构建大规模的数据存储集群。...

    大数据分析关键技术概述.pptx

    Hive则构建在Hadoop之上,提供了SQL-like的语言HiveQL,通过ThriftServer进行JDBC连接,元数据存储在关系型数据库中,方便快速访问。Hive的工作流程包括驱动器、查询编译器、执行引擎和元数据存储,能够生成和执行...

    tchannel-go:Go实现RPC调用的多路复用和成帧协议

    如果您想开始编写小型Thrift和TChannel服务,请参阅。 对于一些自以为是的设置,请参阅。 概述 TChannel是一种网络协议,它支持: 请求/响应模型, 在同一个TCP套接字上复用多个请求, 乱序回复, 流式传输请求...

    windows python2.7 连接hive。安装pyhs2,需要提前安装的包以及步骤。亲测有效

    #### 一、Pyhs2 概述 Pyhs2 是一个基于 Thrift 协议的 Python 库,它可以用于与 HiveServer2 进行交互。通过 Pyhs2,我们可以利用 Python 语言执行 SQL 查询,从而轻松地从 Hive 中读取数据或进行数据分析工作。 #...

Global site tag (gtag.js) - Google Analytics