Thrift的使用与优化

     去年一年的时间中，用Thrift提供服务的方式，开发了一个用户中心系统，以便于与其它的各个业务系统进行相应的集成。
     在生产环境中，ThriftServer的选择是很重要的。建议在TThreadPoolServer和 TThreadedSelectorServer中进行相应的选择。个人建议选择TThreadedSelectorServer,因为其支持网络NIO，在一个业务的处理过程中，很大一部分时间会阻塞在网络通信上，并且TThreadedSelectorServer能吞吐更多的网络连接，而ThreadPoolServer吞吐的网络连接数和其启动的线程数量有关，如果存在客户端调用代码未正常关闭Transport时，其网络连接只有在时间超时时才会正常释放掉，造成服务的无法正常提供。
     具体的参考资料见：http://www.codelast.com/?p=4824
     本人在实际应用的过程中，是使用Spring+Mybatis+Thrift方式。在Spring中，重量级的业务处理Service的创建是非常耗时的，所以对于这些Service，一定要用对象池将期存储起来，防止Thrift在处理业务的过程中，频繁的创建业务对象，消耗系统资源。
     默认的情况下，TProcessorFactory是使用了单列的模式，所以要对TProcessorFactory进行扩展，并使其支持对象池技术，增加释放处理对象的方法returnProcessor,如以下代码：
    

package org.apache.thrift;

import org.apache.thrift.transport.TTransport;

/**
 * The default processor factory just returns a singleton instance.
 */
public class TProcessorFactory {

	private final TProcessor processor_;

	public TProcessorFactory(TProcessor processor) {
		processor_ = processor;
	}

	public TProcessor getProcessor(TTransport trans) {
		return processor_;
	}

	public void returnProcessor(TProcessor _tprocessor) {

	}

}

将使用完的对象释放到连接池中，并更改调用getProcessor方法的地方，释放相应的Processor.将业务实现代码中，从对象池中获取处理对象

在业务系统代码中的实现如下：

package com.hoodinn.user.service.thrift;

import org.apache.commons.pool.impl.StackObjectPool;
import org.apache.log4j.Logger;
import org.apache.thrift.TProcessor;
import org.apache.thrift.TProcessorFactory;
import org.apache.thrift.transport.TTransport;
import org.springframework.context.ApplicationContext;

import com.hoodinn.user.connector.thrift.UserAcceptor;

/**
 * @author MatrixZhang
 * @createTime 2012-8-16 下午7:42:27
 * @Description
 */
public class UserProcessorFactory extends TProcessorFactory {

	private StackObjectPool<TProcessor> sop;

	static Logger log = Logger.getLogger(UserProcessorFactory.class);

	public UserProcessorFactory(ApplicationContext applicationContext, Integer poolSize) {
		super(null);
		sop = new StackObjectPool<TProcessor>(new USPoolFactory(applicationContext) {
			@Override
			public TProcessor selfMakeObject() {
				return new UserAcceptor.Processor<UserAcceptorService>(applicationContext.getBean(UserAcceptorService.class));
			}
		}, poolSize + 2);
	}

	@Override
	public TProcessor getProcessor(TTransport trans) {
		try {
			return sop.borrowObject();
		} catch (Exception e) {
			log.error("获取UserAcceptorService时出错!", e);
			return null;
		}
	}

	@Override
	public void returnProcessor(TProcessor _tprocessor) {
		try {
			sop.returnObject(_tprocessor);
		} catch (Exception e) {
			log.error("归还UserAcceptorService时出错", e);
		}
	}

}

      这样使用对象池技术以后，Thrift接口的数据吞吐量能有一个大幅度的提升。另外，在使用Thrift设计相应的接口时，建议使用字符串对JSON的格式进行相应的数据传输。在接口设计时，只设计上两个接口，一个是前端业务处理，一个是后台业务处理 。如以下的定义方式：
     

service ThirdSnsAcceptor{
	
	/** 接口服务的处理 */
	string businessProcess(1:string param);
	
	/** 后台管理业务的处理 */
	string adminProcess(1:string param);
	
}

      在实际的使用过程中，我发现使用纯正的接口对象传输和使用JSON的性能差异不大。因为Jackson的解析性能还是非常可观的，这样，接口定义以后，基本上不需要有任何改动了。对于接口数据的定义，可以使用以下的方式：
     

{
 	"name":"addFriend",
 	"version":"1.0",
 	"param":{
 		"appId":1,
 		"userId":1,
 		"platform":"WEIBO"
 	}
}

       这样，可以以name和version实现不同的业务处理分支跳转。
      

       这是本人的一点经验总结，如有什么不足之处，欢迎大爱回复，讨论。
       附件是我更改过的Thrift的代码，增加对对象池支持。

评论

11 楼 H_kx 2016-07-02  

fxc13120 写道

我没搞明白楼主的processor单例和对象池使用快在哪里了？？

TServer server = new TThreadPoolServer(new Args(serverTransport).processor(processor));

processor在server启动前就已经初始化成单例了，在以后的服务过程中从来就没有反复创建，何须使用对象池？？？

同问！
博主是误人子弟了。一开始还以为是接口参数和返回值的业务对象池呢，万万没想到啊

10 楼 361010911 2016-01-07  

  不错 不错；最近遇到一个问题xlst转XML报文的时候内存不释放，不知道是不是跟单例有关。。最近在验证。

9 楼 fxc13120 2015-01-04  

我没搞明白楼主的processor单例和对象池使用快在哪里了？？

TServer server = new TThreadPoolServer(new Args(serverTransport).processor(processor));

processor在server启动前就已经初始化成单例了，在以后的服务过程中从来就没有反复创建，何须使用对象池？？？

8 楼 HelloJimmy 2014-11-18  

如果不是特别大的吞吐量，考虑开发效率，可以考虑json来传输数据

josico 写道

问一个问题
服务端从数据库查数据，查到的数据封装成对象，并转成thrift对象传递给客户端
但如果查不到记录怎么办？
正常情况是返回null 但thrift只支持一些基本数据类型，thrift是不能传递null对象的
那就只能给他new一个thrift对象给他传过去，这个对象只是new出来的，没有任何属性
但这里又会有一个问题
thrift的一些基本数据类型是有初始值的 比如数据库中的gender性别number类型，0表示男，1表示女，在thrift对象对应中，就是对应的i64或者i32，如果数据库中gender为null，到thrift里面，应该就是这个i64或者i32为null，但基本数据类型是没法为null的，就类似int有一个初始值一样，那客户端得到的就是0，那他又不知道，到底这个gender本身在数据库存的就是0，还是说存的是NULL？
不过上述问题还可以用thrift的默认值来解决，不过总觉得很累赘
如果说，再给他包一层，把需要的thrift对象包到另一个common的thrift对象中去，这样在common的thrift中加个message,code啊什么之类的，来让客户端字段一些信息，也是可惜的
但坑爹的是，thrift居然TM不支持继承，并且官方还说以后也不会支持。。。
这TM还怎么愉快的玩耍

7 楼 liyonghui160com 2014-07-08  

楼主：单列的模式不就是创建一次吗？用对象池技术就快了吗？

6 楼 liyonghui160com 2014-07-08  

xbgd 写道

selectorThreads(60).workerThreads(20).

这个两个参数的配置是什么意思呢？

//selector线程数 selector线程负责1.事件注册 2.读写IO轮询 3.将数据读取或者写入到transport
        public int selectorThreads = 2;

        //工作线程数  负责协议的解析 对象序列化 业务逻辑的执行 响应写入到ByteBuffer 工作线程为0 就直接在selector线程上执行
        private int workerThreads = 5;

5 楼 liyonghui160com 2014-07-08  

请问，selectorThreads(60).workerThreads(20). 这两个设置多少比例最合适？

4 楼 josico 2014-05-28  

问一个问题
服务端从数据库查数据，查到的数据封装成对象，并转成thrift对象传递给客户端
但如果查不到记录怎么办？
正常情况是返回null 但thrift只支持一些基本数据类型，thrift是不能传递null对象的
那就只能给他new一个thrift对象给他传过去，这个对象只是new出来的，没有任何属性
但这里又会有一个问题
thrift的一些基本数据类型是有初始值的 比如数据库中的gender性别number类型，0表示男，1表示女，在thrift对象对应中，就是对应的i64或者i32，如果数据库中gender为null，到thrift里面，应该就是这个i64或者i32为null，但基本数据类型是没法为null的，就类似int有一个初始值一样，那客户端得到的就是0，那他又不知道，到底这个gender本身在数据库存的就是0，还是说存的是NULL？
不过上述问题还可以用thrift的默认值来解决，不过总觉得很累赘
如果说，再给他包一层，把需要的thrift对象包到另一个common的thrift对象中去，这样在common的thrift中加个message,code啊什么之类的，来让客户端字段一些信息，也是可惜的
但坑爹的是，thrift居然TM不支持继承，并且官方还说以后也不会支持。。。
这TM还怎么愉快的玩耍

3 楼 xbgd 2013-05-23  

selectorThreads(60).workerThreads(20).

这个两个参数的配置是什么意思呢？

2 楼 autumnrain_zgq 2013-05-03  

nmlnj 写道

有示例可以看看吗，我对这个东西的配置更感兴趣。

		Runnable userServer = new Runnable() {
			public void run() {
				try {
					log.info(LogUtil.formatLog("启动UserServer,端口号：[#0]...", userPort));
					// TServerTransport serverTransport = new
					// TServerSocket(userPort);
					// TServer server = new TThreadPoolServer(new
					// Args(serverTransport).minWorkerThreads(1000).maxWorkerThreads(1500).processorFactory(new
					// UserProcessorFactory(applicationContext)));
					// server.serve();

					TNonblockingServerTransport serverTransport = new TNonblockingServerSocket(userPort);
					TTransportFactory transportFactory = new TFramedTransport.Factory();
					TProtocolFactory proFactory = new TCompactProtocol.Factory();
					TServer server = new TThreadedSelectorServer(new org.apache.thrift.server.TThreadedSelectorServer.Args(serverTransport).protocolFactory(proFactory).selectorThreads(60).workerThreads(20).transportFactory(transportFactory)
							.processorFactory(new UserProcessorFactory(applicationContext, 20)));
					server.serve();
				} catch (TTransportException e) {
					log.error("启动UserServer出错,错误信息为：" + e.getMessage(), e);
				}
			}
		};

1 楼 nmlnj 2013-05-02  

有示例可以看看吗，我对这个东西的配置更感兴趣。