- 浏览: 88346 次
- 性别:
- 来自: 广州
文章分类
- 全部博客 (110)
- myeclipse JVM 虚拟机内存设置 (1)
- 查询含有clob字段表的sql语句 (1)
- 项目个人价值体现 (1)
- Java多线程并发编程 (1)
- spring (4)
- 启悟 (1)
- hadoop (27)
- mysql数据库乱码问题 (1)
- linux (6)
- 架构与设计 (1)
- java (6)
- mysql (2)
- 分页编程 (1)
- 励志 (2)
- 技术要求 (0)
- guava (1)
- 分布式开发(SOA) (4)
- 微服务架构 + API 网关 (5)
- 消息中间件 (4)
- Dubbo (8)
- 面谈 (0)
- 高并发架构 (1)
- maven (1)
- MongoDB (1)
- hbase (2)
最新评论
在dubbo中对于消费者的保护提供了actives进行并发控制保护,但是功能相对薄弱,下面我们探讨下如何使用Netflix提供的服务容错组件Hystrix对dubo消费者提供线程隔离保护
在dubbo中对于消费者的保护提供了actives进行并发控制保护,但是功能相对薄弱,下面我们探讨下如何使用Netflix提供的服务容错组件Hystrix对dubo消费者提供线程隔离保护
为什么需要Hystrix?
在大中型分布式系统中,通常我们需要依赖很多dubbo服务,如下图:
在高并发访问下,这些依赖的稳定性与否对系统的影响非常大,但是依赖有很多不可控问题:如网络连接缓慢、资源繁忙、暂时不可用、服务脱机等。
如下图:QPS为50的依赖 "I" 出现不可用、但是其他依赖仍然可用。
当依赖I 阻塞时,大多数服务器的线程池就出现阻塞,影响整个线上服务的稳定性。如下图:
当高并发的依赖失败时如果没有隔离措施,当前应用服务就有被拖垮的风险!
例如:一个依赖30个SOA服务的系统,每个服务99.99%可用。
99.99%的30次方 ≈ 99.7%
0.3% 意味着一亿次请求 会有 3,000,00次失败
换算成时间大约每月有2个小时服务不稳定
随着服务依赖数量的变多,服务不稳定的概率会成指数性提高。
解决问题方案:对依赖做隔离,Hystrix就是处理依赖隔离的框架,同时也是可以帮我们做依赖服务的治理和监控。
Hystrix如何解决依赖隔离
Hystrix使用命令模式HystrixCommand(Command)包装依赖调用逻辑,每个命令在单独线程中/信号授权下执行。
可配置依赖调用超时时间,当调用超时时,直接返回或执行fallback逻辑。
为每个依赖提供一个小的线程池(或信号),如果线程池已满调用将被立即拒绝,默认不采用排队,加速失败判定时间。
请求失败(异常,拒绝,超时,短路)时执行fallback(降级)逻辑。
提供熔断器组件,可以自动运行或手动调用,停止当前依赖一段时间(10秒),熔断器默认错误率阈值为50%,超过将自动运行。
提供近实时依赖的统计和监控
Hystrix依赖的隔离架构,如下图:
Hystrix实时依赖统计、监控如下:
、
Dubbo消费者引入
dubbo可以通过扩展Filter的方式引入Hystrix,具体代码如下:
package com.netease.hystrix.dubbo.rpc.filter;
import com.alibaba.dubbo.common.Constants;
import com.alibaba.dubbo.common.extension.Activate;
import com.alibaba.dubbo.rpc.Filter;
import com.alibaba.dubbo.rpc.Invocation;
import com.alibaba.dubbo.rpc.Invoker;
import com.alibaba.dubbo.rpc.Result;
import com.alibaba.dubbo.rpc.RpcException;
@Activate(group = Constants.CONSUMER)
public class HystrixFilter implements Filter {
@Override
public Result invoke(Invoker invoker, Invocation invocation) throws RpcException {
DubboHystrixCommand command = new DubboHystrixCommand(invoker, invocation);
return command.execute();
}
}
DubboHystrixCommand代码如下:
package com.netease.hystrix.dubbo.rpc.filter;
import org.apache.log4j.Logger;
import com.alibaba.dubbo.common.URL;
import com.alibaba.dubbo.rpc.Invocation;
import com.alibaba.dubbo.rpc.Invoker;
import com.alibaba.dubbo.rpc.Result;
import com.netflix.hystrix.HystrixCommand;
import com.netflix.hystrix.HystrixCommandGroupKey;
import com.netflix.hystrix.HystrixCommandKey;
import com.netflix.hystrix.HystrixCommandProperties;
import com.netflix.hystrix.HystrixThreadPoolProperties;
public class DubboHystrixCommand extends HystrixCommand {
private static Logger logger = Logger.getLogger(DubboHystrixCommand.class);
private static final int DEFAULT_THREADPOOL_CORE_SIZE = 30;
private Invoker invoker;
private Invocation invocation;
public DubboHystrixCommand(Invoker invoker,Invocation invocation){
super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey(invoker.getInterface().getName()))
.andCommandKey(HystrixCommandKey.Factory.asKey(String.format("%s_%d", invocation.getMethodName(),
invocation.getArguments() == null ? 0 : invocation.getArguments().length)))
.andCommandPropertiesDefaults(HystrixCommandProperties.Setter()
.withCircuitBreakerRequestVolumeThreshold(20)//10秒钟内至少19此请求失败,熔断器才发挥起作用
.withCircuitBreakerSleepWindowInMilliseconds(30000)//熔断器中断请求30秒后会进入半打开状态,放部分流量过去重试
.withCircuitBreakerErrorThresholdPercentage(50)//错误率达到50开启熔断保护
.withExecutionTimeoutEnabled(false))//使用dubbo的超时,禁用这里的超时
.andThreadPoolPropertiesDefaults(HystrixThreadPoolProperties.Setter().withCoreSize(getThreadPoolCoreSize(invoker.getUrl()))));//线程池为30
this.invoker=invoker;
this.invocation=invocation;
}
/**
* 获取线程池大小
*
* @param url
* @return
*/
private static int getThreadPoolCoreSize(URL url) {
if (url != null) {
int size = url.getParameter("ThreadPoolCoreSize", DEFAULT_THREADPOOL_CORE_SIZE);
if (logger.isDebugEnabled()) {
logger.debug("ThreadPoolCoreSize:" + size);
}
return size;
}
return DEFAULT_THREADPOOL_CORE_SIZE;
}
@Override
protected Result run() throws Exception {
return invoker.invoke(invocation);
}
}
线程池大小可以通过dubbo参数进行控制,当前其他的参数也可以通过类似的方式进行配置
<dubbo:parameter key="ThreadPoolCoreSize" value="20" />
代码添加好后在,resource添加加载文本
|-resources
|-META-INF
|-dubbo
|-com.alibaba.dubbo.rpc.Filter (纯文本文件,内容为:hystrix=com.netease.hystrix.dubbo.rpc.filter.HystrixFilter
由于Filter定义为自动激活的,所以启动代码所有消费者都被隔离起来啦!
项目地址:https://github.com/yskgood/dubbo-hystrix-support.git
http://my.oschina.net/yangshaokai/blog/674685
摘自:http://m635674608.iteye.com/blog/2312328
在dubbo中对于消费者的保护提供了actives进行并发控制保护,但是功能相对薄弱,下面我们探讨下如何使用Netflix提供的服务容错组件Hystrix对dubo消费者提供线程隔离保护
为什么需要Hystrix?
在大中型分布式系统中,通常我们需要依赖很多dubbo服务,如下图:
在高并发访问下,这些依赖的稳定性与否对系统的影响非常大,但是依赖有很多不可控问题:如网络连接缓慢、资源繁忙、暂时不可用、服务脱机等。
如下图:QPS为50的依赖 "I" 出现不可用、但是其他依赖仍然可用。
当依赖I 阻塞时,大多数服务器的线程池就出现阻塞,影响整个线上服务的稳定性。如下图:
当高并发的依赖失败时如果没有隔离措施,当前应用服务就有被拖垮的风险!
例如:一个依赖30个SOA服务的系统,每个服务99.99%可用。
99.99%的30次方 ≈ 99.7%
0.3% 意味着一亿次请求 会有 3,000,00次失败
换算成时间大约每月有2个小时服务不稳定
随着服务依赖数量的变多,服务不稳定的概率会成指数性提高。
解决问题方案:对依赖做隔离,Hystrix就是处理依赖隔离的框架,同时也是可以帮我们做依赖服务的治理和监控。
Hystrix如何解决依赖隔离
Hystrix使用命令模式HystrixCommand(Command)包装依赖调用逻辑,每个命令在单独线程中/信号授权下执行。
可配置依赖调用超时时间,当调用超时时,直接返回或执行fallback逻辑。
为每个依赖提供一个小的线程池(或信号),如果线程池已满调用将被立即拒绝,默认不采用排队,加速失败判定时间。
请求失败(异常,拒绝,超时,短路)时执行fallback(降级)逻辑。
提供熔断器组件,可以自动运行或手动调用,停止当前依赖一段时间(10秒),熔断器默认错误率阈值为50%,超过将自动运行。
提供近实时依赖的统计和监控
Hystrix依赖的隔离架构,如下图:
Hystrix实时依赖统计、监控如下:
、
Dubbo消费者引入
dubbo可以通过扩展Filter的方式引入Hystrix,具体代码如下:
package com.netease.hystrix.dubbo.rpc.filter;
import com.alibaba.dubbo.common.Constants;
import com.alibaba.dubbo.common.extension.Activate;
import com.alibaba.dubbo.rpc.Filter;
import com.alibaba.dubbo.rpc.Invocation;
import com.alibaba.dubbo.rpc.Invoker;
import com.alibaba.dubbo.rpc.Result;
import com.alibaba.dubbo.rpc.RpcException;
@Activate(group = Constants.CONSUMER)
public class HystrixFilter implements Filter {
@Override
public Result invoke(Invoker invoker, Invocation invocation) throws RpcException {
DubboHystrixCommand command = new DubboHystrixCommand(invoker, invocation);
return command.execute();
}
}
DubboHystrixCommand代码如下:
package com.netease.hystrix.dubbo.rpc.filter;
import org.apache.log4j.Logger;
import com.alibaba.dubbo.common.URL;
import com.alibaba.dubbo.rpc.Invocation;
import com.alibaba.dubbo.rpc.Invoker;
import com.alibaba.dubbo.rpc.Result;
import com.netflix.hystrix.HystrixCommand;
import com.netflix.hystrix.HystrixCommandGroupKey;
import com.netflix.hystrix.HystrixCommandKey;
import com.netflix.hystrix.HystrixCommandProperties;
import com.netflix.hystrix.HystrixThreadPoolProperties;
public class DubboHystrixCommand extends HystrixCommand {
private static Logger logger = Logger.getLogger(DubboHystrixCommand.class);
private static final int DEFAULT_THREADPOOL_CORE_SIZE = 30;
private Invoker invoker;
private Invocation invocation;
public DubboHystrixCommand(Invoker invoker,Invocation invocation){
super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey(invoker.getInterface().getName()))
.andCommandKey(HystrixCommandKey.Factory.asKey(String.format("%s_%d", invocation.getMethodName(),
invocation.getArguments() == null ? 0 : invocation.getArguments().length)))
.andCommandPropertiesDefaults(HystrixCommandProperties.Setter()
.withCircuitBreakerRequestVolumeThreshold(20)//10秒钟内至少19此请求失败,熔断器才发挥起作用
.withCircuitBreakerSleepWindowInMilliseconds(30000)//熔断器中断请求30秒后会进入半打开状态,放部分流量过去重试
.withCircuitBreakerErrorThresholdPercentage(50)//错误率达到50开启熔断保护
.withExecutionTimeoutEnabled(false))//使用dubbo的超时,禁用这里的超时
.andThreadPoolPropertiesDefaults(HystrixThreadPoolProperties.Setter().withCoreSize(getThreadPoolCoreSize(invoker.getUrl()))));//线程池为30
this.invoker=invoker;
this.invocation=invocation;
}
/**
* 获取线程池大小
*
* @param url
* @return
*/
private static int getThreadPoolCoreSize(URL url) {
if (url != null) {
int size = url.getParameter("ThreadPoolCoreSize", DEFAULT_THREADPOOL_CORE_SIZE);
if (logger.isDebugEnabled()) {
logger.debug("ThreadPoolCoreSize:" + size);
}
return size;
}
return DEFAULT_THREADPOOL_CORE_SIZE;
}
@Override
protected Result run() throws Exception {
return invoker.invoke(invocation);
}
}
线程池大小可以通过dubbo参数进行控制,当前其他的参数也可以通过类似的方式进行配置
<dubbo:parameter key="ThreadPoolCoreSize" value="20" />
代码添加好后在,resource添加加载文本
|-resources
|-META-INF
|-dubbo
|-com.alibaba.dubbo.rpc.Filter (纯文本文件,内容为:hystrix=com.netease.hystrix.dubbo.rpc.filter.HystrixFilter
由于Filter定义为自动激活的,所以启动代码所有消费者都被隔离起来啦!
项目地址:https://github.com/yskgood/dubbo-hystrix-support.git
http://my.oschina.net/yangshaokai/blog/674685
摘自:http://m635674608.iteye.com/blog/2312328
发表评论
-
Dubbo 并发调优的几个参数
2016-11-12 00:43 524消费端调优: 一、connections 这个参数可以在服务 ... -
基于Dubbo的跨主机容器通信遇到的问题
2016-11-11 14:01 1458最近在项目中使用到Docker和Dubbo,想在Docker中 ... -
dubbo协议下的单一长连接与多线程并发如何协同工作
2016-11-10 16:57 0上班的路上突然就冒出了这么个问题:既然在dubbo中描述消费者 ... -
redis + dubbo 高并发出现的问题及其解决思路
2016-11-10 16:02 0dubbo报错问题解决,最终发现是redis process执 ... -
dubbo服务中的hessian序列化工厂使用hashmap加锁在高并发场景下的问题
2016-11-10 15:49 1181[摘要:1.题目描绘 我们 ... -
DUBBO配置规则详解
2016-11-10 15:03 370研究DUBBO也已经大半年 ... -
dubbo学习与常遇问题汇总
2016-11-10 12:45 409dubbo学习与常遇问题汇总 http://www.cnblo ... -
Dubbo架构设计详解(清楚深入,值得研读)
2016-11-10 12:40 523Dubbo是Alibaba开源的分布式服务框架,它最大的特点是 ... -
dubbo接口添加白名单——dubbo Filter的使用
2016-11-10 00:51 1861在开发中,有时候需要限制访问的权限,白名单就是一种方法。对于J ...
相关推荐
限流防止系统过载,熔断保护服务不被雪崩效应拖垮,Dubbo可以通过Hystrix等组件实现这些功能。 21. **如何进行服务降级?** 当服务不可用或性能下降时,可以返回默认值、缓存数据或抛出异常,保证核心业务的正常...
服务消费者则通过注册表获取服务提供者的地址,实现动态服务调用。同时,服务的元数据,如接口、版本、超时时间等也需要在注册表中维护。 2. **网络通信**:选择合适的网络库是至关重要的。Netty是一个高性能的异步...
- **舱壁模式**(也称为线程隔离):通过限定每个业务所能使用的线程数,防止某个业务占用过多资源,从而确保整个系统资源的合理分配。 - **熔断降级**:当服务的异常比例超过预设阈值时,自动切断对故障服务的...
- **不支持线程隔离**:尽管提供了多种流量控制手段,但Sentinel并不支持线程池级别的隔离机制,这在某些特定场景下可能是一个局限。 #### 四、同类技术分析对比 ##### 4.1 Hystrix概述 Hystrix是Netflix开发的一...
Feign用于客户端调用服务,Hystrix提供服务降级策略,Dubbo是RPC框架,其架构包括服务提供者、消费者和服务注册中心。 9. **设计模式**:单例模式是最基础的设计模式之一,有懒汉式、饿汉式等多种实现方式。在实际...
这些方法既可以作为预防措施(如限流),也可以作为补救措施(如超时处理、线程隔离、断路器)来防止雪崩效应的发生。 ##### 1.2 服务保护技术对比 在Spring Cloud生态系统中,存在多种服务保护技术,其中最为知名...
* Dubbo 协议使用线程池并发处理请求,加大了并发效率 * 在大文件传输时,单一连接会成为瓶颈 ElasticSearch 和 Solr * Solr 利用 Zookeeper 进行分布式管理,而 Elasticsearch 自身带有分布式协调管理功能 * ...
课程将介绍Hystrix的熔断、降级和隔离机制,以及如何在Java项目中集成和使用。 十二、分布式数据库与分库分表 随着数据量的增长,单库单表无法满足需求,本章会讲解ShardingSphere、MyCat等分库分表解决方案,以及...
- **Consumer**:服务消费者。 - **Registry**:注册中心。 - **Monitor**:监控中心。 4. **Spring Cloud常用组件及其作用** - **Eureka**:服务发现。 - **Ribbon**:负载均衡。 - **Hystrix**:断路器。 ...
- **Hystrix**: 断路器组件,通过为不同的服务设置独立的线程池,实现服务间的调用隔离,避免服务雪崩。 - **Zuul**: API网关,负责将外部请求转发到相应的服务实例。 #### 四、SpringCloud与Dubbo对比 4. **...
在不使用锁的情况下,保证Redis命令的原子性可以使用Lua脚本,因为Lua脚本在Redis服务器上以单线程方式执行,确保了操作的原子性。 3. **数据结构理解**: - **二叉树**:基础的树形数据结构,每个节点最多有两个...
Dubbo的架构设计包括服务提供者、消费者、注册中心、监控中心等组件。 Spring Cloud组件如Zuul(API网关)、Feign(声明式服务调用)等,与Dubbo相比更注重整体微服务生态。 以上只是部分面试题目的解析,实际面试...
- `ThreadLocal`通过线程局部变量实现线程隔离,底层使用Thread类的ThreadLocalMap。 - `volatile`关键字确保了可见性和有序性,但不保证原子性。 - `ReentrantLock`的公平锁和非公平锁分别代表了线程按照等待...
- 架构设计包括服务提供者、消费者、注册中心和监控中心四个主要角色。 - **Spring Cloud组件及其作用** - Eureka:服务注册与发现。 - Hystrix:服务熔断与降级。 - Feign:声明式服务调用。 - Zuul:API网关...
Hystrix 是一个断路器库,用于防止服务雪崩,当服务调用失败时,Hystrix 可以快速失败并返回一个默认值,保护整个系统稳定。 问题 12:谈谈你对分布式锁的理解,Zookeeper 如何实现分布式锁? 分布式锁是一种在...
- SpringCloud:提供服务发现、负载均衡、断路器、配置中心等功能,面试中可能会讨论Eureka、Zuul、Hystrix等组件的用法。 - SpringBoot:简化Spring应用程序的开发,自动配置和起步依赖是其核心特性。 5. **...
- **服务暴露与引用**:理解Dubbo中服务提供者与消费者的概念及其实现方式。 - **注册中心**:熟悉Zookeeper作为注册中心的角色及其在Dubbo集群容错中的作用。 - **路由规则**:掌握如何通过Dubbo的路由规则实现服务...
以下是对这些面试题可能涉及的重要知识点的详细说明: 1. **Java基础**: - 类与对象:包括封装、继承和多态的基本概念,以及构造器、访问修饰符的理解。 - 内存管理:垃圾回收机制,了解新生代、老年代和持久代...
- 生产者、消费者、交换机、队列等组件的工作原理。 4. **RabbitMQ消息可靠性** - 确保消息不会丢失的策略。 #### 十二、分布式 1. **分布式事务** - 包括两阶段提交、三阶段提交等。 2. **分布式原则** - ...
- **策略**:Sentinel 提供多种策略,如线程数控制、QPS(每秒请求数)控制、响应时间控制等。 2. **Sentinel 的主要功能** - **流控策略**:包括固定窗口、滑动窗口、漏桶、令牌桶等算法,用于实现不同场景下的...