`
dalan_123
  • 浏览: 87033 次
  • 性别: Icon_minigender_1
  • 来自: 郑州
社区版块
存档分类
最新评论
文章列表
一、简介Supervisor是JStorm中的工作节点,类似于MR的TT,subscribe zookeeper的任务调度结果数据,根据任务调度情况启动/停止工作进程Worker。同时Supervisor需要定期向zookeeper写入活跃端口信息以便Nimbus监控。Supervisor不执行具体处理工作,所有的计算任务都交Worker完成。从整个架构上看,Supervisor处在整个JStorm三级管理架构的中间环节,辅助管理任务调度和资源管理工作。二、架构1.Supervisor Supervisor单节点架构如上图所示,初始化时启动进程Supervisor,根据Nimbus分配的任务情 ...
一、简介Storm是开源的分布式容错实时计算系统,目前被托管在GitHub上,遵循 Eclipse Public License 1.0。最初由BackType开发,现在已被Twitter收入麾下。Storm最新版本是Storm 0.9,核心采用Clojure实现。Storm为分布式实时计算提供了一组通 ...
数据库中间件mycat的使用一、环境 windows server 2008r2(8核 16G内存) 、 sqlserver 、 mysql 、 mycat1.5.2二、测试前端代码(只提供C#,为了解决公司原有老项目  java的到mycat的github上面自行查找)   数据库操作如下using MySql.Data.MySqlClien ...

分布式------NWR

NWR是一种在分布式存储系统中用于控制一致性级别的一种策略。在Amazon的Dynamo云存储系统中,就应用NWR来控制一致性。 让我们先来看看这三个字母的含义: N:同一份数据的Replica的份数 W:是更新一个数据对象的时候需要确保成功更新的份数 R: 读取一个数据需要读取的Replica的份数 NWR值的不同组合会产生不同的一致性效果,当W+R>N的时候,整个系统对于客户端来讲能保证强一致性。当W+R<N的时候只能保证最终一致性。 以常见的N=3、W=2、R=2为例: N=3,表示,任何一个对象都必须有三个副本(Replica),W=2表示,对数据的修改操作(Writ ...

lua

1、网络允许的情况下,可以利用自身curl下载器下载 curl -R -O http://www.lua.org/ftp/lua-5.3.2.tar.gz 或者直接到http://www.lua.org/ftp/下载 2、tar zxf lua-5.3.2.tar.gz 3、cd lua-5.3.2 4、make linux test 5、make install (*******)可能碰到的问题 在编译过程中,如果遇到 fatal error: readline/readline.h: No such file or directory 说明缺少libreadline-dev依赖包 可以用以下 ...
安装说明 系统环境:CentOS-6.7 软件:nginx-1.9.9.tar.gz 安装方式:源码编译安装 安装位置:/usr/local/nginx 下载地址:http://nginx.org/en/download.html 安装依赖 yum install gcc-c++ yum -y install zlib zlib-devel openssl openssl--devel pcre pcre-devel 下载nginx-1.9.9.tar.gz wget  http://nginx.org/download/nginx-1.9.9.tar.gz 安装 (1)cd /usr/ ...
关于jstorm单机安装可以参看如下 http://hexiaoqiao.sinaapp.com/2014/06/jstorm%E7%8E%AF%E5%A2%83%E6%90%AD%E5%BB%BA/ https://github.com/alibaba/jstorm/wiki/%E5%A6%82%E4%BD%95%E5%AE%89%E8%A3%85 这些是本人在安装过程具体的安装过程以及问题解决 1、安装zeromq wget http://d ...
一、计数器      在hbase中,由于针对同一行的记录进行操作时,已经提供行级锁;这样的功能会带来大量资源竞争的后果;那么在hbase里面提供一个将列当做计数器的功能      1、计数器        计数器默认不用进行初始化默认值即为0;在计数器进行具体操作时可以添加对应的值;若是用户直接操作则需要使用        Bytes.toLong()--->解码   Bytes.toBytes(long)--->编码 注意编码时需要明确指定对应的参数为long类型;同时若是用户    通过put方法误操作之后,在通过incr操作 则会出现和预期不一致的内容;主要是用于在执行pu ...

HBase系列三

关于spring-hbase中scan + filter的操作;通过HbaseTemplate + HTableInterface完成如下操作 一、测试源码 @Component public class HbaseUtil implements InitializingBean { private String tableName = "users"; // table bytes private byte[] tableNameAsBytes = Bytes.toBytes("users"); // family bytes privat ...

HBase系列一

关于hbase 一、客户端类 HTable 和 HTablePool: (1)、HTable用于一个线程创建一个HTable;最好只创建唯一一个HTable对象;因为每次创建HTable实例都需要付出代价;检查meta.表对应的表是否存在,是否可用以及其他                              的一些操作;对性能的损耗不可忽视的;同时HBase所有的修改操作都是保证行级别的原子性;    (2)、若是需要多个HTable对象,则考虑使用HTablePool类;操作同一行的记录 最好使用batch操作;以减少单独操作该行的次数 二、CRUD操作 (1)、put方 ...
一、源码 /** * HBase Data Access exception. * @author Costin Leau */ @SuppressWarnings("serial") public class HbaseSystemException extends UncategorizedDataAccessException { public HbaseSystemException(Exception cause) { super(cause.getMessage(), cause); } } 该类主要是HBase Exception类;并没有对HB ...
一、源码如下 /** * Synchronization manager handling the tracking of Hbase resources (specifically tables). Used either manually or through {@link HbaseInterceptor} to bind a table to the thread. * Each subsequent call made through {@link HbaseTemplate} is aware of the table bound and will use it instead ...
一、源码分析 /** * * hbase 采用aop的拦截器,将hbase table绑定对应的线程在被调用之前; * 一旦对应的调用方法获取结果之后将关闭并移除 * 如果有一个已经绑定的table(来自前面的call或者transaction), * 那么 interceptor 只是简单的操作 * 同时interceptor经常与HbaseSynchronizationManager结合使用 * @author Costin Leau */ public class HbaseInterceptor extends HbaseAccessor implements Meth ...
一、源码分析 /** * 设定Hbase指定Configuration;在默认情况是删除当前配置管理的连接信息 * 有参数deleteConnection 控制 */ public class HbaseConfigurationFactoryBean implements InitializingBean, DisposableBean, FactoryBean<Configuration> {     private static final Log log = LogFactory.getLog(HbaseConfigurationFactoryBean.class) ...
一、源码分析 /** * * HbaseAccessor作为HbaseTemplate以及HbaseIntercepter的基类;同时也定义 * 公共的HBase Configuration 以及 HTableInterfaceFactory * */ public abstract class HbaseAccessor implements InitializingBean {         // 设定编码 private String encoding; private Charset charset = HbaseUtils.getCharset(encoding) ...
Global site tag (gtag.js) - Google Analytics