本月博客排行
-
第1名
龙儿筝 -
第2名
lerf -
第3名
fantaxy025025 - johnsmith9th
- xiangjie88
- zysnba
年度博客排行
-
第1名
青否云后端云 -
第2名
宏天软件 -
第3名
gashero - wy_19921005
- vipbooks
- benladeng5225
- e_e
- wallimn
- javashop
- ranbuijj
- fantaxy025025
- jickcai
- gengyun12
- zw7534313
- qepwqnp
- 解宜然
- ssydxa219
- zysnba
- sam123456gz
- sichunli_030
- arpenker
- tanling8334
- gaojingsong
- kaizi1992
- xpenxpen
- 龙儿筝
- jh108020
- wiseboyloves
- ganxueyun
- xyuma
- xiangjie88
- wangchen.ily
- Jameslyy
- luxurioust
- lemonhandsome
- mengjichen
- jbosscn
- zxq_2017
- lzyfn123
- nychen2000
- forestqqqq
- wjianwei666
- ajinn
- zhanjia
- Xeden
- hanbaohong
- java-007
- 喧嚣求静
- mwhgJava
- kingwell.leng
最新文章列表
如何开始--metaq
下载服务器
从Google Code或者我的个人主页选择最新版本的服务器(目前是1.4.6.1)并下载到本地,假设下载后的文件在folder目录,执行下列命令解压缩文件:
cd folder
tar zxvf metaq-server-1.4.6.2.tar.gz
解压缩文件,解压后目录结构大概为:
taobao
metamorphosis-server-wrapp ...
Faq of metaq
采用pull模型,消息的实时性有保证吗?
Metamorphosis在消费端采用pull的模型,consumer主动去broker拉取数据,而不是类似大多数MQ那样由broker主动push数据给消费者。可能很多人担心采用pull模型后,会不会消息的实时性降低了,从发送到消费的整个时间周期拉长了。
实际上,meta中消息的实时性受很多因素影响,不能简单地说实时性一定会降低,主要影响因素如下
...
配置管理--metaq
配置管理
Web管理平台
从1.4.5开始,MetaQ提供了一个Web管理平台,默认运行在8120端口,你可以通过浏览器访问http://localhost:8120来访问web管理平台,localhost
metamorphosis-3-metaQ初步
Java客户端例子
使用maven,引用metaq的java client非常简单:
<dependency> <groupId>com.taobao.metamorphosis</groupId> <artifactId>metamorphosis-client-extension</artifactId> <ver ...
高可用配置(异步复制和同步复制)-metaq
介绍
Meta相比于kafka的一个重要特性就是消息高可用方案的实现,我们称之为HA方案。消息在发送到broker之后立即写入磁盘才返回客户端告诉消息生产者消息发送成功,通过unflushThreshold和unflushInterval两个参数的控制,可以保证单机消息数据的安全性,只要机器的磁盘没有永久损坏,消息总可以在重启后恢复并正常投递给消费者们。但是,如果遇到了磁盘永久损坏或者数据文件 ...
配置管理--metaq
Web管理平台
从1.4.5开始,MetaQ提供了一个Web管理平台,默认运行在8120端口,你可以通过浏览器访问http://localhost:8120来访问web管理平台,localhost为本机IP,可替换为broker运行机器所在ip或者hostname。
1.4.6版本开始,Web管理平台提供RESTFul API,具体见Dashboard API
简单示例--metaq
示例源码
源码地址:
metamorphosis-example
Example
消息中间件中有两个角色:消息生产者和消息消费者。Meta里同样有这两个概念,消息生产者负责创建消息并发送到meta服务器,meta服务器会将消息持久化到磁盘,消息消费者从meta服务器拉取消息并提交给应用消费。我们假设你已经部署了你的meta服务器,参见
如何开始--metaq
下载服务器
从Google Code选择最新版本的服务器并下载到本地,假设下载后的文件在folder目录,执行下列命令解压缩文件:
cd folder
tar zxvf metaq-server-1.4.6.2.tar.gz
解压缩文件,解压后目录结构大概为:
taobao
metamorphosis-server-wrapper
bin
...
storm & metaq 实例
目录
Storm项目:流数据监控 <4>. 1
---流数据监控MetaQ接口... 1
1 文档说明... 1
2 MetaQ与Storm接口... 1
2.1 MetaqSpout. 1
2.1.1 接口说明... 1
2.1.2 上代码... 2
2.2 MetaqBolt. 5
Storm实时处理方案架构
1 文档说明
该文档描述的是以storm为主体的实时处理架构,该架构包括了数据收集部分,实时处理部分,及数据落地部分。
关于不同部分的技术选型与业务需求及个人对相关技术的熟悉度有关,会一一进行分析。
该架构是本人所掌握的一种架构,可能会与其他架构有相似的部分,个人会一一解释对其的理解。
2 实时处理架构
MetaQ 可靠性、顺序和重复
可靠性
Metamorphosis的可靠性保证贯穿客户端和服务器。
生产者的可靠性保证
消息生产者发送消息后返回SendResult,如果isSuccess返回为true,则表示消息已经确认发送到服务器并被服务器接收存储。整个发送过程是一个同步的过程。保证消息送达服务器并返回结果。
服务器的可靠性保证
消息生产者发送的消息,meta服务器收到后在做必要的校验和检查之后的第一件事就是写 ...