- 浏览: 2663484 次
- 来自: 杭州
文章分类
- 全部博客 (1188)
- webwork (4)
- 网摘 (18)
- java (103)
- hibernate (1)
- Linux (85)
- 职业发展 (1)
- activeMQ (2)
- netty (14)
- svn (1)
- webx3 (12)
- mysql (81)
- css (1)
- HTML (6)
- apache (3)
- 测试 (2)
- javascript (1)
- 储存 (1)
- jvm (5)
- code (13)
- 多线程 (12)
- Spring (18)
- webxs (2)
- python (119)
- duitang (0)
- mongo (3)
- nosql (4)
- tomcat (4)
- memcached (20)
- 算法 (28)
- django (28)
- shell (1)
- 工作总结 (5)
- solr (42)
- beansdb (6)
- nginx (3)
- 性能 (30)
- 数据推荐 (1)
- maven (8)
- tonado (1)
- uwsgi (5)
- hessian (4)
- ibatis (3)
- Security (2)
- HTPP (1)
- gevent (6)
- 读书笔记 (1)
- Maxent (2)
- mogo (0)
- thread (3)
- 架构 (5)
- NIO (5)
- 正则 (1)
- lucene (5)
- feed (4)
- redis (17)
- TCP (6)
- test (0)
- python,code (1)
- PIL (3)
- guava (2)
- jython (4)
- httpclient (2)
- cache (3)
- signal (1)
- dubbo (7)
- HTTP (4)
- json (3)
- java socket (1)
- io (2)
- socket (22)
- hash (2)
- Cassandra (1)
- 分布式文件系统 (5)
- Dynamo (2)
- gc (8)
- scp (1)
- rsync (1)
- mecached (0)
- mongoDB (29)
- Thrift (1)
- scribe (2)
- 服务化 (3)
- 问题 (83)
- mat (1)
- classloader (2)
- javaBean (1)
- 文档集合 (27)
- 消息队列 (3)
- nginx,文档集合 (1)
- dboss (12)
- libevent (1)
- 读书 (0)
- 数学 (3)
- 流程 (0)
- HBase (34)
- 自动化测试 (1)
- ubuntu (2)
- 并发 (1)
- sping (1)
- 图形 (1)
- freemarker (1)
- jdbc (3)
- dbcp (0)
- sharding (1)
- 性能测试 (1)
- 设计模式 (2)
- unicode (1)
- OceanBase (3)
- jmagick (1)
- gunicorn (1)
- url (1)
- form (1)
- 安全 (2)
- nlp (8)
- libmemcached (1)
- 规则引擎 (1)
- awk (2)
- 服务器 (1)
- snmpd (1)
- btrace (1)
- 代码 (1)
- cygwin (1)
- mahout (3)
- 电子书 (1)
- 机器学习 (5)
- 数据挖掘 (1)
- nltk (6)
- pool (1)
- log4j (2)
- 总结 (11)
- c++ (1)
- java源代码 (1)
- ocr (1)
- 基础算法 (3)
- SA (1)
- 笔记 (1)
- ml (4)
- zokeeper (0)
- jms (1)
- zookeeper (5)
- zkclient (1)
- hadoop (13)
- mq (2)
- git (9)
- 问题,io (1)
- storm (11)
- zk (1)
- 性能优化 (2)
- example (1)
- tmux (1)
- 环境 (2)
- kyro (1)
- 日志系统 (3)
- hdfs (2)
- python_socket (2)
- date (2)
- elasticsearch (1)
- jetty (1)
- 树 (1)
- 汽车 (1)
- mdrill (1)
- 车 (1)
- 日志 (1)
- web (1)
- 编译原理 (1)
- 信息检索 (1)
- 性能,linux (1)
- spam (1)
- 序列化 (1)
- fabric (2)
- guice (1)
- disruptor (1)
- executor (1)
- logback (2)
- 开源 (1)
- 设计 (1)
- 监控 (3)
- english (1)
- 问题记录 (1)
- Bitmap (1)
- 云计算 (1)
- 问题排查 (1)
- highchat (1)
- mac (3)
- docker (1)
- jdk (1)
- 表达式 (1)
- 网络 (1)
- 时间管理 (1)
- 时间序列 (1)
- OLAP (1)
- Big Table (0)
- sql (1)
- kafka (1)
- md5 (1)
- springboot (1)
- spring security (1)
- Spring Boot (3)
- mybatis (1)
- java8 (1)
- 分布式事务 (1)
- 限流 (1)
- Shadowsocks (0)
- 2018 (1)
- 服务治理 (1)
- 设计原则 (1)
- log (0)
- perftools (1)
最新评论
-
siphlina:
课程——基于Python数据分析与机器学习案例实战教程分享网盘 ...
Python机器学习库 -
san_yun:
leibnitz 写道hi,我想知道,无论在92还是94版本, ...
hbase的行锁与多版本并发控制(MVCC) -
leibnitz:
hi,我想知道,无论在92还是94版本,更新时(如Puts)都 ...
hbase的行锁与多版本并发控制(MVCC) -
107x:
不错,谢谢!
Latent Semantic Analysis(LSA/ LSI)算法简介 -
107x:
不错,谢谢!
Python机器学习库
为什么要使用队列系统?
- 因为一些任务需要在后台执行,让调用者不需要等待其完成就能返回。比如给用户发送邮件,短信之类的操作。
- 还有就是一个大系统内部的通信,可能会采用队列的方式传递消息。
对队列系统有哪些要求?
- 应对任务处理者:通常会有一些进程从队列里获取消息进行处理,而且通常这些进程都会启动很多个。所以队列需要能够处理并发的数据请求操作。
- 原子性:队列中的元素只能被取出一次,必须保证每次读取队列中元素进行操作和删除这个元素是原子性的。
- 快速:队列系统要能够快速地处理元素的写入和读取操作。
- 垃圾回收能力:如果一个任务处理到一半死掉了,那么必须能有方法监测到并且将这个任务重新放入队列中。
redis VS mongoDB
对于原子性,RabbitMQ通过对consume/ack协议的支持来实现。而由于MongoDB只支持对单个文档的原子性个性,所以你可以使用其findAndModify 命令 ,简单语法如下:
db.runCommand( { findAndModify : collection, { options } } )
这里的options是一个数组,其包含下面一些元素:
其它的一些考虑
除了上面说到的速度,原子性等特性,对于一个队列系统,还是有一些其它方面需要考虑的。
- 容错性:MongoDB的replica sets 架构提供了整体的高可用性。当其被用作队列时,也同样继承了这一我。而RabbitMQ并没有内置的支持。目前在RabbitMQ 2.6.0中有相关的支持
- 一致性:MongoDB默认会一分钟将数据flush到磁盘,但其同时提供一个默认100ms的操作日志可以增强其单机的可靠性。可以缓解宕机时数据丢失导致不一至的情况。如果你对一致性要求非常高,你也可以使用MongoDB的getLastError 命令来保证你的每次操作都写入操作日志或者磁盘上才返回成功。
- 扩展性:我们使用capped collection 来做消息队列,所以老数据的清除是自动的。在MongoDB中可以通过sharding 方式来实现数据的横向扩展,但是sharding并不支持用于capped collection 。你可以自己选择自己需要的应用方式。
相关推荐
消息队列是一种在消息传输过程中保存消息的容器,它允许在两台计算机之间传送消息,这些消息可以很简单,比如只包含文本字符串,也可以很复杂,如包含嵌入对象。消息队列的作用主要是异步处理、提高系统性能、降低...
在这个简单的入门知识中,我们将深入探讨消息队列的基本概念、工作原理以及它在实际应用中的优势。 一、消息队列的概念 消息队列是一种基于发布/订阅或生产者/消费者模型的通信机制。它允许应用程序通过发送消息而...
2. 扩展性:当系统需要增加新的功能模块时,原有模块和消息队列之间的依赖关系简单,可以较为容易地进行水平扩展。 3. 排序保证:消息队列可以根据消息内容或者创建时间进行排序,确保消息的处理顺序。 4. 异步通信...
### Message Queue(消息队列)介绍与应用 #### 消息处理中的主要概念 消息队列作为一种关键的技术组件,在分布式系统中发挥着重要的作用。它主要用于处理和传递数据单元(即消息),这些消息可以在简单的文本字符串...
本篇文章将详细介绍如何使用消息队列机制来自行编写具有一定长度(大约1K左右)的消息发送和接收程序,并通过具体的代码示例来加深理解。 #### 消息队列的概念与工作原理 消息队列是由操作系统维护的一个消息列表...
【基于消息队列-MSMQ的开发】 消息队列(Message Queuing,简称MSMQ)是一种在分布式系统中实现异步通信的技术。它允许应用程序在不同的时间、速度和网络条件下发送和接收消息,确保了消息的可靠传递。在ASP.NET...
### 安卓的消息队列机制 #### 概述 安卓平台为了有效管理和处理各种用户界面交互及后台任务,设计了一套高效的消息队列机制。这一机制主要包括消息的发送、存储、处理以及循环处理等几个核心环节。理解这些概念...
《Linux环境进程间通信(三):消息队列.doc》详细阐述了消息队列的使用,包括如何创建、发送、接收和控制消息队列。《Linux环境进程间通信(五):_共享内存(上).doc》则介绍了共享内存,这是一种效率极高的通信方式,...
下面是一个简单的消息队列通信示例程序,用于演示消息队列的基本使用。 ```c #include #include #include #include #include #include #include struct msgmbuf { long msg_type; char msg_text[512]; };...
本文详细介绍了分布式消息队列的进程通信实现,对比了分布式消息队列与传统的套接字方式,并指出分布式消息队列在性能上接近套接字方式的同时,具有更好的实用性和透明性。 关键词“分布式”指出了该技术的核心概念...
《RabbitMQ实战高效部署分布式消息队列》这本书主要涵盖了RabbitMQ的使用、配置以及在分布式系统中的高效部署策略。RabbitMQ是一款开源的消息中间件,基于AMQP(Advanced Message Queuing Protocol)协议,广泛应用...
首先,文章介绍了消息队列的基本概念,它是由生产者发送消息到队列,然后由消费者从队列中取出并处理消息。消息队列的主要优点是解耦和负载均衡,它可以缓解系统间的直接依赖,提高系统的响应速度和稳定性。 接着,...
### 消息队列实现C#进程间通信 ...以上内容详细介绍了如何在C#中使用微软消息队列(MSMQ)实现进程间通信,包括创建和操作队列、发送和接收消息等核心操作。这种机制非常适合需要异步通信、高可靠性的场景。
在描述中提到的"做得比较简单,但是基本实现了功能"可能意味着作者实现了一个基本的消息队列通信示例,可能包含了上述的基本步骤,但可能没有涉及更复杂的功能,如并发处理、事务支持或者错误重试机制。 综上所述,...
本篇文章将详细介绍C#编程语言中与MSMQ相关的知识点,并结合提供的“C#MSMQ 消息队列工具”进行深入探讨。 1. **MSMQ基本概念** MSMQ是一个基于标准的消息传递协议,允许应用程序在不可靠或网络不稳定的情况下可靠...
Handler通常与Looper关联,Looper是一个消息循环,负责从消息队列中取出消息并分发给相应的Handler进行处理。 接着,我们看如何在子线程中创建消息队列。默认情况下,每个Android线程都有自己的Looper,但主线程的...
本篇将详细介绍如何在PHP中利用Redis这一高效内存数据结构存储服务来构建消息队列,以处理高并发请求。 首先,理解消息队列的基本概念。消息队列是一种异步处理机制,它允许应用程序将任务放入队列,而无需等待其...
在窗口编程中,队列也常用于消息处理,每个窗口系统都会有一个消息队列,存储待处理的消息,按照FIFO原则进行处理。 通过学习和实践这个简单的队列程序,初学者能够掌握数据结构的基础知识,并逐步进阶到更复杂的...
本知识点将会详细介绍Linux消息队列的概念、工作原理、以及如何在代码中实现一个简单的消息队列。涉及到的关键概念有互斥锁(mutex)、信号量(semaphore)和环形缓冲区(ring buffer)。 首先,消息队列可以被看作...