- 浏览: 1003539 次
- 性别:
- 来自: 杭州
文章分类
- 全部博客 (826)
- 硬件 (8)
- 软件 (24)
- 软件工程 (34)
- JAVA (229)
- C/C++/C# (77)
- JavaScript (8)
- PHP (1)
- Ruby (3)
- MySQL (14)
- 数据库 (19)
- 心情记事 (12)
- 团队管理 (19)
- Hadoop (1)
- spring (22)
- mybatis(ibatis) (7)
- tomcat (16)
- velocity (0)
- 系统架构 (6)
- JMX (8)
- proxool (1)
- 开发工具 (16)
- python (10)
- JVM (27)
- servlet (5)
- JMS (26)
- ant (2)
- 设计模式 (5)
- 智力题 (2)
- 面试题收集 (1)
- 孙子兵法 (16)
- 测试 (1)
- 数据结构 (7)
- 算法 (22)
- Android (11)
- 汽车驾驶 (1)
- lucene (1)
- memcache (12)
- 技术架构 (7)
- OTP-Erlang (7)
- memcached (17)
- redis (20)
- 浏览器插件 (3)
- sqlite (3)
- Heritrix (9)
- Java线程 (1)
- scala (0)
- Mina (6)
- 汇编 (2)
- Netty (15)
- libevent (0)
- CentOS (12)
- mongod (5)
- mac os (0)
最新评论
-
kingasdfg:
你这里面存在一个错误添加多个任务 应该是这样的 /** * ...
Quartz的任务的临时启动和暂停和恢复【转】 -
kyzeng:
纠正一个错误,long型对应的符号是J,不是L。
Jni中C++和Java的参数传递 -
zhaohaolin:
抱歉,兄弟,只是留下作记录,方便学习,如果觉得资料不好,可以到 ...
netty的个人使用心得【转】 -
cccoooccooco:
谢谢!自己一直以为虚机得使用网线才可以与主机连接呢。。
主机网卡无网线连接与虚拟机通信 -
yuqilin001:
要转别人的东西,请转清楚点嘛,少了这么多类,误人子弟
netty的个人使用心得【转】
注:memcached可能简称mc,memcachedb可能简称mcdb
一、memcachedb是什么
mcdb是一款分布式键值持久存储系统,由新浪开源。mcdb基于mc协议,所以可以使用mc客户端直接使用,存储引擎方面使用Berkeley DB,支持主从复制模式。
二、memcachedb的应用场景
首先,我们从基本的数据存储的角度看mysql、memcached、memcachedb的区别和特点,当然它们肯定不只这点区别。
mc因为是非持久存储的,所以它的定位就是缓存。
而mcdb不是用来做缓存的,它是和mysql同个层次的东西。不一样的是,mcdb性能要比mysql高,而mysql检索功能比mcdb强。如果非要从缓存的角度看的话,那mc就是缓解mysql读压力,而mcdb则是缓解mysql写压力。
mcdb适合应用的场景:
1.浏览/点击/等统计,也可以局部代替mysql的count函数
2.标志,例如,JE的“我在干什么”功能
3.频繁写的地方,访客列表、评论之类的
之前,我写过的feed设计最大特点是使用mcdb来分散写压力,对sns来说动态产生太频繁了,全部写进mysql压力太大了,毕竟读/写1K和100K性能不是一样的,一台mcdb和一台mysql的成本不一样啊。。
虽然mcdb的方式比较简单,但是应用场合还是很丰富的,使用新产品要发散思维,充分发挥想象力~
不过重要的数据还是不建议使用,感觉还不是很放心。
三、安装
安装MemcacheDB之前需要安装Libevent和Berkeley Db
1.先安装libevent
下载地址: http://www.monkey.org/~provos/libevent/
tar zxvf libevent- 1.4 . 9 -stable.tar.gz
cd libevent-1.4 . 9 -stable
./configure
make
make install
tar zxvf libevent-1.4.9-stable.tar.gz
cd libevent-1.4.9-stable
./configure
make
make install
2.安装Berkeley Db
下载地址:http://www.oracle.com/technology/software/products/berkeley-db/index.html
tar xvzf db-4.7.25 .tar.gz
cd db-4.7 . 25 /
cd build_unix/
../dist/configure
make
make install
tar xvzf db-4.7.25.tar.gz
cd db-4.7.25/
cd build_unix/
../dist/configure
make
make install
安装完后,编辑/etc/ld.so.conf把
usr/local/lib
/usr/local/BerkeleyDB.4.7 /lib
usr/local/lib
/usr/local/BerkeleyDB.4.7/lib
3.安装memcachedb
下载地址:http://code.google.com/p/memcachedb/downloads/list
tar xvzf memcachedb-1.2 . 0 .tar.gz
cd memcachedb-X.Y.Z
./configure --enable-threads
make
make install
tar xvzf memcachedb-1.2.0.tar.gz
cd memcachedb-X.Y.Z
./configure --enable-threads
make
make install
4.创建数据保存点
mkdir /data/ 21201 -p
chown -R willko:wheel
mkdir /data/21201 -p
chown -R willko:wheel
四、使用
1.单机模式
memcachedb -u willko -p 21201 -d -r -H /data/ 21201 / -v >/data/ 21201 .log 2 >& 1
memcachedb -u willko -p 21201 -d -r -H /data/21201/ -v >/data/21201.log 2>&1
2.主从模式
memcachedb -p 21210 -d -r -u willko -H /data/21210_m -N -R 127.0 . 0.1 : 31210 -M
主服务器,用31210 来同步数据
memcachedb -p 21211 -d -r -u willko -H /data/21211_from_local_21210 -N -R 127.0 . 0.1 : 31211 -O 127.0 . 0.1 : 31210 -S
从服务器,主从模式-R是必须设置的。
memcachedb -p 21210 -d -r -u willko -H /data/21210_m -N -R 127.0.0.1:31210 -M
主服务器,用31210来同步数据
memcachedb -p 21211 -d -r -u willko -H /data/21211_from_local_21210 -N -R 127.0.0.1:31211 -O 127.0.0.1:31210 -S
从服务器,主从模式-R是必须设置的。
测试是否同步
[root @srv willko]# telnet 127.0 . 0.1 21210
Trying 127.0 . 0.1 ...
Connected to 127.0 . 0.1 .
Escape character is '^]' .
set yy 0 0 4
yyyy
STORED
get yy
VALUE yy 0 4
yyyy
END
[root@srv willko]# telnet 127.0.0.1 21210
Trying 127.0.0.1...
Connected to 127.0.0.1.
Escape character is '^]'.
set yy 0 0 4
yyyy
STORED
get yy
VALUE yy 0 4
yyyy
END
Java代码
[root @srv willko]# telnet 127.0 . 0.1 21211
Trying 127.0 . 0.1 ...
Connected to 127.0 . 0.1 .
Escape character is '^]' .
get yy
VALUE yy 0 4
yyyy
END
[root@srv willko]# telnet 127.0.0.1 21211
Trying 127.0.0.1...
Connected to 127.0.0.1.
Escape character is '^]'.
get yy
VALUE yy 0 4
yyyy
END
3.FYI:参数说明
Java代码
memcachedb 1.2 . 0
-p <num> TCP监听端口,默认是 21201
-U <num> UDP监听端口,默认是 0 ,也就是关闭。
-s <file> 使用socket通讯,参数是设置unix socket的路径,此通讯方式只能本地使用
-a <mask> unix socket文件的权限,默认是 0700
-l <ip_addr> 监听地址,默认是 INDRR_ANY
-d 以守护进程方式运行
-r maximize core file limit
-u <username> 以<username>启动,只有root才能使用,因为memcachedb不允许以root启动
-c <num> max simultaneous connections, default is 1024
-b <num> item size smaller than <num> will use fast memory alloc, default is 512B
-v 打印错误和警告信息
-vv 打印整个交互过程
-h print this help and exit
-i print license info
-P <file> 进程PID保存路径,只能在守护进程方式下使用
-t <num> 线程数,默认是4
--------------------BerkeleyDB Options-------------------------------
-m <num> in-memmory cache size of BerkeleyDB in megabytes, default is 64MB
-A <num> underlying page size in bytes, default is 4096 , (512B ~ 64KB, power-of-two)
-f <file> 数据文件名, 默认是 'data.db'
-H <dir> 数据保存目录,默认是 '/data1/memcachedb'
-B <db_type> 数据结构类型,有 'btree' 和 'hash' 两种. 默认是 'btree'
-L <num> log buffer size in kbytes, default is 32KB
-C <num> 每隔多少秒checkpoint, 设置为0 将实时写入硬盘, 默认是 5 分钟
-T <num> do memp_trickle every <num> seconds, 0 for disable, default is 30 seconds
-e <num> percent of the pages in the cache that should be clean, default is 60 %
-D <num> do deadlock detecting every <num> millisecond, 0 for disable, default is 100ms
-N 设置 DB_TXN_NOSYNC 标志来改善性能,但是牺牲事务的持久性。默认为 关闭
--------------------Replication Options-------------------------------
-R 主服务器提供同步数据的地址和端口,主从模式必须设置
-O 从服务器同步源地址和端口
-M/-S 以主或从服务器启动
-n 允许从服务器数量, 默认是2 台
-----------------------------------------------------------------------
memcachedb 1.2.0
-p <num> TCP监听端口,默认是 21201
-U <num> UDP监听端口,默认是 0,也就是关闭。
-s <file> 使用socket通讯,参数是设置unix socket的路径,此通讯方式只能本地使用
-a <mask> unix socket文件的权限,默认是 0700
-l <ip_addr> 监听地址,默认是 INDRR_ANY
-d 以守护进程方式运行
-r maximize core file limit
-u <username> 以<username>启动,只有root才能使用,因为memcachedb不允许以root启动
-c <num> max simultaneous connections, default is 1024
-b <num> item size smaller than <num> will use fast memory alloc, default is 512B
-v 打印错误和警告信息
-vv 打印整个交互过程
-h print this help and exit
-i print license info
-P <file> 进程PID保存路径,只能在守护进程方式下使用
-t <num> 线程数,默认是4
--------------------BerkeleyDB Options-------------------------------
-m <num> in-memmory cache size of BerkeleyDB in megabytes, default is 64MB
-A <num> underlying page size in bytes, default is 4096, (512B ~ 64KB, power-of-two)
-f <file> 数据文件名, 默认是 'data.db'
-H <dir> 数据保存目录,默认是 '/data1/memcachedb'
-B <db_type> 数据结构类型,有 'btree' 和 'hash'两种. 默认是 'btree'
-L <num> log buffer size in kbytes, default is 32KB
-C <num> 每隔多少秒checkpoint, 设置为0将实时写入硬盘, 默认是5分钟
-T <num> do memp_trickle every <num> seconds, 0 for disable, default is 30 seconds
-e <num> percent of the pages in the cache that should be clean, default is 60%
-D <num> do deadlock detecting every <num> millisecond, 0 for disable, default is 100ms
-N 设置 DB_TXN_NOSYNC 标志来改善性能,但是牺牲事务的持久性。默认为 关闭
--------------------Replication Options-------------------------------
-R 主服务器提供同步数据的地址和端口,主从模式必须设置
-O 从服务器同步源地址和端口
-M/-S 以主或从服务器启动
-n 允许从服务器数量, 默认是2台
-----------------------------------------------------------------------
关于-C和-N选项涉及到数据完整性,会在下面会说明一下
五、备份和恢复
1.热备份
因为memcachedb是基于bdb的,所以可以用bdb自带的热备份工具备份
Java代码
[root @srv willko]# /usr/local/BerkeleyDB. 4.7 /bin/db_hotbackup -h /data/ 21201 / -b ./bak/
-h是数据的目录
-b是备份的目录
[root@srv willko]# /usr/local/BerkeleyDB.4.7/bin/db_hotbackup -h /data/21201/ -b ./bak/
-h是数据的目录
-b是备份的目录
恢复的话,启动memcacedb的数据目录设置成备份目录就可以了
2.单机模式crash恢复
bdb的事务处理和很多事物引擎相似,都是先写日志,数据先保存在内存。所以crash以后,可以通过日志来恢复。启动memcachedb的时候,可以使用-C选项来设置checkpoint的间隔时间,如果设置得太长,恢复时间越长。
/usr/local/BerkeleyDB. 4.7 /bin/db_recover -cf -h /data/ 21201 /
-h是你的数据目录
/usr/local/BerkeleyDB.4.7/bin/db_recover -cf -h /data/21201/
-h是你的数据目录
模拟crash
[root @srv willko]# memcachedb -u willko -p 21201 -d -r -H /data/
21201 / -v >/data/ 21201 .log 2 >& 1 -P /data/ 21201 / 21201
.pid
[root@srv willko]# telnet localhost 21201
Trying 127.0 . 0.1 ...
Connected to localhost.
Escape character is '^]' .
set t 0 0 4
hhhh #设置键为t,值为hhhh的
STORED
get t
VALUE t 0 4
hhhh
END
quit
Connection closed by foreign host.
[root@srv willko]# kill - 9 `cat /data/ 21201 / 21201 .pid ` #用- 9 来模拟crash
[root@srv willko]# /usr/local/BerkeleyDB. 4.7 /bin/db_recover -cf -h /data/ 21201 /
recovery 100 % complete
[root@srv willko]# memcachedb -u willko -p 21201 -d -r -H /data/ 21201 /
-v >/data/ 21201 .log 2 >& 1 -P /data/ 21201 / 21201 .pid
[root@srv willko]# telnet localhost 21201
Trying 127.0 . 0.1 ...
Connected to localhost.
Escape character is '^]' .
get t
VALUE t 0 4
hhhh #还可以获得crash前设置的值
END
quit
Connection closed by foreign host.
[root@srv willko]#
[root@srv willko]# memcachedb -u willko -p 21201 -d -r -H /data/21201/
-v >/data/21201.log 2>&1 -P /data/21201/21201.pid
[root@srv willko]# telnet localhost 21201
Trying 127.0.0.1...
Connected to localhost.
Escape character is '^]'.
set t 0 0 4
hhhh #设置键为t,值为hhhh的
STORED
get t
VALUE t 0 4
hhhh
END
quit
Connection closed by foreign host.
[root@srv willko]# kill -9 `cat /data/21201/21201.pid ` #用-9来模拟crash
[root@srv willko]# /usr/local/BerkeleyDB.4.7/bin/db_recover -cf -h /data/21201/
recovery 100% complete
[root@srv willko]# memcachedb -u willko -p 21201 -d -r -H /data/21201/
-v >/data/21201.log 2>&1 -P /data/21201/21201.pid
[root@srv willko]# telnet localhost 21201
Trying 127.0.0.1...
Connected to localhost.
Escape character is '^]'.
get t
VALUE t 0 4
hhhh #还可以获得crash前设置的值
END
quit
Connection closed by foreign host.
[root@srv willko]#
3.主从模式的crash恢复
主从模式下可以考虑启用-N选项来提高性能,如果不是用-N,日志是实时写到硬盘,这也是为什么crash以后可以通过日志恢复的原因。
但是如果使用-N来提高性能是有代价的,也就是日志不实时写硬盘,那crash以后无法保证完全恢复,没写入硬盘的数据无法通过日志恢复。但是如果你做了主从模式,那就无需担心,因为当事务提交以后,会马上同步到slave。
也就是说使用-N选项后,crash后通过slave来恢复。
六、一点抱怨
目前,持久存储系统产品非常的多,我觉得未来的持久存储肯定不只提供hash table存储,还应该把加入list、tree等的支持。这些都可以扩大持久存储系统的应用场景,未来持久存储系统成熟的时候,将会大规模代替RMDB。
最近,有个亮点产品出现,叫redis,目前还只是beta。
参考资料:
http://memcachedb.org/
http://memcachedb.org/memcachedb-guide-1.0.pdf
发表评论
-
XMemcached使用 [转]
2012-02-05 23:11 1326Xmemcached 一、 XMemcached ... -
在CentOS 5.6上编译安装Memcached
2012-02-05 23:10 890首先上一个memcached原理图,让不了解memcached ... -
memcachedb应用:编译以及安装【转】
2011-04-26 21:25 881memcachedb跟memcache一样,网络socket数 ... -
[转]memcachedb 压力测试及调优【转】
2011-04-26 21:00 793一.需求: 我们希望找 ... -
轻量级持久存储系统 MemcacheDB (转载)
2011-04-26 19:53 825注:memcached可能简称mc,memcachedb可能简 ... -
MemcacheDB, Tokyo Tyrant, Redis performance test 性能测试【转】
2011-04-25 20:10 1129ming1016@gmail.com ... -
memcachedb内网测试报告之一:全写全读报告
2011-04-25 16:31 879当然此测试环境中的各组件并没有经过任务优化配置,全是采用官网默 ... -
memcachedb 安装笔记【转】
2011-04-25 16:11 9382010年06月18日 数据库 , 缓存系统 me ... -
Sina的开源项目:Memcachedb与NCache【转】
2011-04-25 15:21 1251http://hi.baidu.com/zeorliu/b ... -
初步测试memcachedb时碰到的问题
2011-04-25 15:18 1479今天在内网搭建memcachedb ... -
memcachedb应用指南一【转】
2011-04-25 13:31 719memcachedb应用指南一:为 ... -
linux安装memcachedb服务【转】
2011-04-25 12:53 1261memcached是一个不错的分布式内存缓存系统,并且提供丰富 ... -
持久存储系统MemcacheDB的安装,配置 - [DB]【转】
2011-04-25 11:40 830memcachedb是什么 mcdb是一款分布式键值 ... -
memcachedb的缓存解决方案【转】
2011-04-25 11:37 644问题示例: 网站有千万个网页文件需要存储,占用空间大约有 ... -
memcachedb介绍、编译以及安装【转】
2011-04-25 10:51 482memcachedb 故名思义就是 ... -
试装memcachedb,整理了下安装过程【转】
2011-04-25 10:49 630文章作者:Enjoy 转载请注明原文链接。 ...
相关推荐
Memcachedb是一个轻量级、高性能的键值存储数据库系统,它基于著名的缓存服务软件Memcached,并加入了持久化存储的功能。这个名为"memcachedb-1.2.0.tar.gz"的压缩包包含了该版本的源代码及相关文件,是开发者研究和...
在NoSQL数据库领域,Memcachedb因其高效、轻量级的特性而被广泛应用。 ### Memcached介绍 Memcached是一款高性能、分布式内存对象缓存系统,用于减少数据库负载,提高网站性能。它的工作原理是将数据存储在内存中...
memcached是一个轻量级的、分布式的内存对象缓存系统,通过简单的协议和事件驱动机制实现高效的数据交换。它利用哈希算法分散数据,确保数据在多个节点间的快速访问。类似的系统如MemcacheDB,提供了持久化的存储...
总结来说,memcached作为一款高效、轻量级的缓存系统,通过在内存中存储数据,极大地提升了Web应用的响应速度。理解其工作原理和应用场景,并结合实际需求进行优化,可以帮助我们构建出更加流畅、高效的系统。
相比之下,Memcache是一款轻量级的、高性能的分布式内存对象缓存系统,它的特点是: 1. 集群支持:Memcache天生支持分布式,数据存储在多个服务器上,通过一致性哈希算法实现数据的分布和负载均衡。 2. 第三方持久...
Memcached是一款高效、轻量级的分布式内存缓存系统,由Danga Interactive公司的开发团队为LiveJournal设计并实现。它的主要目标是减轻数据库的负载,通过缓存数据和对象来提高动态Web应用的性能。Memcached的工作...
- **云存储**:为云环境下的动态数据存储提供了一个轻量级的解决方案。 - **Redis实际应用案例**:实际项目案例可以为读者提供宝贵的实践参考。 #### 1.3 初识Redis - **数据类型**:介绍Redis支持的五种基本数据...
ThinkPHP是一个轻量级的PHP开发框架,其缓存机制是为了提高Web应用性能而设计的。在Web开发中,缓存被广泛用于存储临时数据,以减少数据库查询和CPU的计算,从而提升响应速度和系统性能。 描述指出,在服务器安装了...