`
96688huang
  • 浏览: 1889 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
社区版块
存档分类
最新评论

memcached 异常 : 单数据项超过默认值1m

阅读更多
    众所周知, Memcached 是一个高性能的分布式内存对象缓存系统,用于动态Web应用以减轻数据库负载。
最近自己开发的一个小网站 www.dmvcd.com 也使用上了它. 主要是用于保存动漫和漫画信息, 可以方便快速查询和搜索, 减少DB交互, 以提高搜索性能.
但是最近发生了异常, 虽然不会导致网站挂掉, 但是对数据方面还是有影响的. 异常信息如下:
[2015-05-24 11:36:46] ERROR ~ Error:  Too large.
[2015-05-24 11:36:46] INFO ~ Reconnection due to exception handling a memcached operation on {QA sa=localhost/127.0.0.1:11211, #Rops=1, #Wops=2, #iq=0, topRop=Cmd: 1 Opaque: 10 Key: source_comics_1_v1 Cas: 0 Exp: 3600 Flags: 3 Data Length: 1063648, topWop=Cmd: 1 Opaque: 10 Key: source_comics_1_v1 Cas: 0 Exp: 3600 Flags: 3 Data Length: 1063648, toWrite=786434, interested=5}. This may be due to an authentication failure.
OperationException: SERVER: Too large.
at net.spy.memcached.protocol.BaseOperationImpl.handleError(BaseOperationImpl.java:164)
at net.spy.memcached.protocol.binary.OperationImpl.getStatusForErrorCode(OperationImpl.java:211)
at net.spy.memcached.protocol.binary.OperationImpl.finishedPayload(OperationImpl.java:173)
at net.spy.memcached.protocol.binary.OperationImpl.readFromBuffer(OperationImpl.java:162)
at net.spy.memcached.MemcachedConnection.handleReads(MemcachedConnection.java:463)
at net.spy.memcached.MemcachedConnection.handleIO(MemcachedConnection.java:380)
at net.spy.memcached.MemcachedConnection.handleIO(MemcachedConnection.java:242)
at net.spy.memcached.MemcachedConnection.run(MemcachedConnection.java:833)
[2015-05-24 11:36:46] WARN ~ Closing, and reopening {QA sa=localhost/127.0.0.1:11211, #Rops=1, #Wops=2, #iq=0, topRop=Cmd: 1 Opaque: 10 Key: source_comics_1_v1 Cas: 0 Exp: 3600 Flags: 3 Data Length: 1063648, topWop=Cmd: 1 Opaque: 10 Key: source_comics_1_v1 Cas: 0 Exp: 3600 Flags: 3 Data Length: 1063648, toWrite=786434, interested=5}, attempt 0.
[2015-05-24 11:36:46] INFO ~ No buffer for current write op, removing
[2015-05-24 11:36:46] WARN ~ Discarding partially completed op: Cmd: 1 Opaque: 10 Key: source_comics_1_v1 Cas: 0 Exp: 3600 Flags: 3 Data Length: 1063648
[2015-05-24 11:36:48] INFO ~ Reconnecting {QA sa=localhost/127.0.0.1:11211, #Rops=0, #Wops=1, #iq=0, topRop=null, topWop=Cmd: 1 Opaque: 11 Key: source_comics_2_v1 Cas: 0 Exp: 3600 Flags: 1 Data Length: 58, toWrite=0, interested=0}

    从异常信息来看, 在保存数据到memcached时, 数据量过大 1063648 字节(超过了1m), 只写了 786434 字节), 导致部分数据没写成功. 初步怀疑是保存的数据量过大, 那么memcached应该是可以调整这个大小的 (因为我没有在启动memcached的参数中, 增加调整单据项大小的参数, 所以使用的还是memcached的默认值)
解决方案:
在memcached启动参数中, 调整单个数据项的最大值, 由默认值1m调整为2m: -I 2m

这里, 顺便把memcached的启动参数和状态作一个简单的记录, 以便以后查阅:

1. 参数说明(注意大小写):

-d 启动一个守护进程
-p是设置Memcache监听的端口,推荐1024以上的端口
-s <file>     用于监听的UNIX套接字路径(禁用网络支持)
-a <mask>     UNIX套接字访问掩码,八进制数字(默认:0700)
-m 分配给Memcache的最大内存数量,单位是MB,默认64MB
-t 线程数,默认为4

-c选项是最大运行的并发连接数,默认是1024
-f 块大小增长因子,默认是1.25
-n <bytes>最小分配空间,key+value+flags默认是48
-k锁定所有内存页。注意你可以锁定的内存上限。

-l 绑定的ip地址,可以设置内外网IP, 如果设置为外网IP, 则要注意安全隐患. 如果设置为127.0.0.1, 则只有本机能访问
-d start 启动memcached服务  
-d restart 重起memcached服务  
-d stop|shutdown 关闭正在运行的memcached服务  
-u 指定运行Memcache的用户,只有root用户才能使用这个参数

-v 提示信息(在事件循环中打印错误/警告信息。)
-vv 详细信息(还打印客户端命令/响应)
-vvv 超详细信息(还打印内部状态的变化)
-h 打印这个帮助信息并退出。
-i  打印memcached和libevent的许可。

-U <num> UDP监听端口 (默认: 11211, 0 时关闭)
-P 设置保存Memcache的pid文件, 需要与 -d 一起使用.
-M 内存耗尽时返回错误,而不是删除项  
-L 尝试使用大内存页(如果可用的话)。提高内存页尺寸可以减少"页表缓冲(TLB)"丢失次数,提高运行效率。  www.2cto.com 

              为了从操作系统获得大内存页,memcached会把全部数据项分配到一个大区块。
-D <char>     使用 <char> 作为前缀和ID的分隔符。
              这个用于按前缀获得状态报告。默认是":"(冒号)。
              如果指定了这个参数,则状态收集会自动开启;如果没指定,则需要用命令"stats detail on"来开启。
-R 每个连接可处理的最大请求数。
-C 禁用CAS。
-b 设置后台日志队列的长度,默认为1024
-B 绑定协议 - 可能值:ascii,binary,auto(默认)
-I 重写每个数据页尺寸。调整数据项最大尺寸, 默认为1m, 最小是1K,最大值128M

2. memcached 连接测试
telnet 127.0.0.1 11211
如果能连接上, 说明memcached运行正常, 如果要查看 memcached 运行状态, 则需要使用命令stats 来查看:

STAT pid 25587                             进程ID
STAT uptime 419763                         服务器运行秒数
STAT time 1432439858                       服务器当前unix时间戳
STAT version 1.4.4                         服务器版本
STAT pointer_size 64                       操作系统字大小(这台服务器是64位的)
STAT rusage_user 13.125004                 进程累计用户时间
STAT rusage_system 25.086186               进程累计系统时间
STAT curr_connections 11                   当前打开连接数
STAT total_connections 25                  曾打开的连接总数
STAT connection_structures 12              服务器分配的连接结构数
STAT cmd_get 134524                        执行get命令总数
STAT cmd_set 1081                          执行set命令总数
STAT cmd_flush 7                           指向flush_all命令总数
STAT get_hits 132495                       get命中次数
STAT get_misses 2029                       get未命中次数
STAT delete_misses 0                       delete未命中次数
STAT delete_hits 0                         delete命中次数
STAT incr_misses 0                         incr未命中次数
STAT incr_hits 0                           incr命中次数
STAT decr_misses 0                         decr未命中次数
STAT decr_hits 0                           decr命中次数
STAT cas_misses 0                          cas未命中次数
STAT cas_hits 0                            cas命中次数
STAT cas_badval 0                          使用擦拭次数
STAT auth_cmds 0
STAT auth_errors 0
STAT bytes_read 144972396                  读取字节总数
STAT bytes_written 4772215913              写入字节总数
STAT limit_maxbytes 67108864               分配的内存数(字节)
STAT accepting_conns 1                     目前接受的链接数
STAT listen_disabled_num 0               
STAT threads 4                             默认线程数
STAT conn_yields 0
STAT bytes 1155631                         存储item字节数
STAT curr_items 0                          item个数
STAT total_items 1081                      item总数
STAT evictions 0                           为获取空间删除item的总数

3. memcached 命中率:
memcached命中率= get_hits/cmd_get, 也可以是 命中率 = get_hits/(get_hits + get_misses). (我网站使用的memcached的命中率为 98.49%, 还可以. 呵呵...)


4. memcached启动参数使用举例:
/usr/bin/memcached -d -m 68 -u root -l 192.168.5.80 -p 11222 -c 256 -I 2m -P /tmp/memcached.pid 
分享到:
评论

相关推荐

    hibernate-memcached包

    **hibernate-memcached包** 是一个专为Hibernate框架设计的扩展,目的是将流行的分布式内存缓存系统Memcached整合到Hibernate中,作为其二级缓存解决方案。在大型分布式应用中,缓存技术是提高性能的关键,特别是...

    memcached安装及java应用使用memcached

    - **编译安装**:介绍如何配置、编译和安装memcached,包括依赖项的安装。 - **服务启动与管理**:如何启动、停止和监控memcached服务。 3. **Java客户端库**:介绍常用的Java库,如spymemcached、xmemcached等,...

    php memcached 缓存

    6. **缓存过期时间**: 存储数据时可以通过设置第三个参数为过期时间(秒),例如`Memcached::set('key', 'value', 3600)`,数据将在1小时后自动失效。 7. **分片存储**: `Memcached`扩展支持基于键的分片,这意味着...

    memcached命令

    5. **-m**:指定分配给memcached的最大内存数量(单位:MB),默认值为64MB。 - 示例:`-m 1024` 表示分配1GB内存给memcached使用。 6. **-M**:启用slab自动调整机制,当内存使用超过设定的阈值时,会尝试释放...

    spring整合memcached

    1. **添加依赖**:在项目中引入Memcached和Spring的对应依赖。如果你使用的是Maven,可以在pom.xml文件中添加如下依赖: ```xml &lt;groupId&gt;com.google.code.simple-spring-memcached&lt;/groupId&gt; &lt;artifactId&gt;...

    memcachedDemo:memcached学习程序

    Memcached 学习Memcached 运行Memcached命令的运行:/usr/local/memcached/bin/memcached -d -m 64M -u root -l 127.0.0.1 -p 11211 -c 256 -P /tmp/memcached.pid注意:如果使用自动安装 memcached 命令位于 /usr/...

    Cache-Memcached-AnyEvent:AnyEvent兼容的Memcached客户端

    Cache :: Memcached :: AnyEvent-AnyEvent兼容的Memcached客户端 概要 use Cache::Memcached::AnyEvent; my $memd = Cache::Memcached::AnyEvent-&gt;new({ servers =&gt; [ '127.0.0.1:11211' ], compress_threshold =...

    安装memcached出现异常

    ### 安装memcached出现异常:具体问题及解决方案 #### 一、问题概述 在安装memcached的过程中,可能会遇到各种各样的错误。其中一种常见的情况是,在启动memcached服务时出现错误提示:“error while loading ...

    memcached全套安装资料,memcached库,libevent库, C/C++ memcached 客户端库:libmemcached

    memcached 安装文件,libevent库, C/C++ memcached 客户端库:libmemcached 全套工具:libevent-1.3.tar.gz,memcached-1.2.2.tar.gz,libmemcached-0.42.tar.gz 测试通过的

    java_memcached-release_2.5.1.jar Memcache java jar 包

    1. **连接管理**:库提供了一种方式来建立和维护到Memcached服务器的连接。这通常涉及处理网络通信,如TCP/IP连接,以及处理连接池,以优化资源利用。 2. **缓存操作**:通过简单的API,开发者可以设置、获取、删除...

    java-memcached-2.6.6.jar

    java-memcached-2.6.6.jar

    memcached缓存安装配置.pptx

    3. `-m` 选项:指定 Memcached 使用的内存大小。 4. `-c` 选项:指定 Memcached 的连接数限制。 七、Memcached 的优点 1. 提高应用程序的性能:Memcached 可以加速动态 Web 应用程序中的数据访问速度。 2. 减少...

    Memcached内存分析、调优、集群.pptx

    3. Memcached命令:-m参数设置内存数量,-M参数禁止LRU,-n参数设置初始chunk大小,-f参数设置增长因子,-L参数启用大内存页。 4. Memcached统计信息:使用 stats 命令查看Memcached的统计信息。 Memcached内部机制...

    memcachedclient-2.0.1.jar

    memcachedclient-2.0.1.jar 之前在网上搜了很久没搜到,所以找到了跟大家分享

    catbox-memcached2:用于Catbox的Memcached适配器

    catbox-memcached2 用于Memcached适配器。 支持活动,时间超过30天,可以用于生产。 安装 npm install catbox-memcached2 ... 默认值1 retry -服务器出错时retry试延迟。 默认1000毫秒 idle从池中删

    memcached缓存数据库jar包

    **memcached缓存数据库jar包** `memcached`是一种高性能、分布式内存对象缓存系统,它广泛用于减轻数据库负载,提高Web应用的响应速度。它通过在内存中存储数据,提供快速的数据访问,从而减少了对数据库的直接访问...

    memcached+tomcat

    tomcat使用memcached保存session所需的jar包 tomcat版本:7.0.68 memcached版本:1.4.31 修改tomcat/conf/context.xml文件,增加如下内容: memcachedNodes="n1:192.168.1.107:11111 n2:192.168.1.108:11111" ...

    memcached集群linux搭建

    总结来说,构建Memcached集群并在Linux上实现淘宝月光宝盒架构是一项涉及多个步骤的任务,包括安装Memcached、配置集群、设置客户端以及部署和管理MoonBox架构。理解这些概念和技术对于优化大规模Web应用的性能至关...

    memcached144And145

    4、如果要修改 memcached 的配置项, 可以在命令行中执行 regedit.exe 命令打开注册表并找到 "HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\memcached" 来进行修改。 如果要提供 memcached 使用的缓存配置...

    memcached安装软件 libevent magent memcached

    1. 启动命令:`memcached -d -p 11211 -u root -m 64`,这里 `-p` 指定端口号,`-u` 指定运行用户,`-m` 设置内存大小。 2. 要检查服务是否运行,可以使用`ps aux | grep memcached`。 为了更方便地控制memcached,...

Global site tag (gtag.js) - Google Analytics