`

【pipeline】【分布式的id生成器】【分布式锁【watch】【multi】】【redis分布式】

 
阅读更多

转自 http://www.bwkeji.com/a/wangzhanjichu/kaifa/20120712/14824.html

 

一、 Pipeline 
官方的申明是:starts a pipeline,which is a very efficient way to send lots of command and read all the responses when you finish sending them。简单点说pipeline实用于批处理惩罚。当有多量的操纵须要一次性履行的时辰,可以用管道。 
示例: 
Jedis jedis = new Jedis(String, int); 
Pipeline p = jedis.pipelined(); 
p.set(key,value);//每个操纵都发送恳求给redis-server 
p.get(key,value); 

p.sync();//这段代码获取所有的response 
这里我进行了20w次连气儿操纵(10w读,10w写),不消pipeline耗时:187242ms,用pipeline耗时:1188ms,可见应用管道后的机能上了一个台阶。看了代码懂得到,管道经由过程一次性写入恳求,然后一次性读取响应。也就是说jedis是:request response,request response,...;pipeline则是:request request... response response的体式格式。如许无需每次恳求都守候server端的响应。 

二、 跨jvm的id生成器 
谈到这个话题,起首要知道redis-server端是单线程来处理惩罚client端的恳求的。 
如许来实现一个id生成器就很是简单了,只要简单的调用jdeis.incr(key);就搞定了。 
你或许会问,incr是原子操纵吗,能包管不会呈现并发题目吗,不是说了吗,server端是单线程处理惩罚恳求的。 

三、 【跨jvm的锁实现【watch】【multi】】 
起首说下这个题目的应用处景,有些时辰我们营业逻辑是在不合的jvm过程甚至是不合的物理机上的jvm处理惩罚的。如许如何来实现不合jvm上的同步题目呢,其实我们可以基于redis来实现一个锁。 
具体事务和请参考文章:redis进修笔记之事务 
临时找到三种实现体式格式: 
1. 经由过程jedis.setnx(key,value)实现 
     import java.util.Random; 
import org.apache.commons.pool.impl.GenericObjectPool.Config; 

import redis.clients.jedis.Jedis; 
import redis.clients.jedis.JedisPool; 
import redis.clients.jedis.Transaction; 

/** 
* @author Teaey 
*/ 
public class RedisLock { 
    //加锁标记 
    public static final String LOCKED = "TRUE"; 
    public static final long ONE_MILLI_NANOS = 1000000L; 
    //默认超不时候(毫秒) 
    public static final long DEFAULT_TIME_OUT = 3000; 
    public static JedisPool pool; 
    public static final Random r = new Random(); 
    //锁的超不时候(秒),过期删除 
    public static final int EXPIRE = 5 * 60; 
    static { 
        pool = new JedisPool(new Config(), "host", 6379); 
    } 
    private Jedis jedis; 
    private String key; 
    //锁状况标记 
    private boolean locked = false; 

    public RedisLock(String key) { 
        this.key = key; 
        this.jedis = pool.getResource(); 
    } 

    public boolean lock(long timeout) { 
        long nano = System.nanoTime(); 
        timeout *= ONE_MILLI_NANOS; 
        try { 
            while ((System.nanoTime() - nano) < timeout) { 
                if (jedis.setnx(key, LOCKED) == 1) { 
                    jedis.expire(key, EXPIRE); 
                    locked = true; 
                    return locked; 
                } 
                // 短少憩眠,nano避免呈现活锁 
                Thread.sleep(3, r.nextInt(500)); 
            } 
        } catch (Exception e) { 
        } 
        return false; 
    } 
    public boolean lock() { 
        return lock(DEFAULT_TIME_OUT); 
    } 

    // 无论是否加锁成功,必须调用 
    public void unlock() { 
        try { 
            if (locked) 
                jedis.del(key); 
        } finally { 
            pool.returnResource(jedis); 
        } 
    } 
}2. 经由过程事务(multi)实现 
因为采取第一张办法,第二种跟第三种实现只贴了关键代码,望谅解。^_^ 
     public boolean lock_2(long timeout) {        long nano = System.nanoTime(); 
        timeout *= ONE_MILLI_NANOS; 
        try { 
            while ((System.nanoTime() - nano) < timeout) { 
                Transaction t = jedis.multi(); 
                // 开启事务,当server端收到multi指令 
                // 会将该client的号令放入一个队列,然后依次履行,知道收到exec指令 
                t.getSet(key, LOCKED); 
                t.expire(key, EXPIRE); 
                String ret = (String) t.exec().get(0); 
                if (ret == null || ret.equals("UNLOCK")) { 
                    return true; 
                } 
                // 短少憩眠,nano避免呈现活锁 
                Thread.sleep(3, r.nextInt(500)); 
            } 
        } catch (Exception e) { 
        } 
        return false; 
    }3. 经由过程事务+实现 
    public boolean lock_3(long timeout) {        long nano = System.nanoTime(); 
        timeout *= ONE_MILLI_NANOS; 
        try { 
            while ((System.nanoTime() - nano) < timeout) { 
                jedis.watch(key); 
                // 开启watch之后,若是key的值被批改,则事务失败,exec办法返回null 
                String value = jedis.get(key); 
                if (value == null || value.equals("UNLOCK")) { 
                    Transaction t = jedis.multi(); 
                    t.setex(key, EXPIRE, LOCKED); 
                    if (t.exec() != null) { 
                        return true; 
                    } 
                } 
                jedis.unwatch(); 
                // 短少憩眠,nano避免呈现活锁 
                Thread.sleep(3, r.nextInt(500)); 
            } 
        } catch (Exception e) { 
        } 
        return false; 
    }终极采取第一种实现,因为加锁只需发送一个恳求,效力最高。 
四、 【redis分布式】 
    最后一个话题,jedis的分布式。在jedis的源码里发了然两种hash算法(MD5,MURMUR Hash(默认)),也可以本身实现redis.clients.util.Hashing接口扩大。 
    List<JedisShardInfo> hosts = new ArrayList<JedisShardInfo>();        //server1 
        JedisShardInfo host1 = new JedisShardInfo("", 6380, 2000); 
        //server2 
        JedisShardInfo host2 = new JedisShardInfo("", 6381, 2000); 
        hosts.add(host1); 
        hosts.add(host2); 
        ShardedJedis jedis = new ShardedJedis(hosts); 
        jedis.set("key", "");

分享到:
评论

相关推荐

    Jedis使用总结【pipeline】【分布式的id生成器】【分布式锁【watch】【multi】】【redis分布式】.docx

    本文将深入探讨Jedis在Pipeline、分布式ID生成器以及分布式锁(包括watch和multi命令)方面的应用,以帮助理解其在分布式环境中的高效操作。 ### 一、Pipeline批量处理 Pipeline是一种优化批量操作的技术,它允许...

    Python基于Scrapy-Redis分布式爬虫设计毕业源码(毕设项目).zip

    Python基于Scrapy-Redis分布式爬虫设计毕业源码(毕设项目).zip 该项目代码主要针对计算机、自动化等相关专业的学生从业者下载使用,项目代码都经过严格调试,确保可以运行!放心下载使用。 也可作为期末课程设计、...

    Python基于Scrapy-Redis分布式爬虫设计毕业源码案例设计完整

    程序采用 python 开发的 Scrapy 框架来开发,使用 Xpath 技术对下载的网页进行提取解析,运用 Redis 数据库做分布式, 设计并实现了针对当当图书网的分布式爬虫程序,scrapy-redis是一个基于redis的scrapy组件,...

    scrapy-redis分布式爬虫实现案例

    Scrapy-Redis是一个强大的工具,它扩展了Scrapy框架,使其能够处理分布式爬虫的场景。这个案例将向我们展示如何利用Scrapy-Redis在多台机器上部署爬虫,以实现高效的数据抓取。 首先,我们要理解Scrapy。Scrapy是一...

    redispipeLine

    Redis Pipeline 是 Redis 数据库操作中的一个高效特性,它允许客户端一次性发送多个命令到服务器,而无需等待每个命令的响应。这种技术显著提高了批量处理和高并发环境下的性能,因为减少了网络通信的开销。 首先,...

    分布式锁/信号量的实现方式:基于Redis、Zookeeper 、etcd 的分布式锁 确保在分布式环境中安全地访问共享资源

    下面将详细介绍基于Redis、Zookeeper以及etcd的分布式锁实现方式。 #### 二、基于Redis的分布式锁实现 Redis作为一款高性能的键值存储系统,非常适合用来实现分布式锁。以下是一个简单的示例代码: - **获取锁**...

    Python基于Scrapy-Redis分布式爬虫设计

    程序采用 python 开发的 Scrapy 框架来开发,使用 Xpath 技术对下载的网页进行提取解析,运用 Redis 数据库做分布式, 设计并实现了针对当当图书网的分布式爬虫程序,scrapy-redis是一个基于redis的scrapy组件,...

    毕业设计+Python基于Scrapy+Redis分布式爬虫设计+源码案例+Python + Scrapy + redis

    3. **分布式锁**:在多节点爬虫中,Redis可以实现分布式锁,避免同一URL被多个爬虫重复爬取。 4. **结果存储**:抓取的数据可以暂存于Redis,便于后期处理或直接分析。 在具体实施这个项目时,你需要了解以下几个...

    scrapy-redis 分布式爬虫demo 全站

    Scrapy-Redis是一个基于Scrapy和Redis的分布式爬虫框架,它将Scrapy的队列系统替换为Redis,使得爬虫可以跨多个机器并行工作,处理大规模的网络抓取任务。下面,我们将深入探讨Scrapy-Redis的核心概念、工作流程以及...

    毕业设计 - 基于Scrapy-Redis分布式爬虫设计(python)

    该组件本质上提供了三大功能: scheduler - 调度器 dupefilter - URL去重规则(被调度器使用) pipeline - 数据持久化 Scrapy是一个比较好用的Python爬虫框架,你只需要编写几个组件就可以实现网页数据的爬取。但是...

    springboot+websocket分布式实现

    2. 性能优化:考虑使用Redis的Pipeline或者Transaction来减少网络通信次数,提高性能。 3. 安全性:添加必要的安全措施,如使用SSL/TLS加密连接,防止中间人攻击,以及对用户身份验证和授权。 综上所述,...

    Python基于Scrapy-Redis分布式爬虫设计源码案例设计

    该组件本质上提供了三大功能: scheduler - 调度器 dupefilter - URL去重规则(被调度器使用) pipeline - 数据持久化 Scrapy是一个比较好用的Python爬虫框架,你只需要编写几个组件就可以实现网页数据的爬取。但是...

    Spring boot整合分布式缓存RedisSpring-redis-redission.zip

    Redis则是一种高性能的键值存储系统,常被用作分布式缓存,以提高应用程序的响应速度和处理能力。Redission是基于Redis的Java客户端,提供了丰富的数据结构支持以及分布式服务功能。现在我们将详细探讨如何在Spring ...

    基于Scrapy+Redis+Python + Scrapy + redis的分布式爬虫设计源码+项目说明.zip

    程序采用 python 开发的 Scrapy 框架来开发,使用 Xpath 技术对下载的网页进行提取解析,运用 Redis 数据库做分布式, 设计并实现了针对当当图书网的分布式爬虫程序,scrapy-redis是一个基于redis的scrapy组件,...

    Python基于Scrapy-Redis分布式爬虫设计源码案例设计.zip

    Python基于Scrapy-Redis分布式爬虫设计是一种高效的数据抓取技术,它结合了Python的Scrapy框架和Redis数据库,以实现大规模网站数据的并行抓取。Scrapy是一个功能强大的爬虫框架,而Redis则作为一个消息队列,帮助...

    基于Scrapy-redis的分布式爬虫Web平台

    **基于Scrapy-Redis的分布式爬虫Web平台详解** 在现代大数据时代,网络信息量呈爆炸性增长,单个爬虫处理数据的速度往往无法满足需求。此时,分布式爬虫技术应运而生,通过多台机器协同工作,提高了数据抓取的效率...

Global site tag (gtag.js) - Google Analytics