Redis单机及其集群的搭建 -

wx1569567608

浏览: 63932 次

最近访客更多访客>>

lyf7799

博主相关

博客

微博

相册

留言

关于我

文章分类

全部博客 (500)

社区版块

存档分类

2019-09 ( 500)
更多存档...

Redis单机及其集群的搭建

一、单机版redeis

1.安装包下载

http://download.redis.io/releases/ 下载redis的压缩包，并放在/usr/soft文件夹下

2.解压压缩包：

tar -zxf redis-3.0.7.tar.gz

3.安装

这里安装redis在/usr/local/redis文件夹中

进入安装包：cd /usr/soft/redis-3.0.7，执行命令

make PREFIX=/usr/local/redis/ install

安装成功后

redis.conf是redis的配置文件，redis.conf在redis源码目录。注意修改port作为redis进程的端口,port默认6379。

4.在安装目录中创建目录conf,将redis源安装文件中的redis.cinf拷贝到redis的安装目录中

cp /usr/soft/redis-3.0.7/redis.conf  /usr/local/redis/bin/

5.redis启动

直接运行./redis-server 是前台启动，在关闭运行的窗口后redis也将关闭

为了关闭窗口后不关闭redis，需要使用后台启动

5.1修改redis.conf的daemonize的no为yes

使用以下命令启动

./redis-server redis.conf

6.检测redis是否运行正常

6.1使用 ps -ef|grep redis 查看进程

6.2使用redis的客户端查看

当输入ping命令时，返回PONG就表示连接正常

7.通过jedis连接redis单机

需要的依赖

<dependency>
    <groupId>redis.clients</groupId>
    <artifactId>jedis</artifactId>
    <version>2.7.0</version>
</dependency>

可以使用以下代码测试

/**
     * jedis测试 单机版
     */
    @Test
    public void testJedisSingle(){
        Jedis jedis = new Jedis("192.168.198.130", 6379);
        jedis.set("test", "this i a test");
        String str  = jedis.get("test");
        System.out.println("---:"+str);
        //关闭jedis的链接
        jedis.close();
    }

    /**
     * 使用连接池
     */
    @Test
    public void testJedisPool(){
        JedisPool jedisPool = new JedisPool("192.168.198.130", 6379);
        Jedis jedis = jedisPool.getResource();
        String str = jedis.get("test");
        System.out.println("---:"+str);
        jedis.close();
    }

8. jedis与spring整合

添加配置文件applicationContext-jedis.xml

<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
    xmlns:context="http://www.springframework.org/schema/context" xmlns:p="http://www.springframework.org/schema/p"
    xmlns:aop="http://www.springframework.org/schema/aop" xmlns:tx="http://www.springframework.org/schema/tx"
    xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
    xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-4.0.xsd
    http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-4.0.xsd
    http://www.springframework.org/schema/aop http://www.springframework.org/schema/aop/spring-aop-4.0.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx-4.0.xsd
    http://www.springframework.org/schema/util http://www.springframework.org/schema/util/spring-util-4.0.xsd">
    <!-- 读取jedis配置文件； 这里可以不用配置，-dao已经配置了扫描配置文件 -->
    <!-- <context:property-placeholder location="classpath:/properties/*.properties"/> -->
    <!-- 连接池配置 -->
    <bean id="jedisPoolConfig">
        <!-- 最大连接数 -->
        <property name="maxTotal" value="30" />
        <!-- 最大空闲连接数 -->
        <property name="maxIdle" value="10" />
        <!-- 每次释放连接的最大数目 -->
        <property name="numTestsPerEvictionRun" value="1024" />
        <!-- 释放连接的扫描间隔（毫秒） -->
        <property name="timeBetweenEvictionRunsMillis" value="30000" />
        <!-- 连接最小空闲时间 -->
        <property name="minEvictableIdleTimeMillis" value="1800000" />
        <!-- 连接空闲多久后释放, 当空闲时间>该值 且 空闲连接>最大空闲连接数 时直接释放 -->
        <property name="softMinEvictableIdleTimeMillis" value="10000" />
        <!-- 获取连接时的最大等待毫秒数,小于零:阻塞不确定的时间,默认-1 -->
        <property name="maxWaitMillis" value="1500" />
        <!-- 在获取连接的时候检查有效性, 默认false -->
        <property name="testOnBorrow" value="true" />
        <!-- 在空闲时检查有效性, 默认false -->
        <property name="testWhileIdle" value="true" />
        <!-- 连接耗尽时是否阻塞, false报异常,ture阻塞直到超时, 默认true -->
        <property name="blockWhenExhausted" value="false" />
    </bean>    
    <!--jedis客户端单机版 -->
     <bean id="redisClient">
        <constructor-arg name="host" value="${JEDIS_HOST}"></constructor-arg>
        <constructor-arg name="port" value="6379"></constructor-arg>
        <constructor-arg name="poolConfig" ref="jedisPoolConfig"></constructor-arg>
    </bean>  
    <bean id="redisClientDao"></bean> <!--定义自己定义的jedis工具类-->
</beans>

测试

/**
     * 结合spring的redis单机版测试
     */
    @Test
    public void testSpringSingle(){
        ApplicationContext context = new ClassPathXmlApplicationContext("classpath:/spring/applicationContext-*.xml");
        JedisPool jedisPool = (JedisPool)context.getBean("redisClient");
        Jedis jedis = jedisPool.getResource();
        jedis.set("key1", "1111");
        String str = jedis.get("key1");
        System.out.println("--:"+str);
        jedis.close();
        jedisPool.close();
    }

这里可是自己封装一个工具类

package com.taotao.rest.dao.impl;

import org.springframework.beans.factory.annotation.Autowired;

import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPool;

import com.taotao.rest.dao.JedisClient;

/**
 * 在配置文件中注解
 * 
 * @author Administrator
 *
 */
public class JedisClientSingle implements JedisClient {

    @Autowired
    private JedisPool jedisPool;

    @Override
    public String get(String key) {
        Jedis jedis = jedisPool.getResource();
        String str = jedis.get(key);
        jedis.close();
        return str;
    }

    @Override
    public String set(String key, String value) {
        Jedis jedis = jedisPool.getResource();
        String str = jedis.set(key, value);
        jedis.close();
        return str;
    }

    @Override
    public String hget(String hkey, String key) {
        Jedis jedis = jedisPool.getResource();
        String str = jedis.hget(hkey, key);
        jedis.close();
        return str;
    }

    @Override
    public Long hset(String hkey, String key, String value) {
        Jedis jedis = jedisPool.getResource();
        Long result = jedis.hset(hkey, key, value);
        jedis.close();
        return result;
    }

    @Override
    public long incr(String key) {
        Jedis jedis = jedisPool.getResource();
        Long result = jedis.incr(key);
        jedis.close();
        return result;
    }

    @Override
    public long expire(String key, int seconds) {
        Jedis jedis = jedisPool.getResource();
        Long result = jedis.expire(key, seconds);
        jedis.close();
        return result;
    }

    @Override
    public long ttl(String key) {
        Jedis jedis = jedisPool.getResource();
        Long result = jedis.ttl(key);
        return result;
    }

    @Override
    public long del(String key) {
        Jedis jedis = jedisPool.getResource();
        Long result = jedis.del(key);
        return result;
    }

    @Override
    public long hdel(String hkey, String key) {
        Jedis jedis = jedisPool.getResource();
        Long result = jedis.hdel(hkey, key);
        return result;
    }

}

二、集群版redis搭建

1.1. 集群原理

1.1.1. redis-cluster架构图

架构细节:

(1)所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽.

(2)节点的fail是通过集群中超过半数的节点检测失效时才生效.

(3)客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可

(4)redis-cluster把所有的物理节点映射到[0-16383]slot上,cluster 负责维护node<->slot<->value

Redis 集群中内置了 16384 个哈希槽，当需要在 Redis 集群中放置一个 key-value 时，redis 先对 key 使用 crc16 算法算出一个结果，然后把结果对 16384 求余数，这样每个 key 都会对应一个编号在 0-16383 之间的哈希槽，redis 会根据节点数量大致均等的将哈希槽映射到不同的节点

1.1.2. redis-cluster投票:容错

(1)领着投票过程是集群中所有master参与,如果半数以上master节点与master节点通信超过(cluster-node-timeout),认为当前master节点挂掉.

(2):什么时候整个集群不可用(cluster_state:fail)?

a:如果集群任意master挂掉,且当前master没有slave.集群进入fail状态,也可以理解成集群的slot映射[0-16383]不完成时进入fail状态. ps : redis-3.0.0.rc1加入cluster-require-full-coverage参数,默认关闭,打开集群兼容部分失败.

b:如果集群超过半数以上master挂掉，无论是否有slave集群进入fail状态.

ps:当集群不可用时,所有对集群的操作做都不可用，收到((error) CLUSTERDOWN The cluster is down)错误

2.安装ruby环境

redis集群管理工具redis-trib.rb依赖ruby环境，首先需要安装ruby环境：

安装ruby

yum install ruby
yum install rubygems

安装ruby和redis的接口程序（需要安装文件redis-3.0.0.gem）

拷贝redis-3.0.0.gem至/usr/local下

执行：

gem install /usr/local/redis-3.0.0.gem

3.集群节点的规划

这里在同一台服务器用不同的端口表示不同的redis服务器，如下：

主节点：192.168.198.130:7001 192.168.198.130:7002 192.168.198.130:7003

从节点：192.168.198.130:7004 192.168.198.130:7005 192.168.198.130:7006

在/usr/local下创建redis-cluster目录，其下创建7001、7002。。7006目录，如下

将redis安装目录bin下的文件拷贝到每个700X目录内，同时修改每个的redis.conf中的端口为7001-7006，同时释放出redis.conf中的注释的

同时将redis源码目录src下的redis-trib.rb拷贝到redis-cluster目录下

[root@localhost redis-cluster]# cp /usr/soft/redis-3.0.7/src/redis-trib.rb /usr/local/redis-cluster/

使用后台启动的方式启动每个redis

执行redis-trib.rb，此脚本是ruby脚本，它依赖ruby环境

./redis-trib.rb create --replicas 1 192.168.198.130:7001 192.168.198.130:7002 192.168.198.130:7003 192.168.198.130:7004 192.168.198.130:7005  192.168.198.130:7006    //集群中redis的ip和脚本

启动成功后如下图

如果执行时报如下错误：

[ERR] Node XXXXXX is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0

解决方法是删除生成的配置文件nodes.conf，如果不行则说明现在创建的结点包括了旧集群的结点信息，需要删除redis的持久化文件后再重启redis，比如：appendonly.aof、dump.rdb

使用客户端进行链接测试

其中-c表示要链接到集群  必须使用这个参数 

查看集群状态信息

4.添加主节点
下面添加7007为master主节点

修改redis.conf中的端口为7007，并启动7007
运行命令

./redis-trib.rb add-node  192.168.198.130:7007 192.168.198.130:7001

运行成功结果

查看情况

5.hash槽重新分配 从上图我们可以看到7007还没有分配槽
5.1连接上集群

./redis-trib.rb reshard 192.168.198.130:7001（连接集群中任意一个可用结点都行）

5.2第二步：输入要分配的槽数量

输入 500表示要分配500个槽

5.3第三步：输入接收槽的结点id

这里准备给7007分配槽，通过cluster nodes查看7007结点id为15b809eadae88955e36bcdbb8144f61bbbaf38fb

输入：15b809eadae88955e36bcdbb8144f61bbbaf38fb

5.4第四步：输入源结点id

这里输入all

5.5第五步：输入yes开始移动槽到目标结点id

分配成功后可以查看对应的信息

6.添加从节点

集群创建成功后可以向集群中添加节点，下面是添加一个slave从节点。添加7008从结点，将7008作为7007的从结点。

./redis-trib.rb add-node –slave –master-id 主节点id 添加节点的ip和端口集群中已存在节点ip和端口

执行命令（7007的id可以通过连接客户端使用cluster nodes查看）

./redis-trib.rb add-node --slave --master-id db786026ed607786d6db1aaab94fd73d1ac3c8f4  192.168.198.130:7008 192.168.198.130:7001

注意：如果原来该结点在集群中的配置信息已经生成cluster-config-file指定的配置文件中（如果cluster-config-file没有指定则默认为nodes.conf），这时可能会报错：

[ERR] Node XXXXXX is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0

解决方法是删除生成的配置文件nodes.conf，删除后再执行./redis-trib.rb add-node指令

查看分配情况

7.删除节点

./redis-trib.rb del-node 节点的ip：端口节点id

这是删除会报错，需要将该结点占用的hash槽分配出去（参考hash槽重新分配章节）

8.java测试

@Test
    public void testJedisCluster(){
        HashSet<HostAndPort> nodes = new HashSet<HostAndPort>();
        nodes.add(new HostAndPort("192.168.198.130", 7001));
        nodes.add(new HostAndPort("192.168.198.130", 7002));
        nodes.add(new HostAndPort("192.168.198.130", 7003));
        nodes.add(new HostAndPort("192.168.198.130", 7004));
        nodes.add(new HostAndPort("192.168.198.130", 7005));
        nodes.add(new HostAndPort("192.168.198.130", 7006));
        JedisCluster cluster = new JedisCluster(nodes);
        cluster.set("jedisClusterKey", "hello_world");
        String str = cluster.get("jedisClusterKey");
        System.out.println("---:"+str);
        //关闭连接
        cluster.close();
    }

使用spring

<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
    xmlns:context="http://www.springframework.org/schema/context" xmlns:p="http://www.springframework.org/schema/p"
    xmlns:aop="http://www.springframework.org/schema/aop" xmlns:tx="http://www.springframework.org/schema/tx"
    xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
    xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-4.0.xsd
    http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-4.0.xsd
    http://www.springframework.org/schema/aop http://www.springframework.org/schema/aop/spring-aop-4.0.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx-4.0.xsd
    http://www.springframework.org/schema/util http://www.springframework.org/schema/util/spring-util-4.0.xsd">
    <!-- 读取jedis配置文件； 这里可以不用配置，-dao已经配置了扫描配置文件 -->
    <!-- <context:property-placeholder location="classpath:/properties/*.properties"/> -->
    <!-- 连接池配置 -->
    <bean id="jedisPoolConfig">
        <!-- 最大连接数 -->
        <property name="maxTotal" value="30" />
        <!-- 最大空闲连接数 -->
        <property name="maxIdle" value="10" />
        <!-- 每次释放连接的最大数目 -->
        <property name="numTestsPerEvictionRun" value="1024" />
        <!-- 释放连接的扫描间隔（毫秒） -->
        <property name="timeBetweenEvictionRunsMillis" value="30000" />
        <!-- 连接最小空闲时间 -->
        <property name="minEvictableIdleTimeMillis" value="1800000" />
        <!-- 连接空闲多久后释放, 当空闲时间>该值 且 空闲连接>最大空闲连接数 时直接释放 -->
        <property name="softMinEvictableIdleTimeMillis" value="10000" />
        <!-- 获取连接时的最大等待毫秒数,小于零:阻塞不确定的时间,默认-1 -->
        <property name="maxWaitMillis" value="1500" />
        <!-- 在获取连接的时候检查有效性, 默认false -->
        <property name="testOnBorrow" value="true" />
        <!-- 在空闲时检查有效性, 默认false -->
        <property name="testWhileIdle" value="true" />
        <!-- 连接耗尽时是否阻塞, false报异常,ture阻塞直到超时, 默认true -->
        <property name="blockWhenExhausted" value="false" />
    </bean>    
    <bean id="redisClientClusterDao"></bean>
    <!-- redis集群 -->
    <bean id="redisCluster">
        <constructor-arg name="nodes">
            <set>
                <bean>
                    <constructor-arg name="host" value="192.168.198.130"></constructor-arg>
                    <constructor-arg name="port" value="7001"></constructor-arg>
                </bean>
                <bean>
                    <constructor-arg name="host" value="192.168.198.130"></constructor-arg>
                    <constructor-arg name="port" value="7002"></constructor-arg>
                </bean>
                <bean>
                    <constructor-arg name="host" value="192.168.198.130"></constructor-arg>
                    <constructor-arg name="port" value="7003"></constructor-arg>
                </bean>
                <bean>
                    <constructor-arg name="host" value="192.168.198.130"></constructor-arg>
                    <constructor-arg name="port" value="7004"></constructor-arg>
                </bean>
                <bean>
                    <constructor-arg name="host" value="192.168.198.130"></constructor-arg>
                    <constructor-arg name="port" value="7005"></constructor-arg>
                </bean>
                <bean>
                    <constructor-arg name="host" value="192.168.198.130"></constructor-arg>
                    <constructor-arg name="port" value="7006"></constructor-arg>
                </bean>
            </set>
        </constructor-arg>
        <constructor-arg name="poolConfig" ref="jedisPoolConfig"></constructor-arg>
    </bean> 
</beans>

测试代码

/**
     * 结合spring的jedis集群版
     */
    @Test
    public void testSpringJedisCluster(){
        ApplicationContext context = new ClassPathXmlApplicationContext("classpath:/spring/applicationContext-*.xml");
        JedisCluster jedisCluster = (JedisCluster)context.getBean(JedisCluster.class);
        jedisCluster.set("key2", "3333");
        String str = jedisCluster.get("key2");
        System.out.println("--:"+str);
        jedisCluster.close();
    }

封装的工具类

package com.taotao.rest.dao.impl;

import org.springframework.beans.factory.annotation.Autowired;

import redis.clients.jedis.JedisCluster;

import com.taotao.rest.dao.JedisClient;

/**
 * 集群不用jedisCluster.close();  否则下次不能连接
 * @author Administrator
 *
 */
public class JedisClientCluster implements JedisClient{

    @Autowired
    private JedisCluster jedisCluster;
    @Override
    public String get(String key) {
        String str = jedisCluster.get(key);
        return str;
    }

    @Override
    public String set(String key, String value) {
        String str = jedisCluster.set(key, value);
        return str;
    }

    @Override
    public String hget(String hkey, String key) {
        return jedisCluster.hget(hkey, key);
    }

    @Override
    public Long hset(String hkey, String key, String value) {
        return jedisCluster.hset(hkey, key, value);
    }

    @Override
    public long incr(String key) {
        return jedisCluster.incr(key);
    }

    @Override
    public long expire(String key, int seconds) {
        return jedisCluster.expire(key, seconds);
    }

    @Override
    public long ttl(String key) {
        return jedisCluster.ttl(key);
    }

    @Override
    public long del(String key) {
        return jedisCluster.del(key);
    }

    @Override
    public long hdel(String hkey, String key) {
        return  jedisCluster.hdel(hkey, key);
    }
}

转载于:https://my.oschina.net/u/1780368/blog/687457

分享到：

git 回滚 | linux 下select的1024限制

2019-09-27 15:09
浏览 252
评论(0)
分类:互联网
查看更多

发表评论

您还没有登录,请您登录后再发表评论

最近访客更多访客>>

博主相关

文章分类

社区版块

存档分类

最新评论

Redis单机及其集群的搭建

一、单机版redeis

二、集群版redis搭建

1.1.1. redis-cluster架构图

评论

发表评论

相关推荐

最近访客 更多访客>>

博主相关

文章分类

社区版块

存档分类

最新评论

Redis单机及其集群的搭建

一、单机版redeis

二、集群版redis搭建

1.1.1. redis-cluster架构图

评论

发表评论

相关推荐

最近访客更多访客>>