你的位置:首页 > Java教程

[Java教程]redis单机及其集群的搭建


一、单机版redeis

 

1.安装包下载

  http://download.redis.io/releases/ 下载redis的压缩包,并放在/usr/soft文件夹下

2.解压压缩包:

 tar -zxf redis-3.0.7.tar.gz 

3.安装

  这里安装redis在/usr/local/redis文件夹中

  进入安装包:cd /usr/soft/redis-3.0.7,执行命令

make PREFIX=/usr/local/redis/ install

 安装成功后

redis.conf是redis的配置文件,redis.conf在redis源码目录。注意修改port作为redis进程的端口,port默认6379。

4.在安装目录中创建目录conf,将redis源安装文件中的redis.cinf拷贝到redis的安装目录中

 cp /usr/soft/redis-3.0.7/redis.conf /usr/local/redis/bin/

5.redis启动

  直接运行./redis-server 是前台启动,在关闭运行的窗口后redis也将关闭

为了关闭窗口后不关闭redis,需要使用后台启动

5.1修改redis.conf的daemonize的no为yes

 使用以下命令启动

./redis-server redis.conf 

 6.检测redis是否运行正常

  6.1使用 ps -ef|grep redis 查看进程

  6.2使用redis的客户端查看

      

     当输入ping命令时,返回PONG就表示连接正常

7.通过jedis连接redis单机

 需要的依赖

<dependency>  <groupId>redis.clients</groupId>  <artifactId>jedis</artifactId>  <version>2.7.0</version></dependency>

可以使用以下代码测试

  /**   * jedis测试 单机版   */  @Test  public void testJedisSingle(){    Jedis jedis = new Jedis("192.168.198.130", 6379);    jedis.set("test", "this i a test");    String str = jedis.get("test");    System.out.println("---:"+str);    //关闭jedis的链接    jedis.close();  }    /**   * 使用连接池   */  @Test  public void testJedisPool(){    JedisPool jedisPool = new JedisPool("192.168.198.130", 6379);    Jedis jedis = jedisPool.getResource();    String str = jedis.get("test");    System.out.println("---:"+str);    jedis.close();  }

8. jedis与spring整合

 添加配置文件applicationContext-jedis.

<?"1.0" encoding="UTF-8"?><beans "http://www.springframework.org/schema/beans"  ="http://www.springframework.org/schema/context" "http://www.springframework.org/schema/p"  ="http://www.springframework.org/schema/aop" "http://www.springframework.org/schema/tx"  ="http://www.w3.org/2001/"  xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-4.0.xsd  http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-4.0.xsd  http://www.springframework.org/schema/aop http://www.springframework.org/schema/aop/spring-aop-4.0.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx-4.0.xsd  http://www.springframework.org/schema/util http://www.springframework.org/schema/util/spring-util-4.0.xsd">  <!-- 读取jedis配置文件; 这里可以不用配置,-dao已经配置了扫描配置文件 -->  <!-- <context:property-placeholder location="classpath:/properties/*.properties"/> -->  <!-- 连接池配置 -->  <bean id="jedisPoolConfig" class="redis.clients.jedis.JedisPoolConfig">    <!-- 最大连接数 -->    <property name="maxTotal" value="30" />    <!-- 最大空闲连接数 -->    <property name="maxIdle" value="10" />    <!-- 每次释放连接的最大数目 -->    <property name="numTestsPerEvictionRun" value="1024" />    <!-- 释放连接的扫描间隔(毫秒) -->    <property name="timeBetweenEvictionRunsMillis" value="30000" />    <!-- 连接最小空闲时间 -->    <property name="minEvictableIdleTimeMillis" value="1800000" />    <!-- 连接空闲多久后释放, 当空闲时间>该值 且 空闲连接>最大空闲连接数 时直接释放 -->    <property name="softMinEvictableIdleTimeMillis" value="10000" />    <!-- 获取连接时的最大等待毫秒数,小于零:阻塞不确定的时间,默认-1 -->    <property name="maxWaitMillis" value="1500" />    <!-- 在获取连接的时候检查有效性, 默认false -->    <property name="testOnBorrow" value="true" />    <!-- 在空闲时检查有效性, 默认false -->    <property name="testWhileIdle" value="true" />    <!-- 连接耗尽时是否阻塞, false报异常,ture阻塞直到超时, 默认true -->    <property name="blockWhenExhausted" value="false" />  </bean>    <!--jedis客户端单机版 -->   <bean id="redisClient" class="redis.clients.jedis.JedisPool">    <constructor-arg name="host" value="${JEDIS_HOST}"></constructor-arg>    <constructor-arg name="port" value="6379"></constructor-arg>    <constructor-arg name="poolConfig" ref="jedisPoolConfig"></constructor-arg>  </bean>   <bean id="redisClientDao" class="com.taotao.rest.dao.impl.JedisClientSingle"></bean> <!--定义自己定义的jedis工具类--></beans>

测试

  /**   * 结合spring的redis单机版测试   */  @Test  public void testSpringSingle(){    ApplicationContext context = new ClassPath"classpath:/spring/applicationContext-*.");    JedisPool jedisPool = (JedisPool)context.getBean("redisClient");    Jedis jedis = jedisPool.getResource();    jedis.set("key1", "1111");    String str = jedis.get("key1");    System.out.println("--:"+str);    jedis.close();    jedisPool.close();  }

这里可是自己封装一个工具类

package com.taotao.rest.dao.impl;import org.springframework.beans.factory.annotation.Autowired;import redis.clients.jedis.Jedis;import redis.clients.jedis.JedisPool;import com.taotao.rest.dao.JedisClient;/** * 在配置文件中注解 * * @author Administrator * */public class JedisClientSingle implements JedisClient {  @Autowired  private JedisPool jedisPool;  @Override  public String get(String key) {    Jedis jedis = jedisPool.getResource();    String str = jedis.get(key);    jedis.close();    return str;  }  @Override  public String set(String key, String value) {    Jedis jedis = jedisPool.getResource();    String str = jedis.set(key, value);    jedis.close();    return str;  }  @Override  public String hget(String hkey, String key) {    Jedis jedis = jedisPool.getResource();    String str = jedis.hget(hkey, key);    jedis.close();    return str;  }  @Override  public Long hset(String hkey, String key, String value) {    Jedis jedis = jedisPool.getResource();    Long result = jedis.hset(hkey, key, value);    jedis.close();    return result;  }  @Override  public long incr(String key) {    Jedis jedis = jedisPool.getResource();    Long result = jedis.incr(key);    jedis.close();    return result;  }  @Override  public long expire(String key, int seconds) {    Jedis jedis = jedisPool.getResource();    Long result = jedis.expire(key, seconds);    jedis.close();    return result;  }  @Override  public long ttl(String key) {    Jedis jedis = jedisPool.getResource();    Long result = jedis.ttl(key);    return result;  }  @Override  public long del(String key) {    Jedis jedis = jedisPool.getResource();    Long result = jedis.del(key);    return result;  }  @Override  public long hdel(String hkey, String key) {    Jedis jedis = jedisPool.getResource();    Long result = jedis.hdel(hkey, key);    return result;  }}

 

 二、集群版redis搭建

1.1. 集群原理

1.1.1. redis-cluster架构图

 

架构细节:

(1)所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽.

(2)节点的fail是通过集群中超过半数的节点检测失效时才生效.

(3)客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可

(4)redis-cluster把所有的物理节点映射到[0-16383]slot上,cluster 负责维护node<->slot<->value

Redis 集群中内置了 16384 个哈希槽,当需要在 Redis 集群中放置一个 key-value 时,redis 先对 key 使用 crc16 算法算出一个结果,然后把结果对 16384 求余数,这样每个 key 都会对应一个编号在 0-16383 之间的哈希槽,redis 会根据节点数量大致均等的将哈希槽映射到不同的节点

1.1.2. redis-cluster投票:容错

 

(1)领着投票过程是集群中所有master参与,如果半数以上master节点与master节点通信超过(cluster-node-timeout),认为当前master节点挂掉.

(2):什么时候整个集群不可用(cluster_state:fail)? 

    a:如果集群任意master挂掉,且当前master没有slave.集群进入fail状态,也可以理解成集群的slot映射[0-16383]不完成时进入fail状态. ps : redis-3.0.0.rc1加入cluster-require-full-coverage参数,默认关闭,打开集群兼容部分失败.

    b:如果集群超过半数以上master挂掉,无论是否有slave集群进入fail状态.

   ps:当集群不可用时,所有对集群的操作做都不可用,收到((error) CLUSTERDOWN The cluster is down)错误

2.安装ruby环境

redis集群管理工具redis-trib.rb依赖ruby环境,首先需要安装ruby环境:

 

安装ruby

 

yum install rubyyum install rubygems

 

安装ruby和redis的接口程序(需要安装文件redis-3.0.0.gem)

 

拷贝redis-3.0.0.gem至/usr/local下

 

执行:

 

gem install /usr/local/redis-3.0.0.gem

3.集群节点的规划

这里在同一台服务器用不同的端口表示不同的redis服务器,如下:

主节点:192.168.198.130:7001 192.168.198.130:7002 192.168.198.130:7003

从节点:192.168.198.130:7004 192.168.198.130:7005 192.168.198.130:7006

在/usr/local下创建redis-cluster目录,其下创建7001、7002。。7006目录,如下

 

 

将redis安装目录bin下的文件拷贝到每个700X目录内,同时修改每个的redis.conf中的端口为7001-7006,同时释放出redis.conf中的注释的

 同时将redis源码目录src下的redis-trib.rb拷贝到redis-cluster目录下

 

[root@localhost redis-cluster]# cp /usr/soft/redis-3.0.7/src/redis-trib.rb /usr/local/redis-cluster/

 

使用后台启动的方式启动每个redis

执行redis-trib.rb,此脚本是ruby脚本,它依赖ruby环境

 

./redis-trib.rb create --replicas 1 192.168.198.130:7001 192.168.198.130:7002 192.168.198.130:7003 192.168.198.130:7004 192.168.198.130:7005 192.168.198.130:7006  //集群中redis的ip和脚本

启动成功后如下图

如果执行时报如下错误:

[ERR] Node XXXXXX is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0

解决方法是删除生成的配置文件nodes.conf,如果不行则说明现在创建的结点包括了旧集群的结点信息,需要删除redis的持久化文件后再重启redis,比如:appendonly.aof、dump.rdb

使用客户端进行链接测试

其中-c表示要链接到集群 必须使用这个参数 


查看集群状态信息

4.添加主节点
下面添加7007为master主节点

修改redis.conf中的端口为7007,并启动7007
运行命令
./redis-trib.rb add-node 192.168.198.130:7007 192.168.198.130:7001

运行成功结果

查看情况

5.hash槽重新分配
从上图我们可以看到7007还没有分配槽
5.1连接上集群
./redis-trib.rb reshard 192.168.198.130:7001(连接集群中任意一个可用结点都行)

 5.2第二步:输入要分配的槽数量


  输入 500表示要分配500个槽

5.3第三步:输入接收槽的结点id

这里准备给7007分配槽,通过cluster nodes查看7007结点id为15b809eadae88955e36bcdbb8144f61bbbaf38fb

输入:15b809eadae88955e36bcdbb8144f61bbbaf38fb

 

5.4第四步:输入源结点id

这里输入all

 

5.5第五步:输入yes开始移动槽到目标结点id

 

分配成功后可以查看对应的信息

 

 

6.添加从节点

集群创建成功后可以向集群中添加节点,下面是添加一个slave从节点。添加7008从结点,将7008作为7007的从结点。

./redis-trib.rb add-node --slave --master-id 主节点id 添加节点的ip和端口 集群中已存在节点ip和端口

执行命令(7007的id可以通过连接客户端使用cluster nodes查看)

 

./redis-trib.rb add-node --slave --master-id db786026ed607786d6db1aaab94fd73d1ac3c8f4 192.168.198.130:7008 192.168.198.130:7001

 

注意:如果原来该结点在集群中的配置信息已经生成cluster-config-file指定的配置文件中(如果cluster-config-file没有指定则默认为nodes.conf),这时可能会报错:

[ERR] Node XXXXXX is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0

解决方法是删除生成的配置文件nodes.conf,删除后再执行./redis-trib.rb add-node指令

 

查看分配情况

7.删除节点

  ./redis-trib.rb del-node 节点的ip:端口  节点id

这是删除会报错,需要将该结点占用的hash槽分配出去(参考hash槽重新分配章节)

 

8.java测试

@Test  public void testJedisCluster(){    HashSet<HostAndPort> nodes = new HashSet<HostAndPort>();    nodes.add(new HostAndPort("192.168.198.130", 7001));    nodes.add(new HostAndPort("192.168.198.130", 7002));    nodes.add(new HostAndPort("192.168.198.130", 7003));    nodes.add(new HostAndPort("192.168.198.130", 7004));    nodes.add(new HostAndPort("192.168.198.130", 7005));    nodes.add(new HostAndPort("192.168.198.130", 7006));    JedisCluster cluster = new JedisCluster(nodes);    cluster.set("jedisClusterKey", "hello_world");    String str = cluster.get("jedisClusterKey");    System.out.println("---:"+str);    //关闭连接    cluster.close();  }

 

使用spring

<?  ="http://www.springframework.org/schema/context"   ="http://www.springframework.org/schema/aop"   ="http://www.w3.org/2001/  xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-4.0.xsd  http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-4.0.xsd  http://www.springframework.org/schema/aop http://www.springframework.org/schema/aop/spring-aop-4.0.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx-4.0.xsd  http://www.springframework.org/schema/util http://www.springframework.org/schema/util/spring-util-4.0.xsd">  <!-- 读取jedis配置文件; 这里可以不用配置,-dao已经配置了扫描配置文件 -->  <!-- <context:property-placeholder location="classpath:/properties/*.properties"/> -->  <!-- 连接池配置 -->  <bean id="jedisPoolConfig" class="redis.clients.jedis.JedisPoolConfig">    <!-- 最大连接数 -->    <property name="maxTotal" value="30" />    <!-- 最大空闲连接数 -->    <property name="maxIdle" value="10" />    <!-- 每次释放连接的最大数目 -->    <property name="numTestsPerEvictionRun" value="1024" />    <!-- 释放连接的扫描间隔(毫秒) -->    <property name="timeBetweenEvictionRunsMillis" value="30000" />    <!-- 连接最小空闲时间 -->    <property name="minEvictableIdleTimeMillis" value="1800000" />    <!-- 连接空闲多久后释放, 当空闲时间>该值 且 空闲连接>最大空闲连接数 时直接释放 -->    <property name="softMinEvictableIdleTimeMillis" value="10000" />    <!-- 获取连接时的最大等待毫秒数,小于零:阻塞不确定的时间,默认-1 -->    <property name="maxWaitMillis" value="1500" />    <!-- 在获取连接的时候检查有效性, 默认false -->    <property name="testOnBorrow" value="true" />    <!-- 在空闲时检查有效性, 默认false -->    <property name="testWhileIdle" value="true" />    <!-- 连接耗尽时是否阻塞, false报异常,ture阻塞直到超时, 默认true -->    <property name="blockWhenExhausted" value="false" />  </bean>    <bean id="redisClientClusterDao" class="com.taotao.rest.dao.impl.JedisClientCluster"></bean>  <!-- redis集群 -->  <bean id="redisCluster" class="redis.clients.jedis.JedisCluster">    <constructor-arg name="nodes">      <set>        <bean class="redis.clients.jedis.HostAndPort">          <constructor-arg name="host" value="192.168.198.130"></constructor-arg>          <constructor-arg name="port" value="7001"></constructor-arg>        </bean>        <bean class="redis.clients.jedis.HostAndPort">          <constructor-arg name="host" value="192.168.198.130"></constructor-arg>          <constructor-arg name="port" value="7002"></constructor-arg>        </bean>        <bean class="redis.clients.jedis.HostAndPort">          <constructor-arg name="host" value="192.168.198.130"></constructor-arg>          <constructor-arg name="port" value="7003"></constructor-arg>        </bean>        <bean class="redis.clients.jedis.HostAndPort">          <constructor-arg name="host" value="192.168.198.130"></constructor-arg>          <constructor-arg name="port" value="7004"></constructor-arg>        </bean>        <bean class="redis.clients.jedis.HostAndPort">          <constructor-arg name="host" value="192.168.198.130"></constructor-arg>          <constructor-arg name="port" value="7005"></constructor-arg>        </bean>        <bean class="redis.clients.jedis.HostAndPort">          <constructor-arg name="host" value="192.168.198.130"></constructor-arg>          <constructor-arg name="port" value="7006"></constructor-arg>        </bean>      </set>    </constructor-arg>    <constructor-arg name="poolConfig" ref="jedisPoolConfig"></constructor-arg>  </bean> </beans>

测试代码

  /**   * 结合spring的jedis集群版   */  @Test  public void testSpringJedisCluster(){    ApplicationContext context = new ClassPath);    JedisCluster jedisCluster = (JedisCluster)context.getBean(JedisCluster.class);    jedisCluster.set("key2", "3333");    String str = jedisCluster.get("key2");    System.out.println("--:"+str);    jedisCluster.close();  }

封装的工具类

package com.taotao.rest.dao.impl;import org.springframework.beans.factory.annotation.Autowired;import redis.clients.jedis.JedisCluster;import com.taotao.rest.dao.JedisClient;/** * 集群不用jedisCluster.close(); 否则下次不能连接 * @author Administrator * */public class JedisClientCluster implements JedisClient{  @Autowired  private JedisCluster jedisCluster;  @Override  public String get(String key) {    String str = jedisCluster.get(key);    return str;  }  @Override  public String set(String key, String value) {    String str = jedisCluster.set(key, value);    return str;  }  @Override  public String hget(String hkey, String key) {    return jedisCluster.hget(hkey, key);  }  @Override  public Long hset(String hkey, String key, String value) {    return jedisCluster.hset(hkey, key, value);  }  @Override  public long incr(String key) {    return jedisCluster.incr(key);  }  @Override  public long expire(String key, int seconds) {    return jedisCluster.expire(key, seconds);  }  @Override  public long ttl(String key) {    return jedisCluster.ttl(key);  }  @Override  public long del(String key) {    return jedisCluster.del(key);  }  @Override  public long hdel(String hkey, String key) {    return jedisCluster.hdel(hkey, key);  }}