Redis基本事务操作

redis单条命令保证原子性,但是事务不保证原子性!

在Redis中,事务是一组命令的集合,这些命令要么全部执行,要么全部不执行,保证了原子性。Redis使用MULTIEXECDISCARDWATCH命令来实现事务操作。

一个事务中的命令都会被序列化,在事务执行的过程中,会按照顺序执行!

一次性,顺序性,排他性,执行一系列的命令!

  • MULTI:用于开启一个事务块,之后的命令将被放入事务队列中等待执行。

  • EXEC:执行事务中的所有命令。

  • DISCARD:取消事务,清空事务队列中的所有命令。

  • WATCH:监视一个或多个键,如果在事务执行前这些键被其他命令所改动,事务将被打断。

下面是一个简单的事务操作示例:

1. MULTI
2. SET key1 "value1"
3. SET key2 "value2"
4. GET key1
5. GET key2
6. EXEC

在这个示例中,首先使用MULTI开启事务,然后依次向事务队列中添加了两个SET命令和两个GET命令,最后使用EXEC执行事务。在执行事务时,Redis会按照事务队列中的顺序执行命令,保证原子性。

Redis实现乐观锁

乐观锁是通过WATCH命令实现的,允许在事务执行前监视一个或多个键,以确保在执行时这些键没有被其他命令修改。

乐观锁实现步骤:

  1. 监视键: 使用 WATCH 命令监视一个或多个键。如果这些键在事务执行前被更改,事务将失败。

    WATCH key1
    
  2. 开启事务: 使用 MULTI 命令开始一个事务块,之后的命令会被排队。

    MULTI
    
  3. 执行命令: 向事务队列中添加命令,如 SETGET 等。

    SET key1 "new_value"
    
  4. 执行事务: 使用 EXEC 执行事务。如果在执行前监视的键被更改,EXEC 会返回 nil,表示事务失败。

    EXEC
    

示例代码:

WATCH key1
MULTI
SET key1 "new_value"
EXEC

在这个例子中,如果在 WATCHEXEC 之间,key1 被其他客户端修改,EXEC 将不执行事务命令,确保数据一致性。这样,通过 WATCH,Redis 实现了乐观锁的机制。

Redis实现悲观锁

悲观锁是一种悲观地认为数据会被其他事务修改的锁机制。在Redis中,可以通过使用SETNX命令来实现悲观锁。

悲观锁实现步骤:

  1. 获取锁:使用SETNX命令尝试获取锁,如果返回值为1表示获取锁成功,为0表示锁已被其他客户端持有。

    SETNX lock_key 1
    
  2. 设置锁的过期时间:为了避免锁被永久占用,可以为锁设置一个过期时间。

    EXPIRE lock_key 30
    
  3. 执行业务逻辑:在获取到锁之后,执行需要加锁保护的业务逻辑。

  4. 释放锁:业务逻辑执行完毕后,通过DEL命令释放锁。

    DEL lock_key
    

示例代码:

SETNX lock_key 1
EXPIRE lock_key 30
# 执行业务逻辑
DEL lock_key

在这个例子中,通过SETNX命令尝试获取锁,如果成功获取到锁,则设置锁的过期时间,执行业务逻辑,最后释放锁。这样,通过悲观锁的机制,可以保证在执行业务逻辑时数据不会被其他客户端修改。

jedis操作Redis

Jedis是一个Java语言的Redis客户端库,用于与Redis服务器进行交互。它提供了一组简单而直观的API,可以方便地进行Redis操作。

以下是使用Jedis实现操作Redis的详细步骤:

  1. 引入Jedis依赖:在项目的pom.xml文件中添加Jedis的依赖。

<dependency>
    <groupId>redis.clients</groupId>
    <artifactId>jedis</artifactId>
    <version>3.7.0</version>
</dependency>
  1. 创建Jedis实例:使用Jedis类的构造函数创建一个Jedis实例,指定Redis服务器的主机名和端口号。

Jedis jedis = new Jedis("localhost", 6379);
  1. 执行Redis命令:使用Jedis实例调用相应的方法执行Redis命令。

// 设置键值对
jedis.set("key", "value");

// 获取键对应的值
String value = jedis.get("key");

// 删除键
jedis.del("key");
  1. 关闭Jedis连接:在使用完Jedis实例后,需要调用close()方法关闭与Redis服务器的连接。

jedis.close();

通过以上步骤,就可以使用Jedis实现对Redis的操作。除了基本的键值对操作,Jedis还提供了丰富的方法用于操作Redis的各种数据结构,如列表、哈希、集合和有序集合等。

以下是Jedis常用的一些操作示例:

  • 列表操作:

// 在列表的左侧插入元素
jedis.lpush("list", "element1", "element2");

// 获取列表的长度
long length = jedis.llen("list");

// 获取列表指定范围内的元素
List<String> elements = jedis.lrange("list", 0, -1);
  • 哈希操作:

// 设置哈希字段的值
jedis.hset("hash", "field", "value");

// 获取哈希字段的值
String value = jedis.hget("hash", "field");

// 获取哈希中所有字段和值的映射关系
Map<String, String> hash = jedis.hgetAll("hash");
  • 集合操作:

// 向集合中添加元素
jedis.sadd("set", "element1", "element2");

// 判断元素是否存在于集合中
boolean exists = jedis.sismember("set", "element1");

// 获取集合中的所有元素
Set<String> elements = jedis.smembers("set");
  • 有序集合操作:

// 向有序集合中添加元素
jedis.zadd("sortedSet", 1.0, "element1");
jedis.zadd("sortedSet", 2.0, "element2");

// 获取有序集合指定范围内的元素
Set<String> elements = jedis.zrange("sortedSet", 0, -1);

// 获取有序集合中指定元素的排名
long rank = jedis.zrank("sortedSet", "element1");

Jedis实现事务

在Jedis中,可以通过Transaction类来实现事务操作。事务操作可以保证一系列的Redis命令要么全部执行,要么全部不执行,保证了原子性。以下是使用Jedis实现事务的详细步骤:

  1. 创建Jedis实例:首先需要创建一个Jedis实例,连接到Redis服务器。

Jedis jedis = new Jedis("localhost", 6379);
  1. 开启事务:使用multi()方法开启一个事务块,之后的命令会被放入事务队列中等待执行。

Transaction transaction = jedis.multi();
  1. 向事务队列中添加命令:通过Transaction对象调用相应的命令方法,向事务队列中添加需要执行的Redis命令。

transaction.set("key1", "value1");
transaction.set("key2", "value2");
  1. 执行事务:使用exec()方法执行事务,此时事务中的所有命令会被依次执行。

List<Object> results = transaction.exec();
  1. 处理事务执行结果exec()方法会返回一个List<Object>,包含了每个命令的执行结果。可以根据需要对执行结果进行处理。

for (Object result : results) {
    System.out.println("Transaction result: " + result);
}
  1. 关闭Jedis连接:在事务执行完毕后,记得关闭Jedis连接。

jedis.close();

通过以上步骤,就可以使用Jedis实现事务操作。在事务中,可以保证一系列的Redis命令的原子性执行,从而确保数据的一致性。在实际应用中,事务操作可以用于需要一系列操作具有原子性的场景,如账户转账、库存管理等。

Spring Boot集成Redis

Spring Boot提供了对Redis的集成支持,可以使用Lettuce作为Redis的客户端库。Lettuce是一个高性能的Redis客户端,支持异步和响应式编程模型。

以下是使用Spring Boot集成Redis并使用Lettuce的详细步骤:

  1. 添加依赖:在项目的pom.xml文件中添加Spring Boot和Lettuce的依赖。

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-data-redis</artifactId>
</dependency>

<dependency>
    <groupId>io.lettuce</groupId>
    <artifactId>lettuce-core</artifactId>
</dependency>
  1. 配置Redis连接信息:在application.properties或application.yml文件中配置Redis的连接信息。

spring.redis.host=localhost
spring.redis.port=6379
  1. 创建RedisTemplate Bean:在配置类中创建RedisTemplate Bean,用于操作Redis。

package com.kuang.config;

import com.fasterxml.jackson.annotation.JsonAutoDetect;
import com.fasterxml.jackson.annotation.PropertyAccessor;
import com.fasterxml.jackson.databind.ObjectMapper;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.data.redis.connection.RedisConnectionFactory;
import org.springframework.data.redis.core.RedisTemplate;
import org.springframework.data.redis.serializer.Jackson2JsonRedisSerializer;
import org.springframework.data.redis.serializer.StringRedisSerializer;

@Configuration
public class RedisConfig {

  @Bean
  @SuppressWarnings("all")
  public RedisTemplate<String, Object> redisTemplate(RedisConnectionFactory factory) {
      RedisTemplate<String, Object> template = new RedisTemplate<String, Object>();
      template.setConnectionFactory(factory);
      Jackson2JsonRedisSerializer jackson2JsonRedisSerializer = new Jackson2JsonRedisSerializer(Object.class);
      ObjectMapper om = new ObjectMapper();
      om.setVisibility(PropertyAccessor.ALL, JsonAutoDetect.Visibility.ANY);
      om.enableDefaultTyping(ObjectMapper.DefaultTyping.NON_FINAL);
      jackson2JsonRedisSerializer.setObjectMapper(om);
      StringRedisSerializer stringRedisSerializer = new StringRedisSerializer();

      // key采用String的序列化方式
      template.setKeySerializer(stringRedisSerializer);
      // hash的key也采用String的序列化方式
      template.setHashKeySerializer(stringRedisSerializer);
      // value序列化方式采用jackson
      template.setValueSerializer(jackson2JsonRedisSerializer);
      // hash的value序列化方式采用jackson
      template.setHashValueSerializer(jackson2JsonRedisSerializer);
      template.afterPropertiesSet();

      return template;
  }


}
  1. 使用RedisTemplate操作Redis:在需要使用Redis的地方注入RedisTemplate,并使用其方法操作Redis。

@Autowired
private RedisTemplate<String, Object> redisTemplate;

public void setValue(String key, Object value) {
    redisTemplate.opsForValue().set(key, value);
}

public Object getValue(String key) {
    return redisTemplate.opsForValue().get(key);
}

通过以上步骤,就可以在Spring Boot项目中集成Redis并使用Lettuce进行操作。可以使用RedisTemplate的各种方法来操作Redis的字符串、哈希、列表、集合和有序集合等数据结构。

Jedis和Lettuce

Jedis

  • 基于阻塞I/O:Jedis是一个基于阻塞I/O的Redis Java客户端库,它使用同步方式与Redis服务器进行通信,每个操作都会阻塞当前线程,直到操作完成。

  • 线程不安全:Jedis实例不是线程安全的,如果在多线程环境下共享同一个Jedis实例,需要使用连接池或者为每个线程创建独立的Jedis实例。

  • 连接池管理:Jedis需要通过连接池来管理Redis连接,连接池的配置和管理需要开发者自行处理。

  • 性能:在单线程环境下,Jedis的性能表现较好,但在高并发环境下可能存在性能瓶颈。

Lettuce

  • 基于非阻塞I/O:Lettuce是一个基于Netty的异步、非阻塞Redis Java客户端库,它使用异步方式与Redis服务器进行通信,可以提高系统的并发性能。

  • 线程安全:Lettuce实例是线程安全的,可以在多线程环境下共享同一个Lettuce实例而无需担心线程安全问题。

  • 连接池管理:Lettuce内置了连接池管理功能,开发者可以通过配置来灵活管理连接池,包括连接的创建、复用、超时等。

  • 性能:由于采用了异步、非阻塞的方式,Lettuce在高并发环境下表现更优秀,能够更好地利用系统资源。

总结

  • 选择建议:在高并发、多线程环境下,推荐使用Lettuce,它能够更好地适应并发场景,提供更好的性能表现。而在单线程、低并发环境下,Jedis也是一个不错的选择。

  • 异步支持:Lettuce支持异步操作,可以提高系统的并发能力,而Jedis是同步操作,可能会在高并发环境下出现性能瓶颈。

  • 连接管理:Lettuce内置了连接池管理功能,更加方便和灵活,而Jedis需要开发者自行管理连接池。

在Spring Boot中,从2.0版本开始,官方推荐使用Lettuce替代Jedis作为默认的Redis客户端。下面是一些使用Lettuce替代Jedis的原因:

  1. 性能更好:Lettuce是基于Netty的异步、非阻塞的Redis客户端,相比于Jedis的阻塞IO,Lettuce在高并发场景下具有更好的性能表现。

  2. 线程安全:Lettuce的连接是基于Netty的,可以在多个线程之间共享,而Jedis的连接是基于Socket的,不是线程安全的,需要使用连接池来管理连接。

  3. 可扩展性:Lettuce支持Redis Sentinel、Redis Cluster和Redis Pub/Sub等功能,而Jedis在这些方面的支持相对较弱。

  4. 更好的响应式编程支持:Lettuce提供了更好的响应式编程支持,可以与Spring WebFlux等响应式框架更好地集成。

  5. 更好的可配置性:Lettuce提供了更多的配置选项,可以更灵活地配置连接池、超时时间等参数。

Redis配置文件详解

Redis的配置文件通常命名为redis.conf,它包含了Redis服务器的各种配置选项,可以通过修改配置文件来调整Redis的行为和性能。

# Redis配置文件样例
 
# 单位注意事项:当需要内存大小时,可以指定,它以通常的形式 1k 5GB 4M 等等:
#
# 1k => 1000 bytes
# 1kb => 1024 bytes
# 1m => 1000000 bytes
# 1mb => 1024*1024 bytes
# 1g => 1000000000 bytes
# 1gb => 1024*1024*1024 bytes
#
# 单位不区分大小写,所以 1GB 1Gb 1gB 都是一样的
 
 
 
############################### INCLUDES(包含) ##############################
#这在你有标准配置模板但是每个redis服务器又需要个性设置的时候很有用。等同import导入
# include /path/to/local.conf
# include /path/to/other.conf
 
 
 
 
############################## GENERAL(通配)##################################
 
# 是否在后台执行,yes:后台运行;no:不是后台运行(老版本默认)
daemonize no
 
 
# 当Redis以上述守护进程方式运行时,Redis默认会把进程文件写入/var/run/redis.pid文件
pidfile /var/run/redis.pid
 
 
# 是否开启保护模式。如配置里没有指定bind和密码。开启该参数后,redis只允许本地访问,拒绝外部访问
# 要是开启了密码和bind,可以开启。否则最好关闭,设置为no。
protected-mode yes
 
 
# Redis监听端口号,默认为6379,如果指定0端口,表示Redis不监听TCP连接
port 6379
 
 
# 只允许来自bind指定网卡的Redis请求。如没有指定,则可以接受来自任意一个网卡的Redis请求
# bind 127.0.0.1
 
 
#配置unix socket来让redis支持监听本地连接。
# unixsocket /var/run/redis/redis.sock
 
 
#配置unix socket使用文件的权限
# unixsocketperm 755
 
 
# 连接超时时间,单位秒;超过timeout,服务端会断开连接,为0则服务端不会主动断开连接,不能小于0
timeout 0
 
 
# tcp keepalive参数。如果设置不为0,就使用配置tcp的SO_KEEPALIVE值
# 使用keepalive有两个好处:
#  1) 检测挂掉的对端。降低中间设备出问题而导致网络看似连接却已经与对端端口的问题。
#  2) 在Linux内核中,设置了keepalive,redis会定时给对端发送ack。检测到对端关闭需两倍的设置值
tcp-keepalive 0
 
 
# 指定日志记录级别,四个级别:
# 1) debug:很多信息,方便开发、测试
# 2) verbose:许多有用的信息,但是没有debug级别信息多(默认)
# 3) notice:适当的日志级别,适合生产环境
# 4) warning:只记录非常重要/关键的消息
loglevel verbose
 
 
# 指定日志文件记录的位置。logfile “”:标准输出。则日志将会发送给/dev/null
logfile “”  
 
 
# 是否将日志输出到系统日志
# syslog-enabled no
 
 
# syslog的标识符。
# syslog-ident redis
 
 
# 日志的来源、设备;指定系统日志工具。必须是 USER 或介于 LOCAL0-LOCAL7 之间
# syslog-facility local0
 
 
# 数据库的数量,默认数据库为0。可通过”SELECT [index]“命令指定数据库
databases 16
 
 
 
 
 
########################### SNAPSHOTTING (快照方式)  ###########################
 
# 指定在多长时间内,有多少次更新操作,就将数据同步到数据文件,可以多个条件配合
# 注释掉“save”这一行配置项就可以让保存数据库功能失效
# 900秒(15分钟)内至少1个key值改变(则进行数据库保存--持久化) 
# 300秒(5分钟)内至少10个key值改变(则进行数据库保存--持久化) 
# 60秒(1分钟)内至少10000个key值改变(则进行数据库保存--持久化)
save 900 1
save 300 10
save 60 10000
 
 
# 当RDB持久化出现错误后,是否依然进行继续进行工作,yes:不能进行工作,no:可以继续进行工作
# 可以通过info中的rdb_last_bgsave_status了解RDB持久化是否有错误
stop-writes-on-bgsave-error yes
 
 
# 指定存储至本地数据库时是否压缩数据,耗cpu资源,默认为yes,Redis采用LZF压缩
# 如果为了节省CPU时间,可以关闭该选项,但会导致数据库文件变的巨大
rdbcompression yes
 
 
# 保存rdb文件时,是否进行错误检查校验。
# 从rdb格式的第五个版本开始,在rdb文件的末尾会带上CRC64的校验和。这跟有利于文件的容错性
# 但是在保存rdb文件的时候,会有大概10%的性能损耗,如果你追求高性能,可以关闭该配置。
rdbchecksum yes
 
 
# 指定本地数据库文件名(rdb文件的名称),默认值为dump.rdb
dbfilename dump.rdb
 
 
# 数据目录,数据库的写入会在这个目录。rdb、aof文件也会写在这个目录
# 指定本地数据库存放目录(dump.rdb文件存放目录),rdb、aof文件也会写在这个目录
# 注意,这里只能指定一个目录,不能指定文件名(文件名由上一个dbfilename配置项指定)
dir ./
 
 
 
 
 
############################# REPLICATION(主从复制) #############################
 
 
# 主从复制。使用slaveof从 Redis服务器复制一个Redis实例。注意,该配置仅限于当前slave有效
# 设置当本机为slav服务时,设置master服务的ip地址及端口,Redis启动时,自动从master进行数据同步
# slaveof <masterip> <masterport>
 
 
# 如master设置了requirepass密码,slave用此选项指定master认证密码
# 下文的“requirepass”配置项可以指定密码
# masterauth <master-password>
 
 
# 从库同主机失去连接或者复制正在进行,从机库的两种运行方式
# 当slave与master之间的连接断开或slave正在与master进行数据同步时,如果有slave请求
# 1) yes:slave仍然响应请求,此时可能有问题
# 2) no:slave会返回"SYNC with master in progress"错误信息。但INFO和SLAVEOF命令除外。
slave-serve-stale-data yes
 
 
# 作为从服务器,默认情况下是只读的(yes),可以修改成NO,用于写(不建议)。
slave-read-only yes
 
 
# 是否使用socket方式复制数据。目前redis复制提供两种方式,disk和socket。如果新的slave连上来或# 者重连的slave无法部分同步,就会执行全量同步,master会生成rdb文件。
# 有2种方式:
#   1) disk:master创建一个新的进程把rdb文件保存到磁盘,再把磁盘上的rdb文件传递给slave。
#   2) socket:master创建一个新的进程,直接把rdb文件以socket的方式发给slave。
# disk方式时,当一个rdb保存的过程中,多个slave都能共享这个rdb文件。
# socket方式就得一个个slave顺序复制。在磁盘速度缓慢,网速快的情况下推荐用socket方式。
repl-diskless-sync no
 
 
# diskless复制的延迟时间,防止设置为0。一旦复制开始
# 节点不会再接收新slave的复制请求直到下一个rdb传输。所以最好等待一段时间,等更多的slave连上来
repl-diskless-sync-delay 5
 
 
# slave根据指定的时间间隔向服务器发送ping请求。默认10秒。
# repl-ping-slave-period 10
 
 
# 复制连接超时时间。master和slave都有超时时间的设置。
# master检测到slave上次发送的时间超过repl-timeout,即认为slave离线,清除该slave信息。
# slave检测到上次和master交互的时间超过repl-timeout,则认为master离线。
# 需注意repl-timeout需设置一个比repl-ping-slave-period更大的值,不然会经常检测到超时。
# repl-timeout 60
 
 
# 是否禁止复制tcp链接的tcp nodelay参数,默认是no,即使用tcp nodelay。
# 如master设置了yes,在把数据复制给slave时,会减少包的数量和更小的网络带宽。
# 但这也可能带来数据的延迟。默认我们推荐更小的延迟,但在数据量传输很大的场景下,建议选择yes。
repl-disable-tcp-nodelay no
 
 
# 复制缓冲区大小,这是一个环形复制缓冲区,用来保存最新复制的命令。
# 这样在slave离线时,无需完全复制master的数据,如果可以执行部分同步,只需把缓冲区的部分数据复制# 给slave,就能恢复正常复制状态。缓冲区的大小越大,slave离线的时间可以更长,复制缓冲区只有在有
# slave连接的时候才分配内存。没有slave的一段时间,内存会被释放出来,默认1m。
# repl-backlog-size 5mb
 
 
# master没有slave一段时间会释放复制缓冲区的内存,repl-backlog-ttl设置该时间长度。单位为秒
# repl-backlog-ttl 3600
 
 
# 当master不可用,Sentinel会根据slave的优先级选举一个master。
# 最低的优先级的slave,当选master。而配置成0,永远不会被选举。
slave-priority 100
 
 
# master停止写入的方式,健康的slave的个数小于N,mater就禁止写入。master最少得有多少个健康的
# slave存活才能执行写命令。这个配置虽然不能保证N个slave都一定能接收到master的写操作,
# 但能避免没有足够健康的slave时,master不能写入来避免数据丢失。设置为0是关闭该功能。
# min-slaves-to-write 3
 
 
# 延迟小于min-slaves-max-lag 秒的slave才认为是健康的slave。
# min-slaves-max-lag 10
 
 
 
 
 
############################## SECURITY(安全) ################################
 
# 配置redis连接认证密码
# 如果配置了,则客户端在连接Redis时需通过auth <password>命令提供密码(默认关闭)
# 注意:因为redis太快了,每秒可认证15w次密码,简单的很容易被攻破,最好使用一个更复杂的密码
# requirepass foobared
 
 
 
# 把危险的命令给修改成其他名称。比如CONFIG命令可以重命名为一个很难被猜到的命令
# 这样用户不能使用,而内部工具还能接着使用。
# rename-command CONFIG b840fc02d524045429941cc15f59e41cb7be6c52
 
 
# 设置成一个空的值,可以禁止一个命令
# rename-command CONFIG ""
 
 
 
 
################################ LIMITS(限制)#################################
 
# 设置连上redis的最大客户端连接数量。默认10000。设置0表示不作限制。
# 超出此数,Redis会关闭新的连接并向客户端返回max Number of clients reached错误
# redis不区分连接是客户端连接还是内部打开文件或和slave连接等,故maxclients最小建议设置到32
# maxclients 10000
 
 
# 指定Redis最大内存限制,Redis在启动时会把数据加载到内存中
# 当内存满了,配合maxmemory-policy策略进行处理
# 当此方法处理后,仍然到达最大内存设置,将无法再进行写入操作,但仍然可以进行读取操作。
# maxmemory <bytes>
 
 
# 内存容量超过maxmemory后的处理策略如下几种策略:
#  1) volatile-lru:只对设置过期时间的key进行LRU算法删除(默认)
#  2) allkeys-lru:删除不经常使用的key
#  3) volatile-random:随机删除即将过期的key
#  4) allkeys->random:随机删除一个key
#  5) volatile-ttl:删除即将过期的的key
#  6) noeviction:不移除任何key,对于写命令返回报错
# maxmemory-policy volatile-lru
 
#
 
# lru检测的样本数。
# 使用lru或ttl淘汰算法,从需要淘汰的列表中随机选择sample个key,选出闲置时间最长的key移除。
# maxmemory-samples 3
 
 
 
 
 
 
########################## APPEND ONLY MODE (附加模式) ###########################
 
 
# AOF持久化,指定是否在每次更新操作后进行日志记录,默认redis是异步(快照)的把数据写入本地磁盘
# redis默认使用的是rdb方式持久化,此方式在许多应用中已足够用。
# 但redis如果中途宕机,会导致可能有几分钟的数据丢失,按照上面save条件来策略进行持久化
# Append Only File是另一种持久化方式,可提供更好的持久化特性。
# Redis会把每次写入的数据在接收后都写入appendonly.aof 文件
# 每次启动时Redis都会先把这个文件的数据读入内存里,先忽略RDB文件。
appendonly no
 
 
# 指定aof文件名,默认为appendonly.aof
# appendfilename appendonly.aof
 
 
 
# AOF持久化三种同步策略:
#   1) no:不同步(不执行fsync),数据不会持久化
#   2) always:每次有数据发生变化时都会写入appendonly.aof(慢,安全)
#   3) everysec:每秒同步一次到appendonly.aof,可能会导致丢失这1s数据(折中选择,默认值)
appendfsync everysec
 
 
 
# 在AOF重写或写入rdb文件时,会执行大量IO
# 对于everysec和always的AOF模式来说,执行fsync会造成阻塞过长时间
# yes:表示rewrite期间对新写操作不fsync,暂时存在内存中,等rewrite完成后再写入
# 默认为no,建议yes。Linux的默认fsync策略是30秒。可能丢失30秒数据。
no-appendfsync-on-rewrite no
 
 
 
# AOF自动重写配置。当目前AOF文件大小超过上一次重写的aof文件大小的百分之多少进行重写
# 即当AOF文件增长到一定大小时,Redis能调用bgrewriteaof对日志文件进行重写。
# 当前AOF文件大小是上次日志重写得到AOF文件大小的二倍(设置为100)时,自动启动新的日志重写过程。
auto-aof-rewrite-percentage 100
 
 
# 设置允许重写的最小AOF文件大小,避免了达到约定百分比但尺寸仍然很小的情况还要重写
auto-aof-rewrite-min-size 64mb
 
 
 
#aof文件可能在尾部是不完整的,当redis启动的时候,aof文件的数据被载入内存。重启可能发生在redis所在的主机操作系统宕机后,尤其在ext4文件系统没有加上data=ordered选项(redis宕机或者异常终止不会造成尾部不完整现象。)出现这种现象,可以选择让redis退出,或者导入尽可能多的数据。如果选择的是yes,当截断的aof文件被导入的时候,会自动发布一个log给客户端然后load。如果是no,用户必须手动redis-check-aof修复AOF文件才可以。
aof-load-truncated yes
 
 
 
 
 
############################ LUA SCRIPTING(LUA 脚本) ###########################
 
# 如果达到最大时间限制(毫秒),redis会记个log,然后返回error。当一个脚本超过了最大时限。
# 只有SCRIPT KILL和SHUTDOWN NOSAVE可以用。第一个可以杀没有调write命令的东西。
# 要是已经调用了write,只能用第二个命令杀。
lua-time-limit 5000
 
 
 
 
############################ REDIS CLUSTER(Redis集群) ###########################
 
# 集群开关,默认是不开启集群模式。
# cluster-enabled yes
 
 
# 集群配置文件的名称,每个节点都有一个集群相关的配置文件,持久化保存集群的信息。
# 这个文件无需手动配置,这个配置文件有Redis生成并更新,每个Redis集群节点需要一个单独的配置文件,# 请确保与实例运行的系统中配置文件名称不冲突
# cluster-config-file nodes-6379.conf
 
 
# 节点互连超时的阀值。集群节点超时毫秒数
# cluster-node-timeout 15000
 
 
# 在进行故障转移时,全部slave会请求申请为master,有些slave可能与master断开连接一段时间了,
# 导致数据过于陈旧,这种slave不该提升为master。该参数判断slave与master断线的时间是否过长。
# 判断方法是:比较slave断开连接的时间和
#   (node-timeout * slave-validity-factor) + repl-ping-slave-period
# 如果节点超时时间为三十秒, 并且slave-validity-factor为10
# 假设默认的repl-ping-slave-period是10秒,即如果超过310秒slave将不会尝试进行故障转移 
# cluster-slave-validity-factor 10
 
 
# master的slave数量大于该值,slave才能迁移到其他孤立master上,如这个参数若被设为2,
# 那么只有当一个主节点拥有2 个可工作的从节点时,它的一个从节点会尝试迁移。
# cluster-migration-barrier 1
 
 
# 默认情况下,集群全部的slot有节点负责,集群状态才为ok,才能提供服务。
# 设置为no,可以在slot没有全部分配的时候提供服务。
# 不建议打开该配置,这样会造成分区时,小分区的master一直在接受写请求,而造成很长时间数据不一致。
# cluster-require-full-coverage yes
 
 
 
 
 
 
############################## SLOW LOG (慢日志)#############################
 
# slog log是用来记录redis运行中执行比较慢的命令耗时。
# 当命令的执行超过了指定时间,就记录在slow log中,slog log保存在内存中,所以没有IO操作。
# 执行时间比slowlog-log-slower-than大的请求记录到slowlog里面,单位是微秒
# 所以1000000就是1秒。注意,负数时间会禁用慢查询日志,而0则会强制记录所有命令。
slowlog-log-slower-than 10000
 
 
# 慢查询日志长度。当一个新的命令被写进日志时,最老的那个记录会被删掉。
# 这个长度没有限制。只要有足够的内存就行。你可以通过 SLOWLOG RESET 来释放内存。
slowlog-max-len 1024
 
 
 
 
 
############################ VIRTUAL MEMORY( 虚拟内存) ###########################
 
 
 
# 指定是否启用虚拟内存机制,默认no,
# VM机制将数据分页存放,由Redis将访问量较少的页即冷数据swap到磁盘上(内存占用多,最好关闭)
# 访问多的页面由磁盘自动换出到内存中
vm-enabled no
 
 
# 虚拟内存文件位置,默认值为/tmp/redis.swap,不可多个Redis实例共享
# Redis交换文件最好的存储是SSD(固态硬盘)
vm-swap-file /tmp/redis.swap
 
 
# redis使用的最大内存上限,保护redis不会因过多使用物理内存影响性能
# 将大于vm-max-memory的数据存入虚拟内存,但无论设置多少,所有索引数据都是内存存储的(即keys)
# 当vm-max-memory设置为0时,所有value都存在于磁盘。默认值为0
vm-max-memory 0
 
 
# Redis swap文件分成了很多的page,一个对象可以保存在多个page上面
# 但一个page上不能被多个对象共享,vm-page-size是要根据存储的数据大小来设定的。
# 建议:
#    如果存储很多小对象,page大小设置为32或64字节;
#    如果存储很大的对象,则可以使用更大的page,如果不确定,就使用默认值
# 每个页面的大小设置为32字节
vm-page-size 32
 
 
# 设置swap文件中页面数量
# 由于页表(一种表示页面空闲或使用的bitmap)是存放在内存中的,在磁盘上每8个页将消耗1byte的内存
# swap空间总容量为 vm-page-size * vm-pages
vm-pages 134217728
 
 
 
# 设置访问swap文件的线程数,最后不要超过机器的核数
# 如果设置为0,那么所有对swap文件的操作都是串行的,可能会造成比较长时间的延迟,默认值为4
vm-max-threads 4
 
 
 
 
############################ ADVANCED CONFIG(高级配置) ###########################
 
 
# 哈希表中元素(条目)总个数<=512个,采用ziplist,否则使用hash
hash-max-zipmap-entries 512   
 
# 哈希表中每个value的长度<=64字节时,采用ziplist,否则使用hash
hash-max-zipmap-value 64     
 
 
 
 
# list元素<=512个,采用ziplist,否则用linkedlist
list-max-ziplist-entries 512
 
# list内某个元素大小<=64字节时,采用ziplist,否则用linkedlist 
list-max-ziplist-value 64
 
 
 
 
# set内元素数量<=512个,且都是整数型值,采用inset,否则使用hashtable
set-max-intset-entries 512
 
 
 
# zset内元素数量<=128个,采用ziplist,否则用skiplist跳表 
zset-max-ziplist-entries 128
 
# zset内某个元素大小<=64字节时,采用ziplist,否则用skiplist跳表 
zset-max-ziplist-value 64
 
 
 
# value大小 <= hll-sparse-max-bytes使用稀疏数据结构(sparse)
# value大小 > hll-sparse-max-bytes使用稠密的数据结构(dense)。
# 一个比16000大的value是几乎没用的,建议的value大概为3000。
# 如果对CPU要求不高,对空间要求较高的,建议设置到10000左右。
hll-sparse-max-bytes 3000
 
 
# Redis将在每100毫秒时使用1毫秒的CPU时间来对redis的hash表进行重新hash,可以降低内存的使用。
# 当你的使用场景中,有非常严格的实时性需要,不能够接受Redis时不时的对请求有2毫秒的延迟的话
# 把这项配置为no。如果没有这么严格的实时性要求,可以设置为yes,以便能够尽可能快的释放内存。
# 指定是否激活重置哈希,默认为开启
activerehashing yes
 
 
 
# 对客户端输出缓冲进行限制,可以强迫那些不从服务器读取数据的客户端断开连接
# 用来强制关闭传输缓慢的客户端。
# 对于normal client,第一个0表示取消hard limit,第二个0和第三个0表示取消soft limit
# normal client默认取消限制,因为如果没有寻问,他们是不会接收数据的。
client-output-buffer-limit normal 0 0 0
 
 
# 对于slave client和 MONITER client,如果client-output-buffer一旦超过256mb
# 又或者超过64mb持续60秒,那么服务器就会立即断开客户端连接。
client-output-buffer-limit slave 256mb 64mb 60
 
 
# 对于pubsub client,如果client-output-buffer一旦超过32mb,又或者超过8mb持续60秒,
# 那么服务器就会立即断开客户端连接。
client-output-buffer-limit pubsub 32mb 8mb 60
 
 
# redis执行任务的频率为1s除以hz。
hz 10
 
 
# 在AOF重写时,如果打开了aof-rewrite-incremental-fsync开关,系统会每32MB执行一次fsync。
# 这对于把文件写入磁盘是有帮助的,可以避免过大的延迟峰值。
aof-rewrite-incremental-fsync yes
 

Redis 持久化详解

Redis 提供了多种持久化机制,以确保数据在重启或故障后的恢复。主要的持久化方式有 RDB(快照)和 AOF(追加文件)。这两种机制可以单独使用,也可以组合使用,以达到更高的数据安全性。

RDB(Redis DataBase)

RDB 是 Redis 的快照持久化方式。它会在指定的时间间隔内将数据库的状态保存为一个二进制文件。

RDB过程详解:

1.触发RDB生成:

触发 RDB 文件的生成有以下两种方式:

手动触发:通过执行 SAVE 或 BGSAVE 命令。

自动触发:基于 Redis 配置文件中的 save 指令设置的条件。(默认是通过 BGSAVE 命令来触发的)

redis 配置文件 save 指令设置: 
save 3600 1        # 3600秒内如果超过1个key被修改则生成 RDB
save 300 100       # 300秒内如果超过100个key被修改则生成 RDB
save 60 10000      # 60秒内如果超过10000个key被修改则生成 RDB

2.创建子进程:

当执行 BGSAVE 命令时,Redis 主进程(父进程)会执行 fork 操作来创建一个子进程。这是一个昂贵的操作,尤其当数据集很大时。但好处是,一旦 fork 完成,父进程可以立即返回处理其他客户端请求,而不需要等待 RDB 的生成过程。

这里涉及到操作系统级别的知识。当 fork 操作执行后,子进程会获得父进程内存中的数据副本。但由于操作系统使用写时复制(Copy-On-Write, COW)技术,任何在父进程(Redis主进程)上发生的写操作不会影响子进程中的数据。这确保了子进程中的数据是隔离的,不受父进程中数据更改的影响。

3.子进程生成RDB文件:

子进程将开始遍历整个数据集,将所有的数据写入一个新的临时RDB文件。这是一个纯I/O操作,并且是线性的,所以非常快。子进程不需要处理任何客户端请求,只专注于写 RDB 文件,所以效率很高。

注意 :线性指的是数据在磁盘上是连续写入的。

4.RDB文件替换

一旦子进程完成了新的 RDB 文件的写入,它会替换掉旧的 RDB 文件,并发送一个信号通知父进程任务完成。然后子进程退出。

RDB 的载入

当 Redis 重新启动时,如果配置为使用 RDB 持久化,它会查找 RDB 文件,并加载它。由于 RDB 文件是一个紧凑的二进制表示形式,数据加载非常快。

RDB 配置详解

Redis 默认是不会开启持久化选项的,只要重启 redis,redis 之前保存的数据都会丢失的。因此在实际的生产环境中,我们都会配置 Redis 的 RDB 配置。

redis.conf 中关于 RDB 的所有配置:

save <seconds> <changes>
stop-writes-on-bgsave-error
rdbcompression
rdbchecksum
sanitize-dump-payload
dbfilename
rdb-del-sync-files
dir

RDB 持久化的优缺点

  • 优点

    • 快速备份:RDB可以迅速为你创建一个数据的“快照”,这是一个备份文件,方便你存储或者迁移数据。

    • 启动快:当Redis重新启动时,RDB能帮助它更快速地加载数据,因为它直接读取一个完整的数据文件。

    • 节省空间:与其他持久化方式相比,RDB的文件大小通常较小,因为它是经过压缩的。

  • 缺点:

    • 可能丢数据:因为RDB只是不时地保存一次数据快照,如果在两次保存之间Redis出了问题,那中间的数据就可能会丢失。

    • 有时会卡:在数据很多的情况下,创建 RDB 文件时可能会使服务器短暂地感觉有些卡顿。

卡顿的原因:尽管 Redis 使用写时复制(Copy-On-Write, COW)技术来减少内存的复制,fork( ) 在大数据集上的调用仍然可能相当耗时。这是因为操作系统需要为子进程准备一个与父进程相同的虚拟内存空间。在这个准备过程中,即使不立即复制物理内存,操作系统也需要复制和设置父进程的页表,这在数据集很大时会占用相当一部分时间。fork( ) 的执行时间与服务器上的数据量大小成正比。因此在数据集较大时,fork 可能会有比较久的延迟才能返回,所以才造成的卡顿。

AOF(Append Only File)

AOF 就像是 Redis 的日记,记录了所有的写操作命令。

AOF 的工作原理

基本机制和流程

Redis 中的 AOF 持久化方式旨在持续地保存服务器上的所有修改操作。每当执行一个会改变数据的命令时,Redis 都会将该命令写入 AOF 文件中。这样,当 Redis 需要恢复数据时,只需执行 AOF 文件中的命令就可以恢复到原来的状态。

AOF 文件的生成

步骤说明:

AOF 持久化的实现主要是以上三步:命令追加、文件写入、文件同步

  • 命令追加: 将 redis 写操作命令追加到 aof_buf 缓冲区

  • 文件写入: 周期性地将 aof_buf 缓冲区的命令写入 AOF 文件的内核缓冲区。

  • 文件同步:根据配置同步策略,将 AOF 文件缓冲区的内容同步到磁盘。

其中文件同步策略 redis 提供了三种,分别是以下三种:

always:每次有命令写入时都立即同步。这提供了最高的数据安全性,但效率最低。

everysec:每秒同步一次。这是一个权衡安全性和效率的策略。最多只丢失 1 秒 的数据

no:让操作系统决定最佳的同步时间。这可能导致数据丢失,但提供了最高的效率。

AOF 文件的载入

当 Redis 服务器启动时,如果配置为使用 AOF 持久化,它会检查 AOF 文件的存在。如果找到 AOF 文件,Redis 会加载并执行其中的命令来恢复数据的。

这里顺带提个问题:假如 Redis 的 RDB 和 AOF 持久化都启用,redis 在载入数据的时候,是载入 AOF 文件?还是 RDB 文件?

Redis 会优先载入 AOF 文件来恢复数据,而不是 RDB 文件。这是因为 AOF 文件通常包含了更完整的操作记录,从而能够恢复更完整的数据状态。而 RDB 文件是定时生成的数据快照,所以它可能没有记录到最后一次快照之后发生的所有更改。因此,使用 AOF 文件恢复数据可以提供更高的数据完整性。

AOF 重写

在了解了 AOF 的工作原理之后,我们知道它是通过追加写操作命令到文件的方式来恢复数据的。但这会带来一个新的问题: 随着追加命令的不断增加,这个 AOF 文件可能会变得很大和冗长。面对这样的问题,Redis 提供了一个非常有效的优化手段,那就是 AOF 重写

AOF重写是什么?

AOF 重写,可以看作是对 AOF文件 进行的一次“精简”操作。它的目的是减少AOF文件的大小,并去除那些冗余的、不再必要的命令,使得该文件只包含恢复当前数据集所需的最小命令集。

为什么需要AOF重写?

  • 节省磁盘空间:随着操作的积累,原始AOF文件可能会变得非常大。通过重写,我们可以减少文件的大小。

  • 加速恢复速度:一个更小、更简洁的AOF文件意味着在Redis重启时,数据的恢复过程会更快。

AOF 重写流程图

步骤说明

AOF 重写主要有以下四步:

  • redis 主进程 fork 子进程来进行 AOF 的重写,生成 AOF 文件。

  • 在子进程进行 AOF 重写的同时,redis 主进程将新的写操作命令写入 AOF重写缓冲区

  • 主进程将 AOF 重写缓冲区的内容写入到新的 AOF 文件中

  • 使用新的 AOF 文件替换旧的 AOF 文件

这里思考一下:子进程 进行 AOF 重写,具体怎么重写,是根据现有的 AOF 文件进行重写还是其他方式?

子进程是通过读取 Redis 当前的内存数据来进行重写的。假如: redis 数据库存在列表键 List = [a,b,c,d,e,f,g,h] ,在旧的 AOF 文件中,可能有多个命令添加和删除这些元素。但在 AOF 重写时,子进程只需要看 List键 的当前状态,然后生成一个简短的命令,如 RPUSH List a b c d e f g h,直接设置正确的值,避免了任何冗余操作。

AOF 持久化的优缺点

  • 优点

    • 不轻易丢数据:AOF 记录了所有的写操作,所以即使服务器突然断电,数据丢失的机会也很小。

    • 易于理解:AOF是一个文本文件,里面就是一系列的命令,你可以打开查看。

    • 出问题也能救:如果 AOF 文件最后有点损坏,Redis 也能够修复它,避免大量数据丢失。

  • 缺点

    • 可能会慢一些:因为要不断写入操作,所以比 RDB 要慢一点。

    • 文件可能很大:AOF 会记录所有操作,所以文件可能迅速增大,占用更多空间。

    • 恢复时间长:如果需要从 AOF 文件中恢复数据,由于文件可能很大,所以这个过程可能会比较慢。

混合持久化

混合持久化是什么?

混合持久化是 Redis 4.0 新引入的持久化策略,结合了 RDB 的快速恢复和 AOF 的数据完整性的优点,它首先以 RDB 格式保存当前数据状态,然后继续以 AOF 格式记录新的写操作,确保数据完整性并优化恢复速度。

简单图解

混合持久化的工作原理

在 AOF 重写之前,RDB 和 AOF 都是按照它们各自的持久化策略工作的。当 AOF 重写被触发时,混合持久化才开始发挥作用:将当前的数据集会首先以RDB 格式写入新 AOF 文件的顶部,然后再追加新的命令到文件的末尾。

混合持久化的工作流程图

步骤说明

混合持久化的实现主要是靠主进程和子进程共同来完成的。

子进程:

子进程进行 AOF 重写:

  • 首先创建新的 AOF 文件 appendonly.rdb

  • 将 Redis 当前的数据生成 RDB 快照写入 appendonly.rdb 文件的开始部分

主进程

  • 主进程先将新的写操作命令写入 AOF 重写缓冲区
    -主进程将 AOF 重写缓冲区的内容追加到 appendonly.rdb

文件的 RDB 数据的末尾

  • 使用 appendonly.rdb 文件替换旧的 AOF 文件

混合持久化的配置

将 aof-use-rdb-preamble 选项设置为 yes,并且要同时启用 RDB 和 AOF 两种持久化。

混合持久化的 AOF 重写与普通的 AOF 重写的区别

在不使用混合持久化的情况下,普通的 AOF 重写是通过读取当前的内存数据并记录达到这一状态所需的最少命令来减少 AOF 文件的大小的。

而混合持久化在 AOF 重写时,会首先将当前数据集以 RDB 格式快照的形式写入新 AOF 文件的开始位置,然后再追加新的写命令到文件末尾。

混合持久化的优缺点

  • 优点

    • 更快的启动速度:混合持久化结合了RDB的速度优势,所以Redis可以更快地重新启动,不用等待很久。

    • 数据安全:利用AOF的方式,即使服务器突然断电,也只会丢失极短的时间内的数据。

    • 文件更小巧:因为混合持久化结合了 RDB 和 AOF 的优势,所以文件大小和冗余度都可以得到控制。

    • 两全其美:简单说,它就是RDB和AOF的结合体,带来了两者的好处。

  • 缺点

    • 稍微复杂:因为它结合了两种技术,所以处理起来比单一的 RDB 或 AOF 要复杂一点。

    • 可能占更多空间:在某些情况下,保存数据的文件可能会比只使用 RDB 或AOF 的文件要大一些。

    • 写入速度:可能会稍慢一些,特别是当数据需要经常被保存到硬盘时(比如当 appendfsync 配置为“always”时)

Redis 的三种持久化方式的优缺点以及使用场景详细的对比:

  • RDB 持久化以其高效的数据恢复速度和较小的性能开销脱颖而出,适合数据备份和灾难恢复场景。

  • AOF 持久化通过记录每个写操作确保了更高级别的数据安全性,尽管它可能导致文件体积增大和写入性能的轻微下降。

  • 混合持久化模式结合了 RDB 的快速数据恢复能力和 AOF 的数据安全性,提供了一种既快速又可靠的数据恢复解决方案。

持久化方式

优点

缺点

使用场景

RDB

1. 生成文件速度快。2. 恢复数据速度快。3. 磁盘空间占用少。

1. 数据丢失风险。2. 快照操作可能的性能下降。

1. 数据备份。2. 数据迁移。3. 灾难恢复时的快速数据恢复。

AOF

1. 提供更高的数据安全性。2. 记录实际操作命令(可读性好)。3. 可以自定义保存频率。

1. 文件可能较大。2. 数据恢复速度较慢。

数据安全性要求高的场合

混合持久化

提供了数据安全和更快的数据恢复速度。

维护两种文件格式,增加磁盘占用空间。

快速的数据恢复和高数据安全性的场景。

Redis发布订阅

Redis提供了发布订阅(Pub/Sub)功能,允许客户端订阅频道或模式,并接收发布到这些频道或模式的消息。发布订阅是一种消息传递模式,用于实现消息的广播和订阅。

基于频道的发布订阅

基于频道的发布订阅是最常见的形式,客户端可以订阅特定的频道,并接收发布到该频道的消息。以下是基于频道的发布订阅的示例:

  1. 订阅频道:客户端使用SUBSCRIBE命令订阅一个或多个频道。

SUBSCRIBE channel1
  1. 发布消息:另一个客户端使用PUBLISH命令向指定频道发布消息。

PUBLISH channel1 "Hello, subscribers!"
  1. 接收消息:订阅频道的客户端将会接收到发布到该频道的消息。

Message received on channel1: "Hello, subscribers!"

基于模式的发布订阅

基于模式的发布订阅允许客户端订阅符合特定模式的频道,而不是具体的频道名称。以下是基于模式的发布订阅的示例:

  1. 订阅模式:客户端使用PSUBSCRIBE命令订阅符合指定模式的频道。

PSUBSCRIBE channel*
  1. 发布消息:另一个客户端使用PUBLISH命令向符合模式的频道发布消息。

PUBLISH channel123 "Hello, pattern subscribers!"
  1. 接收消息:订阅符合模式的客户端将会接收到发布到符合模式的频道的消息。

Message received on channel123: "Hello, pattern subscribers!"

通过基于频道和模式的发布订阅,Redis提供了一种灵活的消息传递机制,可以实现消息的广播和订阅,适用于实时通知、事件驱动等场景。在实际应用中,可以根据需求选择合适的发布订阅方式来实现消息传递。