持久化

RDB快照(snapshot)

在默认情况下,Redis将内存数据库快照保存在名字为dumo.rdb的二进制文件中。

我们可以对redis进行设置,让它在”N秒内数据集至少有M个改动”这一条件被满足时,自动保存一次数据集。

比如说:以下设置会让redis满足”60秒内至少有1000个键被改动”这一条件时,自动保存一次数据集:

save 60 1000 //关闭RDB只需要将所有的save保存策略注释掉即可

还可以手动执行命令生成RDB快照,进入redis客户端执行命令save或bgsave可以生成dump.rdb文件,每次命令执行都会将所有redis内存快照到一个新的rdb文件里,并覆盖原有rdb快照文件

bgsave的写时复制(COW)机制

Redis借助操作系统提供的写时复制技术(Copy-On-Write,COW),在生成快照的同时,依然可以正常处理写命令。简单来说,bgsave子进程是由主线程fork生成的,可以共享主线程的所有内存数据。bgsave子进程运行后,开始读取主线程的内存数据,并把他们写入RDB文件。此时如果主线程对这些数据也都是读操作,那么,主线程和bgsave子进程相互不影响。但是,如果主线程要修改一块数据,那么这块数据就会被复制一份,生成该数据的副本。然后bgsave子进程会把这个副本数据写入RDB文件,而在这个过程中,主线程依然可以直接修改原来的数据

save和bgsave的对比

  • save:

    • io类型:同步
    • 是否阻塞redis其他命令:是
    • 复杂度:O(n)
    • 优点:不会消耗额外内存
    • 缺点:阻塞客户端命令
  • bgsave:

    • io类型:异步
    • 是否阻塞redis其他命令:否(在生成子进程执行调用fork函数时会有短暂阻塞)
    • 复杂度:O(n)
    • 优点:不阻塞客户端命令
    • 缺点:需要fork子进程,消耗内存

    配置自动生成rdb文件后台使用的是bgsave方式。

AOF(append-only file)

快照功能并不是非常耐久(durable):如果redis因为某些原因而造成的故障停机,那么服务器将失去最近写入,仍未保存到快照中的那些数据。从1.1版本开始,redis增加了一种完全耐久的持久化方式:AOF持久化,将修改的每一条指令记录写进文件appendonly.aof(先写入os cache,每隔一段时间fsync到磁盘)
比如 执行命令 set hangker 1024,aof文件里会记录如下数据

aof文件

这是一种resp协议格式数据,星号后面代表命令有多少个参数,$号后面的数字代表这个参数有几个字符
注意,如果执行带过期时间的set命令,aof文件里记录的并不是执行的原始命令,而是记录key过期的时间戳,比如执行 set huo 222 ex 100000

aof记录过期时间

我们可以通过修改配置文件来开启aof功能

  • vim redis.conf

  • #appendonly yes

    从现在开始,每当redis执行一个改变数据集的命令时(比如set),这个,命令就会被追加到AOF文件的末尾

    这样的话,当redis重启时,程序就可以通过重新执行AOF文件中的命令来达到重建数据集的目的。

    我们还可以配置redis多久才将数据fsync到磁盘一次。

  • appendfsync always:每次有新命令追加到aof文件时就执行一次fsync,非常慢,也非常安全

  • appendfsync everysec:每秒fsync一次,足够快,且在故障时只会丢失1秒钟的数据

  • appendfsync no:从不fsync,将数据交给操作系统来处理,更快,也更不安全的选择。

AOF重写

AOF文件里可能太多没用指令,所以AOF会定期根据内存的最新数据生成aof文件

例如,执行了如下命令:

incr命令

我们打开aof文件:

aof未重写

这时发现未重写,我们要修改配置控制aof自动重写频率

  • #auto-aof-rewrite-min-size 64mb //aof文件至少要达到64M才会自动重写,文件太小恢复速度本来就很快,重写的意义不大
  • auyo-aof-rewrite-percentage 100 //aof文件自上一次重写后文件大小增长了100%则再次触发重写

当然aof还可以手动重写,进入redis客户端执行命令bgrewriteaof重写AOF

注意,AOF重写reds会fork出一个子进程去做(与bgsave命令类似),不会对redis正常命令处理有太多影响

RDB和AOF对比:

  • RDB:
    • 启动优先级:低
    • 体积:小
    • 恢复速度:快
    • 数据安全性:容易丢数据
  • AOF:
    • 启动优先级:高
    • 体积:大
    • 恢复速度:慢
    • 数据安全性:根据策略决定

生产环境都可以启用,redis启动时如果既有rdb文件又有aof文件则优先选择aof文件恢复数据,因为aof一般来说数据更安全一些。

Redis4.0混合持久化

重启Redis时,我们很少使用RDB来恢复内存状态,因为会丢失大量数据,我们通常使用AOF日志重放,但是重放AOF日志性能相对RDB来说要慢很多,这样在Redis实例很大的情况下,启动需要花费很长的时间.Redis4.0为了解决这个问题,带来了一个新的持久化选项–混合持久化。

通过如下配置可以开启混合持久化(必须先开启aof):#aof-use-rdb-preamble yes

如果开启了混合持久化,AOF在重写时,不再是单纯将内存数据转换为RESP命令写入AOF文件,而是将重写这一刻之前的内存做RDB快照处理,并且将RDB快照内容和增量的AOF修改内存数据的命令存在一起,都写入新的AOF文件,新的文件一开始不叫appendonly.aof,等到重写完新的AOF文件才会进行改名,覆盖原有的AOF文件,完成新旧两个AOF文件的替换

于是在Redis重启的时候,可以先加载RDB的内容,然后再重放AOF日志就可以完全替代之前的AOF全量文件重放,因此重启效率大幅得到提升

混合持久化AOF文件结构如下:

混合持久化

Redis数据备份策略

  1. 写crontab定时调度脚本,每小时copy一份rdb或aof的备份到一个目录中去,仅仅保留最近48小时的备份
  2. 每天都保留一份当日的数据备份到一个目录中去,可以保留最近一个月的备份
  3. 每次copy备份的时候,都把太旧的备份给删了
  4. 每天晚上将当前机器上的备份复制一份到其他机器上,以防机器损坏。

主从架构

redis主从

主从架构搭建配置从节点

  1. 复制一份redis.conf文件
  2. 修改相关配置
  • port 6380
  • pidfile /var/run/redis_6380.pid # 把pid进程号写入pidfile配置的文件
  • logfile “6380.log”
  • dir /usr/local/redis‐5.0.3/data/6380 # 指定数据存放目录
  • 需要注释掉bind
  • bind 127.0.0.1(bind绑定的是自己机器网卡的ip,如果有多块网卡可以配多个ip,代表允许客户端通过机器的哪些网卡ip去访问,内网一般可以不配置bind,注释掉即可)
  1. 配置主从复制
  • replicaof 192.168.0.60 6379 # 从本机6379的redis实例复制数据,Redis 5.0之前使用slaveof
  • replica‐read‐only yes # 配置从节点只读
  1. 启动从节点: src/redis-server redis-6380.conf
  2. 连接从节点: src/redis-cli -p 6380
  3. 测试在6379实例上写数据,6380是否能及时同步修改数据
  4. 以此类推配置一个6381端口

6379

6380

6381

在6379写个数据测试,很丝滑,redis主从架构就搭建完成了,当然了我这是单机搭的,后续我会用集群的方式,一个节点分配一个虚拟机搭建。

Redis主从工作原理

如果我们为master配置了一个slave,不管这个slave是否是第一次连接上master,它都会发送一个psync命令给master请求复制数据。

master接到psync命令后,会在后台进行数据持久化通过bgsave生成最新的rdb快照文件,持久化期间,master会持续接收客户端的请求,它会把这些可能修改数据集的请求缓存在内存中。当持久化进行完毕以后,master会把这份rdb文件数据集发送给slave,slave会把接收到的数据进行持久化生成rdb,然后再加载到内存中。然后master再将之前缓存在内存中的命令发送给slave。

当master与slave之间的连接由于某些原因断开时,slave能够自动重连master,如果master收到了多个slave并发连接请求,它只会进行一次持久化,而不是一个连接一次,然后再把这一份持久化的数据发送给多个并发连接的slave。

主从复制(全量复制)流程图

主从(全量)

数据部分复制

当master和slave断开重连后,一般都会对整份数据进行复制。但从redis2.8版本开始,redis改用可以支持部分数据复制的命令psync去master同步数据,slave和master能够在网络连接断开后只进行部分数据复制(断点续传)

master会在其内存中创建一个复制数据用的缓存队列,缓存最近一段时间的数据,master和它所有的slave都维护了复制的数据下标offset和master的进程id,因此当网络连接断开后,slave会请求master继续进行未完成的复制,从所记录的数据下标开始。如果master进程id变了,或者从节点数据下标offset太旧,已经不在master的缓存队列里了,那么将会进行一次全量数据的复制。

主从复制(部分复制,断点续传)流程图

主从复制之断点续传

如果有很多从节点,为了缓解主从复制风暴(多个从节点同时复制主节点导致主节点压力过大),可以做如下架构,让部分从节点与从节点(与主节点同步)同步数据

复制风暴

Redis哨兵高可用架构

哨兵

sentinel哨兵是特殊的redis服务,不提供读写服务,主要用来监控redis实例节点。
哨兵架构下client端第一次从哨兵找出redis的主节点,后续就直接访问redis的主节点,不会每次都通过sentinel代理访问redis的主节点,当redis的主节点发生变化,哨兵会第一时间感知到,并且将新的redis主节点通知给client端(这里面redis的client端一般都实现的订阅功能,订阅sentinel发布的节点变动信息)

哨兵架构搭建

  1. 复制三份sentinel.conf文件
  • cp sentinel.conf config/sentinel-26379.conf
  • cp sentinel.conf config/sentinel-26380.conf
  • cp sentinel.conf config/sentinel-26381.conf
  1. 修改相关配置(26379为例)
  • port 26379
  • daemonize yes
  • pidfile “/var/run/redis-sentinel-26379.pid”
  • logfile “26379.log”
  • dir “/usr/local/redis-5.0.3/data”
  • sentinel monitor mymaster 192.168.19.80 6379 2 注:mymaster名字随便取,客户端访问时会用到
  1. 启动sentinel哨兵实例

src/redis-sentinel config/sentinel-26379.conf

  1. 查看sentinel的info信息
  • src/redis-cli -p 26379
  • info

可以看到Sentinel的info里已经识别出了redis的主从

  1. 自己配置另外两个sentinel,端口26380/26381

sentinel集群都启动完毕后,会将哨兵集群的元数据信息写入所有sentinel的配置文件里去(追加在文件的最下面),我们查看下如下配置文件sentinel-26379.conf,如下所示:

  1. sentinel known-replica mymaster 192.168.19.80 6381 注:代表主节点的从节点信息

  2. sentinel known-replica mymaster 192.168.19.80 6380 注:代表主节点的从节点信息

  3. sentinel known-sentinel mymaster 192.168.19.80 26381 8941015ea6d70bdeb6d88f4fab1fb4a9c8527571 注:代表感知到其他其他哨兵节点

  4. sentinel known-sentinel mymaster 127.0.0.1 26380 e4cb77fb8febc7e7e28604c8341afe208a95587a 注:代表感知到其他其他哨兵节点


当redis主节点如果挂了,哨兵集群会重新选举出新的redis主节点,同时会修改sentinel节点配置文件的集群元数据信息,比如6379的redis如果挂了,假设选举出的新主节点是6380,则sentinel文件里的集群信息回变成如下所示:

  1. sentinel known‐replica mymaster 192.168.19.80 6379 #代表主节点的从节点信息
  2. sentinel known‐replica mymaster 192.168.19.80 6381 #代表主节点的从节点信息
  3. sentinel known-sentinel mymaster 192.168.19.80 26381 8941015ea6d70bdeb6d88f4fab1fb4a9c8527571 注:代表感知到其他其他哨兵节点
  4. sentinel known-sentinel mymaster 127.0.0.1 26380 e4cb77fb8febc7e7e28604c8341afe208a95587a 注:代表感知到其他其他哨兵节点

同时还会修改sentinel文件之前配置的mymaster对应的6379端口,改为6380:

sentinel monitor mymaster 192.168.0.60 6380 2

当6379的redis实例再次启动时,哨兵集群根据集群元数据信息就可以将6379端口的redis节点作为从节点加入集群

哨兵的Jedis连接

哨兵Jedis

哨兵的Spring Boot整合redis连接代码

  1. 引入相关依赖

依赖

  1. springboot项目核心配置

核心配置

  1. 访问代码

访问代码

StringRedisTemplate与RedisTemplate详解

spring封装了RedisTemplate对象来进行对redis的各种操作,它支持所有的redis原生的api。在RedisTemplate中提供了几个常用的接口方法的使用:

  - private ValueOperations<K, V> valueOps;
  - private HashOperations<K, V> hashOps;
  - private ListOperations<K, V> listOps;
  - private SetOperations<K, V> setOps;
  - private ZSetOperations<K, V> zSetOps;

RedisTemplate中定义了对5种数据结构操作:

- redisTemplate.opsForValue();//操作字符串
- redisTemplate.opsForHash();//操作hash
- redisTemplate.opsForList();//操作list
- redisTemplate.opsForSet();//操作set
- redisTemplate.opsForZSet();//操作有序set

StringRedisTemplate继承自RedisTemplate,也一样拥有上面这些操作。

StringRedisTemplate默认采用的是String的序列化策略,保存的key和value都是采用此策略序列化保存的。

RedisTemplate默认采用的是JDK的序列化策略,保存的key和value都是采用此策略序列化保存的。

1

2