Fork me on GitHub

【redis】redis 复制

发表于 | 分类于

[TOC]

redis 复制

1. 配置

参与复制的Redis实例划分为主节点（master） 和从节点（slave），复制的数据流是单向的， 只能由主节点复制到从节 点

1.1 建立复制

配置复制的方式有以下三种：

  • 在配置文件中加入slaveof{masterHost}{masterPort}随Redis启动生 效。
  • 在redis-server启动命令后加入–slaveof{masterHost}{masterPort}生 效。
  • 直接使用命令： slaveof{masterHost}{masterPort}生效。

1.2 断开复制

在从节点执行slaveof no one来断 开与主节点复制关系

1.3 只读

从节点使用slave-read-only=yes配置为只读模式，防止数据不一致

1.4 传输延迟

Redis为我们提供了repl-disable-tcp-nodelay参数用于控制是否关闭 TCP_NODELAY， 默认关闭

  • 当关闭时， 主节点产生的命令数据无论大小都会及时地发送给从节 点， 这样主从之间延迟会变小， 但增加了网络带宽的消耗。 适用于主从之间 的网络环境良好的场景， 如同机架或同机房部署。
  • 当开启时， 主节点会合并较小的TCP数据包从而节省带宽。 默认发送 时间间隔取决于Linux的内核， 一般默认为40毫秒。 这种配置节省了带宽但 增大主从之间的延迟。 适用于主从网络环境复杂或带宽紧张的场景， 如跨机 房部署。

2. 复制原理

2.1 复制过程

在从节点执行slaveof命令后， 复制过程便开始运作，复制过程大致分为6个过程

  1. 保存主节点（master） 信息。执行slaveof后从节点只保存主节点的地址信息便直接返回， 这时建立复 制流程还没有开始
  2. 从节点（slave） 内部通过每秒运行的定时任务维护复制相关逻辑， 当定时任务发现存在新的主节点后， 会尝试与该节点建立网络连接（socket套接字）
  3. 发送ping命令。连接建立成功后从节点发送ping请求进行首次通信，用于检测主从之间网络套接字是否可用，检测主节点当前是否可接受处理命令
  4. 权限验证。从节点必须配置masterauth参数保证与主节点requirepass相同的密码才能通过验证
  5. 同步数据集。主从复制连接正常通信后， 对于首次建立复制的场景，主节点会把持有的数据全部发送给从节点， 这部分操作是耗时最长的步骤
  6. 命令持续复制。主节点会持续地把写命令发送给从节点， 保证主从 数据一致性

2.2 数据同步

  • 全量复制： 一般用于初次复制场景， Redis早期支持的复制功能只有全 量复制， 它会把主节点全部数据一次性发送给从节点， 当数据量较大时， 会对主从节点和网络造成很大的开销。
  • 部分复制： 用于处理在主从复制中因网络闪断等原因造成的数据丢失 场景， 当从节点再次连上主节点后， 如果条件允许， 主节点会补发丢失数据给从节点。 因为补发的数据远远小于全量数据， 可以有效避免全量复制的过高开销

从节点使用psync命令完成部分复制和全量复制功能， 命令格式： 

1
psync {runId} {offset}

Options:

runId： 从节点所复制主节点的运行id; offset： 当前从节点已复制的数据偏移量

流程说明：

  1. 从节点（slave） 发送psync命令给主节点， 参数runId是当前从节点保 存的主节点运行ID， 如果没有则默认值为， 参数offset是当前从节点保存的 复制偏移量， 如果是第一次参与复制则默认值为-1。
  2. 主节点（master） 根据psync参数和自身数据情况决定响应结果： ·
    • 如果回复+FULLRESYNC{runId}{offset}， 那么从节点将触发全量复制流程。
    • 如果回复+CONTINUE， 从节点将触发部分复制流程。
    • 如果回复+ERR， 说明主节点版本低于Redis2.8， 无法识别psync命令， 从节点将发送旧版的sync命令触发全量复制流程。

2.3 全量复制

触发全量复制的命令是sync（版本<2.8）和psync（版本>=2.8）

psync流程如下：

  1. 发送psync命令进行数据同步， 由于是第一次进行复制， 从节点没有 复制偏移量和主节点的运行ID， 所以发送psync-1。
  2. 主节点根据psync-1解析出当前为全量复制， 回复+FULLRESYNC响 应。
  3. 从节点接收主节点的响应数据保存运行ID和偏移量offset
  4. 主节点执行bgsave保存RDB文件到本地
  5. 主节点发送RDB文件给从节点， 从节点把接收的RDB文件保存在本 地并直接作为从节点的数据文件
  6. 对于从节点开始接收RDB快照到接收完成期间， 主节点仍然响应读 写命令， 因此主节点会把这期间写命令数据保存在复制客户端缓冲区内， 当 从节点加载完RDB文件后， 主节点再把缓冲区内的数据发送给从节点， 保证 主从之间数据一致性
  7. 从节点接收完主节点传送来的全部数据后会清空自身旧数据
  8. 从节点清空数据后开始加载RDB文件， 对于较大的RDB文件， 这一 步操作依然比较耗时
  9. 从节点成功加载完RDB后， 如果当前节点开启了AOF持久化功能， 它会立刻做bgrewriteaof操作， 为了保证全量复制后AOF持久化文件立刻可 用

2.4 部分复制

流程如下：

  1. 当主从节点之间网络出现中断时， 如果超过repl-timeout时间， 主节点会认为从节点故障并中断复制连接
  2. 主从连接中断期间主节点依然响应命令， 但因复制连接中断命令无 法发送给从节点， 不过主节点内部存在的复制积压缓冲区， 依然可以保存最 近一段时间的写命令数据， 默认最大缓存1MB
  3. 当主从节点网络恢复后， 从节点会再次连上主节点
  4. 当主从连接恢复后， 由于从节点之前保存了自身已复制的偏移量和 主节点的运行ID。 因此会把它们当作psync参数发送给主节点， 要求进行部 分复制操作。
  5. 主节点接到psync命令后首先核对参数runId是否与自身一致， 如果一 致， 说明之前复制的是当前主节点； 之后根据参数offset在自身复制积压缓 冲区查找， 如果偏移量之后的数据存在缓冲区中， 则对从节点发送 +CONTINUE响应， 表示可以进行部分复制
  6. 主节点根据偏移量把复制积压缓冲区里的数据发送给从节点， 保证 主从复制进入正常状态

2.5 心跳机制

主从心跳判断机制：

  1. 主从节点彼此都有心跳检测机制， 各自模拟成对方的客户端进行通 信， 通过client list命令查看复制相关客户端信息， 主节点的连接状态为 flags=M， 从节点连接状态为flags=S。
  2. 主节点默认每隔10秒对从节点发送ping命令， 判断从节点的存活性 和连接状态。 可通过参数repl-ping-slave-period控制发送频率。
  3. 从节点在主线程中每隔1秒发送replconf ack{offset}命令， 给主节点 上报自身当前的复制偏移量

主节点根据replconf命令判断从节点超时时间， 体现在info replication统 计中的lag信息中， lag表示与从节点最后一次通信延迟的秒数， 正常延迟应 该在0和1之间。 如果超过repl-timeout配置的值（默认60秒） ， 则判定从节点 下线并断开复制客户端连接