調(diào)研Redis高可用兩種方案

作者：高可用架構(gòu) 2019-05-15 10:59:50

本文作者深入分析了Redis高可用的方方面面，并且做了有效總結(jié)，相信對廣大讀者可以起到很好的領(lǐng)路作用。

導(dǎo)讀：Redis是被廣泛使用的基礎(chǔ)軟件之一。對于工程師和,架構(gòu)師，運(yùn)維人員來說，了解Redis的高可用方案和背后的原理，是必備的基礎(chǔ)知識。本文作者深入分析了Redis高可用的方方面面，并且做了有效總結(jié)，相信對廣大讀者可以起到很好的領(lǐng)路作用。

作者 codedump codedump.info 博主，多年從事互聯(lián)網(wǎng)服務(wù)器后臺開發(fā)工作?？稍L問作者博客閱讀 codedump 更多文章。

Redis中為了實(shí)現(xiàn)高可用（High Availability，簡稱HA），采用了如下兩個(gè)方式：

主從復(fù)制數(shù)據(jù)。
采用哨兵監(jiān)控?cái)?shù)據(jù)節(jié)點(diǎn)的運(yùn)行情況，一旦主節(jié)點(diǎn)出現(xiàn)問題由從節(jié)點(diǎn)頂上繼續(xù)進(jìn)行服務(wù)。

主從復(fù)制

Redis中主從節(jié)點(diǎn)復(fù)制數(shù)據(jù)有全量復(fù)制和部分復(fù)制之分。

舊版本全量復(fù)制功能的實(shí)現(xiàn)

全量復(fù)制使用snyc命令來實(shí)現(xiàn)，其流程是：

從服務(wù)器向主服務(wù)器發(fā)送sync命令。
主服務(wù)器在收到sync命令之后，調(diào)用bgsave命令生成***的rdb文件，將這個(gè)文件同步給從服務(wù)器，這樣從服務(wù)器載入這個(gè)rdb文件之后，狀態(tài)就會和主服務(wù)器執(zhí)行bgsave命令時(shí)候的一致。
主服務(wù)器將保存在命令緩沖區(qū)中的寫命令同步給從服務(wù)器，從服務(wù)器執(zhí)行這些命令，這樣從服務(wù)器的狀態(tài)就跟主服務(wù)器當(dāng)前狀態(tài)一致了。

調(diào)研Redis高可用兩種方案

舊版本全量復(fù)制功能，其***的問題是從服務(wù)器斷線重連時(shí)，即便在從服務(wù)器上已經(jīng)有一部分?jǐn)?shù)據(jù)了，也需要進(jìn)行全量復(fù)制，這樣做的效率很低，于是新版本的Redis在這部分做了改進(jìn)。

新版本全量復(fù)制功能的實(shí)現(xiàn)

新版本Redis使用psync命令來代替sync命令，該命令既可以實(shí)現(xiàn)完整全同步也可以實(shí)現(xiàn)部分同步。

復(fù)制偏移量

執(zhí)行復(fù)制的雙方，主從服務(wù)器，分別會維護(hù)一個(gè)復(fù)制偏移量：

主服務(wù)器每次向從服務(wù)器同步了N字節(jié)數(shù)據(jù)之后，將修改自己的復(fù)制偏移量+N。
從服務(wù)器每次從主服務(wù)器同步了N字節(jié)數(shù)據(jù)之后，將修改自己的復(fù)制偏移量+N。

復(fù)制積壓緩沖區(qū)

主服務(wù)器內(nèi)部維護(hù)了一個(gè)固定長度的先進(jìn)先出隊(duì)列做為復(fù)制積壓緩沖區(qū)，其默認(rèn)大小為1MB。

在主服務(wù)器進(jìn)行命令傳播時(shí)，不僅會將寫命令同步到從服務(wù)器，還會將寫命令寫入復(fù)制積壓緩沖區(qū)。

調(diào)研Redis高可用兩種方案

服務(wù)器運(yùn)行ID

每個(gè)Redis服務(wù)器，都有其運(yùn)行ID，運(yùn)行ID由服務(wù)器在啟動時(shí)自動生成，主服務(wù)器會將自己的運(yùn)行ID發(fā)送給從服務(wù)器，而從服務(wù)器會將主服務(wù)器的運(yùn)行ID保存起來。

從服務(wù)器Redis斷線重連之后進(jìn)行同步時(shí)，就是根據(jù)運(yùn)行ID來判斷同步的進(jìn)度：

如果從服務(wù)器上面保存的主服務(wù)器運(yùn)行ID與當(dāng)前主服務(wù)器運(yùn)行ID一致，則認(rèn)為這一次斷線重連連接的是之前復(fù)制的主服務(wù)器，主服務(wù)器可以繼續(xù)嘗試部分同步操作。
否則，如果前后兩次主服務(wù)器運(yùn)行ID不相同，則認(rèn)為是完成全同步流程。

psync命令流程

有了前面的準(zhǔn)備，下面開始分析psync命令的流程：

如果從服務(wù)器之前沒有復(fù)制過任何主服務(wù)器，或者之前執(zhí)行過slaveof no one命令，那么從服務(wù)器就會向主服務(wù)器發(fā)送psync ? -1命令，請求主服務(wù)器進(jìn)行數(shù)據(jù)的全量同步。
否則，如果前面從服務(wù)器已經(jīng)同步過部分?jǐn)?shù)據(jù)，那么從服務(wù)器向主服務(wù)器發(fā)送psync <runid> <offset>命令，其中runid是上一次主服務(wù)器的運(yùn)行id，offset是當(dāng)前從服務(wù)器的復(fù)制偏移量。

前面兩種情況主服務(wù)器收到psync命令之后，會出現(xiàn)以下三種可能：

主服務(wù)器返回+fullresync <runid> <offset>回復(fù)，表示主服務(wù)器要求與從服務(wù)器進(jìn)行完整的數(shù)據(jù)全量同步操作。其中，runid是當(dāng)前主服務(wù)器運(yùn)行id，而offset是當(dāng)前主服務(wù)器的復(fù)制偏移量。
如果主服務(wù)器應(yīng)答+continue，那么表示主服務(wù)器與從服務(wù)器進(jìn)行部分?jǐn)?shù)據(jù)同步操作，將從服務(wù)器缺失的數(shù)據(jù)同步過來即可。
如果主服務(wù)器應(yīng)答-err，那么表示主服務(wù)器版本低于2.8，識別不了psync命令，此時(shí)從服務(wù)器將向主服務(wù)器發(fā)送sync命令，執(zhí)行完整的全量數(shù)據(jù)同步。

哨兵機(jī)制概述

Redis使用哨兵機(jī)制來實(shí)現(xiàn)高可用(HA)，其大概工作原理是：

Redis使用一組哨兵（sentinel）節(jié)點(diǎn)來監(jiān)控主從redis服務(wù)的可用性。
一旦發(fā)現(xiàn)Redis主節(jié)點(diǎn)失效，將選舉出一個(gè)哨兵節(jié)點(diǎn)作為***（leader）。
哨兵***再從剩余的從Redis節(jié)點(diǎn)中選出一個(gè)Redis節(jié)點(diǎn)作為新的主Redis節(jié)點(diǎn)對外服務(wù)。

以上將Redis節(jié)點(diǎn)分為兩類：

哨兵節(jié)點(diǎn)（sentinel）：負(fù)責(zé)監(jiān)控節(jié)點(diǎn)的運(yùn)行情況。
數(shù)據(jù)節(jié)點(diǎn)：即正常服務(wù)客戶端請求的Redis節(jié)點(diǎn)，有主從之分。

以上是大體的流程，這個(gè)流程需要解決以下幾個(gè)問題：

如何對Redis數(shù)據(jù)節(jié)點(diǎn)進(jìn)行監(jiān)控？
如何確定一個(gè)Redis數(shù)據(jù)節(jié)點(diǎn)失效？
如何選擇出一個(gè)哨兵***節(jié)點(diǎn)？
哨兵節(jié)點(diǎn)選擇新的主Redis節(jié)點(diǎn)的依據(jù)是什么？

以下來逐個(gè)回答這些問題。

三個(gè)監(jiān)控任務(wù)

哨兵節(jié)點(diǎn)通過三個(gè)定時(shí)監(jiān)控任務(wù)監(jiān)控Redis數(shù)據(jù)節(jié)點(diǎn)的服務(wù)可用性。

info命令

每隔10秒，每個(gè)哨兵節(jié)點(diǎn)都會向主、從Redis數(shù)據(jù)節(jié)點(diǎn)發(fā)送info命令，獲取新的拓?fù)浣Y(jié)構(gòu)信息。

Redis拓?fù)浣Y(jié)構(gòu)信息包括了：

本節(jié)點(diǎn)角色：主或從。
主從節(jié)點(diǎn)的地址、端口信息。

這樣，哨兵節(jié)點(diǎn)就能從info命令中自動獲取到從節(jié)點(diǎn)信息，因此那些后續(xù)才加入的從節(jié)點(diǎn)信息不需要顯式配置就能自動感知。

調(diào)研Redis高可用兩種方案

向sentinel:hello頻道同步信息

每隔2秒，每個(gè)哨兵節(jié)點(diǎn)將會向Redis數(shù)據(jù)節(jié)點(diǎn)的__sentinel__:hello頻道同步自身得到的主節(jié)點(diǎn)信息以及當(dāng)前哨兵節(jié)點(diǎn)的信息，由于其他哨兵節(jié)點(diǎn)也訂閱了這個(gè)頻道，因此實(shí)際上這個(gè)操作可以交換哨兵節(jié)點(diǎn)之間關(guān)于主節(jié)點(diǎn)以及哨兵節(jié)點(diǎn)的信息。

這一操作實(shí)際上完成了兩件事情： * 發(fā)現(xiàn)新的哨兵節(jié)點(diǎn)：如果有新的哨兵節(jié)點(diǎn)加入，此時(shí)保存下來這個(gè)新哨兵節(jié)點(diǎn)的信息，后續(xù)與該哨兵節(jié)點(diǎn)建立連接。 * 交換主節(jié)點(diǎn)的狀態(tài)信息，作為后續(xù)客觀判斷主節(jié)點(diǎn)下線的依據(jù)。

調(diào)研Redis高可用兩種方案

向數(shù)據(jù)節(jié)點(diǎn)做心跳探測

每隔1秒，每個(gè)哨兵節(jié)點(diǎn)向主、從數(shù)據(jù)節(jié)點(diǎn)以及其他sentinel節(jié)點(diǎn)發(fā)送ping命令做心跳探測，這個(gè)心跳探測是后續(xù)主觀判斷數(shù)據(jù)節(jié)點(diǎn)下線的依據(jù)。

調(diào)研Redis高可用兩種方案

主觀下線和客觀下線

主觀下線

上面三個(gè)監(jiān)控任務(wù)中的第三個(gè)探測心跳任務(wù)，如果在配置的down-after-milliseconds之后沒有收到有效回復(fù)，那么就認(rèn)為該數(shù)據(jù)節(jié)點(diǎn)“主觀下線（sdown）”。

調(diào)研Redis高可用兩種方案

為什么稱為“主觀下線”？因?yàn)樵谝粋€(gè)分布式系統(tǒng)中，有多個(gè)機(jī)器在一起聯(lián)動工作，網(wǎng)絡(luò)可能出現(xiàn)各種狀況，僅憑一個(gè)節(jié)點(diǎn)的判斷還不足以認(rèn)為一個(gè)數(shù)據(jù)節(jié)點(diǎn)下線了，這就需要后面的“客觀下線”。

客觀下線

當(dāng)一個(gè)哨兵節(jié)點(diǎn)認(rèn)為主節(jié)點(diǎn)主觀下線時(shí)，該哨兵節(jié)點(diǎn)需要通過”sentinel is-master-down-by addr”命令向其他哨兵節(jié)點(diǎn)咨詢該主節(jié)點(diǎn)是否下線了，如果有超過半數(shù)的哨兵節(jié)點(diǎn)都回答了下線，此時(shí)認(rèn)為主節(jié)點(diǎn)“客觀下線”。

調(diào)研Redis高可用兩種方案

選舉哨兵***

當(dāng)主節(jié)點(diǎn)客觀下線時(shí)，需要選舉出一個(gè)哨兵節(jié)點(diǎn)做為哨兵***，以完成后續(xù)選出新的主節(jié)點(diǎn)的工作。

這個(gè)選舉的大體思路是：

每個(gè)哨兵節(jié)點(diǎn)通過向其他哨兵節(jié)點(diǎn)發(fā)送”sentinel is-master-down-by addr”命令來申請成為哨兵***。
而每個(gè)哨兵節(jié)點(diǎn)在收到一個(gè)”sentinel is-master-down-by addr”命令時(shí)，只允許給***個(gè)節(jié)點(diǎn)投票，其他節(jié)點(diǎn)的該命令都會被拒絕。
如果一個(gè)哨兵節(jié)點(diǎn)收到了半數(shù)以上的同意票，則成為哨兵***。
如果前面三步在一定時(shí)間內(nèi)都沒有選出一個(gè)哨兵***，將重新開始下一次選舉。

可以看到，這個(gè)選舉***的流程很像raft中選舉leader的流程。

調(diào)研Redis高可用兩種方案

選出新的主節(jié)點(diǎn)

在剩下的Redis從節(jié)點(diǎn)中，按照以下順序來選擇新的主節(jié)點(diǎn)：

過濾掉“不健康”的數(shù)據(jù)節(jié)點(diǎn)：比如主觀下線、斷線的從節(jié)點(diǎn)、五秒內(nèi)沒有回復(fù)過哨兵節(jié)點(diǎn)ping命令的節(jié)點(diǎn)、與主節(jié)點(diǎn)失聯(lián)的從節(jié)點(diǎn)。
選擇slave-priority（從節(jié)點(diǎn)優(yōu)先級）***的從節(jié)點(diǎn)，如果存在則返回不存在則繼續(xù)后面的流程。
選擇復(fù)制偏移量***的從節(jié)點(diǎn)，這意味著這個(gè)從節(jié)點(diǎn)上面的數(shù)據(jù)最完整，如果存在則返回不存在則繼續(xù)后面的流程。
到了這里，所有剩余從節(jié)點(diǎn)的狀態(tài)都是一樣的，選擇runid最小的從節(jié)點(diǎn)。

提升新的主節(jié)點(diǎn)

選擇了新的主節(jié)點(diǎn)之后，還需要***的流程讓該節(jié)點(diǎn)成為新的主節(jié)點(diǎn)：

哨兵***向上一步選出的從節(jié)點(diǎn)發(fā)出“slaveof no one”命令，讓該節(jié)點(diǎn)成為主節(jié)點(diǎn)。
哨兵***向剩余的從節(jié)點(diǎn)發(fā)送命令，讓它們成為新主節(jié)點(diǎn)的從節(jié)點(diǎn)。
哨兵節(jié)點(diǎn)集合會將原來的主節(jié)點(diǎn)更新為從節(jié)點(diǎn)，當(dāng)其恢復(fù)之后命令它去復(fù)制新的主節(jié)點(diǎn)的數(shù)據(jù)。