RabbitMQ 高可用之如何確保消息成功消費(fèi)
- 1. 兩種消費(fèi)思路
- 2. 確保消費(fèi)成功兩種思路
- 3. 消息拒絕
- 4. 消息確認(rèn)
- 4.1 自動(dòng)確認(rèn)
- 4.2 手動(dòng)確認(rèn)
- 5. 冪等性問題
- 6. 小結(jié)
前面一篇文章松哥和大家聊了 MQ 高可用之如何確保消息成功發(fā)送,各種配置齊上陣,最終確保了消息的成功發(fā)送,甚至在一些極端情況下還可能發(fā)生同一條消息重復(fù)發(fā)送的情況,不管怎么樣,消息總算發(fā)送出去了,如果小伙伴們還沒看過上篇文章,建議先看看,再來學(xué)習(xí)本文:
四種策略確保 RabbitMQ 消息發(fā)送可靠性!你用哪種?
今天我們就來聊一聊消息消費(fèi)的問題,看看如何確保消息消費(fèi)成功,并且確保冪等性。
1. 兩種消費(fèi)思路
RabbitMQ 的消息消費(fèi),整體上來說有兩種不同的思路:
- 推(push):MQ 主動(dòng)將消息推送給消費(fèi)者,這種方式需要消費(fèi)者設(shè)置一個(gè)緩沖區(qū)去緩存消息,對(duì)于消費(fèi)者而言,內(nèi)存中總是有一堆需要處理的消息,所以這種方式的效率比較高,這也是目前大多數(shù)應(yīng)用采用的消費(fèi)方式。
- 拉(pull):消費(fèi)者主動(dòng)從 MQ 拉取消息,這種方式效率并不是很高,不過有的時(shí)候如果服務(wù)端需要批量拉取消息,倒是可以采用這種方式。
兩種方式我都舉個(gè)例子看下。
先來看推(push):
這種方式大家比較常見,就是通過 @RabbitListener 注解去標(biāo)記消費(fèi)者,如下:
- @Component
- public class ConsumerDemo {
- @RabbitListener(queues = RabbitConfig.JAVABOY_QUEUE_NAME)
- public void handle(String msg) {
- System.out.println("msg = " + msg);
- }
- }
當(dāng)監(jiān)聽的隊(duì)列中有消息時(shí),就會(huì)觸發(fā)該方法。
再來看拉(pull):
- @Test
- public void test01() throws UnsupportedEncodingException {
- Object o = rabbitTemplate.receiveAndConvert(RabbitConfig.JAVABOY_QUEUE_NAME);
- System.out.println("o = " + new String(((byte[]) o),"UTF-8"));
- }
調(diào)用 receiveAndConvert 方法,方法參數(shù)為隊(duì)列名稱,方法執(zhí)行完成后,會(huì)從 MQ 上拉取一條消息下來,如果該方法返回值為 null,表示該隊(duì)列上沒有消息了。receiveAndConvert 方法有一個(gè)重載方法,可以在重載方法中傳入一個(gè)等待超時(shí)時(shí)間,例如 3 秒。此時(shí),假設(shè)隊(duì)列中沒有消息了,則 receiveAndConvert 方法會(huì)阻塞 3 秒,3 秒內(nèi)如果隊(duì)列中有了新消息就返回,3 秒后如果隊(duì)列中還是沒有新消息,就返回 null,這個(gè)等待超時(shí)時(shí)間要是不設(shè)置的話,默認(rèn)為 0。
這是消息兩種不同的消費(fèi)模式。
如果需要從消息隊(duì)列中持續(xù)獲得消息,就可以使用推模式;如果只是單純的消費(fèi)一條消息,則使用拉模式即可。切忌將拉模式放到一個(gè)死循環(huán)中,變相的訂閱消息,這會(huì)嚴(yán)重影響 RabbitMQ 的性能。
2. 確保消費(fèi)成功兩種思路
在上篇文章中,我們想盡辦法確保消息能夠發(fā)送成功,對(duì)于消息消費(fèi)成功,其實(shí)官方提供了相關(guān)的機(jī)制,我們一起來看下。
為了保證消息能夠可靠的到達(dá)消息消費(fèi)者,RabbitMQ 中提供了消息消費(fèi)確認(rèn)機(jī)制。當(dāng)消費(fèi)者去消費(fèi)消息的時(shí)候,可以通過指定 autoAck 參數(shù)來表示消息消費(fèi)的確認(rèn)方式。
當(dāng) autoAck 為 false 的時(shí)候,此時(shí)即使消費(fèi)者已經(jīng)收到消息了,RabbitMQ 也不會(huì)立馬將消息移除,而是等待消費(fèi)者顯式的回復(fù)確認(rèn)信號(hào)后,才會(huì)將消息打上刪除標(biāo)記,然后再刪除。
當(dāng) autoAck 為 true 的時(shí)候,此時(shí)消息消費(fèi)者就會(huì)自動(dòng)把發(fā)送出去的消息設(shè)置為確認(rèn),然后將消息移除(從內(nèi)存或者磁盤中),即使這些消息并沒有到達(dá)消費(fèi)者。
我們來看一張圖:
如上圖所示,在 RabbitMQ 的 web 管理頁(yè)面:
- Ready 表示待消費(fèi)的消息數(shù)量。
- Unacked 表示已經(jīng)發(fā)送給消費(fèi)者但是還沒收到消費(fèi)者 ack 的消息數(shù)量。
這是我們可以從 UI 層面觀察消息的消費(fèi)情況確認(rèn)情況。
當(dāng)我們將 autoAck 設(shè)置為 false 的時(shí)候,對(duì)于 RabbitMQ 而言,消費(fèi)分成了兩個(gè)部分:
- 待消費(fèi)的消息
- 已經(jīng)投遞給消費(fèi)者,但是還沒有被消費(fèi)者確認(rèn)的消息
換句話說,當(dāng)設(shè)置 autoAck 為 false 的時(shí)候,消費(fèi)者就變得非常從容了,它將有足夠的時(shí)間去處理這條消息,當(dāng)消息正常處理完成后,再手動(dòng) ack,此時(shí) RabbitMQ 才會(huì)認(rèn)為這條消息消費(fèi)成功了。如果 RabbitMQ 一直沒有收到客戶端的反饋,并且此時(shí)客戶端也已經(jīng)斷開連接了,那么 RabbitMQ 就會(huì)將剛剛的消息重新放回隊(duì)列中,等待下一次被消費(fèi)。
綜上所述,確保消息被成功消費(fèi),無非就是手動(dòng) Ack 或者自動(dòng) Ack,無他。當(dāng)然,無論這兩種中的哪一種,最終都有可能導(dǎo)致消息被重復(fù)消費(fèi),所以一般來說我們還需要在處理消息時(shí),解決冪等性問題。
3. 消息拒絕
當(dāng)客戶端收到消息時(shí),可以選擇消費(fèi)這條消息,也可以選擇拒絕這條消息。我們來看下拒絕的方式:
- @Component
- public class ConsumerDemo {
- @RabbitListener(queues = RabbitConfig.JAVABOY_QUEUE_NAME)
- public void handle(Channel channel, Message message) {
- //獲取消息編號(hào)
- long deliveryTag = message.getMessageProperties().getDeliveryTag();
- try {
- //拒絕消息
- channel.basicReject(deliveryTag, true);
- } catch (IOException e) {
- e.printStackTrace();
- }
- }
- }
消費(fèi)者收到消息之后,可以選擇拒絕消費(fèi)該條消息,拒絕的步驟分兩步:
- 獲取消息編號(hào) deliveryTag。
- 調(diào)用 basicReject 方法拒絕消息。
調(diào)用 basicReject 方法時(shí),第二個(gè)參數(shù)是 requeue,即是否重新入隊(duì)。如果第二個(gè)參數(shù)為 true,則這條被拒絕的消息會(huì)重新進(jìn)入到消息隊(duì)列中,等待下一次被消費(fèi);如果第二個(gè)參數(shù)為 false,則這條被拒絕的消息就會(huì)被丟掉,不會(huì)有新的消費(fèi)者去消費(fèi)它了。
需要注意的是,basicReject 方法一次只能拒絕一條消息。
4. 消息確認(rèn)
消息確認(rèn)分為自動(dòng)確認(rèn)和手動(dòng)確認(rèn),我們分別來看。
4.1 自動(dòng)確認(rèn)
先來看看自動(dòng)確認(rèn),在 Spring Boot 中,默認(rèn)情況下,消息消費(fèi)就是自動(dòng)確認(rèn)的。
我們來看如下一個(gè)消息消費(fèi)方法:
- @Component
- public class ConsumerDemo {
- @RabbitListener(queues = RabbitConfig.JAVABOY_QUEUE_NAME)
- public void handle2(String msg) {
- System.out.println("msg = " + msg);
- int i = 1 / 0;
- }
通過 @Componet 注解將當(dāng)前類注入到 Spring 容器中,然后通過 @RabbitListener 注解來標(biāo)記一個(gè)消息消費(fèi)方法,默認(rèn)情況下,消息消費(fèi)方法自帶事務(wù),即如果該方法在執(zhí)行過程中拋出異常,那么被消費(fèi)的消息會(huì)重新回到隊(duì)列中等待下一次被消費(fèi),如果該方法正常執(zhí)行完沒有拋出異常,則這條消息就算是被消費(fèi)了。
4.2 手動(dòng)確認(rèn)
手動(dòng)確認(rèn)我又把它分為兩種:推模式手動(dòng)確認(rèn)與拉模式手動(dòng)確認(rèn)。
4.2.1 推模式手動(dòng)確認(rèn)
要開啟手動(dòng)確認(rèn),需要我們首先關(guān)閉自動(dòng)確認(rèn),關(guān)閉方式如下:
- spring.rabbitmq.listener.simple.acknowledge-mode=manual
這個(gè)配置表示將消息的確認(rèn)模式改為手動(dòng)確認(rèn)。
接下來我們來看下消費(fèi)者中的代碼:
- @RabbitListener(queues = RabbitConfig.JAVABOY_QUEUE_NAME)
- public void handle3(Message message,Channel channel) {
- long deliveryTag = message.getMessageProperties().getDeliveryTag();
- try {
- //消息消費(fèi)的代碼寫到這里
- String s = new String(message.getBody());
- System.out.println("s = " + s);
- //消費(fèi)完成后,手動(dòng) ack
- channel.basicAck(deliveryTag, false);
- } catch (Exception e) {
- //手動(dòng) nack
- try {
- channel.basicNack(deliveryTag, false, true);
- } catch (IOException ex) {
- ex.printStackTrace();
- }
- }
- }
將消費(fèi)者要做的事情放到一個(gè) try..catch 代碼塊中。
如果消息正常消費(fèi)成功,則執(zhí)行 basicAck 完成確認(rèn)。
如果消息消費(fèi)失敗,則執(zhí)行 basicNack 方法,告訴 RabbitMQ 消息消費(fèi)失敗。
這里涉及到兩個(gè)方法:
- basicAck:這個(gè)是手動(dòng)確認(rèn)消息已經(jīng)成功消費(fèi),該方法有兩個(gè)參數(shù):第一個(gè)參數(shù)表示消息的 id;第二個(gè)參數(shù) multiple 如果為 false,表示僅確認(rèn)當(dāng)前消息消費(fèi)成功,如果為 true,則表示當(dāng)前消息之前所有未被當(dāng)前消費(fèi)者確認(rèn)的消息都消費(fèi)成功。
- basicNack:這個(gè)是告訴 RabbitMQ 當(dāng)前消息未被成功消費(fèi),該方法有三個(gè)參數(shù):第一個(gè)參數(shù)表示消息的 id;第二個(gè)參數(shù) multiple 如果為 false,表示僅拒絕當(dāng)前消息的消費(fèi),如果為 true,則表示拒絕當(dāng)前消息之前所有未被當(dāng)前消費(fèi)者確認(rèn)的消息;第三個(gè)參數(shù) requeue 含義和前面所說的一樣,被拒絕的消息是否重新入隊(duì)。
當(dāng) basicNack 中最后一個(gè)參數(shù)設(shè)置為 false 的時(shí)候,還涉及到一個(gè)死信隊(duì)列的問題,這個(gè)松哥以后再專門寫文章和大家細(xì)聊。
4.2.2 拉模式手動(dòng)確認(rèn)
拉模式手動(dòng) ack 比較麻煩一些,在 Spring 中封裝的 RabbitTemplate 中并未找到對(duì)應(yīng)的方法,所以我們得用原生的辦法,如下:
- public void receive2() {
- Channel channel = rabbitTemplate.getConnectionFactory().createConnection().createChannel(true);
- long deliveryTag = 0L;
- try {
- GetResponse getResponse = channel.basicGet(RabbitConfig.JAVABOY_QUEUE_NAME, false);
- deliveryTag = getResponse.getEnvelope().getDeliveryTag();
- System.out.println("o = " + new String((getResponse.getBody()), "UTF-8"));
- channel.basicAck(deliveryTag, false);
- } catch (IOException e) {
- try {
- channel.basicNack(deliveryTag, false, true);
- } catch (IOException ex) {
- ex.printStackTrace();
- }
- }
- }
這里涉及到的 basicAck 和 basicNack 方法跟前面的一樣,我就不再贅述。
5. 冪等性問題
最后我們?cè)賮碚f說消息的冪等性問題。
大家設(shè)想下面一個(gè)場(chǎng)景:
消費(fèi)者在消費(fèi)完一條消息后,向 RabbitMQ 發(fā)送一個(gè) ack 確認(rèn),此時(shí)由于網(wǎng)絡(luò)斷開或者其他原因?qū)е?RabbitMQ 并沒有收到這個(gè) ack,那么此時(shí) RabbitMQ 并不會(huì)將該條消息刪除,當(dāng)重新建立起連接后,消費(fèi)者還是會(huì)再次收到該條消息,這就造成了消息的重復(fù)消費(fèi)。同時(shí),由于類似的原因,消息在發(fā)送的時(shí)候,同一條消息也可能會(huì)發(fā)送兩次(參見四種策略確保 RabbitMQ 消息發(fā)送可靠性!你用哪種?)。種種原因?qū)е挛覀冊(cè)谙M(fèi)消息時(shí),一定要處理好冪等性問題。
冪等性問題的處理倒也不難,基本上都是從業(yè)務(wù)上來處理,我來大概說說思路。
采用 Redis,在消費(fèi)者消費(fèi)消息之前,現(xiàn)將消息的 id 放到 Redis 中,存儲(chǔ)方式如下:
- id-0(正在執(zhí)行業(yè)務(wù))
- id-1(執(zhí)行業(yè)務(wù)成功)
如果 ack 失敗,在 RabbitMQ 將消息交給其他的消費(fèi)者時(shí),先執(zhí)行 setnx,如果 key 已經(jīng)存在(說明之前有人消費(fèi)過該消息),獲取他的值,如果是 0,當(dāng)前消費(fèi)者就什么都不做,如果是 1,直接 ack。
極端情況:第一個(gè)消費(fèi)者在執(zhí)行業(yè)務(wù)時(shí),出現(xiàn)了死鎖,在 setnx 的基礎(chǔ)上,再給 key 設(shè)置一個(gè)生存時(shí)間。生產(chǎn)者,發(fā)送消息時(shí),指定 messageId。
當(dāng)然這只是一個(gè)簡(jiǎn)單思路供大家參考。
松哥在 vhr 項(xiàng)目中也處理了消息冪等性問題,感興趣的小伙伴可以查看 vhr 源碼(https://github.com/lenve/vhr),代碼在 mailserver 中。
6. 小結(jié)
好啦,今天就和小伙伴們聊了下 RabbitMQ 中和消息消費(fèi)相關(guān)的幾個(gè)話題,感興趣的小伙伴可以實(shí)踐下哦~
本文轉(zhuǎn)載自微信公眾號(hào)「江南一點(diǎn)雨」,可以通過以下二維碼關(guān)注。轉(zhuǎn)載本文請(qǐng)聯(lián)系江南一點(diǎn)雨公眾號(hào)。