作者簡介：叢磊，白山云科技合伙人兼工程副總裁，2016年加入白山，負(fù)責(zé)云鏈體系的設(shè)計(jì)與構(gòu)建等工作;2006年至2015年，就職于新浪，帶領(lǐng)團(tuán)隊(duì)從事云相關(guān)領(lǐng)域技術(shù)研發(fā)工作。國內(nèi)***公有云PaaS平臺(tái)——SAE創(chuàng)始人;工信部可信云服務(wù)認(rèn)證評(píng)委。

1 “雙十一”壓力

不知從何時(shí)起，“雙十一”成為了“購物節(jié)”，這種全民狂歡式購物對(duì)金融行業(yè)是一個(gè)巨大挑戰(zhàn)，短時(shí)間的高并發(fā)會(huì)給數(shù)據(jù)接口帶來巨大壓力。據(jù)悉，2015年天貓峰值交易量達(dá)到14萬次/秒，而2009年僅為400次/秒。

用戶每一筆交易背后都包含了多項(xiàng)操作：首先，用戶瀏覽多個(gè)商品才觸發(fā)一次購物行為;再次，實(shí)際交易前，需要確保庫存、配送、商家優(yōu)惠政策等信息;生成訂單后，執(zhí)行支付接口，要求高度一致性和可靠性;支付完成后需要回調(diào)多個(gè)邏輯，包括積分計(jì)算、折扣返點(diǎn)、物流配送等。

可見14萬/秒的交易峰值，不僅對(duì)于金融機(jī)構(gòu)，即便是具備豐富應(yīng)對(duì)高并發(fā)經(jīng)驗(yàn)的互聯(lián)網(wǎng)公司，都不是一件容易的事。更為緊迫的是，隨著IOT設(shè)備進(jìn)一步普及，“雙十一”帶來的壓力將越來越大，據(jù)某電商平臺(tái)預(yù)測，2016年“雙十一”峰值壓力將再翻5倍。在可預(yù)見的未來，交易完全有可能達(dá)到100萬次/秒!

2 應(yīng)對(duì)之道

本人曾參與研發(fā)交易量10萬/秒級(jí)別的系統(tǒng)，這里對(duì)如何應(yīng)對(duì)超高并發(fā)提出一些建議。其實(shí)，無論是“秒殺”還是“雙十一”，都沒有靈丹妙藥，一個(gè)真正能抗超高并發(fā)的金融系統(tǒng)，必然由系統(tǒng)中每個(gè)組件優(yōu)化而成。讓每個(gè)組件發(fā)揮***威力，并對(duì)系統(tǒng)充分解耦，才能做出可靠的平臺(tái)。

應(yīng)對(duì)超高并發(fā)，最重要兩個(gè)技術(shù)：“緩存-Cache”和”異步化-隊(duì)列”。

3 緩存- Cache

這里的Cache不是傳統(tǒng)意義上的Redis/Memcache等系統(tǒng)Cache組件，而是從用戶端到***數(shù)據(jù)層所有環(huán)節(jié)的Cache。

對(duì)于高并發(fā)場景，***條準(zhǔn)則就是為用戶行為所有環(huán)節(jié)加上合理的Cache。

業(yè)務(wù)層次圖如下：

如圖所示，用戶訪問/交易行為的起點(diǎn)是瀏覽器。首先對(duì)瀏覽器端進(jìn)行合理的Cache設(shè)置，即對(duì)其中頁面設(shè)置合理的過期規(guī)則，配合CDN端，讓部分元素響應(yīng)直接在瀏覽器Cache端返回，有效降低業(yè)務(wù)訪問壓力;其次，虛線內(nèi)展示的是業(yè)務(wù)端，主要由兩部分構(gòu)成，一個(gè)是計(jì)算資源，運(yùn)行業(yè)務(wù)代碼;另一個(gè)是數(shù)據(jù)庫，負(fù)責(zé)存儲(chǔ)業(yè)務(wù)數(shù)據(jù)。

業(yè)務(wù)層輸出的內(nèi)容分為兩部分：動(dòng)態(tài)+靜態(tài)。對(duì)于動(dòng)態(tài)居多的電商金融業(yè)務(wù)，以靜態(tài)內(nèi)容為主的CDN加速?zèng)]有特別效果，而應(yīng)該對(duì)數(shù)據(jù)接口進(jìn)行接口加速(ADN，API Delivery Network)。接口加速需要注意的是，不能因給接口加Cache而影響業(yè)務(wù)本身。我們建議對(duì)所有讀類型數(shù)據(jù)接口加Cache，并將Cache時(shí)間設(shè)定為毫秒級(jí)，針對(duì)不同接口指定不同Cache策略，有效提高Cache***率。

根據(jù)實(shí)測，通過加ADN Cache，可提高60%訪問速度，同時(shí)降低2-3倍后端實(shí)際負(fù)載。

4 異步化-隊(duì)列

異步化-隊(duì)列是通過隊(duì)列將請求/事務(wù)放入后臺(tái)運(yùn)行，從同步阻塞模式變?yōu)楫惒椒亲枞Ｊ?。例如，搶購發(fā)生時(shí)，用戶同時(shí)調(diào)用支付接口，同步阻塞模式下，用戶數(shù)量即支付接口的并發(fā)度，用戶過多時(shí)，支付數(shù)據(jù)庫壓力過大，嚴(yán)重時(shí)可能會(huì)導(dǎo)致數(shù)據(jù)庫服務(wù)宕機(jī)。采用異步模式后，搶購時(shí)，用戶請求進(jìn)入隊(duì)列處理，隊(duì)列并發(fā)度與數(shù)據(jù)庫并發(fā)能力相匹配，用戶請求按序進(jìn)行，可有效保護(hù)數(shù)據(jù)后端。

隊(duì)列不只可以保護(hù)后端數(shù)據(jù)庫。在秒殺場景，很多用戶搶購一個(gè)商品，可以先將搶購請求放入隊(duì)列，再進(jìn)入后臺(tái)篩選處理(比如排重、按優(yōu)先級(jí)排序等)，***調(diào)用實(shí)際下單接口。隊(duì)列可以根據(jù)產(chǎn)品需求選用兩種不同模式：一種是全異步模式，即進(jìn)入隊(duì)列后立即返回成功，通過回調(diào)通知調(diào)用者結(jié)果;另一種是半異步，即進(jìn)入隊(duì)列后，調(diào)用者掛起，實(shí)際執(zhí)行結(jié)束后，再返回成功或者失敗結(jié)果。

5 總結(jié)

應(yīng)對(duì)“雙十一”高并發(fā)，主要采用緩存+隊(duì)列異步化，緩存的重點(diǎn)是每個(gè)環(huán)節(jié)，尤其是對(duì)于傳統(tǒng)易忽略的數(shù)據(jù)接口，都要進(jìn)行合理的Cache。

對(duì)于高并發(fā)請求，要進(jìn)行異步化非阻塞處理，防止“洪水”現(xiàn)象，保證業(yè)務(wù)穩(wěn)定有序進(jìn)行。

————————————————————我是可愛分割線———————————————————————

[[175946]]