阿里最后一面:請設(shè)計一個秒殺系統(tǒng)
什么是秒殺
秒殺場景一般會在電商網(wǎng)站舉行一些活動或者節(jié)假日在12306網(wǎng)站上搶票時遇到。對于電商網(wǎng)站中一些稀缺或者特價商品,電商網(wǎng)站一般會在約定時間點對其進行限量銷售,因為這些商品的特殊性,會吸引大量用戶前來搶購,并且會在約定的時間點同時在秒殺頁面進行搶購。
秒殺系統(tǒng)場景特點
- 秒殺時大量用戶會在同一時間同時進行搶購,網(wǎng)站瞬時訪問流量激增。
- 秒殺一般是訪問請求數(shù)量遠遠大于庫存數(shù)量,只有少部分用戶能夠秒殺成功。
- 秒殺業(yè)務(wù)流程比較簡單,一般就是下訂單減庫存。
秒殺架構(gòu)設(shè)計理念
限流:鑒于只有少部分用戶能夠秒殺成功,所以要限制大部分流量,只允許少部分流量進入服務(wù)后端。
削峰:對于秒殺系統(tǒng)瞬時會有大量用戶涌入,所以在搶購一開始會有很高的瞬間峰值。高峰值流量是壓垮系統(tǒng)很重要的原因,所以如何把瞬間的高流量變成一段時間平穩(wěn)的流量也是設(shè)計秒殺系統(tǒng)很重要的思路。實現(xiàn)削峰的常用的方法有利用緩存和消息中間件等技術(shù)。
異步處理:秒殺系統(tǒng)是一個高并發(fā)系統(tǒng),采用異步處理模式可以極大地提高系統(tǒng)并發(fā)量,其實異步處理就是削峰的一種實現(xiàn)方式。
內(nèi)存緩存:秒殺系統(tǒng)比較大的瓶頸一般都是數(shù)據(jù)庫讀寫,由于數(shù)據(jù)庫讀寫屬于磁盤IO,性能很低,如果能夠把部分數(shù)據(jù)或業(yè)務(wù)邏輯轉(zhuǎn)移到內(nèi)存緩存,效率會有極大地提升。
可拓展:當然如果我們想支持更多用戶,更大的并發(fā),最好就將系統(tǒng)設(shè)計成彈性可拓展的,如果流量來了,拓展機器就好了。像淘寶、京東等雙十一活動時會增加大量機器應(yīng)對交易高峰。
設(shè)計思路
將請求攔截在系統(tǒng)上游,降低下游壓力:秒殺系統(tǒng)特點是并發(fā)量極大,但實際秒殺成功的請求數(shù)量卻很少,所以如果不在前端攔截很可能造成數(shù)據(jù)庫讀寫鎖沖突,甚至導致死鎖,最終請求超時。
充分利用緩存:利用緩存可極大提高系統(tǒng)讀寫速度。
消息隊列:消息隊列可以削峰,將攔截大量并發(fā)請求,這也是一個異步處理過程,后臺業(yè)務(wù)根據(jù)自己的處理能力,從消息隊列中主動的拉取請求消息進行業(yè)務(wù)處理。
前端方案
瀏覽器端(js):
頁面靜態(tài)化:將活動頁面上的所有可以靜態(tài)的元素全部靜態(tài)化,并盡量減少動態(tài)元素。通過CDN來抗峰值。
禁止重復(fù)提交:用戶提交之后按鈕置灰,禁止重復(fù)提交
用戶限流:在某一時間段內(nèi)只允許用戶提交一次請求,比如可以采取IP限流
后端方案
服務(wù)端控制器層(網(wǎng)關(guān)層)
限制uid(UserID)訪問頻率:我們上面攔截了瀏覽器訪問的請求,但針對某些惡意攻擊或其它插件,在服務(wù)端控制層需要針對同一個訪問uid,限制訪問頻率。
服務(wù)層
上面只攔截了一部分訪問請求,當秒殺的用戶量很大時,即使每個用戶只有一個請求,到服務(wù)層的請求數(shù)量還是很大。比如我們有100W用戶同時搶100臺手機,服務(wù)層并發(fā)請求壓力至少為100W。
采用消息隊列緩存請求:既然服務(wù)層知道庫存只有100臺手機,那完全沒有必要把100W個請求都傳遞到數(shù)據(jù)庫啊,那么可以先把這些請求都寫到消息隊列緩存一下,數(shù)據(jù)庫層訂閱消息減庫存,減庫存成功的請求返回秒殺成功,失敗的返回秒殺結(jié)束。
利用緩存應(yīng)對讀請求:對類似于12306等購票業(yè)務(wù),是典型的讀多寫少業(yè)務(wù),大部分請求是查詢請求,所以可以利用緩存分擔數(shù)據(jù)庫壓力。
利用緩存應(yīng)對寫請求:緩存也是可以應(yīng)對寫請求的,比如我們就可以把數(shù)據(jù)庫中的庫存數(shù)據(jù)轉(zhuǎn)移到Redis緩存中,所有減庫存操作都在Redis中進行,然后再通過后臺進程把Redis中的用戶秒殺請求同步到數(shù)據(jù)庫中。
數(shù)據(jù)庫層
數(shù)據(jù)庫層是最脆弱的一層,一般在應(yīng)用設(shè)計時在上游就需要把請求攔截掉,數(shù)據(jù)庫層只承擔“能力范圍內(nèi)”的訪問請求。所以,上面通過在服務(wù)層引入隊列和緩存,讓最底層的數(shù)據(jù)庫高枕無憂。































