今天我從 7 個(gè)不同的維度，講講秒殺系統(tǒng)的架構(gòu)設(shè)計(jì)，主要知識點(diǎn)如下：

• Nginx + 前后端分離 + CDN 緩存 + 網(wǎng)關(guān)（限流+熔斷）
• 集群的路由層 + Redis（緩存熱點(diǎn)數(shù)據(jù)、分布式鎖)
• MQ 集群
• 業(yè)務(wù)處理層
• 數(shù)據(jù)庫層（讀寫分離、熱點(diǎn)隔離)

1. 秒殺業(yè)務(wù)的特點(diǎn)

• 瞬間大量的刷新頁面的操作
• 瞬間大量的搶寶的操作
• 可能有秒殺器的惡性競爭

2. 總體思路

2.1 削峰限流

• 前端+Redis攔截，只有redis扣減成功的請求才能進(jìn)入到下游
• MQ堆積訂單，保護(hù)訂單處理層的負(fù)載，Consumer根據(jù)自己的消費(fèi)能力來取Task，實(shí)際上下游的壓力就可控了。重點(diǎn)做好路由層和MQ的安全
• 引入答題驗(yàn)證碼、請求的隨機(jī)休眠等措施，削峰填谷

安全保護(hù)

• 頁面和前端要做判斷，防止活動(dòng)未開始就搶單，防止重復(fù)點(diǎn)擊按鈕連續(xù)搶單
• 防止秒殺器惡意搶單，IP限流、UserId限流限購、引入答題干擾答題器，并且對答題器答題時(shí)間做常理推斷
• IP黑名單、UserId黑名單功能
• 過載丟棄：QPS或者CPU等核心指標(biāo)超過一定限額時(shí)，丟棄請求，避免服務(wù)器掛掉，保證大部分用戶可用

頁面優(yōu)化，動(dòng)靜分離

• 秒殺商品的網(wǎng)頁內(nèi)容盡可能做的簡單：圖片小、js css 體積小數(shù)量少，內(nèi)容盡可能的做到動(dòng)靜分離
• 秒殺的搶寶過程中做成異步刷新?lián)寣?，而不需要用戶刷新頁面來搶，降低服?wù)器交互的壓力
• 可以使用Nginx的動(dòng)靜分離，不通過傳統(tǒng)web瀏覽器獲取靜態(tài)資源
• nginx開啟gzip壓縮，壓縮靜態(tài)資源，減少傳輸帶寬，提升傳輸速度
• 或者使用Varnish，把靜態(tài)資源緩存到內(nèi)存當(dāng)中，避免靜態(tài)資源的獲取給服務(wù)器造成的壓力

異步處理

• redis搶單成功后，把后續(xù)的業(yè)務(wù)丟到線程池中異步的處理，提高搶單的響應(yīng)速度
• 線程池處理時(shí)，把任務(wù)丟到MQ中，異步的等待各個(gè)子系統(tǒng)處理（訂單系統(tǒng)、庫存系統(tǒng)、支付系統(tǒng)、優(yōu)惠券系統(tǒng)）
  異步操作有事務(wù)問題，本地事務(wù)和分布式事務(wù)，但是為了提升并發(fā)度，最好犧牲一致性。通過定時(shí)掃描統(tǒng)計(jì)日志，來發(fā)現(xiàn)有問題的訂單，并且及時(shí)處理

熱點(diǎn)分離

盡量的避免秒殺功能給正常功能帶來的影響，比如秒殺把服務(wù)器某個(gè)功能拖垮了。

分離可以提升系統(tǒng)的容災(zāi)性，但是完全的隔離的改造成本太高了，盡量借助中間件的配置，來實(shí)現(xiàn)冷熱分離。

• 集群節(jié)點(diǎn)的分離：nginx配置讓秒殺業(yè)務(wù)走的集群節(jié)點(diǎn)和普通業(yè)務(wù)走的集群不一樣。
• MQ的分離：避免秒殺業(yè)務(wù)把消息隊(duì)列堆滿了，普通業(yè)務(wù)的交易延遲也特別厲害。
• 數(shù)據(jù)庫的分離：根據(jù)實(shí)際的秒殺的QPS來選擇，熱點(diǎn)數(shù)據(jù)分庫以后，增加了分布式事務(wù)的問題，以及查詢的時(shí)候跨庫查詢性能要差一些（ShardingJDBC有這種功能），所以要權(quán)衡以后再?zèng)Q定是否需要分庫
• 避免單點(diǎn)：各個(gè)環(huán)節(jié)都要盡力避免
• 降級：臨時(shí)關(guān)閉一些沒那么重要的功能，比如秒殺商品的轉(zhuǎn)贈(zèng)功能、紅包的提現(xiàn)功能，待秒殺峰值過了，設(shè)置開關(guān)，再動(dòng)態(tài)開放這些次要的功能

2.2 Nginx的設(shè)計(jì)細(xì)節(jié)

• 動(dòng)靜分離，不走tomcat獲取靜態(tài)資源

server {
        listen       8088;
    location ~ \.(gif|jpg|jpeg|png|bmp|swf)$ {  
        root    C:/Users/502764158/Desktop/test;  
    } 

    location ~ \.(jsp|do)$ {
            proxy_pass http://localhost:8082;
        }
    }
 }

• gzip壓縮，減少靜態(tài)文件傳輸?shù)捏w積，節(jié)省帶寬，提高渲染速度

gzip on;
    gzip_min_length 1k;
    gzip_buffers 4 16k;
    gzip_comp_level 3;
    gzip_disable "MSIE [1-6]\.";
    gzip_types   text/plain application/x-javascript text/css application/xml text/javascript image/jpeg image/gif image/png;

配置集群負(fù)載和容災(zāi)，設(shè)置失效重連的時(shí)間，失效后，定期不會(huì)再重試掛掉的節(jié)點(diǎn)，參數(shù)：

• fail_timeout默認(rèn)為10s
• max_fails默認(rèn)為1。就是說，只要某個(gè)server失效一次，則在接下來的10s內(nèi)，就不會(huì)分發(fā)請求到該server上
• proxy_connect_timeout 后端服務(wù)器連接的超時(shí)時(shí)間_發(fā)起握手等候響應(yīng)超時(shí)時(shí)間

upstream  netitcast.com {  #服務(wù)器集群名字   
    server    127.0.0.1:8080;
    server    127.0.0.1:38083;
    server    127.0.0.1:8083;
    } 

 server {
        listen       88;
        server_name  localhost;
    location / {  
            proxy_pass http://netitcast.com;  
            proxy_connect_timeout       1;
            fail_timeout 5;
        } 
    }

1. 集成Varnish做靜態(tài)資源的緩存
2. 集成tengine做過載的保護(hù)

2.3 頁面優(yōu)化細(xì)節(jié)

降低交互的壓力

• 盡量把js、css文件放在少數(shù)幾個(gè)里面，減少瀏覽器和后端交互獲取靜態(tài)資源的次數(shù)
• 盡量避免在秒殺商品頁面使用大的圖片，或者使用過多的圖片

安全控制

• 時(shí)間有效性驗(yàn)證：未到秒殺時(shí)間不能進(jìn)行搶單，并且同時(shí)程序后端也要做時(shí)間有效性驗(yàn)證，因?yàn)榫W(wǎng)頁的時(shí)間和各自的系統(tǒng)時(shí)間決定，而且秒殺器可以通過繞開校驗(yàn)直接調(diào)用搶單
• 異步搶單：通過點(diǎn)擊按鈕刷新?lián)寣?，而不是刷新頁面的方式搶寶（答題驗(yàn)證碼等等也是ajax交互）
• 另外，搜索公眾號Linux就該這樣學(xué)后臺回復(fù)“猴子”，獲取一份驚喜禮包。
• redis做IP限流
• redis做UserId限流

2.4 Redis集群的應(yīng)用

1. 分布式鎖（悲觀鎖）
2. 緩存熱點(diǎn)數(shù)據(jù)（庫存）：如果QPS太高的話，另一種方案是通過localcache，分布式狀態(tài)一致性通過數(shù)據(jù)庫來控制

分布式悲觀鎖（參考redis悲觀鎖的代碼）

• 悲觀鎖（因?yàn)榭隙帗寚?yán)重）
• Expire時(shí)間（搶到鎖后，立刻設(shè)置過期時(shí)間，防止某個(gè)線程的異常停擺，導(dǎo)致整個(gè)業(yè)務(wù)的停擺）
• 定時(shí)循環(huán)和快速反饋（for緩存有超時(shí)設(shè)置，每次超時(shí)后，重新讀取一次庫存，還有貨再進(jìn)行第二輪的for循環(huán)爭奪，實(shí)現(xiàn)快速反饋，避免沒有貨了還在持續(xù)搶鎖）

異步處理訂單

• redis搶鎖成功后，記錄搶到鎖的用戶信息后，就可以直接釋放鎖，并反饋用戶，通過異步的方式來處理訂單，提升秒殺的效率，降低無意義的線程等待
• 為了避免異步的數(shù)據(jù)不同步，需要搶到鎖的時(shí)候，在redis里面緩存用戶信息列表，緩存結(jié)束后，觸發(fā)搶單成功用戶信息持久化，并且定時(shí)的比對一致性

2.5 消息隊(duì)列限流

消息隊(duì)列削峰限流(RocketMQ自帶的Consumer自帶線程池和限流措施)，集群。一般都是微服務(wù)，訂單中心、庫存中心、積分中心、用戶的商品中心

2.6 數(shù)據(jù)庫設(shè)計(jì)

• 拆分事務(wù)提高并發(fā)度
• 根據(jù)業(yè)務(wù)需求考慮分庫：讀寫分離、熱點(diǎn)隔離拆分，但是會(huì)引入分布式事務(wù)問題，以及跨庫操作的難度

要執(zhí)行的操作：扣減庫存、生成新訂單、生成待支付訂單、扣減優(yōu)惠券、積分變動(dòng)

庫存表是數(shù)據(jù)庫并發(fā)的瓶頸所在，需要在事務(wù)控制上做權(quán)衡：可以把扣減庫存設(shè)置成一個(gè)獨(dú)立的事務(wù)，其它操作成一個(gè)大的事務(wù)（訂單、優(yōu)惠券、積分操作），提高并發(fā)度，但是要做好額外的check

update 庫存表 set 庫存=庫存-1 where id=** and 庫存>1

2.7 答題驗(yàn)證碼的設(shè)計(jì)

• 可以防止秒殺器的干擾，讓更多用戶有機(jī)會(huì)搶到
• 延緩請求，每個(gè)人的反應(yīng)時(shí)間不同，把瞬間流量分散開來了

驗(yàn)證碼的設(shè)計(jì)可以分為2種：

• 驗(yàn)證失敗重新刷新答題（12306）：服務(wù)器交互量大，每錯(cuò)一次交互一次，但是可以大大降低秒殺器答題的可能性，因?yàn)闆]有試錯(cuò)這個(gè)功能，答題一直在變
• 驗(yàn)證失敗提示失敗，但是不刷新答題的算法：要么答題成功，進(jìn)入下單界面，要么提示打錯(cuò)，繼續(xù)答題（不刷新答題，無須交互，用js驗(yàn)證結(jié)果)。
  這種方案，可以在加載題目的時(shí)候一起加載MD5加密的答案，然后后臺再校驗(yàn)一遍，實(shí)現(xiàn)類似的防止作弊的效果。好處是不需要額外的服務(wù)器交互。
  MD加密答案的算法里面要引入 userId PK這些因素進(jìn)來來確保每次答案都不一樣而且沒有規(guī)律，避免秒殺器統(tǒng)計(jì)結(jié)果集

答題的驗(yàn)證：除了驗(yàn)證答案的正確性意外，還要統(tǒng)計(jì)反應(yīng)時(shí)間，例如12306的難題，正常人類的答題速度最快是1.5s，那么，小于1s的驗(yàn)證可以判定為機(jī)器驗(yàn)證

3. 注意事項(xiàng)

為了提升并發(fā)，需要在事務(wù)上做妥協(xié)：

• 單機(jī)上拆分事務(wù)：比如扣減庫存表+(生成待支付訂單+優(yōu)惠券扣減+積分變動(dòng))是一個(gè)大的事務(wù)，為了提高并發(fā)，可以拆分為2個(gè)事務(wù)
• 分庫以后引入分布式事務(wù)問題,為了保證用戶體驗(yàn)，最好還是通過日志分析來人工維護(hù)，否則阻塞太嚴(yán)重，并發(fā)差。