02

淘系技術(shù)部-行業(yè)與智能運營架構(gòu)組-仲春

“在面試時被問到高并發(fā)經(jīng)驗時不要慌，按照以下過 程表達(dá)即可體現(xiàn)你的高并發(fā)設(shè)計能力：優(yōu)化單請求耗時、提高單機并發(fā)能力、提 高整體并發(fā)能力。”

個人認(rèn)為，其實我們并不用去追求嚴(yán)格意義上的高并發(fā)經(jīng)驗，因為很多時候都沒有這樣的機會給到你，對于高并發(fā)的處理經(jīng)驗主要體現(xiàn)在日常的積累以及對自己的嚴(yán)格要求上。

   為什么總在說高并發(fā)？

在并發(fā)不高的場景下，不區(qū)分經(jīng)驗是否豐富的任何人都能完成基本的業(yè)務(wù)開發(fā)，而且不會產(chǎn)生任何性能問題，下游依賴、底層存儲依賴都不會對你的系統(tǒng)產(chǎn)生影響，但是在并發(fā)很高的時候，一切都變了，可能由于高并發(fā)環(huán)境時下游抖了幾ms、db由于高寫入或者備庫讀壓力過大而導(dǎo)致主備延遲了一下，你的系統(tǒng)或者業(yè)務(wù)都會產(chǎn)生故障。

  如何積攢“經(jīng)驗”？

對于這個問題，我總結(jié)3點可落地：

• 系統(tǒng)的設(shè)計優(yōu)化

首先 系統(tǒng) 只有無狀態(tài)的，才能不斷橫向擴展，才能支撐流量的變化，在業(yè)務(wù)層的高并發(fā)大多都需要不斷擴容來支持，但是擴容也不是最根本的方式，如果系統(tǒng)不做優(yōu)化，一開始擴容大概率是有效的，到一 定階段后就會發(fā)現(xiàn)情況開始惡化，因為底層的依賴競爭開始激烈，失敗開始增多。優(yōu)化的盡頭往往是對下游依賴和底層數(shù)據(jù)層的優(yōu)化，解決方案大多是常見的緩存分層、讀寫分離、分庫分表、異步化等等，但是引入這些技術(shù)方案時，會帶來一些副作用，接下來你需要解決和屏蔽這些副作用。

• 業(yè)務(wù)邏輯的優(yōu)化

當(dāng)你只是在負(fù)責(zé)一個流量不大的系統(tǒng)時，是否就沒有高并發(fā)的機會了呢？其實不然，你需要不斷嚴(yán)格要求自己，讓業(yè)務(wù)跑的更快，例如：將單次請求響應(yīng)耗時從100ms優(yōu)化到20ms；單機能力從100qps提高到500qps，同時cpu消耗上漲不明顯；優(yōu)化單次請求對緩存和db的放大系數(shù)降低，減少對緩存和db的壓力。在這個過程中你將積累大量的實戰(zhàn)經(jīng)驗，完成業(yè)務(wù)開發(fā)很簡單，但是完成一個高效且具備高擴展性的業(yè)務(wù)開發(fā)卻是很難的，往前多想幾步，你會收獲很多。

• 壓測驗證

在業(yè)務(wù)體量沒有高并發(fā)的情況下，只有自己人為創(chuàng)造流量來驗證（不過前提是你的系統(tǒng)支持全鏈路壓測，否則壓測數(shù)據(jù)會污染線上真實環(huán)境，如果暫時不支持，那么恭喜你，你有機會做一次全鏈路壓測改造了），通過驗證在目標(biāo)水位下的系統(tǒng)表現(xiàn)、機器表現(xiàn)，再繼續(xù)重復(fù)前面兩個過程，不斷迭代，直到無法扣細(xì)節(jié)，提高性能；

   如何展示自己的高并發(fā)經(jīng)驗？

只要在日常研發(fā)過程中嚴(yán)以律己，做好各項設(shè)計和優(yōu)化，不隨意寫難易擴展和難易維護的代碼，面試的時候就能聊下去。在面試時被問到高并發(fā)經(jīng)驗時不要慌，只要按照以下過程表達(dá)即可體現(xiàn)你的高并發(fā)設(shè)計能力：

• 如何優(yōu)化單請求耗時

這里你會闡述如何設(shè)計和改造系統(tǒng)架構(gòu)，有可能涉及到j(luò)vm的參數(shù)優(yōu)化、各種依賴是如何選型，過程中你積累了哪些選型和優(yōu)化的方式；

• 如何提高單機并發(fā)能力

這里你會闡述在你的業(yè)務(wù)中，單機并發(fā)能力受限于哪些關(guān)鍵點，這里主要的挑戰(zhàn)點是單機的限制條件以及單機資源的競爭，你是如何設(shè)計克服的，過程中你積累了哪些設(shè)計原則；

• 如何提高整體并發(fā)能力

這里你會闡述在集群環(huán)境下最重要的亮點，就是如何處理跨機器的資源競爭以及數(shù)據(jù)的一致性問題，這里將體現(xiàn)你整體業(yè)務(wù)架構(gòu)設(shè)計能力；

綜上所述，面試時并不是要求你一定要有真實高并發(fā)的項目經(jīng)驗，項目經(jīng)驗只是為了驗證你真的做過一些設(shè)計和優(yōu)化，如果你能將高并發(fā)場景下的設(shè)計原則和可能遇到的問題場景和解法都表達(dá)清楚，那么我相信面試官也是認(rèn)可的。

“對于高并發(fā)系統(tǒng)設(shè)計，個人推薦可以自底向上的分成三個部分，首先是建立基礎(chǔ)知識體系，其次是熟悉業(yè)界解決方案，最后是分布式系統(tǒng)設(shè)計。 ”

首先高并發(fā)的系統(tǒng)也不是最初就設(shè)計出來的， 一切解決方案都是來自于業(yè)務(wù)場景 。

大多是針對特定時期內(nèi)的問題與挑戰(zhàn)，一步一步演化出來的。即便是在有高并發(fā)場景的公司里的研發(fā)同學(xué)，如果不是去參與解決這些問題，往往也不能直接獲得高并發(fā)的經(jīng)驗積累。所以沒有場景的公司里面的研發(fā)同學(xué)，大家的起點其實是差不多的，完全不用虛，關(guān)鍵還是在于掌握其中的核心科技。

對于高并發(fā)系統(tǒng)設(shè)計，個人推薦可以自底向上的分成三個部分，首先是 建立基礎(chǔ)知識體系 ，其次是 熟悉業(yè)界解決方案 ，最后是 分布式系統(tǒng)設(shè)計 。

知識體系的建立要更多的去關(guān)注底層，如算法、緩存、多線程、并發(fā)、JVM、OS、網(wǎng)絡(luò)、分布式理論等，這些東西相對穩(wěn)定，在這些底層技術(shù)的基礎(chǔ)上的解決方案好像層出不窮，如各種緩存技術(shù)、各種消息隊列、各種數(shù)據(jù)庫。但是掌握了底層原理，再去看上層的解決方案就能有觸類旁通的效果。對于最后的分布式系統(tǒng)設(shè)計，就是針對具體業(yè)務(wù)場景去應(yīng)用相應(yīng)的技術(shù)，組裝成一套體系的方案。

對于知識的學(xué)習(xí)資料網(wǎng)上已經(jīng)非常多，可以自行學(xué)習(xí)建立體系。自己公司沒有具體的場景，就去各大公司的技術(shù)博客學(xué)習(xí)業(yè)界方案。業(yè)界方案的學(xué)習(xí)推薦更多的思考其中的原因（Why），這個才是系統(tǒng)設(shè)計的核心。

比如一個環(huán)節(jié)拿掉會對系統(tǒng)產(chǎn)生什么樣的影響？換成另外一個技術(shù)會有什么不同？下面主要講一下面試中對于系統(tǒng)設(shè)計的解答思路。