02

淘系技術(shù)部-行業(yè)與智能運(yùn)營(yíng)架構(gòu)組-仲春

“在面試時(shí)被問(wèn)到高并發(fā)經(jīng)驗(yàn)時(shí)不要慌，按照以下過(guò) 程表達(dá)即可體現(xiàn)你的高并發(fā)設(shè)計(jì)能力：優(yōu)化單請(qǐng)求耗時(shí)、提高單機(jī)并發(fā)能力、提 高整體并發(fā)能力。”

個(gè)人認(rèn)為，其實(shí)我們并不用去追求嚴(yán)格意義上的高并發(fā)經(jīng)驗(yàn)，因?yàn)楹芏鄷r(shí)候都沒(méi)有這樣的機(jī)會(huì)給到你，對(duì)于高并發(fā)的處理經(jīng)驗(yàn)主要體現(xiàn)在日常的積累以及對(duì)自己的嚴(yán)格要求上。

   為什么總在說(shuō)高并發(fā)？

在并發(fā)不高的場(chǎng)景下，不區(qū)分經(jīng)驗(yàn)是否豐富的任何人都能完成基本的業(yè)務(wù)開(kāi)發(fā)，而且不會(huì)產(chǎn)生任何性能問(wèn)題，下游依賴(lài)、底層存儲(chǔ)依賴(lài)都不會(huì)對(duì)你的系統(tǒng)產(chǎn)生影響，但是在并發(fā)很高的時(shí)候，一切都變了，可能由于高并發(fā)環(huán)境時(shí)下游抖了幾ms、db由于高寫(xiě)入或者備庫(kù)讀壓力過(guò)大而導(dǎo)致主備延遲了一下，你的系統(tǒng)或者業(yè)務(wù)都會(huì)產(chǎn)生故障。

  如何積攢“經(jīng)驗(yàn)”？

對(duì)于這個(gè)問(wèn)題，我總結(jié)3點(diǎn)可落地：

• 系統(tǒng)的設(shè)計(jì)優(yōu)化

首先 系統(tǒng) 只有無(wú)狀態(tài)的，才能不斷橫向擴(kuò)展，才能支撐流量的變化，在業(yè)務(wù)層的高并發(fā)大多都需要不斷擴(kuò)容來(lái)支持，但是擴(kuò)容也不是最根本的方式，如果系統(tǒng)不做優(yōu)化，一開(kāi)始擴(kuò)容大概率是有效的，到一 定階段后就會(huì)發(fā)現(xiàn)情況開(kāi)始惡化，因?yàn)榈讓拥囊蕾?lài)競(jìng)爭(zhēng)開(kāi)始激烈，失敗開(kāi)始增多。優(yōu)化的盡頭往往是對(duì)下游依賴(lài)和底層數(shù)據(jù)層的優(yōu)化，解決方案大多是常見(jiàn)的緩存分層、讀寫(xiě)分離、分庫(kù)分表、異步化等等，但是引入這些技術(shù)方案時(shí)，會(huì)帶來(lái)一些副作用，接下來(lái)你需要解決和屏蔽這些副作用。

• 業(yè)務(wù)邏輯的優(yōu)化

當(dāng)你只是在負(fù)責(zé)一個(gè)流量不大的系統(tǒng)時(shí)，是否就沒(méi)有高并發(fā)的機(jī)會(huì)了呢？其實(shí)不然，你需要不斷嚴(yán)格要求自己，讓業(yè)務(wù)跑的更快，例如：將單次請(qǐng)求響應(yīng)耗時(shí)從100ms優(yōu)化到20ms；單機(jī)能力從100qps提高到500qps，同時(shí)cpu消耗上漲不明顯；優(yōu)化單次請(qǐng)求對(duì)緩存和db的放大系數(shù)降低，減少對(duì)緩存和db的壓力。在這個(gè)過(guò)程中你將積累大量的實(shí)戰(zhàn)經(jīng)驗(yàn)，完成業(yè)務(wù)開(kāi)發(fā)很簡(jiǎn)單，但是完成一個(gè)高效且具備高擴(kuò)展性的業(yè)務(wù)開(kāi)發(fā)卻是很難的，往前多想幾步，你會(huì)收獲很多。

• 壓測(cè)驗(yàn)證

在業(yè)務(wù)體量沒(méi)有高并發(fā)的情況下，只有自己人為創(chuàng)造流量來(lái)驗(yàn)證（不過(guò)前提是你的系統(tǒng)支持全鏈路壓測(cè)，否則壓測(cè)數(shù)據(jù)會(huì)污染線(xiàn)上真實(shí)環(huán)境，如果暫時(shí)不支持，那么恭喜你，你有機(jī)會(huì)做一次全鏈路壓測(cè)改造了），通過(guò)驗(yàn)證在目標(biāo)水位下的系統(tǒng)表現(xiàn)、機(jī)器表現(xiàn)，再繼續(xù)重復(fù)前面兩個(gè)過(guò)程，不斷迭代，直到無(wú)法扣細(xì)節(jié)，提高性能；

   如何展示自己的高并發(fā)經(jīng)驗(yàn)？

只要在日常研發(fā)過(guò)程中嚴(yán)以律己，做好各項(xiàng)設(shè)計(jì)和優(yōu)化，不隨意寫(xiě)難易擴(kuò)展和難易維護(hù)的代碼，面試的時(shí)候就能聊下去。在面試時(shí)被問(wèn)到高并發(fā)經(jīng)驗(yàn)時(shí)不要慌，只要按照以下過(guò)程表達(dá)即可體現(xiàn)你的高并發(fā)設(shè)計(jì)能力：

• 如何優(yōu)化單請(qǐng)求耗時(shí)

這里你會(huì)闡述如何設(shè)計(jì)和改造系統(tǒng)架構(gòu)，有可能涉及到j(luò)vm的參數(shù)優(yōu)化、各種依賴(lài)是如何選型，過(guò)程中你積累了哪些選型和優(yōu)化的方式；

• 如何提高單機(jī)并發(fā)能力

這里你會(huì)闡述在你的業(yè)務(wù)中，單機(jī)并發(fā)能力受限于哪些關(guān)鍵點(diǎn)，這里主要的挑戰(zhàn)點(diǎn)是單機(jī)的限制條件以及單機(jī)資源的競(jìng)爭(zhēng)，你是如何設(shè)計(jì)克服的，過(guò)程中你積累了哪些設(shè)計(jì)原則；

• 如何提高整體并發(fā)能力

這里你會(huì)闡述在集群環(huán)境下最重要的亮點(diǎn)，就是如何處理跨機(jī)器的資源競(jìng)爭(zhēng)以及數(shù)據(jù)的一致性問(wèn)題，這里將體現(xiàn)你整體業(yè)務(wù)架構(gòu)設(shè)計(jì)能力；

綜上所述，面試時(shí)并不是要求你一定要有真實(shí)高并發(fā)的項(xiàng)目經(jīng)驗(yàn)，項(xiàng)目經(jīng)驗(yàn)只是為了驗(yàn)證你真的做過(guò)一些設(shè)計(jì)和優(yōu)化，如果你能將高并發(fā)場(chǎng)景下的設(shè)計(jì)原則和可能遇到的問(wèn)題場(chǎng)景和解法都表達(dá)清楚，那么我相信面試官也是認(rèn)可的。

“對(duì)于高并發(fā)系統(tǒng)設(shè)計(jì)，個(gè)人推薦可以自底向上的分成三個(gè)部分，首先是建立基礎(chǔ)知識(shí)體系，其次是熟悉業(yè)界解決方案，最后是分布式系統(tǒng)設(shè)計(jì)。 ”

首先高并發(fā)的系統(tǒng)也不是最初就設(shè)計(jì)出來(lái)的， 一切解決方案都是來(lái)自于業(yè)務(wù)場(chǎng)景 。

大多是針對(duì)特定時(shí)期內(nèi)的問(wèn)題與挑戰(zhàn)，一步一步演化出來(lái)的。即便是在有高并發(fā)場(chǎng)景的公司里的研發(fā)同學(xué)，如果不是去參與解決這些問(wèn)題，往往也不能直接獲得高并發(fā)的經(jīng)驗(yàn)積累。所以沒(méi)有場(chǎng)景的公司里面的研發(fā)同學(xué)，大家的起點(diǎn)其實(shí)是差不多的，完全不用虛，關(guān)鍵還是在于掌握其中的核心科技。

對(duì)于高并發(fā)系統(tǒng)設(shè)計(jì)，個(gè)人推薦可以自底向上的分成三個(gè)部分，首先是 建立基礎(chǔ)知識(shí)體系 ，其次是 熟悉業(yè)界解決方案 ，最后是 分布式系統(tǒng)設(shè)計(jì) 。

知識(shí)體系的建立要更多的去關(guān)注底層，如算法、緩存、多線(xiàn)程、并發(fā)、JVM、OS、網(wǎng)絡(luò)、分布式理論等，這些東西相對(duì)穩(wěn)定，在這些底層技術(shù)的基礎(chǔ)上的解決方案好像層出不窮，如各種緩存技術(shù)、各種消息隊(duì)列、各種數(shù)據(jù)庫(kù)。但是掌握了底層原理，再去看上層的解決方案就能有觸類(lèi)旁通的效果。對(duì)于最后的分布式系統(tǒng)設(shè)計(jì)，就是針對(duì)具體業(yè)務(wù)場(chǎng)景去應(yīng)用相應(yīng)的技術(shù)，組裝成一套體系的方案。

對(duì)于知識(shí)的學(xué)習(xí)資料網(wǎng)上已經(jīng)非常多，可以自行學(xué)習(xí)建立體系。自己公司沒(méi)有具體的場(chǎng)景，就去各大公司的技術(shù)博客學(xué)習(xí)業(yè)界方案。業(yè)界方案的學(xué)習(xí)推薦更多的思考其中的原因（Why），這個(gè)才是系統(tǒng)設(shè)計(jì)的核心。

比如一個(gè)環(huán)節(jié)拿掉會(huì)對(duì)系統(tǒng)產(chǎn)生什么樣的影響？換成另外一個(gè)技術(shù)會(huì)有什么不同？下面主要講一下面試中對(duì)于系統(tǒng)設(shè)計(jì)的解答思路。