網(wǎng)絡(luò)延遲

網(wǎng)絡(luò)延遲是指一個(gè)IP包從源主機(jī)進(jìn)程發(fā)出開始計(jì)時(shí)，到達(dá)目的地主機(jī)進(jìn)程為止，所經(jīng)歷的時(shí)間，以毫秒為單位。

IP包從源主機(jī)一路經(jīng)過多個(gè)中繼設(shè)備，如交換機(jī)、路由器，最終到達(dá)終點(diǎn)，網(wǎng)絡(luò)延遲由以下三者組成：

網(wǎng)絡(luò)延遲 = 傳輸延遲 + 處理延遲 +緩沖隊(duì)列延遲

[[275205]]

傳輸延遲

這個(gè)延遲很好理解，指光、電信號(hào)在有線介質(zhì)上的延遲，或無線電信號(hào)在空氣介質(zhì)中的延遲，這種傳輸延遲只和光速有關(guān)、或電信號(hào)的傳輸速度有關(guān)，用戶無法改變該延遲。對于一條選定的端對端路徑，此值是恒定的。

[[275206]]

處理延遲

接收IP包，查詢轉(zhuǎn)發(fā)表，硬件、或軟件轉(zhuǎn)發(fā)，包括封裝、解封裝、編碼、解碼時(shí)間，經(jīng)過設(shè)備越多，設(shè)備吞吐能力越弱(一秒可以轉(zhuǎn)發(fā)多少Gb的數(shù)據(jù))，延遲越大。但對于一條選定的端對端路徑，此值也是恒定的。

緩沖隊(duì)列延遲

當(dāng)端到端的路徑上，沒有任何網(wǎng)絡(luò)擁塞，緩沖隊(duì)列的延遲幾戶為0，網(wǎng)絡(luò)轉(zhuǎn)發(fā)性能達(dá)到線速度，好像兩端用一根線直連。

[[275207]]

但是網(wǎng)絡(luò)擁堵經(jīng)常發(fā)生，因?yàn)橹鳈C(jī)對帶寬的需求無止境，所以擁堵是常態(tài)。當(dāng)網(wǎng)絡(luò)擁堵時(shí)，路由器將無法及時(shí)轉(zhuǎn)發(fā)的流量緩沖在出口隊(duì)列，可能采用加權(quán)公平隊(duì)列WFQ(Weighted FairQueue)、或低延遲隊(duì)列LLQ (Low Latency Queue)，或默認(rèn)的先進(jìn)先出隊(duì)列FIFO(First In FirstOut)，這個(gè)隊(duì)列可能會(huì)造成幾百毫秒或更多的延遲，此值是可變的，可以接近0或幾秒不等，依賴網(wǎng)絡(luò)的擁堵程度。

1. 什么是加權(quán)公平隊(duì)列WFQ?

將不同的種類流量放入不同的隊(duì)列，預(yù)先給不同的隊(duì)列分配一個(gè)權(quán)值、或百分比，采用公平輪轉(zhuǎn)的方式來依次發(fā)送每個(gè)隊(duì)列的緩沖數(shù)據(jù)。

2. 什么是低延遲隊(duì)列LLQ?

依據(jù)IP優(yōu)先級(jí)，高優(yōu)先級(jí)的語音流量(Precedence =5)，最先發(fā)送，可以插隊(duì)，VIP客戶。

3. 什么是先進(jìn)先出隊(duì)列FIFO?

先到的先發(fā)，后到的后發(fā)。

所以過大的網(wǎng)絡(luò)延遲主要是由緩沖隊(duì)列延遲過大造成的!

Google最新的TCP BBR算法，就是積極主動(dòng)測量網(wǎng)絡(luò)的延遲，運(yùn)用智能算法，獲知網(wǎng)絡(luò)的最大可利用帶寬，使發(fā)送速率≤ 最大可利用帶寬，最大限度減少路由器的緩沖隊(duì)列的深度，最大限度減少延遲。

綜上可知，網(wǎng)絡(luò)延遲是由不受人類控制的傳輸延遲，以及人類可以控制的處理延遲、隊(duì)列延遲所組成。很顯然，如果想減小IP報(bào)文的整體延遲，必須從后兩者入手，即如何降低處理延遲、隊(duì)列延遲。

處理延遲是一個(gè)衡量一臺(tái)設(shè)備是否牛叉的關(guān)鍵指標(biāo)。以路由器為例，擁有近百萬條路由表的路由器，如何用最快速度匹配到正確的路由條目，包含著滿滿的黑科技。采用多級(jí)查詢，只需要查詢幾百、最多幾千次條目，就可以hit到正確的條目。這是產(chǎn)品設(shè)計(jì)時(shí)候需要實(shí)現(xiàn)的技術(shù)要素。