第三方接口掛掉，我們的服務(wù)會受影響么?

一、緣起與大坑

很多時候，業(yè)務(wù)需要跨公網(wǎng)調(diào)用一個第三方服務(wù)提供的接口，為了避免每個調(diào)用方都依賴于第三方服務(wù)，往往會抽象一個服務(wù)：

• 解除調(diào)用方與第三方接口的耦合
• 當(dāng)?shù)谌降慕涌谧儎訒r，只有服務(wù)需要修改，而不是所有調(diào)用方均修改

1. 此時接口調(diào)用流程是什么樣的呢?

如上圖所述：

• 業(yè)務(wù)調(diào)用方調(diào)用內(nèi)部service
• 內(nèi)部service跨公網(wǎng)調(diào)用第三方接口
• 第三方接口返回結(jié)果給內(nèi)部service
• 內(nèi)部service返回結(jié)果給業(yè)務(wù)調(diào)用方

2. 這個過程存在什么潛在的大坑呢?

內(nèi)部服務(wù)可能對上游業(yè)務(wù)提供了很多服務(wù)接口，當(dāng)有一個接口跨公網(wǎng)第三方調(diào)用超時時，可能導(dǎo)致所有接口都不可用，即使大部分接口不依賴于跨公網(wǎng)第三方調(diào)用。

3. 為什么會出現(xiàn)這種情況呢?

內(nèi)部服務(wù)對業(yè)務(wù)方提供的N個接口，會共用服務(wù)容器內(nèi)的工作線程(假設(shè)有100個工作線程)。

假設(shè)這N個接口的某個接口跨公網(wǎng)依賴于第三方的接口，發(fā)生了網(wǎng)絡(luò)抖動，或者接口超時(不妨設(shè)超時時間為5秒)。

潛臺詞是，這個工作線程會被占用5秒鐘，然后超時返回業(yè)務(wù)調(diào)用方。

假設(shè)這個請求的吞吐量為20qps，言下之意，很短的時間內(nèi)，所有的100個工作線程都會被卡在這個第三方超時等待上，而其他N-1個原本沒有問題的接口，也得不到工作線程處理。

4. 潛在優(yōu)化方案?

• 增大工作線程數(shù)(不根本解決問題)
• 降低超時時間(不根本解決問題)
• 垂直拆分，N個接口拆分成若干個服務(wù)，使得在出問題時，被牽連的接口盡可能少(依舊不根本解決問題，難道一個服務(wù)只提供一個接口嗎?)

跨公網(wǎng)調(diào)用的穩(wěn)定性優(yōu)化，是本文要討論的問題。

二、異步代理法

業(yè)務(wù)場景：通過OpenID實時獲取微信用戶基本信息

解決方案：增加一個代理，向服務(wù)屏蔽究竟是“本地實時”還是“異步遠程”去獲取返回結(jié)果

本地實時流程如上圖：

(1)業(yè)務(wù)調(diào)用方調(diào)用內(nèi)部service

(2)內(nèi)部service調(diào)用異步代理service

(3)異步代理service通過OpenID在本地拿取數(shù)據(jù)

(4)異步代理service將數(shù)據(jù)返回內(nèi)部service

(5)內(nèi)部service返回結(jié)果給業(yè)務(wù)調(diào)用方

異步遠程流程如上圖6-8粗箭頭的部分：

(6)異步代理service定期跨公網(wǎng)調(diào)用微信服務(wù)

(7)微信服務(wù)返回數(shù)據(jù)

(8)刷新本地數(shù)據(jù)

優(yōu)點：公網(wǎng)抖動，第三方接口超時，不影響內(nèi)部接口調(diào)用

不足：本地返回的不是***數(shù)據(jù)(很多業(yè)務(wù)可以接受數(shù)據(jù)延時)

有時候，內(nèi)部service和異步代理service可以合成一個service。

三、第三方接口備份與切換法

業(yè)務(wù)場景：調(diào)用第三方短信網(wǎng)關(guān)，或者電子合同等

解決方案：同時使用(或者備份)多個第三方服務(wù)

流程如上圖：

(1)業(yè)務(wù)調(diào)用方調(diào)用內(nèi)部service

(2)內(nèi)部service調(diào)用***個三方接口

(3)超時后，調(diào)用第二個備份服務(wù)，未來都直接調(diào)用備份服務(wù)，直到超時的服務(wù)恢復(fù)

(4)內(nèi)部service返回結(jié)果給業(yè)務(wù)調(diào)用方

優(yōu)點：公網(wǎng)抖動，第三方接口超時，不影響內(nèi)部接口調(diào)用(初期少數(shù)幾個請求會超時)

不足：不是所有公網(wǎng)調(diào)用都能夠像短息網(wǎng)關(guān)，電子合同服務(wù)一樣有備份接口的，像微信、支付寶等就只此一家

四、異步調(diào)用法

業(yè)務(wù)場景：本地結(jié)果，同步第三方服務(wù)，例如用戶在58到家平臺下單，58到家平臺需要通知平臺商家為用戶提供服務(wù)

解決方案：本地調(diào)用成功就返回成功，異步調(diào)用第三方接口同步數(shù)據(jù)(和異步代理有微小差別)

本地流程如上圖：

(1)業(yè)務(wù)調(diào)用方調(diào)用內(nèi)部service

(2)內(nèi)部service寫本地數(shù)據(jù)

(3)內(nèi)部service返回結(jié)果給業(yè)務(wù)調(diào)用方成功

異步流程如上圖4-5粗箭頭的部分：

(4)異步service定期將本地數(shù)據(jù)取出(或者通知也行，實時性好)

(5)異步調(diào)用第三方接口同步數(shù)據(jù)

優(yōu)點：公網(wǎng)抖動，第三方接口超時，不影響內(nèi)部接口調(diào)用

不足：不是所有業(yè)務(wù)場景都可以異步同步數(shù)據(jù)

五、總結(jié)

跨公網(wǎng)調(diào)用第三方，可能存在的問題：

• 公網(wǎng)抖動，第三方服務(wù)不穩(wěn)定，影響自身服務(wù)
• 一個接口超時，占住工作線程，影響其他接口

降低影響的優(yōu)化方案：

• 增大工作線程數(shù)
• 降低超時時間
• 服務(wù)垂直拆分

業(yè)務(wù)需求決定技術(shù)方案，結(jié)合業(yè)務(wù)的解決方案：

• 業(yè)務(wù)能接受舊數(shù)據(jù)：讀取本地數(shù)據(jù)，異步代理定期更新數(shù)據(jù)
• 有多個第三方服務(wù)提供商：多個第三方互備
• 向第三方同步數(shù)據(jù)：本地寫成功就算成功，異步向第三方同步數(shù)據(jù)

希望第三方的服務(wù)掛掉，不再影響大家的服務(wù)。

【本文為51CTO專欄作者“58沈劍”原創(chuàng)稿件，轉(zhuǎn)載請聯(lián)系原作者】

戳這里，看該作者更多好文