[[410918]]

本文轉(zhuǎn)載自微信公眾號(hào)「精益碼農(nóng)」，作者小碼甲 。轉(zhuǎn)載本文請(qǐng)聯(lián)系精益碼農(nóng)公眾號(hào)。

大綱

1.云原生系統(tǒng)的彈性模式resiliency pattern

• 1.1 服務(wù)故障的雪崩效應(yīng)
• 1.2 回應(yīng)之前云原生--彈性請(qǐng)求的疑問?

2. 彈性模式：作用在下游請(qǐng)求消息上

3. 短期中斷的響應(yīng)碼

4. Polly經(jīng)典策略

5. Golang 斷路器模式

德國哲學(xué)家尼采說過：那些殺不死我的東西，只會(huì)讓我更加強(qiáng)大。

01云原生系統(tǒng)的彈性模式

結(jié)合最近的工作經(jīng)驗(yàn)，本次繼續(xù)聊一聊云原生的彈性模式 (resilience not scale)， 這也是回應(yīng)《現(xiàn)代云原生設(shè)計(jì)理念》中

“在分布式體系結(jié)構(gòu)中，當(dāng)服務(wù)B不響應(yīng)來自服務(wù)A的網(wǎng)絡(luò)請(qǐng)求會(huì)發(fā)生什么?

當(dāng)服務(wù)C暫時(shí)不可用，其他調(diào)用C的服務(wù)被阻塞時(shí)該怎么辦?”

由于網(wǎng)絡(luò)原因或自身原因，B、C服務(wù)不能及時(shí)響應(yīng)，服務(wù)A發(fā)起的請(qǐng)求將被阻塞(直到B、C響應(yīng))，此時(shí)若大量請(qǐng)求涌入，服務(wù)A的線程資源將被消耗殆盡，服務(wù)A的處理性能受到極大影響，進(jìn)而影響下游依賴的external clients/backend srv。

故障會(huì)傳播，造成連鎖反應(yīng)，對(duì)整個(gè)分布式結(jié)構(gòu)造成災(zāi)難性后果，這就是服務(wù)故障的“雪崩效應(yīng)”。

當(dāng)B、C服務(wù)不可用，下游客戶端/backend srv能做什么?

客觀上請(qǐng)求不通，執(zhí)行預(yù)定的彈性策略：重試/斷路?

02彈性模式:作用在下游的請(qǐng)求消息上

彈性模式是系統(tǒng)面對(duì)故障仍然保持工作狀態(tài)的能力，它不是為了避免故障，而是接受故障并嘗試去面對(duì)它。

Polly是一個(gè)全面的.NET彈性和瞬時(shí)錯(cuò)誤處理庫，允許開發(fā)者以流暢和線程安全的方式表達(dá)彈性策略。

一般將彈性策略作用到各種請(qǐng)求消息上(外部客戶端請(qǐng)求或后端服務(wù)請(qǐng)求)。

其目的是補(bǔ)償暫時(shí)不可用的服務(wù)請(qǐng)求。

03短期中斷的響應(yīng)碼

正確規(guī)范的響應(yīng)碼能幫助開發(fā)者盡快確認(rèn)故障。

執(zhí)行故障策略時(shí)，也能有的放矢，比如只重試那些由失敗引起的操作，對(duì)于403UnAuthorized不可重試。

04Polly的經(jīng)典策略

• Retry：對(duì)網(wǎng)絡(luò)抖動(dòng)/瞬時(shí)錯(cuò)誤可以執(zhí)行retry策略(預(yù)期故障可以很快恢復(fù))，
• Circuit Breaker：為避免無效重試導(dǎo)致的故障傳播，在特定時(shí)間內(nèi)如果失敗次數(shù)到達(dá)閾值，斷路器打開(在一定時(shí)間內(nèi)快速失敗);

同時(shí)啟動(dòng)一個(gè)timer，斷路器進(jìn)入半開模式(發(fā)出少量請(qǐng)求,請(qǐng)求成功則認(rèn)為故障已經(jīng)修復(fù)，進(jìn)入關(guān)閉狀態(tài)，重置失敗計(jì)數(shù)器。)

services.AddHttpClient("small") 
        //降級(jí) 
        .AddPolicyHandler(Policy<HttpResponseMessage>.HandleInner<Exception>().FallbackAsync(new HttpResponseMessage(),async b => 
        { 
           // 1、降級(jí)打印異常 
          Console.WriteLine($"服務(wù)開始降級(jí),上游異常消息：{b.Exception.Message}"); 
          // 2、降級(jí)后的數(shù)據(jù) 
          b.Result.Content= new StringContent("請(qǐng)求太多，請(qǐng)稍后重試", Encoding.UTF8, "text/html"); 
          b.Result.StatusCode = HttpStatusCode.TooManyRequests; 
          await Task.CompletedTask; 
        })) 
        //熔斷                                                       
        .AddPolicyHandler(Policy<HttpResponseMessage>.Handle<Exception>()  
           .CircuitBreakerAsync( 
              3,    // 打開斷路器之前失敗的次數(shù) 
              TimeSpan.FromSeconds(20), // 斷路器的開啟的時(shí)間間隔 
              (ex, ts) =>  //熔斷器開啟 
              { 
                  Console.WriteLine($"服務(wù)斷路器開啟，異常消息：{ex.Exception.Message}"); 
                  Console.WriteLine($"服務(wù)斷路器開啟的時(shí)間：{ts.TotalSeconds}s"); 
              },  
              () => { Console.WriteLine($"服務(wù)斷路器重置"); },   //斷路器重置事件 
              () => { Console.WriteLine($"服務(wù)斷路器半開啟(一會(huì)開，一會(huì)關(guān))"); }  //斷路器半開啟事件 
            ) 
        ) 
        //重試 
        .AddPolicyHandler(Policy<HttpResponseMessage>.Handle<Exception>().RetryAsync(3)) 
       // 超時(shí)  
       .AddPolicyHandler(Policy.TimeoutAsync<HttpResponseMessage>(TimeSpan.FromSeconds(2)));  
        

??當(dāng)一個(gè)應(yīng)用存在多個(gè)Http調(diào)用，按照上面的經(jīng)典寫法，代碼中會(huì)混雜大量重復(fù)、與業(yè)務(wù)無關(guān)的口水代碼，

思考如何優(yōu)雅的對(duì)批量HttpClient做彈性策略。

這里提供兩個(gè)實(shí)踐：

① 博客園馳名博主edisonchou: 使用AOP框架，動(dòng)態(tài)織入Polly

② 某佚名大牛，使用反射加配置實(shí)現(xiàn)的PollyHttpClientServiceCollectionExtension擴(kuò)展類， 支持在配置文件指定HttpClientName

[[410921]]

05Golang的斷路器

go get github.com/sony/gobreaker 

func NewCircuitBreaker(st Settings) *CircuitBreaker 實(shí)例化斷路器對(duì)象， 參數(shù)如下：

type Settings struct { 
    Name          string 
    MaxRequests   uint32       #半開狀態(tài)允許的最大請(qǐng)求數(shù)量，默認(rèn)為0，允許1個(gè)請(qǐng)求 
    Interval      time.Duration 
    Timeout       time.Duration  # 斷路器進(jìn)入半開狀態(tài)的間隔，默認(rèn)60s 
    ReadyToTrip   func(counts Counts) bool   # 切換狀態(tài)的邏輯 
    OnStateChange func(name string, from State, to State) 
} 

下面這個(gè)示例演示了：請(qǐng)求谷歌網(wǎng)站,失敗比例達(dá)到60%，就切換到"打開"狀態(tài)，同時(shí)開啟60sTimer,到60s進(jìn)入“半開”狀態(tài)(允許發(fā)起一個(gè)請(qǐng)求)，如果成功， 斷路器進(jìn)入"關(guān)閉"狀態(tài);失敗則重新進(jìn)入“打開”狀態(tài)，并重置60sTimer

package main 
import ( 
    "fmt" 
    "io/ioutil" 
    "log" 
    "net/http" 
    "github.com/sony/gobreaker" 
) 
var cb *gobreaker.CircuitBreaker 
func init() { 
    var st gobreaker.Settings 
    st.Name = "HTTP GET" 
    st.ReadyToTrip = func(counts gobreaker.Counts) bool { 
        failureRatio := float64(counts.TotalFailures) / float64(counts.Requests) 
        return counts.Requests >= 3 && failureRatio >= 0.6 
    } 
    cb = gobreaker.NewCircuitBreaker(st) 
} 
// Get wraps http.Get in CircuitBreaker. 
func Get(url string) ([]byte, error) { 
    body, err := cb.Execute(func() (interface{}, error) { 
        resp, err := http.Get(url) 
        if err != nil { 
            return nil, err 
        } 
        defer resp.Body.Close() 
        body, err := ioutil.ReadAll(resp.Body) 
        if err != nil { 
            return nil, err 
        } 
        return body, nil 
    }) 
    if err != nil { 
        return nil, err 
    } 
    return body.([]byte), nil 
} 
func main() { 
    body, err := Get("http://www.google.com/robots.txt") 
    if err != nil { 
        log.Fatal(err) 
    } 
    fmt.Println(string(body)) 
} 

總結(jié)

本文記錄了云原生系統(tǒng)的彈性模式：通過預(yù)設(shè)策略直面失敗，補(bǔ)償暫時(shí)不可用的請(qǐng)求、避免故障傳播， 這對(duì)于實(shí)現(xiàn)微服務(wù)高可用、彈性容錯(cuò)相當(dāng)重要。