熔斷降級(jí)

? ? ? ?一個(gè)服務(wù)常常會(huì)調(diào)用別的模塊，可能是另外的一個(gè)遠(yuǎn)程服務(wù)、數(shù)據(jù)庫，或者第三方API等。例如，支付的時(shí)候，可能需要遠(yuǎn)程調(diào)用銀聯(lián)提供的API，查詢摸個(gè)商品的價(jià)格，可能需要進(jìn)行數(shù)據(jù)庫查詢，然而，這個(gè)被依賴服務(wù)的穩(wěn)定性是不能保證的。如果依賴的服務(wù)出現(xiàn)了穩(wěn)定的情況，請(qǐng)求的響應(yīng)時(shí)間變長，那么調(diào)用服務(wù)的方法的響應(yīng)時(shí)間也會(huì)變長，線程會(huì)產(chǎn)生堆積，最終可能耗盡業(yè)務(wù)自身的線程池，服務(wù)本身也變得不可用。

? ? 現(xiàn)代微服務(wù)架構(gòu)都是分布式的，由于非常多的服務(wù)組成。不同服務(wù)之間相互調(diào)用，組成復(fù)雜的調(diào)用鏈路。以上的問題在鏈路調(diào)用中會(huì)產(chǎn)生放大的效果。復(fù)雜鏈路上的某一環(huán)不穩(wěn)定，就可能會(huì)層層級(jí)聯(lián)，最終導(dǎo)致整個(gè)鏈路都不可用。因此我們需要對(duì)不穩(wěn)定的若依賴服務(wù)調(diào)用進(jìn)行熔斷降級(jí)，暫時(shí)切斷不穩(wěn)定調(diào)用，避免局部不穩(wěn)定因素導(dǎo)致整體的雪崩。熔斷降級(jí)作為保護(hù)自身的手段，通常在客戶端（調(diào)用端）進(jìn)行配置。

1、熔斷策略

• 慢調(diào)用比例（平均響應(yīng)時(shí)間）：選擇以慢調(diào)用比例作為閾值，需要設(shè)置允許的慢調(diào)用RT（即最大的響應(yīng)時(shí)間），請(qǐng)求的響應(yīng)時(shí)間大于該值則統(tǒng)計(jì)為慢調(diào)用。檔單位統(tǒng)計(jì)時(shí)長（statIntervalMs）內(nèi)請(qǐng)求數(shù)目大于設(shè)置的最小請(qǐng)求數(shù)目，并且慢調(diào)用的比例大于閾值，則接下來的熔斷時(shí)長內(nèi)請(qǐng)求會(huì)自動(dòng)被熔斷。經(jīng)過熔斷時(shí)長后熔斷器會(huì)進(jìn)入探測(cè)回復(fù)狀態(tài)（HALF-OPEN狀態(tài)），若接下來的一個(gè)請(qǐng)求響應(yīng)時(shí)間小于設(shè)置的慢調(diào)用RT則結(jié)束熔斷，若大于設(shè)置的慢調(diào)用RT則會(huì)再次被熔斷。
• 異常比例（ERROR_RATIO）：當(dāng)單位統(tǒng)計(jì)時(shí)長（satIntervalMs）內(nèi)請(qǐng)求數(shù)且大于設(shè)置的最小請(qǐng)求數(shù)目，并且異常的比例大于閾值，則接下來的熔斷時(shí)長內(nèi)請(qǐng)求會(huì)自動(dòng)被熔斷。經(jīng)過熔斷時(shí)長后熔斷器會(huì)進(jìn)入探測(cè)恢復(fù)狀態(tài)（HALF-OPEN狀態(tài)），若接下來的一個(gè)請(qǐng)求成功完成（沒有錯(cuò)誤）則結(jié)束熔斷，否則會(huì)再次被熔斷。異常比率的閾值范圍是[0.0,1.0]，代表0%-100%。
• 異常數(shù)（ERROR_COUNT）：當(dāng)單位統(tǒng)計(jì)時(shí)長內(nèi)的異常數(shù)目超過閾值之后會(huì)自動(dòng)進(jìn)行熔斷。經(jīng)過熔斷時(shí)長后熔斷器會(huì)進(jìn)入探測(cè)恢復(fù)狀態(tài)（HALF-OPEN狀態(tài)），若接下來的一個(gè)請(qǐng)求成功完成（沒有錯(cuò)誤）則結(jié)束熔斷，否則會(huì)再次被熔斷。

2、平均響應(yīng)時(shí)間

? ? ? ? 平均響應(yīng)時(shí)間超過5ms，后續(xù)的所有請(qǐng)求都會(huì)被熔斷，熔斷時(shí)間為5s，后續(xù)有一個(gè)請(qǐng)求響應(yīng)時(shí)間小于5ms則結(jié)束熔斷。

? ? ? ? 案例：定義一個(gè)接口休眠1s后返回內(nèi)容，用Jemeter 3s內(nèi)發(fā)送10個(gè)請(qǐng)求發(fā)現(xiàn)全部處理了，設(shè)置降級(jí)規(guī)則后發(fā)現(xiàn)只處理了部分請(qǐng)求，其他請(qǐng)求被熔斷了。

? 3、異常比例

異常比例超過28%自動(dòng)熔斷，熔斷時(shí)間為3s。

案例

int i = 0;
@GetMapping("/hel1o1")
public string hello1() (1++;//出現(xiàn)異常的概率為1/3if (i % 3 == @){throw new RuntimeException();}return "hello1";
}

4、異常數(shù)

這里需要注意的是異常數(shù)量是按照封裝來計(jì)算的，異常比例和平均響應(yīng)時(shí)間都是秒級(jí)別的。

熱點(diǎn)參數(shù)限流

熱點(diǎn)即經(jīng)常訪問的數(shù)據(jù)。很多時(shí)候我們希望統(tǒng)計(jì)某個(gè)熱點(diǎn)數(shù)據(jù)中訪問頻次最高的Top K數(shù)據(jù)，并對(duì)其訪問進(jìn)行限制。

比如：

• ? ? 商品ID為參數(shù)，統(tǒng)計(jì)一段時(shí)間內(nèi)最常購買的商品ID并進(jìn)行限制
• ? ? 用戶ID為參數(shù)，針對(duì)一段時(shí)間內(nèi)頻繁訪問的用戶ID進(jìn)行限制

熱點(diǎn)參數(shù)限流會(huì)統(tǒng)計(jì)傳入?yún)?shù)中的熱點(diǎn)參數(shù)，并根據(jù)配置限流閾值與模式，對(duì)包含熱點(diǎn)參數(shù)的資源調(diào)用進(jìn)行限流。熱點(diǎn)參數(shù)限流可以看做是一種特殊的流量控制，僅對(duì)包含熱電參數(shù)的資源調(diào)用生效。

1、定義接口

@GetMapping("/hel1o3")
@SentinelResource("he11o3”) // 熱點(diǎn)參數(shù)需要配置這個(gè)注解使用
public string hello3(string str1, string str2){return "hello3 -->"+str1+",-->"+str2;
}

2、設(shè)置限流規(guī)則

參數(shù)限流規(guī)則表示，hello3資源中第一個(gè)參數(shù)1s只能調(diào)用一次，超過閾值就限流。

3、限流后返回自定義兜底數(shù)據(jù)

@GetMapping("/hello3")
@SentinelResource(value ="hello3",blockHandler ="hello3Handler") // 熱點(diǎn)參數(shù)需要配需這個(gè)注解使用
public string hello3(string str1, string str2) {return "hel1o3 -->"+str1+",-->"+str2;
}
// 這個(gè)方法只負(fù)責(zé)參數(shù)限流的異常，不會(huì)處理方法的運(yùn)行時(shí)異常
// hel13Handler方法的參數(shù)和返回值要和原方法一直，BlockException用來接收方法的異常
public String hello3Handler(string str1, String str2, BlockException e){System.out.println("str1 = " + str1 + ", str2 = " + str2 + ", e = " + e);return"該資源已被限流”;
}

4、參數(shù)列外項(xiàng)

? ?熱點(diǎn)參數(shù)還可以對(duì)不同的參數(shù)設(shè)置不同的qps的值。

當(dāng)方法第一個(gè)參數(shù)值10的時(shí)候qps為5。

當(dāng)方法第一個(gè)參數(shù)值為11的時(shí)候qps為10。

當(dāng)方法第一個(gè)參數(shù)值為15的時(shí)候qps為15。

系統(tǒng)自適應(yīng)限流

? ? ?Sentinel系統(tǒng)自適應(yīng)限流從整個(gè)維度對(duì)應(yīng)用入口流量進(jìn)行控制，結(jié)合應(yīng)用的Load、CPU使用率、總體平均RT、入口QPS和并發(fā)線程數(shù)等幾個(gè)維度的監(jiān)控指標(biāo)、通過自適應(yīng)的流控策略，讓系統(tǒng)的入口流量和系統(tǒng)的負(fù)載達(dá)到一個(gè)平衡，讓系統(tǒng)盡可能跑在最大吞吐量的同時(shí)保證系統(tǒng)整體的穩(wěn)定性。

1、系統(tǒng)規(guī)則

? ? 系統(tǒng)保護(hù)規(guī)則是從應(yīng)用級(jí)別的入口流量進(jìn)行控制，從單臺(tái)機(jī)器的load、CPU使用率、平均RT、入口QPS和并發(fā)線程數(shù)等幾個(gè)維度監(jiān)控應(yīng)用指標(biāo)，讓系統(tǒng)盡可能跑在最大吞吐量的同時(shí)保證系統(tǒng)整體的穩(wěn)定性。

? ?系統(tǒng)保護(hù)規(guī)則是應(yīng)用整體維度的，而不是資源維度的，并且**僅對(duì)入口流量生效**。入口流量指的是進(jìn)入應(yīng)用的流量（EntryType.IN），比如Web服務(wù)或Dubbo服務(wù)端接收的請(qǐng)求，都屬于入口流量。

系統(tǒng)規(guī)則支持以下的模式：

• Load自適應(yīng)（僅對(duì)Linux/Unix-like機(jī)器生效）：系統(tǒng)的load作為啟發(fā)指標(biāo)，進(jìn)行自適應(yīng)系統(tǒng)保護(hù)。當(dāng)系統(tǒng)load超過設(shè)定的啟發(fā)值，且系統(tǒng)當(dāng)前的并發(fā)線程數(shù)超過估算的系統(tǒng)容量時(shí)才觸發(fā)系統(tǒng)保護(hù)（BBR階段）。系統(tǒng)容量由系統(tǒng)的maxQPS*minRt估算得出。設(shè)定參考值一般是CPU cores*2.5。
• CPU usage（1.5.0+版本）：當(dāng)系統(tǒng)CPU使用率超過閾值即觸發(fā)系統(tǒng)保護(hù)（取值范圍0.0-1.0），比較靈敏。
• 平均RT：當(dāng)單臺(tái)機(jī)器上所有入口流量的平均RT達(dá)到閾值即觸發(fā)系統(tǒng)保護(hù)，單位是毫秒。
• 并發(fā)線程數(shù)：當(dāng)單臺(tái)機(jī)器上所有入口流量的并發(fā)線程數(shù)達(dá)到閾值即觸發(fā)系統(tǒng)保護(hù)。
• 入口QPS：當(dāng)單臺(tái)機(jī)器上所有入口流量的QPS達(dá)到閾值即觸發(fā)系統(tǒng)保護(hù)。

案例：測(cè)試接口中的所有方法qps都是1。