阿里可觀測性數(shù)據引擎的技術實踐
一 、前言
可觀測性這個概念最早出現(xiàn)于20世紀70年代的電氣工程,核心的定義是:
A system is said to be observable if, for any possible evolution of state and control vectors, the current state can be estimated using only the information from outputs.
相比傳統(tǒng)的告警、監(jiān)控,可觀測性能夠以更加“白盒”的方式看透整個復雜的系統(tǒng),幫助我們更好的觀察系統(tǒng)的運行狀況,快速定位和解決問題。就像發(fā)動機而言,告警只是告訴你發(fā)動機是否有問題,而一些包含轉速、溫度、壓力的儀表盤能夠幫我們大致確定是哪個部分可能有問題,而真正定位細節(jié)問題還需要觀察每個部件的傳感器數(shù)據才行。
二 、IT系統(tǒng)的可觀測性
電氣化時代起源于第二次工業(yè)革命(Second Industrial Revolution)起于19世紀七十年代,主要標志是:電力、內燃機的廣泛應用。而可觀測性這一概念為何在近100年后才會被提出?難道在此之前就不需要依賴各類傳感器的輸出定位和排查故障和問題?顯然不是,排查故障的方式一直都在,只是整個系統(tǒng)和情況更加復雜,所以才需要更加體系化、系統(tǒng)化的方式來支持這一過程,因此演化出來可觀測性這個概念。所以核心點在于:
- 系統(tǒng)更加的復雜:以前的汽車只需要一個發(fā)動機、傳送帶、車輛、剎車就可以跑起來,現(xiàn)在隨便一個汽車上至少有上百個部件和系統(tǒng),故障的定位難度變的更大。
- 開發(fā)涉及更多的人:隨著全球化時代的到來,公司、部分的分工也越來越細,也就意味著系統(tǒng)的開發(fā)和維護需要更多的部門和人來共同完成,協(xié)調的代價也越來越大。
- 運行環(huán)境多種多樣:不同的運行環(huán)境下,每個系統(tǒng)的工作情況是變化的,我們需要在任何階段都能有效記錄好系統(tǒng)的狀態(tài),便于我們分析問題、優(yōu)化產品。
而IT系統(tǒng)經過幾十年的飛速發(fā)展,整個開發(fā)模式、系統(tǒng)架構、部署模式、基礎設施等也都經過了好幾輪的優(yōu)化,優(yōu)化帶來了更快的開發(fā)、部署效率,但隨之而來整個的系統(tǒng)也更加的復雜、開發(fā)依賴更多的人和部門、部署模式和運行環(huán)境也更加動態(tài)和不確定,因此IT行業(yè)也已經到了需要更加系統(tǒng)化、體系化進行觀測的這一過程。
IT系統(tǒng)的可觀測性實施起來其實和電氣工程還是比較類似,核心還是觀察我們各個系統(tǒng)、應用的輸出,通過數(shù)據來判斷整體的工作狀態(tài)。通常我們會把這些輸出進行分類,總結為Traces、Metrics、Logs。關于這三種數(shù)據的特點、應用場景以及關系等,我們會在后面進行詳細展開。
三、IT可觀測性的演進
IT的可觀測性技術一直在不斷的發(fā)展中,從廣義的角度上講,可觀測性相關的技術除了應用在IT運維的場景外,還可以應用在和公司相關的通用場景以及特殊場景中。
- IT運維場景:IT運維場景從橫向、縱向來看,觀察的目標從最基礎的機房、網絡等開始向用戶的端上發(fā)展;觀察的場景也從純粹的錯誤、慢請求等發(fā)展為用戶的實際產品體驗。
- 通用場景:觀測本質上是一個通用的行為,除了運維場景外,對于公司的安全、用戶行為、運營增長、交易等都適用,我們可以針對這些場景構建例如攻擊檢測、攻擊溯源、ABTest、廣告效果分析等應用形式。
- 特殊場景:除了場景的公司內通用場景外,針對不同的行業(yè)屬性,也可以衍生出特定行業(yè)的觀測場景與應用,例如阿里云的城市大腦,就是通過觀測道路擁堵、信號燈、交通事故等信息,通過控制不同紅綠燈時間、出行規(guī)劃等手段降低城市整體擁堵率。
四 、Pragmatic可觀測性如何落地
回到可觀測性方案落地上,我們現(xiàn)階段可能無法做出一個適用于各個行業(yè)屬性的可觀測引擎,更多的還是專注于DevOps和通用的公司商業(yè)方面。這里面的兩個核心工作是:
- 數(shù)據的覆蓋面足夠的全:能夠包括各類不同場景的不同類型的數(shù)據,除了狹義的日志、監(jiān)控、Trace外,還需要包括我們的CMDB、變更數(shù)據、客戶信息、訂單/交易信息、網絡流、API調用等
- 數(shù)據關聯(lián)與統(tǒng)一分析:數(shù)據價值的發(fā)掘不是簡單的通過一種數(shù)據來實現(xiàn),更多的時候我們需要利用多種數(shù)據關聯(lián)來達到目的,例如結合用戶的信息表以及訪問日志,我們可以分析不同年齡段、性別的用戶的行為特點,針對性的進行推薦;通過登錄日志、CMDB等,結合規(guī)則引擎,來實現(xiàn)安全類的攻擊檢測。
從整個流程來看,我們可以將可觀測性的工作劃分為4個組成部分:
- 傳感器:獲取數(shù)據的前提是要有足夠傳感器來產生數(shù)據,這些傳感器在IT領域的形態(tài)有:SDK、埋點、外部探針等。
- 數(shù)據:傳感器產生數(shù)據后,我們需要有足夠的能力去獲取、收集各種類型的數(shù)據,并把這些數(shù)據歸類分析。
- 算力:可觀測場景的核心是需要覆蓋足夠多的數(shù)據,數(shù)據一定是海量的,因此系統(tǒng)需要有足夠的算力來計算和分析這些數(shù)據。
- 算法:可觀測場景的終極應用是數(shù)據的價值發(fā)掘,因此需要使用到各類算法,包括一些基礎的數(shù)值類算法、各種AIOps相關的算法以及這些算法的組合。
五 、再論可觀測性數(shù)據分類
Logs、Traces、Metrics作為IT可觀測性數(shù)據的三劍客,基本可以滿足各類監(jiān)控、告警、分析、問題排查等需求,然而實際場景中,我們經常會搞混每種數(shù)據的適用形態(tài),這里再大致羅列一下這三類數(shù)據的特點、轉化方式以及適用場景:
- Logs:我們對于Logs是更加寬泛的定義:記錄事/物變化的載體,對于常見的訪問日志、交易日志、內核日志等文本型以及包括GPS、音視頻等泛型數(shù)據也包含在其中。日志在調用鏈場景結構化后其實可以轉變?yōu)門race,在進行聚合、降采樣操作后會變成Metrics。
- Metrics:是聚合后的數(shù)值,相對比較離散,一般有name、labels、time、values組成,Metrics數(shù)據量一般很小,相對成本更低,查詢的速度比較快。
- Traces:是最標準的調用日志,除了定義了調用的父子關系外(一般通過TraceID、SpanID、ParentSpanID),一般還會定義操作的服務、方法、屬性、狀態(tài)、耗時等詳細信息,通過Trace能夠代替一部分Logs的功能,通過Trace的聚合也能得到每個服務、方法的Metrics指標。
六 、“割裂”的可觀測性方案
業(yè)界也針對這種情況推出了各類可觀察性相關的產品,包括開源、商業(yè)化的眾多項目。例如:
- Metrics:Zabbix、Nagios、Prometheus、InfluxDB、OpenFalcon、OpenCensus
- Traces:Jaeger、Zipkin、SkyWalking、OpenTracing、OpenCensus
- Logs:ELK、Splunk、SumoLogic、Loki、Loggly
利用這些項目的組合或多或少可以解決針對性的一類或者幾類問題,但真正應用起來你會發(fā)現(xiàn)各種問題:
- 多套方案交織:可能要使用至少Metrics、Logging、Tracing3種方案,維護代價巨大
- 數(shù)據不互通:雖然是同一個業(yè)務組件,同一個系統(tǒng),產生的數(shù)據由于在不同的方案中,數(shù)據難以互通,無法充分發(fā)揮數(shù)據價值
在這種多套方案組合的場景下,問題排查需要和多套系統(tǒng)打交道,若這些系統(tǒng)歸屬不同的團隊,還需要和多個團隊進行交互才能解決問題,整體的維護和使用代價非常巨大。因此我們希望能夠使用一套系統(tǒng)去解決所有類型可觀測性數(shù)據的采集、存儲、分析的功能。
七 、可觀測性數(shù)據引擎架構
基于上述我們的一些思考,回歸到可觀測這個問題的本質,我們目標的可觀測性方案需要能夠滿足以下幾點:
- 數(shù)據全面覆蓋:包括各類的可觀測數(shù)據以及支持從各個端、系統(tǒng)中采集數(shù)據
- 統(tǒng)一的系統(tǒng):拒絕割裂,能夠在一個系統(tǒng)中支持Traces、Metrics、Logs的統(tǒng)一存儲與分析
- 數(shù)據可關聯(lián):每種數(shù)據內部可以互相關聯(lián),也支持跨數(shù)據類型的關聯(lián),能夠用一套分析語言把各類數(shù)據進行融合分析
- 足夠的算力:分布式、可擴展,面對PB級的數(shù)據,也能有足夠的算力去分析
- 靈活智能的算法:除了基礎的算法外,還應包括AIOps相關的異常檢測、預測類的算法,并且支持對這些算法進行編排
可觀測數(shù)據引擎的整體架構如下圖所示,從底到上的四層也基本符合方案落地的指導思想:傳感器+數(shù)據+算力+算法。
- 傳感器:數(shù)據源以OpenTelemetry為核心,并且支持各類數(shù)據形態(tài)、設備/端、數(shù)據格式的 采集 ,覆蓋面足夠的“廣”。
- 數(shù)據+算力:采集上來的數(shù)據,首先會進入到我們的 管道系統(tǒng) (類似于Kafka),根據不同的數(shù)據類型構建不同的索引,目前每天我們的平臺會有幾十PB的新數(shù)據寫入并存儲下。除了常見的 查詢 和 分析 能力外,我們還內置了 ETL 的功能,負責對數(shù)據進行清洗和格式化,同時支持對接外部的流計算和離線計算系統(tǒng)。
- 算法:除了基礎的數(shù)值算法外,目前我們支持了十多種的 異常檢測/預測算法 ,并且還支持 流式異常檢測 ;同時也支持使用 Scheduled SQL 進行數(shù)據的編排,幫助我們產生更多新的數(shù)據。
- 價值發(fā)掘:價值發(fā)掘過程主要通過 可視化 、 告警 、 交互式分析 等人機交互來實現(xiàn),同時也提供了 OpenAPI 來對接外部系統(tǒng)或者供用戶來實現(xiàn)一些自定義的功能。
八 、數(shù)據源與協(xié)議兼容
隨著阿里全面擁抱云原生后,我們也開始逐漸去兼容開源以及云原生的可觀測領域的協(xié)議和方案。相比自有協(xié)議的封閉模式,兼容開源、標準協(xié)議大大擴充了我們平臺能夠支持的數(shù)據采集范圍,而且減少了不必要的造輪子環(huán)節(jié)。上圖展示了我們兼容外部協(xié)議、Agent的整體進度:
- Traces:除了內部的飛天Trace、鷹眼Trace外,開源的包括Jaeger、OpenTracing、Zipkin、SkyWalking、OpenTelemetry、OpenCensus等。
- Logs:Logs的協(xié)議較少,但是設計比較多的日志采集Agent,我們平臺除了自研的Logtail外,還兼容包括Logstash、Beats(FileBeat、AuditBeat)、Fluentd、Fluent bits,同時還提供syslog協(xié)議,路由器交換機等可以直接用syslog協(xié)議上報數(shù)據到服務端。
- Metrics:時序引擎我們在新版本設計之初就兼容了Prometheus,并且支持Telegraf、OpenFalcon、OpenTelemetry Metrics、Zabbix等數(shù)據接入。
九 、統(tǒng)一存儲引擎
對于存儲引擎,我們的設計目標的第一要素是統(tǒng)一,能夠用一套引擎存儲各類可觀測的數(shù)據;第二要素是快,包括寫入、查詢,能夠適用于阿里內外部超大規(guī)模的場景(日寫入幾十PB)。
對于Logs、Traces、Metrics,其中Logs和Traces的格式和查詢特點非常相似,我們放到一起來分析,推導的過程如下:
Logs/Traces:
- 查詢的方式主要是通過關鍵詞/TraceID進行查詢,另外會根據某些Tag進行過濾,例如hostname、region、app等
- 每次查詢的命中數(shù)相對較少,尤其是TraceID的查詢方式,而且命中的數(shù)據極有可能是離散的
- 通常這類數(shù)據最適合存儲在搜索引擎中,其中最核心的技術是倒排索引
Metrics:
- 通常都是range查詢,每次查詢某一個單一的指標/時間線,或者一組時間線進行聚合,例如統(tǒng)一某個應用所有機器的平均CPU
- 時序類的查詢一般QPS都較高(主要有很多告警規(guī)則),為了適應高QPS查詢,需要把數(shù)據的聚合性做好
- 對于這類數(shù)據都會有專門的時序引擎來支撐,目前主流的時序引擎基本上都是用類似于LSM Tree的思想來實現(xiàn),以適應高吞吐的寫入和查詢(Update、Delete操作很少)
同時可觀測性數(shù)據還有一些共性的特點,例如高吞吐寫入(高流量、QPS,而且會有Burst)、超大規(guī)模查詢特點、時間訪問特性(冷熱特性、訪問局部性等)。
針對上述的特性分析,我們設計了一套統(tǒng)一的可觀測數(shù)據存儲引擎,整體架構如下:
- 接入層支持各類協(xié)議寫入,寫入的數(shù)據首先會進入到一個FIFO的管道中,類似于Kafka的MQ模型,并且支持數(shù)據消費,用來對接各類下游
- 在管道之上有兩套索引結構,分別是倒排索引以及SortedTable,分別為Traces/Logs和Metrics提供快速的查詢能力
- 兩套索引除了結構不同外,其他各類機制都是共用的,例如存儲引擎、FailOver邏輯、緩存策略、冷熱數(shù)據分層策略等
- 上述這些數(shù)據都在同一個進程內實現(xiàn),大大降低運維、部署代價
- 整個存儲引擎基于純分布式框架實現(xiàn),支持橫向擴展,單個Store最多支持日PB級的數(shù)據寫入
十 、統(tǒng)一分析引擎
如果把存儲引擎比喻成新鮮的食材,那分析引擎就是處理這些食材的刀具,針對不同類型的食材,用不同種類的刀來處理才能得到最好的效果,例如蔬菜用切片刀、排骨用斬骨刀、水果用削皮刀等。同樣針對不同類型的可觀測數(shù)據和場景,也有對應的適合的分析方式:
- Metrics:通常用于告警和圖形化展示,一般直接獲取或者輔以簡單的計算,例如PromQL、TSQL等
- Traces/Logs:最簡單直接的方式是關鍵詞的查詢,包括TraceID查詢也只是關鍵詞查詢的特例
- 數(shù)據分析(一般針對Traces、Logs):通常Traces、Logs還會用于數(shù)據分析和挖掘,所以要使用圖靈完備的語言,一般程序員接受最廣的是SQL
上述的分析方式都有對應的適用場景,我們很難用一種語法/語言去實現(xiàn)所有的功能并且具有非常好的便捷性(雖然通過擴展SQL可以實現(xiàn)類似PromQL、關鍵詞查詢的能力,但是寫起來一個簡單的PromQL算子可能要用一大串SQL才能實現(xiàn)),因此我們的分析引擎選擇去兼容關鍵詞查詢、PromQL的語法。同時為了便于將各類可觀測數(shù)據進行關聯(lián)起來,我們在SQL的基礎上,實現(xiàn)了可以連接關鍵詞查詢、PromQL、外部的DB、ML模型的能力,讓SQL成為頂層分析語言,實現(xiàn)可觀測數(shù)據的融合分析能力。
下面舉幾個我們的查詢/分析的應用示例,前面3個相對比較簡單,可以用純粹的關鍵詞查詢、PromQL,也可以結合SQL一起使用。最后一個展示了實際場景中進行融合分析的例子:
- 背景:線上發(fā)現(xiàn)有支付失敗的錯誤,需要分析這些出現(xiàn)支付失敗的錯誤的機器CPU指標有沒有問題
- 實現(xiàn):首先查詢機器的CPU指標;關聯(lián)機器的Region信息(需要排查是否某個Region出現(xiàn)問題);和日志中出現(xiàn)支付失敗的機器進行Join,只關心這些機器;最后應用時序異常檢測算法來快速的分析這些機器的CPU指標;最后的結果使用線圖進行可視化,結果展示更加直觀。
上述的例子同時查詢了LogStore、MetricStore,而且關聯(lián)CMDB以及ML模型,一個語句實現(xiàn)了非常復雜的分析效果,在實際的場景中還是經常出現(xiàn)的,尤其是分析一些比較復雜的應用和異常。
十一、數(shù)據編排
可觀測性相比傳統(tǒng)監(jiān)控,更多的還是在于數(shù)據價值的發(fā)掘能力更強,能夠僅通過輸出來推斷系統(tǒng)的運行狀態(tài),因此和數(shù)據挖掘這個工作比較像,收集各類繁雜的數(shù)據、格式化、預處理、分析、檢驗,最后根據得到的結論去“講故事”。因此在可觀測性引擎的建設上,我們非常關注數(shù)據編排的能力,能夠讓數(shù)據流轉起來,從茫茫的原始日志中不斷的去提取出價值更高的數(shù)據,最終告訴我們系統(tǒng)是否在工作以及為什么不工作。為了讓數(shù)據能夠“流轉”起來,我們開發(fā)了幾個功能:
- 數(shù)據加工:也就是大數(shù)據ETL(extract, transform, and load)中T的功能,能夠幫我們把非結構化、半結構化的數(shù)據處理成結構化的數(shù)據,更加容易分析。
- Scheduled SQL:顧名思義,就是定期運行的SQL,核心思想是把龐大的數(shù)據精簡化,更加利于查詢,例如通過AccessLog每分鐘定期計算網站的訪問請求、按APP、Region粒度聚合CPU、內存指標、定期計算Trace拓撲等。
- AIOps巡檢:針對時序數(shù)據特別開發(fā)的基于時序異常算法的巡檢能力,用機器和算力幫我們去檢查到底是哪個指標的哪個維度出現(xiàn)問題。
十二、可觀測性引擎應用實踐
目前我們這套平臺上已經積累了10萬級的內外部用戶,每天寫入的數(shù)據40PB+,非常多的團隊在基于我們的引擎在構建自己公司/部門的可觀測平臺,進行全棧的可觀測和業(yè)務創(chuàng)新。下面將介紹一些常見的使用我們引擎的場景:
1 全鏈路可觀測
全鏈路的可觀測性一直都是DevOps環(huán)節(jié)中的重要步驟,除了通常的監(jiān)控、告警、問題排查外,還承擔用戶行為回放/分析、版本發(fā)布驗證、A/B Test等功能,下圖展示的是阿里內部某個產品內部的全鏈路可觀測架構圖:
- 數(shù)據源包括移動端、Web端、后端的各類數(shù)據,同時還包括一些監(jiān)控系統(tǒng)的數(shù)據、第三方的數(shù)據等
- 采集通過SLS的Logtail和TLog實現(xiàn)
- 基于離在線混合的數(shù)據處理方式,對數(shù)據進行打標、過濾、關聯(lián)、分發(fā)等預處理
- 各類數(shù)據全部存儲在SLS可觀測數(shù)據引擎中,主要利用SLS提供的索引、查詢和聚合分析能力
- 上層基于SLS的接口構建全鏈路的數(shù)據展示和監(jiān)控系統(tǒng)
2 成本可觀測
商業(yè)公司的第一要務永遠是營收、盈利,我們都知道盈利=營收-成本,IT部門的成本通常也會占據很大一個部分,尤其是互聯(lián)網類型的公司?,F(xiàn)在阿里全面云化后,包括阿里內部的團隊也會在乎自己的IT支出,盡可能的壓縮成本。下面的示例是我們阿里云上一家客戶的監(jiān)控系統(tǒng)架構,系統(tǒng)除了負責IT基礎設施和業(yè)務的監(jiān)控外,還會負責分析和優(yōu)化整個公司的IT成本,主要收集的數(shù)據有:
- 收集云上每個產品(虛擬機、網絡、存儲、數(shù)據庫、SaaS類等)的費用,包括詳細的計費信息
- 收集每個產品的監(jiān)控信息,包括用量、利用率等
- 建立起Catalog/CMDB,包括每個資源/實例所屬的業(yè)務部門、團隊、用途等
利用Catalog + 產品計費信息,就可以計算出每個部門的IT支出費用;再結合每個實例的用量、利用率信息,就可以計算出每個部門的IT資源利用率,例如每臺ECS的CPU、內存使用率。最終計算出每個部門/團隊整體上使用IT資源的合理度,將這些信息總結成運營報表,推動資源使用合理度低的部門/團隊去優(yōu)化。
3 Trace可觀測
隨著云原生、微服務逐漸在各個行業(yè)落地,分布式鏈路追蹤(Trace)也開始被越來越多的公司采用。對于Trace而言,最基礎的能力是能夠記錄請求在多個服務之間調用的傳播、依賴關系并進行可視化。而從Trace本身的數(shù)據特點而言,它是規(guī)則化、標準化且?guī)в幸蕾囮P系的訪問日志,因此可以基于Trace去計算并挖掘更多的價值。
下面是SLS OpenTelemetry Trace的實現(xiàn)架構,核心是通過數(shù)據編排計算Trace原始數(shù)據并得到聚合數(shù)據,并基于SLS提供的接口實現(xiàn)各類Trace的附加功能。例如:
- 依賴關系:這是絕大部分的Trace系統(tǒng)都會附帶的功能,基于Trace中的父子關系進行聚合計算,得到Trace Dependency
- 服務/接口黃金指標:Trace中記錄了服務/接口的調用延遲、狀態(tài)碼等信息,基于這些數(shù)據可以計算出QPS、延遲、錯誤率等黃金指標。
- 上下游分析:基于計算的Dependency信息,按照某個Service進行聚合,統(tǒng)一Service依賴的上下游的指標
- 中間件分析:Trace中對于中間件(數(shù)據庫/MQ等)的調用一般都會記錄成一個個Span,基于這些Span的統(tǒng)計可以得到中間件的QPS、延遲、錯誤率。
- 告警相關:通常基于服務/接口的黃金指標設置監(jiān)控和告警,也可以只關心整體服務入口的告警(一般對父Span為空的Span認為是服務入口調用)。
4 基于編排的根因分析
可觀測性的前期階段,很多工作都是需要人工來完成,我們最希望的還是能有一套自動化的系統(tǒng),在出現(xiàn)問題的時候能夠基于這些觀測的數(shù)據自動進行異常的診斷、得到一個可靠的根因并能夠根據診斷的根因進行自動的Fix?,F(xiàn)階段,自動異?;謴秃茈y做到,但根因的定位通過一定的算法和編排手段還是可以實施的。
下圖是一個典型的IT系統(tǒng)架構的觀測抽象,每個APP都會有自己的黃金指標、業(yè)務的訪問日志/錯誤日志、基礎監(jiān)控指標、調用中間件的指標、關聯(lián)的中間件自身指標/日志,同時通過Trace還可以得到上下游APP/服務的依賴關系。通過這些數(shù)據再結合一些算法和編排手段就可以進行一定程度的自動化根因分析了。這里核心依賴的幾點如下:
- 關聯(lián)關系:通過Trace可以計算出APP/服務之間的依賴關系;通過CMDB信息可以得到APP和PaaS、IaaS之間的依賴關系。通過關聯(lián)關系就可以“順藤摸瓜”,找到出現(xiàn)問題的原因。
- 時序異常檢測算法:自動檢測某一條、某組曲線是否有異常,包括ARMA、KSigma、Time2Graph等,詳細的算法可以參考: 異常檢測算法 、 流式異常檢測 。
- 日志聚類分析: 將相似度高的日志聚合,提取共同的日志模式(Pattern),快速掌握日志全貌,同時 利用Pattern的對比功能,對比正常/異常時間段的Pattern,快速找到日志中的異常。
時序、日志的異常分析能夠幫我們確定某個組件是否存在問題,而關聯(lián)關系能夠讓我們進行“順藤摸瓜”。通過這三個核心功能的組合就可以編排出一個異常的根因分析系統(tǒng)。下圖就是一個簡單的示例:首先從告警開始分析入口的黃金指標,隨后分析服務本身的數(shù)據、依賴的中間件指標、應用Pod/虛擬機指標,通過Trace Dependency可以遞歸分析下游依賴是否出現(xiàn)問題,其中還可以關聯(lián)一些變更信息,以便快速定位是否由于變更引起的異常。最終發(fā)現(xiàn)的異常事件集中到時間軸上進行推導,也可以由運維/開發(fā)來最終確定根因。
十三、寫在最后
可觀測性這一概念并不是直接發(fā)明的“黑科技”,而是我們從監(jiān)控、問題排查、預防等工作中逐漸“演化”出來的詞。同樣我們一開始只是做日志引擎(阿里云上的產品: 日志服務 ),在隨后才逐漸優(yōu)化、升級為可觀測性的引擎。對于“可觀測性”我們要拋開概念/名詞本身來發(fā)現(xiàn)它的本質,而這個本質往往是和商業(yè)(Business)相關,例如:
- 讓系統(tǒng)更加穩(wěn)定,用戶體驗更好
- 觀察IT支出,消除不合理的使用,節(jié)省更多的成本
- 觀察交易行為,找到刷單/作弊,即時止損
- 利用AIOps等自動化手段發(fā)現(xiàn)問題,節(jié)省更多的人力,運維提效
而我們對于可觀測性引擎的研發(fā),主要關注的也是如何服務更多的部門/公司進行可觀測性方案的快速、有效實施。包括引擎中的傳感器、數(shù)據、計算、算法等工作一直在不斷進行演進和迭代,例如更加便捷的eBPF采集、更高壓縮率的數(shù)據壓縮算法、性能更高的并行計算、召回率更低的根因分析算法等。