Kafka在保險(xiǎn)行業(yè)中的應(yīng)用案例
譯文【51CTO.com快譯】Apache Kafka的出現(xiàn),改變了許多企業(yè)重新思考和處置數(shù)據(jù)的方式。它讓包括人壽、醫(yī)療、旅行、車輛等保險(xiǎn)行業(yè),能夠更加高效地使用各類動(dòng)態(tài)數(shù)據(jù)。本文將從探討事件流的各種用例和架構(gòu)出發(fā),通過(guò)介紹來(lái)自Generali、Centene、Mobiliar、Humana、freeyou和Tesla的真實(shí)案例,展示保險(xiǎn)行業(yè)對(duì)于相關(guān)數(shù)據(jù)的創(chuàng)新式集成和實(shí)時(shí)流處理。
保險(xiǎn)業(yè)的數(shù)字化轉(zhuǎn)型
長(zhǎng)期以來(lái),大多數(shù)保險(xiǎn)公司都面臨著如下方面的顯著挑戰(zhàn):
- 市場(chǎng)環(huán)境極具挑戰(zhàn)。
- 業(yè)務(wù)發(fā)展止步不前。
- 監(jiān)管壓力持續(xù)增加。
- 客戶期望不斷變化。
- 老舊應(yīng)用阻礙發(fā)展。
- 來(lái)自創(chuàng)新保險(xiǎn)科技公司的新興競(jìng)爭(zhēng)。
- 來(lái)自其他新增保險(xiǎn)垂直行業(yè)的新興競(jìng)爭(zhēng)。
為了避免成為下一個(gè)諾基亞(手機(jī)領(lǐng)域)、柯達(dá)(相機(jī)領(lǐng)域)或百視達(dá)(BlockBuster,視頻租賃行業(yè)),傳統(tǒng)保險(xiǎn)公司需要在如下方面實(shí)現(xiàn)戰(zhàn)略轉(zhuǎn)型和創(chuàng)新。
- 包括了:審查、調(diào)查、調(diào)整、匯款、以及拒賠等常規(guī)處理需求。
- 通過(guò)利用帶有歷史數(shù)據(jù)的、已訓(xùn)練好的分析模型,實(shí)施索賠欺詐檢測(cè)。
- 采用全渠道客戶交互,包括:自助式服務(wù)門戶、以及支持自然語(yǔ)言處理(NLP)的自動(dòng)化聊天機(jī)器人工具。
- 基于實(shí)驗(yàn)室測(cè)試、生物特征數(shù)據(jù)、索賠數(shù)據(jù)、患者健康數(shù)據(jù)(當(dāng)然必須遵循特定國(guó)家/地區(qū)的法律)的風(fēng)險(xiǎn)預(yù)測(cè)。
在上述方面,我們可以使用機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的方式,使得各種手動(dòng)且易錯(cuò)過(guò)程(如文檔和文本處理),實(shí)現(xiàn)自動(dòng)化和實(shí)時(shí)數(shù)據(jù)處理的轉(zhuǎn)變。
棕地集成的必要性
傳統(tǒng)保險(xiǎn)公司通常從棕地集成(Brownfield Integration)開始,構(gòu)建新的用例。該集成往往涉及到遺留系統(tǒng)與現(xiàn)代化應(yīng)用基礎(chǔ)設(shè)施的整合,以及數(shù)據(jù)中心與公/私有云原生基礎(chǔ)設(shè)施之間的數(shù)據(jù)復(fù)制。常見的此類集成場(chǎng)景包括:在傳統(tǒng)中間件中使用MQ、ETL、ESB、以及API工具。而Kafka恰恰是對(duì)這些中間件工具的有力補(bǔ)充:
您可以從如下兩篇博文,來(lái)深入了解Kafka與中間件、以及API的關(guān)系:
保險(xiǎn)科技(Insurtechs)公司的應(yīng)用
不同于傳統(tǒng)的保險(xiǎn)公司,新興的保險(xiǎn)科技的一項(xiàng)巨大優(yōu)勢(shì)在于:他們無(wú)需與遺留的應(yīng)用、以及單體架構(gòu)相集成,而完全可以從頭開始新的應(yīng)用程序。他們既無(wú)需集成舊的系統(tǒng)協(xié)議和API,又無(wú)需傳統(tǒng)的中間件。也就是說(shuō),系統(tǒng)里并不存在諸如:Cobol、EDI或SAP BAPI/iDoc等單一或?qū)S薪涌?。在此類?chǎng)景中,Kafka能夠通過(guò)開放接口和實(shí)時(shí)功能,讓新的應(yīng)用程序具有敏捷性、可擴(kuò)展性、以及靈活性。
下圖便是使用Kafka生態(tài)系統(tǒng),進(jìn)行索賠處理和欺詐檢測(cè)的事件流的架構(gòu)示例。Apache Kafka的使用,可以協(xié)助為保險(xiǎn)的索賠處理和欺詐檢測(cè),做出實(shí)時(shí)決策。
Kafka在保險(xiǎn)行業(yè)的六大部署實(shí)例
1. Generali:以Kafka作為集成平臺(tái)
Generali是全球十大保險(xiǎn)公司之一。其General瑞士的數(shù)字化轉(zhuǎn)型始于將Confluent 作為戰(zhàn)略整合平臺(tái),集成了數(shù)百個(gè)遺留系統(tǒng)(如關(guān)系型數(shù)據(jù)庫(kù)等)。在流程上,變更數(shù)據(jù)捕獲 (Change Data Capture,CDC)會(huì)將各種變更,實(shí)時(shí)地推送到作為數(shù)據(jù)中樞和集成平臺(tái)的Kafka處,以便其他實(shí)時(shí)與批處理應(yīng)用程序,能夠進(jìn)一步使用和處理這些事件。
Kafka憑借著其獨(dú)特的優(yōu)勢(shì),能夠讓系統(tǒng)內(nèi)所有的應(yīng)用程序都相互解耦。而這對(duì)于傳統(tǒng)的消息傳遞(MQ)系統(tǒng)、或SOAP/REST等Web服務(wù),則無(wú)法實(shí)現(xiàn)真正的解耦和域驅(qū)動(dòng)設(shè)計(jì)(domain-driven design,DDD)。
Generali云原生架構(gòu)的設(shè)計(jì)原則
如下圖所示,Generali的集成平臺(tái)架構(gòu)利用了Kubernetes、Apache Kafka和變更數(shù)據(jù)捕獲,在云原生基礎(chǔ)設(shè)施中提供對(duì)于事件流的支持。其關(guān)鍵性設(shè)計(jì)原則包括了:敏捷性、可擴(kuò)展性、云治理、以及數(shù)據(jù)與事件處理。
而如下有關(guān)集成的邏輯圖則展示了Generali的可擴(kuò)展式微服務(wù)架構(gòu)。其流式ETL過(guò)程包括了數(shù)據(jù)集成、以及數(shù)據(jù)處理的解耦環(huán)境:
2. Centene的實(shí)時(shí)大規(guī)模集成和數(shù)據(jù)處理
Centene是美國(guó)最大的醫(yī)療補(bǔ)助和保險(xiǎn)管理護(hù)理的提供商。作為一家為政府資助和私人醫(yī)療保險(xiǎn)提供保健計(jì)劃的中介,該醫(yī)療保險(xiǎn)機(jī)構(gòu)的企業(yè)愿景是“逐個(gè)改變社區(qū)健康”。在業(yè)務(wù)增長(zhǎng)的過(guò)程中,Centene需要通過(guò)一個(gè)可擴(kuò)展且可靠的數(shù)據(jù)集成平臺(tái),來(lái)處理各種并購(gòu)。據(jù)此,Centene看中了Kafka的如下能力:
- 高度可擴(kuò)展性。
- 高度自治和解耦。
- 高度可用性和數(shù)據(jù)彈性。
- 實(shí)時(shí)數(shù)據(jù)傳輸。
- 復(fù)雜的流處理能力。
在架構(gòu)上,Centene使用Kafka來(lái)進(jìn)行數(shù)據(jù)集成和編排。如下圖所示,傳統(tǒng)數(shù)據(jù)庫(kù)、MongoDB、以及應(yīng)用程序和API,以實(shí)時(shí)、批處理和請(qǐng)求響應(yīng)的方式,對(duì)數(shù)據(jù)實(shí)施大規(guī)模的集成和實(shí)時(shí)處理。
3. Swiss Mobiliar的解耦和編排
Swiss Mobiliar(又名 Die Mobiliar)是瑞士歷史上最為悠久的私人保險(xiǎn)公司。它用到的帶有Kafka事件流支持的各種用例包括:
- 將Orchestrator應(yīng)用用于跟蹤計(jì)費(fèi)流程的狀態(tài)。
- 將Kafka作為數(shù)據(jù)庫(kù),將Kafka Streams用于數(shù)據(jù)處理。
- 通過(guò)各種跨合約和重新計(jì)算的方式,實(shí)現(xiàn)復(fù)雜的狀態(tài)聚合。
- 持續(xù)實(shí)時(shí)監(jiān)控。
如下架構(gòu)顯示了應(yīng)用程序和事件編排的解耦:
此外,您也可以通過(guò)查看Mobiliar和Spoud網(wǎng)絡(luò)會(huì)議的鏈接,以進(jìn)一步了解其如何使用Kafka的更多細(xì)節(jié)。
4. Humana的實(shí)時(shí)集成和分析
Humana Inc.是一家以營(yíng)利為目的的美國(guó)健康保險(xiǎn)公司。2020年,它在財(cái)富500強(qiáng)榜單中位列第52位。Humana通過(guò)構(gòu)建一個(gè)互操作性的平臺(tái),實(shí)現(xiàn)了利用Kafka來(lái)進(jìn)行實(shí)時(shí)集成和分析。其中包括:
- 以消費(fèi)者為中心。
- 健康計(jì)劃的隱蔽性。
- 供應(yīng)商的隱蔽性。
- 云端的擴(kuò)展性和魯棒性。
- 事件的驅(qū)動(dòng)和實(shí)時(shí)性。
憑借著Kafka的集成能力,該平臺(tái)通過(guò)捕獲用戶與支持IBM Watson AI平臺(tái)之間的對(duì)話流,使用深度學(xué)習(xí)、NLP實(shí)現(xiàn)了:
- 開放式與標(biāo)準(zhǔn)化的工作流集成。
- 實(shí)時(shí)的、事件驅(qū)動(dòng)式的患者交互。
- 高度的可擴(kuò)展性。
5. Freeyou的狀態(tài)流分析
Freeyou是一家汽車保險(xiǎn)類科技公司。它提供了出色的用戶體驗(yàn),以及后端實(shí)時(shí)化的價(jià)格自動(dòng)調(diào)整。Freeyou的流處理與分析等關(guān)鍵策略,都是由Kafka和ksqlDB提供的商業(yè)模式所支持的。下圖展示了Kafka和KQL在定價(jià)引擎、重新計(jì)算模塊、以及在啟用流分析中的邏輯結(jié)構(gòu):
6. 特斯拉也是汽車保險(xiǎn)公司
如今,許多車險(xiǎn)公司都會(huì)利用行車數(shù)據(jù),來(lái)計(jì)算保險(xiǎn)的價(jià)格,進(jìn)而提供更好的保險(xiǎn)服務(wù)。而聯(lián)網(wǎng)汽車和V2X(Vehicle to X)的集成,已經(jīng)成為了新的商業(yè)模式。近年來(lái),特斯拉也開展了汽車保險(xiǎn)類業(yè)務(wù)。目前,它已經(jīng)建立了一個(gè)基于Kafka的數(shù)據(jù)平臺(tái)基礎(chǔ)設(shè)施,并每天支持著數(shù)百萬(wàn)臺(tái)設(shè)備和數(shù)萬(wàn)億個(gè)數(shù)據(jù)點(diǎn)。下圖是特斯拉在2019年的Kafka峰會(huì)上展示的其使用Kafka的演進(jìn)過(guò)程。
通過(guò)創(chuàng)建實(shí)時(shí)的集成管道,Kafka給特斯拉帶來(lái)了如下優(yōu)勢(shì):
- 從人類專家驅(qū)動(dòng)方式轉(zhuǎn)化為自動(dòng)化的大數(shù)據(jù)與機(jī)器學(xué)習(xí)模式
- 處理各種來(lái)自駕駛員行為、車輛技術(shù)性能(包括攝像頭、傳感器等)等實(shí)時(shí)的遠(yuǎn)程信息與數(shù)據(jù)
- 更好地評(píng)估事故的風(fēng)險(xiǎn)、以及車輛維修的成本
- 通過(guò)諸如:自動(dòng)駕駛、穩(wěn)定控制、防盜系統(tǒng)、防彈鋼材料等新技術(shù),降低風(fēng)險(xiǎn)
如果您想進(jìn)一步了解Kafka事件流在下一代保險(xiǎn)平臺(tái)的組成與應(yīng)用,請(qǐng)參見--https://www.slideshare.net/KaiWaehner/apache-kafka-in-the-insurance-industry-249136708。
小結(jié)
由上文提到的六大保險(xiǎn)科技公司的成功部署案例可知,從邊緣部署到多云場(chǎng)景,無(wú)處不在的Kafka、及其生態(tài)系統(tǒng)通過(guò)支持大規(guī)模的實(shí)時(shí)數(shù)據(jù)處理,真正地解耦了那些單體的遺留系統(tǒng),并實(shí)現(xiàn)了與云原生基礎(chǔ)設(shè)施的良好集成。如果您對(duì)低延遲用例、用戶體驗(yàn)、以及系統(tǒng)架構(gòu)有著本行業(yè)特定需求的話,不妨也試試Kafka消息與數(shù)據(jù)處理模型吧。
原文標(biāo)題:Apache Kafka in the Insurance Industry,作者:Kai Wähner
【51CTO譯稿,合作站點(diǎn)轉(zhuǎn)載請(qǐng)注明原文譯者和出處為51CTO.com】