[[423755]]

人工智能正在用行動(dòng)證實(shí)其在金融服務(wù)行業(yè)的價(jià)值，如今，其應(yīng)用范圍已經(jīng)從識(shí)別欺詐行為和打擊金融犯罪，發(fā)展到為客戶提供創(chuàng)新的數(shù)字化體驗(yàn)。然而，這種從傳統(tǒng)的基于規(guī)則的模型到利用機(jī)器學(xué)習(xí)模型做決策的演進(jìn)，也正在為金融機(jī)構(gòu)制造新的難題。

如果缺乏適當(dāng)?shù)牟襟E來(lái)確保機(jī)器學(xué)習(xí)模型所做決策的可信度，那么許多企業(yè)組織可能會(huì)在不知不覺(jué)中暴露于聲譽(yù)和財(cái)務(wù)風(fēng)險(xiǎn)中。使用缺乏“可解釋性”和透明度的“黑盒”AI技術(shù)會(huì)使企業(yè)組織無(wú)法獲悉決策產(chǎn)生的原因和過(guò)程，更無(wú)法獲悉決策是何時(shí)出現(xiàn)問(wèn)題的。

AI應(yīng)用以輸出決策判斷為目標(biāo)，隨著人們?cè)谌粘Ｉ钪性絹?lái)越依賴AI，能夠理解決策產(chǎn)生的過(guò)程也變得愈發(fā)重要。這種情況下，“可解釋的”AI概念應(yīng)運(yùn)而生。所謂“可解釋的AI”是指人類能夠通過(guò)動(dòng)態(tài)生成的圖表或文本描述輕松理解AI技術(shù)做出決策的路徑。AI的可解釋性越高，人們?cè)饺菀桌斫鉃槭裁醋龀瞿承Q定或判斷。

如今，金融機(jī)構(gòu)正處在十字路口。IBM和Morning Consult的一項(xiàng)新研究發(fā)現(xiàn)，金融領(lǐng)域中44%的企業(yè)組織表示，有限的專業(yè)知識(shí)和技能是他們成功部署AI技術(shù)最大的挑戰(zhàn)。在整個(gè)疫情大流行期間，采用新技術(shù)來(lái)提高運(yùn)營(yíng)效率并使金融機(jī)構(gòu)在競(jìng)爭(zhēng)對(duì)手中脫穎而出的壓力越來(lái)越大。隨著越來(lái)越多的組織部署AI技術(shù)，重要的是要確保輸出結(jié)果的公平公正，提升對(duì)AI決策的信任度，并擴(kuò)大AI部署規(guī)模以優(yōu)化其業(yè)務(wù)運(yùn)營(yíng)。

金融行業(yè)如何提升對(duì)人工智能的信任感?

首先也是最重要的，在任何金融機(jī)構(gòu)開始考慮將AI集成到其業(yè)務(wù)運(yùn)營(yíng)中之前，他們必須先要從最基礎(chǔ)的定義政策和規(guī)范等方面了解道德和值得信賴的AI技術(shù)。金融服務(wù)企業(yè)已經(jīng)意識(shí)到了這一點(diǎn)，因?yàn)樵贗BM的《2021年全球人工智能采用指數(shù)報(bào)告》中，85%的受訪者表示，能夠解釋人工智能如何做出決定對(duì)他們的業(yè)務(wù)很重要。

金融組織應(yīng)該能夠清楚地定義“公平”在其行業(yè)中的真正含義以及如何監(jiān)控公平。同樣地，組織還應(yīng)該清楚他們?nèi)缃褡鳛楣緦?shí)體的立場(chǎng)以及哪些政策反映了這種立場(chǎng)。

完成這第一步，金融機(jī)構(gòu)便可以著手研究采用AI模型的特定用例。例如，考慮AI模型在各種信用風(fēng)險(xiǎn)場(chǎng)景中的表現(xiàn)。哪些參數(shù)會(huì)影響其決策?它是否不公平地將風(fēng)險(xiǎn)與人口統(tǒng)計(jì)相關(guān)聯(lián)?

所有這些元素都需要仔細(xì)考慮，并且需要在AI運(yùn)行的整個(gè)生命周期——從構(gòu)建和驗(yàn)證模型，到部署和使用它們——牢記這一點(diǎn)。如今，企業(yè)組織也可以借助各類相關(guān)平臺(tái)來(lái)幫助指導(dǎo)這一過(guò)程，確保模型的公正和無(wú)偏見(在政策規(guī)定的公平范圍內(nèi))，同時(shí)能夠?yàn)楸O(jiān)管機(jī)構(gòu)提供可視化和解釋決策的能力。不過(guò)，盡管市場(chǎng)上存在這些工具，但63%的受訪金融服務(wù)組織表示，不適用所有數(shù)據(jù)環(huán)境的AI治理和管理工具是部署可信賴AI模型的障礙。

金融機(jī)構(gòu)如果對(duì)其AI模型更具信心，便可以將更少的精力花費(fèi)在繁重的任務(wù)上，并將注意力集中在價(jià)值更高的工作上。例如，欺詐檢測(cè)是當(dāng)今金融服務(wù)中AI的常見用例，但誤報(bào)率仍然很高。如果AI系統(tǒng)可以解釋為什么它認(rèn)為一個(gè)案例是具有欺詐性的，更重要的是，如果它能夠證明自己不會(huì)系統(tǒng)地偏袒一個(gè)群體，人類員工便可以花費(fèi)更少的時(shí)間來(lái)驗(yàn)證結(jié)果，而可以將更多的時(shí)間用于交付更高價(jià)值的工作上。

初創(chuàng)企業(yè)是否需要采取與傳統(tǒng)金融機(jī)構(gòu)不同的方法?

歸根結(jié)底，無(wú)論您是傳統(tǒng)金融機(jī)構(gòu)還是初出茅廬的初創(chuàng)企業(yè)，您都需要同等關(guān)注確保公平、道德和透明的AI技術(shù)。

最突出的區(qū)別在于，傳統(tǒng)金融機(jī)構(gòu)已經(jīng)擁有現(xiàn)成的模型風(fēng)險(xiǎn)管理實(shí)踐，通常適用于傳統(tǒng)的基于規(guī)則的模型。而且，傳統(tǒng)金融機(jī)構(gòu)也已經(jīng)擁有部署到位的技術(shù)和流程，因此，改變方法通常更具挑戰(zhàn)性。不過(guò)，無(wú)論使用哪種開發(fā)和部署工具，都必須考慮如何擴(kuò)展現(xiàn)有模型風(fēng)險(xiǎn)管理實(shí)踐以支持AI/ML模型。

許多金融科技初創(chuàng)公司可能沒(méi)有考慮對(duì)這項(xiàng)技術(shù)進(jìn)行現(xiàn)有投資，這也使他們有更多的自由來(lái)選擇具有內(nèi)置功能的同類最佳開發(fā)、部署和監(jiān)控平臺(tái)。

AI在金融行業(yè)的未來(lái)之路

對(duì)于那些仍將人工智能投資視為“冒險(xiǎn)之舉”的企業(yè)組織而言，此次疫情大流行可謂起到了催化劑的作用，讓他們認(rèn)識(shí)到了AI技術(shù)對(duì)于提高效率、減輕遠(yuǎn)程工作者壓力等諸多好處。目前，金融行業(yè)中有28%的企業(yè)表示他們已將AI作為業(yè)務(wù)運(yùn)營(yíng)的一部分積極部署。雖然AI技術(shù)的滲透速度非?？?，而且規(guī)模很大，但44%的企業(yè)表示他們?nèi)蕴幱谔剿鰽I解決方案的初步階段，22%的企業(yè)目前沒(méi)有使用或探索使用AI解決方案。這就意味著目前，大多數(shù)金融公司正在開發(fā)概念證明(PoC)或分析其數(shù)據(jù)以用于未來(lái)的增長(zhǎng)和使用目的。

隨著步入“后疫情”時(shí)代，企業(yè)組織需要比以往任何時(shí)候都更加警惕，以確保其AI技術(shù)正在以“負(fù)責(zé)任”的方式運(yùn)行，而非在助長(zhǎng)系統(tǒng)性的不公正。世界各國(guó)政府即將出臺(tái)的法律法規(guī)也將繼續(xù)關(guān)注組織(尤其是金融行業(yè))如何負(fù)責(zé)任地使用這項(xiàng)技術(shù)。

總而言之，想要獲取對(duì)AI決策的廣泛信任，根本沒(méi)有捷徑可走，但企業(yè)組織可以從采取持續(xù)的、深思熟慮的步驟開始，以解決偏見和不公正并提高可解釋性。