我們對(duì)人工智能的期望是否過(guò)高?公司及其高管也應(yīng)該在多大程度上依賴(lài)人工智能提供的產(chǎn)出?

這是12月初在紐約舉行的人工智能峰會(huì)上舉辦的一個(gè)小組討論的主題，該小組重點(diǎn)關(guān)注人工智能在金融服務(wù)領(lǐng)域新興角色的風(fēng)險(xiǎn)，但討論對(duì)所有行業(yè)都有廣泛的影響。(我有機(jī)會(huì)共同主持會(huì)議，并主持小組討論。

"我們認(rèn)為人工智能正在告訴我們一些東西，但事實(shí)并非如此，"Aible首席技術(shù)官Rod Butters警告說(shuō)。"這只是一堆代碼。它不知道。這是我們所有人都陷入的幻想。不知何故，我們認(rèn)為該模型已經(jīng)體現(xiàn)了某些東西?，F(xiàn)實(shí)情況是，人工智能只是一個(gè)統(tǒng)計(jì)引擎，在很多情況下，它是一個(gè)糟糕的統(tǒng)計(jì)引擎。

如今，有了人工智能，"人工智能是人造概念中最大的系統(tǒng)性風(fēng)險(xiǎn)，"Agentic Group的創(chuàng)始人兼董事總經(jīng)理、世界倫理數(shù)據(jù)基金會(huì)(World Ethical Data Foundation)顧問(wèn)委員會(huì)成員Rik Willard說(shuō)。"這一切都是人類(lèi)完成的。這一切都由人類(lèi)表現(xiàn)出來(lái)。當(dāng)我們研究風(fēng)險(xiǎn)與回報(bào)時(shí)，它只與金融機(jī)構(gòu)以及這些機(jī)構(gòu)周?chē)谋O(jiān)管框架一樣好。我們是支持我們?cè)诩夹g(shù)之前建立的相同的人類(lèi)和經(jīng)濟(jì)算法，還是我們正在努力使這些算法更好，更具包容性?"

此外，人工智能仍然是一項(xiàng)相對(duì)不成熟的技術(shù)，AntWorks全球金融服務(wù)副總裁Drew Scarano說(shuō)。"十年前，我們甚至沒(méi)有談?wù)撊斯ぶ悄?，但今天，這是一個(gè)價(jià)值數(shù)十億美元的行業(yè)，"他說(shuō)。斯卡拉諾說(shuō)。"我們可能過(guò)于依賴(lài)這項(xiàng)技術(shù)，忘記了循環(huán)中的人類(lèi)，以及他們?nèi)绾卧谘a(bǔ)充人工智能方面發(fā)揮不可或缺的作用，以獲得預(yù)期的結(jié)果。

另一個(gè)挑戰(zhàn)是人工智能系統(tǒng)傾向于在相對(duì)孤立的情況下構(gòu)建。巴特斯警告說(shuō)，人工智能只是代碼，構(gòu)建這些系統(tǒng)的人對(duì)其對(duì)業(yè)務(wù)的價(jià)值的看法可能有限。"當(dāng)我們告訴數(shù)據(jù)科學(xué)家出去創(chuàng)建一個(gè)模型時(shí)，我們要求他們成為一個(gè)讀心者和算命先生，"他說(shuō)。"這是兩個(gè)糟糕的工作集，它不起作用。數(shù)據(jù)科學(xué)家試圖做正確的事情，創(chuàng)建一個(gè)負(fù)責(zé)任和可靠的模型，但基于什么?最終，當(dāng)他們建立一個(gè)模型時(shí)，除非他們有這種組合來(lái)創(chuàng)造透明度，創(chuàng)造可擴(kuò)展性，實(shí)際上在戰(zhàn)略和戰(zhàn)術(shù)上將其傳達(dá)給業(yè)務(wù)群體，誰(shuí)負(fù)責(zé)?僅僅創(chuàng)建一個(gè)偉大的模型并不一定能解決所有問(wèn)題。

Scarano說(shuō)，在構(gòu)建數(shù)據(jù)模型的過(guò)程中，數(shù)據(jù)科學(xué)家需要了解企業(yè)的目標(biāo)，同時(shí)考慮到對(duì)人類(lèi)的影響。"你可以讓工程師建造一座偉大的橋梁。因此，如果它沒(méi)有超越它的意圖，它只是一座偉大的橋梁，對(duì)吧?我擔(dān)心商界人士，尤其是金融服務(wù)業(yè)人士。只會(huì)繼續(xù)過(guò)分依賴(lài)技術(shù)。我們需要一種與人類(lèi)共存的整體方法。

Scarano敦促，超越人工智能的技術(shù)和統(tǒng)計(jì)數(shù)據(jù)，專(zhuān)注于最終為客戶(hù)提供服務(wù)的產(chǎn)品。"這是關(guān)于我們?nèi)绾斡萌斯ぶ悄軄?lái)補(bǔ)充人類(lèi)來(lái)推動(dòng)業(yè)務(wù)，并在一天結(jié)束時(shí)推動(dòng)客戶(hù)現(xiàn)實(shí)，客戶(hù)成功和客戶(hù)滿(mǎn)意度。

小組成員一致認(rèn)為，人工智能為業(yè)務(wù)目標(biāo)服務(wù)的道路依賴(lài)于建立指導(dǎo)其發(fā)展的一致框架。"我在一個(gè)快速失敗的環(huán)境中長(zhǎng)大，"威拉德說(shuō)。"你構(gòu)建代碼，測(cè)試，并修復(fù)損壞的東西。你在旅途中修復(fù)它。你構(gòu)建它，它有點(diǎn)工作，你讓它松動(dòng)，然后你根據(jù)反饋循環(huán)的輸入隨著時(shí)間的推移對(duì)其進(jìn)行改進(jìn)。然而，對(duì)于人工智能，問(wèn)題在于我們把它放在一個(gè)判斷的位置。就像在刑事司法系統(tǒng)中一樣，在你做對(duì)之前，它會(huì)造成很多傷害。在銀行系統(tǒng)中，它是貸款，沒(méi)有貸款;分?jǐn)?shù)，沒(méi)有分?jǐn)?shù);或信用，沒(méi)有信用。我們?nèi)绾螛?gòu)建測(cè)試框架和沙盒，使其具有大規(guī)模啟動(dòng)所需的準(zhǔn)確性，同時(shí)在此過(guò)程中造成更少的傷害?"

人工智能在整個(gè)金融服務(wù)行業(yè)被用于許多目的，但風(fēng)險(xiǎn)在于幫助建立該行業(yè)的人際品質(zhì)的非人性化。"今天，我們可以將人工智能用于任何事情，從批準(zhǔn)信用卡到批準(zhǔn)抵押貸款，再到批準(zhǔn)任何類(lèi)型的貸款工具，"Scarano說(shuō)。"但是，如果沒(méi)有人為干預(yù)，就無(wú)法理解一個(gè)人比信用評(píng)分更重要，一個(gè)人比獲得抵押貸款的批準(zhǔn)或拒絕更多。

客戶(hù)體驗(yàn)是金融服務(wù)的基礎(chǔ)，這需要成為所有人工智能計(jì)劃的前沿和中心。在人工智能驅(qū)動(dòng)的系統(tǒng)中，需要有反饋循環(huán)，這些系統(tǒng)結(jié)合了人類(lèi)的輸入。"當(dāng)我們實(shí)施基于AI的解決方案時(shí)，我們需要確保使用產(chǎn)品的最終用戶(hù)，客戶(hù)也對(duì)這種投資和解決方案感到滿(mǎn)意，"Run：AI的解決方案架構(gòu)師Robert Magno說(shuō)。"讓機(jī)器人在倉(cāng)庫(kù)中自動(dòng)移動(dòng)包裹是非常有意義的。但從客戶(hù)服務(wù)的角度來(lái)看，如果一個(gè)與聊天機(jī)器人互動(dòng)的人感到沮喪，就需要有一個(gè)反饋循環(huán)，以確保你正在實(shí)施的解決方案能與你的客戶(hù)產(chǎn)生共鳴，他們享受這種體驗(yàn)，就像你喜歡創(chuàng)造體驗(yàn)一樣。