CIO分享:權(quán)衡AI投資方向和如何降低風險
在一個充滿風險的領(lǐng)域,避免不利結(jié)果與獲得改變游戲規(guī)則的優(yōu)勢,二者是同樣重要的。成功的CIO會找到辦法以平衡風險和回報。
在AI引發(fā)的熱潮中,技術(shù)正在迅速崛起,初創(chuàng)公司迫切需要獲得關(guān)注,超大規(guī)模企業(yè)正在爭先恐后地爭奪市場份額。對最精明的CIO們來說,這種環(huán)境也是對他們決策能力的一大考驗。但無論是否準備好,他們都必須做出具有深遠影響的選擇,停滯不前不是他們的一個選項。
Covanta是一家專門從事可持續(xù)材料管理(包括大規(guī)?;厥眨┑?span>企業(yè),該公司首席信息官Srini Gudipati表示:“AI發(fā)展很快,所以我們不想拖延。我們需要準備好回應我們的CEO,以解決和AI相關(guān)的問題?!?/span>
Forrester Research新興技術(shù)副總裁Brian Hopkins對此表示認同。他說:“我們無法足夠快地篩選所有這些內(nèi)容,但你不能袖手旁觀。機會太大了,其中存在很多風險,也有很多地雷需要排除?!?/span>
有一點是肯定的:未來幾年,AI技術(shù)將獲得大量資金注入。IDC預測,AI的核心IT支出將從2024年的2356億美金增長到2027年的5210億美元。
應對風險
進行任何技術(shù)進行投注或投資的第一步,都是要了解你自己承受風險的能力。Webster Bank首席信息官Vikram Nafde表示:“我們對采用AI技術(shù)保持審慎和深思熟慮的態(tài)度,這與我們作為傳統(tǒng)金融機構(gòu)的適度風險偏好是一致的?!盬ebster Bank是一家商業(yè)銀行,擁有超過750億美金的資產(chǎn),主要是通過商業(yè)銀行、消費者銀行和HSA銀行(一家以醫(yī)療保健為重點的金融服務提供商)提供數(shù)字服務和傳統(tǒng)服務。
在AI方面,Nafde看到了所選供應商的風險、用例商業(yè)的價值以及項目的成本,他已經(jīng)制定好了戰(zhàn)略來解決這三個問題。
在供應商方面,Nafde是從和超大規(guī)模廠商建立合作關(guān)系開始的。他說:“我們想要一個由大型的、成熟的參與者組成的生態(tài)系統(tǒng)?!蹦壳?/span>Webster Bank的現(xiàn)有合作伙伴包括AWS和微軟。盡管Nafde更喜歡與大型企業(yè)合作,但他找到了一些開發(fā)出工具可以在超大規(guī)模設(shè)備上運行的生成式AI的小型公司,其中一家公司開發(fā)的工具可以根據(jù)之前的互動和其他市場數(shù)據(jù)來預測客戶意圖和行為。
為了找到有前景的用例,Webster Bank仔細研究了幾十個提案,并決定從其中三個可以帶來切實好處的提案開始。該銀行目前正在開展這些POC計劃:內(nèi)部生產(chǎn)力的智能搜索、利用生成式AI功能實現(xiàn)自動化以協(xié)助銀團商業(yè)貸款工作流程、以及客戶流失預測。
為了應對第三個風險領(lǐng)域(也就是成本),Nafde正在帶頭為內(nèi)部員工提供必要的技能、能力和工具,以在公司內(nèi)部開展AI計劃。Nafde表示:“我們通過投資發(fā)展FTE(全職員工)并為我們的技術(shù)人員配備必要的專業(yè)知識,目標是最大限度地減少對外部顧問的依賴,并最大限度地提高我們從內(nèi)部推動創(chuàng)新的能力。”
在Covanta,Gudipati正在根據(jù)具體情況具體一個項目一個項目地實施AI,其重點是通過在成熟技術(shù)能力范圍內(nèi)進行實施,每次解決一個特定的問題。他說:“我們正在謹慎行事,因為大型語言模型的興起將數(shù)據(jù)安全風險提升到了一個新的水平。過去幾年我們一直在使用開源模型開發(fā)自己的內(nèi)部AI功能,這確保我們的敏感數(shù)據(jù)和知識產(chǎn)權(quán)不會被外部提供商所利用。”
Covanta的一個POC是通過識別已經(jīng)進入Covanta設(shè)施的丙烷罐等物品以及無害的可回收物來降低將危險材料帶入設(shè)施內(nèi)的風險。Gudipati說:“我們正在探索的技術(shù)使用AI和X射線技術(shù)來分析入站卡車,以便在丙烷罐在與大型粉碎機撞擊發(fā)生爆炸之前發(fā),就發(fā)現(xiàn)丙烷罐的可疑輪廓。”如果發(fā)生爆炸將是將是一個重大危險,需要付出巨大代價。他表示,消除火災風險的成本約為每小時10000美元,實施后應該能夠收回這部分成本。
在另一個實施方案中,Covanta正在使用AI來檢查潛在客戶的網(wǎng)站,以衡量公司的碳足跡,以及公司是否有資格獲得聯(lián)邦能源信貸。他說:“我們的數(shù)據(jù)團隊使用亞馬遜云上的生成式AI來探索可持續(xù)性指標,因此在這方面是創(chuàng)收的。”
還有一個實施,是Covanta正在使用Salesforce的CRM案例管理工具來創(chuàng)建發(fā)票,并使客戶能夠直接與Salesforce機器人對話來回答任何發(fā)票相關(guān)問題。Covanta還使用AI對合同進行法律審查,檢測并突出可能的風險點?!斑@些都是默默使用工具的一些好例子?!?/span>
公共事業(yè)行業(yè)的謹慎心態(tài)
傳統(tǒng)上,政府機構(gòu)是最不愿意承擔風險的組織,其運作必然會受到公眾的監(jiān)督,公眾對無法獲得回報或使公民數(shù)據(jù)面臨風險的項目幾乎是無法容忍的。
美國哈里斯縣通用服務執(zhí)行董事兼首席信息官Sindhu Menon表示:“在哈里斯縣,我們將數(shù)據(jù)機密性、完整性和可用性放在解決方案設(shè)計和架構(gòu)的最前沿?!卑凑杖丝谟嬎悖摍C構(gòu)是全美第三大縣,該機構(gòu)為休斯頓地區(qū)470萬公民提供服務。
與Gudipati和Nafde一樣,Menon和她的團隊正計劃使用超大規(guī)模設(shè)備作為風險相對較低的一個選擇。盡管是多云環(huán)境,但該機構(gòu)的大部分云實施都托管在微軟Azure上,其中一些托管在AWS云上,還有一些托管在ServiceNow的311公民信息平臺上。Menon表示,哈里斯縣有大約六個基于AI的POC正處于規(guī)劃階段,其中一個用于許可證處理現(xiàn)代化,另一個用于司法程序現(xiàn)代化。
奠定基礎(chǔ)
為了開展POC實施,Menon和她的團隊正在建立一個實驗室,預計將于2024年3月首次亮相,用于在推出AI工具之前對其進行測試。該實驗室位于縣辦公大樓內(nèi),將吸引來自多個部門的成員,包括哈里斯縣的數(shù)據(jù)團隊和架構(gòu)團隊。
她解釋說:“全縣都有很大的興趣參與測試。我們的目標是將團隊聚集在一起,提供一個安全的環(huán)境來學習和測試解決方案?!睂τ诳赡苌婕爱斍巴泄茉?/span>Azure上的Snowflake數(shù)據(jù)湖這一典型項目,Menon強調(diào)數(shù)據(jù)質(zhì)量是至關(guān)重要的?!癆I工具依賴于這些解決方案中使用的數(shù)據(jù)。我們需要良好的數(shù)據(jù)管理實踐才能獲得所需的結(jié)果和AI解決方案。”
同樣,Nafde組建了一個由約20人組成的AI治理團隊,由Webster Bank首席企業(yè)架構(gòu)師和首席數(shù)據(jù)官領(lǐng)導,其中包括技術(shù)專家、風險和合規(guī)人員以及律師。該銀行的AI團隊一個重點關(guān)注點同樣是數(shù)據(jù)質(zhì)量。為此,這個團隊對銀行的Snowflake環(huán)境實施了數(shù)據(jù)質(zhì)量和治理工具。
對于Covanta的Gudipati來說,第一步是通過建立一個強大而全面的數(shù)據(jù)基礎(chǔ)來實施AI技術(shù)和服務,使公司“為AI做好準備”。
“AI需要由高質(zhì)量數(shù)據(jù)的滋養(yǎng),因此我們使用Talend創(chuàng)建了全面的數(shù)據(jù)管理結(jié)構(gòu),并利用Snowflake作為我們的運營數(shù)據(jù)存儲和倉庫。然后,我們在AWS上實施了一套全面的AI工具,這些工具本身可以很好地協(xié)同工作,為我們提供真正的AIOps。我們廣泛使用AWS作為基礎(chǔ)設(shè)施和數(shù)據(jù)存儲,因此選擇他們是有意義的。我們建設(shè)完成了地基和基礎(chǔ)設(shè)施,讓AI在此之上能夠真正地發(fā)揮全部潛力?!?/span>
被鎖定的風險
由于運行AI算法成本不低,因此每個項目都面臨著成本高于預期的風險。
Gudipati說:“AI引擎的運行成本很高,它相比傳統(tǒng)AI要消耗更多的處理器,因此我們必須關(guān)注成本?!?/span>
Nafde表示認同?!叭藗儧]有意識到AI模型必須調(diào)動如此多的計算資源。他們不知道這會花費多少錢,我們有計算服務的成本觸發(fā)因素。我們相信我們可以管理運行成本,因為我們將不斷地評估成本?!?/span>
委托云服務提供商(包括超大規(guī)模提供商)并非沒有被鎖定的風險。盡管可以從一個云提供商轉(zhuǎn)向另一家云提供商,以獲得更好的交易合同,但遷移的勞動力和費用是令人望而生畏的,可能會抵消任何潛在的節(jié)省。例如,Snowflake可以運行在微軟Azure或者AWS上,因此可以從一個云遷移到另一個云?!拔也徽J為這是不可能的,但你需要做一些基礎(chǔ)工作,提前考慮一下是件好事?!?/span>
不要只是站在那里,做點什么
對于CIO來說,以前很少有技術(shù)能夠讓他們在生成式AI的幫助下采取行動。風險緩解策略面臨著高管的推動,他們不希望自己的公司落后。
“這可能是歷史上第一次,非技術(shù)人員能夠看到一些東西并對此感到興奮,因為他們可以參與其中,這已經(jīng)成為董事會層面興趣的一個轉(zhuǎn)折點,”Forrester的Hopkins說。
Nafde認為,在金融服務領(lǐng)域,支付公司Stripe和移動應用MX等初創(chuàng)公司可以利用AI來接管客戶關(guān)系。“用戶行為可能發(fā)生很大的變化以至于人們不會想到銀行,而是他們正在使用的支付應用。金融科技公司和初創(chuàng)公司要么利用AI超越老牌企業(yè),要么就是被淘汰。”
然而,與初創(chuàng)公司不同的是,老牌企業(yè)不能冒著因為把全部賭注押在AI上而可能遭受損失的風險,他們面臨的挑戰(zhàn)是找到一條能夠產(chǎn)生底線結(jié)果的中間路線。Gudipati說:“我們不會告訴全世界我們是一家基于AI的企業(yè),但我們會把AI作為一個日常解決問題的工具?!?/span>