AI讓邊緣計(jì)算與CIO更加相關(guān)
新時(shí)代的自主系統(tǒng)將需要更快速的數(shù)據(jù)處理,且靠近數(shù)據(jù)源進(jìn)行處理,這使得一些CIO將AI加入他們2025年的邊緣計(jì)算規(guī)劃中。
分析師預(yù)測(cè),企業(yè)AI的下一個(gè)階段將引入自主系統(tǒng),幾乎無(wú)需人工干預(yù)。據(jù)Gartner最近的一份報(bào)告顯示,今年已有75%的CIO增加了AI預(yù)算。隨著GenAI嵌入更多設(shè)備,實(shí)現(xiàn)自主決策將依賴實(shí)時(shí)數(shù)據(jù)處理,并且避免高昂的云計(jì)算成本,這正是邊緣計(jì)算發(fā)揮作用的地方。
通過(guò)靠近數(shù)據(jù)源處理數(shù)據(jù),邊緣計(jì)算能夠加快決策速度,減少數(shù)據(jù)傳輸,從而降低成本,成為AI應(yīng)用的理想環(huán)境?!斑吘売?jì)算正在快速發(fā)展,從一個(gè)有前景的概念演變?yōu)樵S多行業(yè)的關(guān)鍵工具,”前白宮CIO、Fortalice Solutions網(wǎng)絡(luò)安全公司創(chuàng)始人Theresa Payton說(shuō)道,“到2025年,隨著AI和物聯(lián)網(wǎng)的擴(kuò)展,邊緣計(jì)算將更加普及?!?/p>
以位于威斯康星州的電力供應(yīng)公司Dairyland Power Cooperative為例,他們采用GenAI來(lái)優(yōu)化和提升現(xiàn)場(chǎng)基礎(chǔ)設(shè)施的性能和效率?!癆I讓邊緣計(jì)算對(duì)CIO更具吸引力,因?yàn)樗鼛椭覀儨p少數(shù)據(jù)處理的延遲,而在我們追求實(shí)時(shí)處理的情況下,這帶來(lái)了巨大優(yōu)勢(shì)?!痹摴镜母笨偛眉鍯IO Nate Melby表示。
其他人也認(rèn)為,隨著AI在關(guān)鍵企業(yè)應(yīng)用中的普及,邊緣計(jì)算的處理能力將隨之提升?!半S著AI應(yīng)用在關(guān)鍵任務(wù)的企業(yè)用例中大量增加,其中一些AI應(yīng)用將轉(zhuǎn)移到邊緣,”分布式云計(jì)算平臺(tái)公司Akamai的執(zhí)行副總裁兼CTO Robert Blumofe說(shuō)道,“邊緣計(jì)算能夠減少延遲、降低成本,并降低數(shù)據(jù)暴露的風(fēng)險(xiǎn)?!?/p>
然而,企業(yè)中的GenAI引發(fā)了大量的炒作,實(shí)際的價(jià)值應(yīng)用案例卻屈指可數(shù)。分析師對(duì)此泡沫進(jìn)行了揭穿,一些技術(shù)領(lǐng)導(dǎo)者也選擇停止相關(guān)項(xiàng)目。針對(duì)最近AI熱潮的降溫,AVOA的CIO戰(zhàn)略顧問(wèn)Tim Crawford提醒領(lǐng)導(dǎo)者要做出理性的投資決策。不過(guò),他仍然認(rèn)為,在提高效率的驅(qū)動(dòng)下,GenAI和某些邊緣應(yīng)用有著值得探索的機(jī)會(huì)。
CIO對(duì)邊緣計(jì)算的興趣
近年來(lái),邊緣計(jì)算的關(guān)注度迅速上升。據(jù)IDC估計(jì),2024年全球在邊緣計(jì)算上的支出增長(zhǎng)了14%。推動(dòng)這種興趣的一個(gè)重要因素是將AI投入實(shí)際應(yīng)用,這需要低延遲和高隱私的結(jié)合,而這正是邊緣計(jì)算的優(yōu)勢(shì)所在。
“我們看到邊緣計(jì)算的使用迅速擴(kuò)大,”Blumofe說(shuō)道,“我們?cè)谧约旱膽?yīng)用中使用它,客戶也越來(lái)越多地采用它?!闭雇?025年,更多CIO計(jì)劃在邊緣實(shí)現(xiàn)AI的應(yīng)用。
“明年,我們的企業(yè)計(jì)劃利用邊緣計(jì)算來(lái)增強(qiáng)運(yùn)營(yíng)決策智能,并推動(dòng)我們向智能資產(chǎn)的方向發(fā)展,”Melby補(bǔ)充道。在他們的領(lǐng)域中,AI和邊緣計(jì)算正變得必不可少,以實(shí)現(xiàn)下一代高度智能化的工業(yè)數(shù)字運(yùn)營(yíng)。他表示,這是一個(gè)新型的、網(wǎng)絡(luò)化的動(dòng)態(tài)能源生態(tài)系統(tǒng)的基礎(chǔ)。
根據(jù)Fortalice Solutions的Payton的說(shuō)法,將數(shù)據(jù)處理靠近數(shù)據(jù)產(chǎn)生的地方,尤其有利于需要即時(shí)行動(dòng)和實(shí)時(shí)洞察的應(yīng)用,無(wú)論是在零售、制造業(yè),還是客戶體驗(yàn)領(lǐng)域。她表示:“那些優(yōu)先考慮實(shí)時(shí)決策和數(shù)據(jù)處理的企業(yè),應(yīng)在其2025年及以后的路線圖中納入邊緣計(jì)算?!?/p>
AI與邊緣計(jì)算攜手并進(jìn)
邊緣計(jì)算的核心是實(shí)時(shí)處理數(shù)據(jù),在數(shù)據(jù)收集并需要處理的端點(diǎn)進(jìn)行操作,而AI在其中成為了明顯的助手。軟件公司Bizagi的CIO Antonio Vázquez表示:“AI可以通過(guò)在數(shù)據(jù)傳輸、可擴(kuò)展性、安全性和成本方面提高效率,幫助解決過(guò)去阻礙技術(shù)采用的問(wèn)題?!?/p>
運(yùn)營(yíng)方面的收益也值得考慮,計(jì)算公司Macrometa的CEO兼聯(lián)合創(chuàng)始人Chetan Venkatesh補(bǔ)充道:“AI通過(guò)實(shí)現(xiàn)網(wǎng)絡(luò)邊緣的實(shí)時(shí)智能數(shù)據(jù)處理,使邊緣計(jì)算對(duì)CIO來(lái)說(shuō)更加重要。”在他看來(lái),這種結(jié)合解鎖了性能提升、增強(qiáng)的用戶體驗(yàn)、新的應(yīng)用交付方式以及更好的韌性,而另一個(gè)額外的好處是數(shù)據(jù)隱私,這也是AI系統(tǒng)中備受爭(zhēng)議的話題?!霸诒镜靥幚砻舾袛?shù)據(jù),可以解決日益增長(zhǎng)的數(shù)據(jù)主權(quán)和合規(guī)性問(wèn)題?!彼f(shuō)。
提升數(shù)據(jù)處理的方式和地點(diǎn),也意味著積極的業(yè)務(wù)成果。Payton表示:“AI使邊緣計(jì)算對(duì)CIO來(lái)說(shuō)極具相關(guān)性,因?yàn)樗屍髽I(yè)能夠在數(shù)據(jù)生成的地方進(jìn)行處理和分析。隨著AI的不斷發(fā)展,它對(duì)快速數(shù)據(jù)處理的依賴使得邊緣計(jì)算不僅有益,而且對(duì)保持競(jìng)爭(zhēng)優(yōu)勢(shì)來(lái)說(shuō)至關(guān)重要?!?/p>
邊緣AI的應(yīng)用場(chǎng)景
AI推理可以部署在設(shè)備上、本地或云端,但在許多需要速度和隱私的場(chǎng)景中,邊緣計(jì)算尤其突出。Venkatesh表示:“邊緣AI允許在最重要的地方——靠近數(shù)據(jù)源進(jìn)行即時(shí)決策?!边@為一些以前不可能的用例打開(kāi)了大門。
許多面向用戶的場(chǎng)景都能從基于邊緣的AI中受益,Payton強(qiáng)調(diào)了面部識(shí)別技術(shù)、為半自動(dòng)駕駛汽車提供實(shí)時(shí)交通更新,以及連接設(shè)備和智能手機(jī)上的數(shù)據(jù)驅(qū)動(dòng)增強(qiáng)功能作為可能的應(yīng)用領(lǐng)域?!霸诹闶垲I(lǐng)域,AI可以通過(guò)智能設(shè)備實(shí)時(shí)提供個(gè)性化體驗(yàn),”她說(shuō),“在醫(yī)療保健領(lǐng)域,基于邊緣的AI可以通過(guò)可穿戴設(shè)備立即提醒醫(yī)療專業(yè)人員發(fā)現(xiàn)的異常情況,從而可能挽救生命。”
Bizagi的Vázquez指出,AI和邊緣計(jì)算在智慧城市中的應(yīng)用是一個(gè)明確的勝利。他表示,邊緣的AI模型可以在交通燈控制之外,幫助提升市民安全、自動(dòng)化交通、智能電網(wǎng)和自愈基礎(chǔ)設(shè)施等領(lǐng)域。以他為例,巴林、格拉斯哥和拉斯維加斯等城市已經(jīng)開(kāi)始進(jìn)行AI實(shí)驗(yàn),以改善城市規(guī)劃、緩解交通流量并幫助公共安全。
自主管理的智能基礎(chǔ)設(shè)施正是Dairyland的Melby重點(diǎn)關(guān)注的領(lǐng)域。能源行業(yè)正在利用AI實(shí)現(xiàn)減排目標(biāo),向可再生能源過(guò)渡,并提高電網(wǎng)的韌性。“我們正努力實(shí)現(xiàn)更靈活的能源交換,分散能源的生成,并在實(shí)時(shí)操作中整合多種資源,”他說(shuō),“通過(guò)利用AI和邊緣計(jì)算,我們可以通過(guò)機(jī)器決策設(shè)定明確且可預(yù)測(cè)的邊界,從而有效降低一些復(fù)雜操作決策的風(fēng)險(xiǎn)。”一個(gè)具體的領(lǐng)域是基于成本和預(yù)測(cè)自動(dòng)優(yōu)化雙向電力流的同時(shí),選擇和平衡多種能源來(lái)源,如風(fēng)能、太陽(yáng)能或電池儲(chǔ)存。
制造業(yè)也是一個(gè)相關(guān)行業(yè),Akamai的Blumofe指出,制造商可以利用邊緣的AI算法監(jiān)控生產(chǎn)質(zhì)量和工作場(chǎng)所安全,并實(shí)時(shí)調(diào)整生產(chǎn)流程,這還可以包括預(yù)測(cè)性維護(hù)和機(jī)器自診斷。
AVOA的Crawford表示,還有一些特殊情況與GenAI的應(yīng)用相關(guān),比如將GenAI帶到戰(zhàn)場(chǎng)上的士兵手中,然而,總體來(lái)說(shuō),他對(duì)邊緣AI持更加務(wù)實(shí)的看法,認(rèn)為它更像是一種特定的應(yīng)用場(chǎng)景,而非包羅萬(wàn)象的技術(shù)手段。“AI和邊緣計(jì)算仍然非常小眾化,”他說(shuō)。他部分歸因于模型訓(xùn)練的高昂成本和較低的回報(bào),“必須有足夠大的價(jià)值來(lái)抵消這些成本?!?/p>
邊緣計(jì)算對(duì)業(yè)務(wù)的影響
CIO們普遍對(duì)邊緣AI對(duì)業(yè)務(wù)的影響持積極態(tài)度,認(rèn)為它可以帶來(lái)更高的可靠性、減少數(shù)據(jù)傳輸、增強(qiáng)個(gè)性化體驗(yàn)并降低數(shù)據(jù)暴露的風(fēng)險(xiǎn)。
其中一個(gè)關(guān)鍵優(yōu)勢(shì)是提升邊緣的可靠性?!白杂到y(tǒng)是提高任何需要優(yōu)化資源的技術(shù)可靠性的關(guān)鍵,因?yàn)樗拷录l(fā)生地,遠(yuǎn)離系統(tǒng)管理位置,”Bizagi的Vázquez表示。通過(guò)使用AI驅(qū)動(dòng)的組件來(lái)實(shí)現(xiàn)負(fù)載平衡、故障容忍或預(yù)測(cè)性異常檢測(cè),這一目標(biāo)可以實(shí)現(xiàn)。
除了傳統(tǒng)的保護(hù)措施之外,邊緣的自主AI還將解鎖前所未有的實(shí)時(shí)操作響應(yīng)能力。Melby表示:“提高決策智能、實(shí)現(xiàn)連續(xù)且無(wú)縫的自動(dòng)化,以及向確保未來(lái)互操作性數(shù)字生態(tài)系統(tǒng)的邁進(jìn),都是巨大的優(yōu)勢(shì)?!碧貏e是在能源行業(yè),它可以通過(guò)從反應(yīng)性維護(hù)轉(zhuǎn)向預(yù)測(cè)性維護(hù),幫助提升電網(wǎng)的維護(hù)效率。
除了運(yùn)營(yíng)優(yōu)勢(shì)之外,其他人還期待通過(guò)邊緣AI提供更加快速、個(gè)性化的客戶體驗(yàn)。Macrometa的Venkatesh指出:“當(dāng)今的用戶期望即時(shí)、智能和富有洞察力的在線體驗(yàn)?!比欢?,這些日益動(dòng)態(tài)的交互通常需要通過(guò)遠(yuǎn)程服務(wù)器的API請(qǐng)求鏈,導(dǎo)致延遲。他表示:“設(shè)計(jì)良好、部署得當(dāng)?shù)倪吘堿I可以通過(guò)最少的代碼更改集成更多功能,使企業(yè)能夠提供用戶所期望的實(shí)時(shí)互動(dòng)體驗(yàn)?!?/p>
雖然潛在的好處非常多,但Crawford提醒,期望值必須建立在現(xiàn)實(shí)基礎(chǔ)上,因?yàn)槿绻麡I(yè)務(wù)結(jié)果無(wú)法實(shí)現(xiàn),許多應(yīng)用場(chǎng)景將逐漸被淘汰。
此外,由于AI訓(xùn)練和推理所需的強(qiáng)大能耗,也提高了技術(shù)的門檻,帶來(lái)了物理上的限制。他舉了最近愛(ài)爾蘭電網(wǎng)故障的例子,說(shuō)明了高能耗計(jì)算如AI處理可能面臨的挑戰(zhàn)。
做好邊緣AI的實(shí)施
對(duì)邊緣AI實(shí)施的興奮感應(yīng)當(dāng)與謹(jǐn)慎的樂(lè)觀態(tài)度相結(jié)合。例如,Payton建議將AI戰(zhàn)略與業(yè)務(wù)成果對(duì)齊,并采取“慢走不要跑”的方式。“我建議CIO們通過(guò)試點(diǎn)測(cè)試和學(xué)習(xí)的方法,確保在實(shí)施AI和邊緣計(jì)算時(shí)充分了解總擁有成本、安全性考慮以及業(yè)務(wù)韌性計(jì)劃?!彼f(shuō)。
CIO們還必須為投資提供合理的依據(jù),并優(yōu)化其物理資產(chǎn)的使用。Melby建議企業(yè)仔細(xì)考慮他們?cè)噲D解決的問(wèn)題以及預(yù)期結(jié)果?!霸谖业男袠I(yè)中,我們正在努力提高效率和韌性,邊緣計(jì)算與AI將在我們之前無(wú)法實(shí)現(xiàn)的領(lǐng)域提供幫助,”他說(shuō),“這種潛力具有變革性?!彼a(bǔ)充道,CIO們應(yīng)仔細(xì)規(guī)劃模塊化或小型數(shù)據(jù)中心的邊緣位置,以最大化價(jià)值。
Blumofe指出,成功還取決于為當(dāng)前應(yīng)用選擇合適的模型,因?yàn)椴⒎敲總€(gè)AI應(yīng)用都需要運(yùn)行在耗電量大、性能強(qiáng)大的GPU上的大型語(yǔ)言模型(LLM)?!霸谠S多企業(yè)用例中,一個(gè)經(jīng)過(guò)優(yōu)化的小型AI模型,可以在普通CPU上運(yùn)行,往往是更好的解決方案,”他說(shuō),“這種在邊緣運(yùn)行的優(yōu)化模型可以顯著減少延遲并大幅降低成本?!彪S著市場(chǎng)上LLM的數(shù)量迅速增加,單是解析可用選項(xiàng)就成為一項(xiàng)任務(wù)。
除了做出明智的決策外,整合與平臺(tái)無(wú)關(guān)的工具和最前沿的蜂窩技術(shù)進(jìn)步,對(duì)于邊緣計(jì)算的未來(lái)也至關(guān)重要。Payton表示:“優(yōu)先考慮可擴(kuò)展的、去中心化的架構(gòu),這些架構(gòu)能夠處理AI工作負(fù)載,并利用將邊緣、云端和本地系統(tǒng)無(wú)縫集成的混合云解決方案。此外,像5G這樣的技術(shù)將在支持更快數(shù)據(jù)傳輸方面發(fā)揮關(guān)鍵作用,使邊緣計(jì)算更加可行和有效?!?/p>
為更清潔的未來(lái)做好準(zhǔn)備
Crawford表示,CIO們還沒(méi)有充分討論到的挑戰(zhàn)即將快速到來(lái),其中之一就是碳足跡。例如,歐盟《企業(yè)可持續(xù)發(fā)展報(bào)告指令》(CSRD)將在2025年初生效,要求公司對(duì)其環(huán)境影響進(jìn)行精確的報(bào)告。
這樣的法規(guī)可能會(huì)使處理密集型的AI項(xiàng)目的推廣變得更加復(fù)雜。因此,在這樣的環(huán)境中,CIO們必須保持精明和有針對(duì)性。Crawford鼓勵(lì)他們?cè)谌ν度階I之前,先設(shè)想整個(gè)價(jià)值鏈,評(píng)估技術(shù)債務(wù)的風(fēng)險(xiǎn),并加強(qiáng)系統(tǒng)的韌性。
Payton補(bǔ)充道:“在各個(gè)層面,實(shí)施強(qiáng)調(diào)安全性、韌性、透明度、公平性和問(wèn)責(zé)制的最佳實(shí)踐至關(guān)重要,以應(yīng)對(duì)偏見(jiàn)、安全漏洞和倫理問(wèn)題等風(fēng)險(xiǎn)?!?/p>
雖然AI帶來(lái)的風(fēng)險(xiǎn)可能讓人猶豫,但不進(jìn)步的替代選擇同樣不可行。“對(duì)于希望提升基礎(chǔ)設(shè)施的CIO們來(lái)說(shuō),擁抱邊緣計(jì)算和AI不僅是一個(gè)趨勢(shì),更是保持競(jìng)爭(zhēng)力的必要條件?!盫enkatesh說(shuō)道。