為何AI推理正推動(dòng)云計(jì)算從集中式向分布式轉(zhuǎn)型
作者簡(jiǎn)介:Vineeth Varughese是Akamai亞太及日本地區(qū)的云產(chǎn)品市場(chǎng)負(fù)責(zé)人,在云計(jì)算、人工智能(AI)及市場(chǎng)進(jìn)入策略(GTM)領(lǐng)域擁有豐富經(jīng)驗(yàn)。
傳統(tǒng)云平臺(tái)在利用海量數(shù)據(jù)訓(xùn)練AI模型方面表現(xiàn)出色,但隨著企業(yè)希望進(jìn)一步擴(kuò)展和優(yōu)化AI應(yīng)用,這些平臺(tái)的局限性逐漸顯現(xiàn)。
在Akamai委托Forrester進(jìn)行的一項(xiàng)研究中,揭示了IT領(lǐng)導(dǎo)者和開發(fā)者在使用傳統(tǒng)云平臺(tái)時(shí)遇到的問題。多數(shù)受訪者認(rèn)為,在AI推理時(shí)代,將計(jì)算資源遷移至邊緣計(jì)算有助于降低延遲、減少帶寬占用并優(yōu)化成本。
如您所在的企業(yè)也在考慮采購(gòu)云服務(wù)或進(jìn)行云遷移,
點(diǎn)擊鏈接了解Akamai Linode解決方案,現(xiàn)在申請(qǐng)?jiān)囉每?得高達(dá)500美元專屬額度
隨著AI訓(xùn)練為AI推理鋪平了道路,我們需要能夠應(yīng)對(duì)更高工作負(fù)載和計(jì)算需求的解決方案,同時(shí)確保性能不受影響,終端用戶體驗(yàn)保持流暢。
AI推理轉(zhuǎn)型對(duì)應(yīng)用開發(fā)的影響
當(dāng)AI的計(jì)算需求從訓(xùn)練轉(zhuǎn)向推理時(shí),這對(duì)AI應(yīng)用開發(fā)者意味著什么?
J.Gold Associates總裁兼首席分析師Jack Gold指出,當(dāng)前訓(xùn)練與推理的計(jì)算資源占比為80%訓(xùn)練、20%推理。他預(yù)測(cè)未來三年內(nèi)這一比例將逆轉(zhuǎn),變?yōu)?0%推理、僅20%訓(xùn)練。

與此同時(shí),用戶對(duì)應(yīng)用的個(gè)性化、高性能和實(shí)時(shí)數(shù)據(jù)處理需求日益增長(zhǎng),這意味著當(dāng)前的云解決方案必須適應(yīng)這一變化。
為何傳統(tǒng)云架構(gòu)難以滿足需求
AI推理的目標(biāo)是為AI應(yīng)用提供實(shí)時(shí)結(jié)果和更流暢的用戶體驗(yàn)。然而,傳統(tǒng)云解決方案面臨三大關(guān)鍵挑戰(zhàn),使其難以支撐AI的擴(kuò)展與優(yōu)化:
研究中揭示的開發(fā)者與IT領(lǐng)導(dǎo)者的主要痛點(diǎn)包括:
? 延遲問題(56%受訪者遭遇處理延遲)
? 成本問題(60%受訪者受困于存儲(chǔ)/計(jì)算成本)
? 擴(kuò)展困難(45%受訪者難以實(shí)現(xiàn)規(guī)模化
“多數(shù)受訪者表示,其當(dāng)前的云策略阻礙了他們?cè)趹?yīng)用中構(gòu)建實(shí)時(shí)數(shù)據(jù)驅(qū)動(dòng)決策的能力?!眰鹘y(tǒng)云解決方案已難以滿足AI擴(kuò)展與優(yōu)化的需求。那么,是否存在更有效的替代方案?
邊緣計(jì)算讓數(shù)據(jù)處理更貼近用戶端,從而減少延遲、提升性能,幫助開發(fā)者更高效地?cái)U(kuò)展應(yīng)用。然而,邊緣計(jì)算也存在挑戰(zhàn),包括合規(guī)與監(jiān)管問題、供應(yīng)商鎖定,以及難以招聘和留住具備相關(guān)技能的技術(shù)人才。邊緣計(jì)算通常采用不同的架構(gòu)設(shè)計(jì)、專用協(xié)議和多樣化供應(yīng)商,導(dǎo)致運(yùn)營(yíng)復(fù)雜性增加和業(yè)務(wù)風(fēng)險(xiǎn)上升。
分布式云計(jì)算:AI應(yīng)用開發(fā)的下一階段
一種快速獲得IT領(lǐng)導(dǎo)者青睞的替代方案是分布式云計(jì)算。研究中超半數(shù)受訪者表示,他們目前正在自主管理某種形式的分布式架構(gòu)。

與邊緣計(jì)算類似,分布式云架構(gòu)允許開發(fā)者從更靠近用戶的位置提供數(shù)據(jù),從而優(yōu)化應(yīng)用、云數(shù)據(jù)庫(kù)、流媒體及其他工作負(fù)載的延遲和性能。
不同之處在于,分布式云計(jì)算的數(shù)據(jù)存儲(chǔ)位置更加多樣化,可涵蓋第三方數(shù)據(jù)中心、本地設(shè)施和私有云環(huán)境。
隨著AI推理的普及,更多應(yīng)用和擴(kuò)展機(jī)會(huì)將涌現(xiàn),對(duì)高效數(shù)據(jù)處理方式的需求也將隨之增長(zhǎng)。
應(yīng)用用戶將期待快速響應(yīng)和無(wú)縫體驗(yàn)。通過投資分布式架構(gòu),開發(fā)者能夠滿足現(xiàn)代應(yīng)用對(duì)實(shí)時(shí)數(shù)據(jù)處理和推理的需求,從而確保企業(yè)在用戶端保持競(jìng)爭(zhēng)優(yōu)勢(shì)。
分布式云計(jì)算如何匹配企業(yè)目標(biāo)
研究發(fā)現(xiàn),分布式云架構(gòu)的靈活性——既能將計(jì)算資源部署在靠近終端用戶的位置,又能保持集中管理——解決了受訪者的主要顧慮,包括:
? 55%認(rèn)為其可降低業(yè)務(wù)風(fēng)險(xiǎn)
? 54%認(rèn)為其有助于控制成本激增
? 49%認(rèn)為其能加快價(jià)值實(shí)現(xiàn)速度
分布式云架構(gòu)優(yōu)于邊緣計(jì)算的一點(diǎn)在于,它允許開發(fā)者使用與核心云計(jì)算相同的技能、架構(gòu)范式和云原生工具來部署和管理AI應(yīng)用。
此外,分布式云在構(gòu)建應(yīng)用時(shí)還能提供更低的延遲、更好的可擴(kuò)展性、更高的可靠性,以及對(duì)數(shù)據(jù)的更強(qiáng)控制力。
是否應(yīng)盡早轉(zhuǎn)型?
Akamai與Forrester的研究顯示,IT領(lǐng)導(dǎo)者和應(yīng)用開發(fā)者正優(yōu)先關(guān)注AI創(chuàng)新、數(shù)字化體驗(yàn)升級(jí)、個(gè)性化體驗(yàn)優(yōu)化及數(shù)據(jù)管理改進(jìn)等目標(biāo)。分布式云的優(yōu)勢(shì)恰好與這些需求直接契合。

如需了解更多關(guān)于分布式云、邊緣計(jì)算與傳統(tǒng)云架構(gòu)的未來對(duì)比,請(qǐng)立即下載完整報(bào)告。
- 在這項(xiàng)由Akamai委托Forrester Consulting進(jìn)行的研究中,來自零售、媒體和電信行業(yè)的163位北美云戰(zhàn)略決策者分享了他們對(duì)云計(jì)算現(xiàn)狀的看法。
 
—————————————————————————————————————————————————
如您所在的企業(yè)也在考慮采購(gòu)云服務(wù)或進(jìn)行云遷移,
點(diǎn)擊鏈接了解Akamai Linode解決方案,現(xiàn)在申請(qǐng)?jiān)囉每傻酶哌_(dá)500美元專屬額度















 
 
 









 
 
 
 