近期，OpenAI 全新旗艦版多模態(tài)模型 GPT-4o 橫空出世，其打通文本、圖像、視頻的富媒體理解能力以及敏捷的智能化對話，將 AI 助手的人性化表達(dá)效果，提升至更高水平。

從技術(shù)源頭來看，AI 大模型的卓越表現(xiàn)得益于高效的 AI 訓(xùn)練與推理的過程，而這需要有規(guī)?；脑朴?jì)算作為算力支撐。日前，ChatGPT（包括網(wǎng)站、App和桌面應(yīng)用）的大規(guī)模服務(wù)中斷持續(xù)了數(shù)個小時，無處可去的用戶選擇暫時用Gemini、Claude和Perplexity替代工作，結(jié)果導(dǎo)致了它們也相繼出現(xiàn)短暫故障。

這一事件的原因雖然尚未得到詳細(xì)說明，但“云+AI”兩者之間的重要關(guān)系不言而喻?！爸恰彼?，已然成為云計(jì)算的重要驅(qū)動力。

延伸閱讀，點(diǎn)擊鏈接了解Akamai Cloud Computing

IDC 和浪潮聯(lián)合發(fā)布的《2022-2023中國人工智能計(jì)算力發(fā)展評估報(bào)告》顯示，預(yù)計(jì)2026年，智能算力規(guī)模將進(jìn)入每秒十萬億億次浮點(diǎn)計(jì)算(ZFlops)級別。算力需求激增趨勢下，企業(yè)對算力“水煤電”的使用現(xiàn)狀，也并非足夠順暢，而是存在多重維度的挑戰(zhàn)：

集中云是大腦，分布式云則是抓手

擁有敏銳創(chuàng)新嗅覺的云從業(yè)人員發(fā)現(xiàn)，云形態(tài)正在因 AI 風(fēng)向的不同發(fā)生顯著改觀。傳統(tǒng)集中云能夠?qū)崿F(xiàn)大規(guī)模的資源拓展，但高度集中的中心形態(tài)更需要分枝散葉、如觸手一般在近端呈現(xiàn)為分布形態(tài)——如高“智”商的物種章魚一般，多觸點(diǎn)、才敏捷。

ITDM 調(diào)查顯示，技術(shù)負(fù)責(zé)人認(rèn)識到分布式云的實(shí)用性特別適合于大數(shù)據(jù)和分析應(yīng)用場景(56%)以及 AI/ML 工作負(fù)載 (47%)。而根據(jù) ClearPath Strategies 在2023年進(jìn)行了一項(xiàng)全球性研究，有三分之二的 IT 決策者表示在未來 12 個月內(nèi)其分布式云服務(wù)的使用量預(yù)計(jì)會顯著增加。超過三分之一的受訪者表示，分布式云好處眾多（如快速、高效處理和分析 AI/ML 數(shù)據(jù)能力），是 IT 策略不可或缺的一部分。

布局邊緣，強(qiáng)勢助攻 AI 創(chuàng)新

AI 智算之道與 Akamai 云計(jì)算戰(zhàn)略不謀而合。作為 CDN 行業(yè)鼻祖，Akamai 在分布式云方面有天然優(yōu)勢，始終秉持著在貼近終端用戶的位置，一路積淀、融合、構(gòu)建了云計(jì)算、云安全、云分發(fā)三位一體的快捷服務(wù)。

如今，Akamai 云計(jì)算平臺戰(zhàn)略的關(guān)鍵一步，便是 Akamai Generalized Edge Compute (Gecko) 泛化邊緣計(jì)算計(jì)劃：支持企業(yè)與開發(fā)者利用分布式云形態(tài)，可突破云綁定模式，獲得云的便攜性，助力企業(yè)開發(fā)者在多云容器化格局下，高效開發(fā)、降本增效。

為應(yīng)對 AI 創(chuàng)新的海量算力資源需求，Akamai 云產(chǎn)品陣容中新添一款基于 NVIDIA RTX 4000 Ada Generation GPU 的媒體優(yōu)化型產(chǎn)品，能用于 Gen AI/ML 場景，非常適合利用神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練和推理任務(wù)，可并行執(zhí)行大量計(jì)算，更快、更高效地訓(xùn)練新模型，提高準(zhǔn)確性和性能。

從 GPU 到 CPU，提升 AI 推理性能

為突破邊緣推理 GPU 容量不足、算力不足等難題，Akamai 攜手 Neural Magic 和 AMD 展開三方戰(zhàn)略合作，推出了基于 CPU 的 AI 推理技術(shù)。

Neural Magic 通過稀疏化算法優(yōu)化 AI 模型，降低算力需求，可以把 LLM 機(jī)器視覺 NLP 模型的運(yùn)行至 CPU 上；并協(xié)同 AMD 四代 CPU 特定更新的向量指令集，提升運(yùn)行效率。

Akamai 用 NLP 模型進(jìn)行性能測試，基于兩款入門Akamai 兩核 CPU 虛機(jī)，若處理4萬條電影評論的文本情感分析，僅需20分鐘即可完成。月費(fèi)成本上，每個月可處理8600萬條推理請求，單月推理成本低至82美金。Neural Magic 也使用 NLP 模型，對比了 CPU/GPU 推理效率。在維持原有模型推理準(zhǔn)確性的同時，推理效率的兩端，效率相差1000倍之多，更有助于保障企業(yè)的 AI 創(chuàng)新業(yè)務(wù)的可持續(xù)盈利能力。

基于分布式云，加速推薦引擎 AI 推理

電商、社交媒體、廣告等行業(yè)往往需要借助融合 AI、深度學(xué)習(xí)和大語言模型算法的推薦引擎來發(fā)掘用戶偏好，主動推薦可能感興趣的內(nèi)容和商品。但若缺失高質(zhì)量的網(wǎng)絡(luò)性能保障，泛互聯(lián)網(wǎng)產(chǎn)業(yè)廣為使用的推薦引擎，將受限于網(wǎng)絡(luò)訪問時延。

面對阻礙推薦引擎的網(wǎng)絡(luò)訪問時延問題，除優(yōu)化網(wǎng)絡(luò)架構(gòu)、使用更快的網(wǎng)絡(luò)設(shè)備、優(yōu)化數(shù)據(jù)傳輸協(xié)議等措施，更可以基于邊緣的分布式云計(jì)算網(wǎng)絡(luò)、具有 AI 算力的邊緣計(jì)算節(jié)點(diǎn)，支持行業(yè)用戶化解推薦引擎部署、性能、延時等方面的難題。Akamai 特別建議出海企業(yè)將 AI 推薦引擎部署距離用戶更近的 Akamai Gecko 站點(diǎn)，獲得全球范圍的邊緣優(yōu)勢。

一直以來，在推薦引擎場景的成功實(shí)踐之外，Akamai 云計(jì)算服務(wù)也以靈活、易用的分布式形態(tài)與智能應(yīng)用，長期助力廣告科技、游戲、數(shù)據(jù)庫等行業(yè)，顯著降低云成本，在保障性能的同時，提升 IT 投資回報(bào)率。

在Akamai云計(jì)算平臺上優(yōu)化AI應(yīng)用的架構(gòu)設(shè)計(jì)

整體來看，Akamai 云計(jì)算服務(wù)在 IaaS、容器、存儲、數(shù)據(jù)庫、網(wǎng)絡(luò)與開發(fā)工具方面也有全方位的云服務(wù)，可助力企業(yè)與開發(fā)者擺脫云綁定模式，靈活進(jìn)行微服務(wù)創(chuàng)新，更快速、更高效地打造泛智能的創(chuàng)新型產(chǎn)品。

例如，一個基于Qwik和OpenAI服務(wù)的Web項(xiàng)目如果搭建在Akamai的云計(jì)算服務(wù)（即Akamai Linode）上，完全可以通過引入邊緣計(jì)算來提高性能，獲得更快的響應(yīng)時間和更好的用戶體驗(yàn)（當(dāng)然，API調(diào)用也更少）。

日常的應(yīng)用開發(fā)與Akamai的云計(jì)算和邊緣計(jì)算服務(wù)整合，不僅僅能改善性能，還可以獲得很多非常酷的安全功能。例如，在Akamai的網(wǎng)絡(luò)上，我們可以使用諸如Web應(yīng)用程序防火墻（WAF）、分布式拒絕服務(wù)（DDoS）防護(hù)、智能爬蟲檢測等功能，從而更好地保障應(yīng)用程序、數(shù)據(jù)、客戶信息的安全性。

如今，Akamai Qualified Computing Partner Program(QCP)合作伙伴計(jì)劃，正在火熱納新中，Akamai 廣邀在 AI 訓(xùn)練&推理等領(lǐng)域的合作伙伴，共創(chuàng)、共構(gòu)生態(tài)特定行業(yè)場景解決方案，重塑智能化時代的用戶體驗(yàn)與創(chuàng)新效率。

歡迎點(diǎn)擊以下鏈接，試用 Akamai 云計(jì)算系列產(chǎn)品；同時，Akamai 也歡迎志同道合的創(chuàng)新團(tuán)隊(duì)加入 Akamai QCP 合作伙伴計(jì)劃。

如您所在的企業(yè)也在考慮采購云服務(wù)或進(jìn)行云遷移，

點(diǎn)擊鏈接了解Akamai Linode的解決方案