AI技術(shù)快速發(fā)展，我們已經(jīng)可以輕而易舉地在云端訪問到功能強(qiáng)大的GPU。不過任何搞AI的開發(fā)者，如果真的嘗試過云端GPU，不可避免都會(huì)遇到一個(gè)嚴(yán)峻問題：如何選擇適合自己的云服務(wù)商以及適合自己需求的GPU，同時(shí)又不會(huì)亂花冤枉錢，只為自己真正需要并且實(shí)際消耗的硬件資源支付合理費(fèi)用，而不需要支付一大筆預(yù)付款或簽訂其他苛刻的合同。

延伸閱讀，點(diǎn)擊鏈接了解 Akamai Cloud Computing

其實(shí)這挺難的，不過Akamai就是樂于迎接挑戰(zhàn)。

經(jīng)過嚴(yán)格測試和優(yōu)化，Akamai的新型GPU現(xiàn)已面向所有客戶推出。這些GPU由NVIDIA RTX 4000 Ada Generation提供支持，針對(duì)媒體用例進(jìn)行了優(yōu)化，規(guī)模非常適合各種工作負(fù)載和應(yīng)用。RTX 4000 Ada Generation相關(guān)方案的起始價(jià)格為每小時(shí)0.52美元（該費(fèi)率包含1 GPU、4 CPU和16 GB RAM），可在下列6個(gè)核心計(jì)算區(qū)域使用：

• 芝加哥：Chicago, IL
• 西雅圖：Seattle, WA
• 法蘭克福：Frankfurt, DE Expansion
• 巴黎：Paris, FR
• 大阪：Osaka, JP
• 新加坡：Singapore, SG Expansion
• 孟買：Mumbai, IN Expansion（即將上線）

特色用例

Akamai提供了Beta測試計(jì)劃，客戶和獨(dú)立軟件供應(yīng)商（ISV）合作伙伴可以借此對(duì)此次新發(fā)布的GPU進(jìn)行測試，進(jìn)而評(píng)估媒體轉(zhuǎn)碼和輕量級(jí)AI等特色的關(guān)鍵用例能從中獲得怎樣的收益。

例如，Capella Systems在云端提供的托管式編碼器Cambria Stream，可以為要求最嚴(yán)苛的直播活動(dòng)處理直播編碼、廣告插入、加密和打包等工作負(fù)載。在該服務(wù)的幫助下，只需要提供正確的技術(shù)和后臺(tái)配置，最終用戶即可從各種不同設(shè)備上跨越網(wǎng)絡(luò)基礎(chǔ)設(shè)施觀看直播流媒體事件。

根據(jù)Capella Systems的測試，在使用Akamai最新的NVIDIA RTX 4000 Ada Generation Dual GPU后，一個(gè)Cambria Stream實(shí)例可同時(shí)處理多達(dá)25個(gè)通道的多層編碼，與CPU編碼相比，這大幅降低了總體計(jì)算成本。

除了媒體客戶，我們還與Neural Magic合作，使用該公司的企業(yè)級(jí)LLM（大語言模型）服務(wù)引擎nm-vllm，對(duì)新GPU的AI功能進(jìn)行了基準(zhǔn)測試。他們利用LLM開源壓縮工具包LLM Compressor實(shí)現(xiàn)了更高效的部署，準(zhǔn)確率保持在99.9%。在測試最新的Llama 3.1模型時(shí)，Neural Magic通過優(yōu)化相關(guān)軟件，使用RTX 4000 GPU實(shí)現(xiàn)了每千次“摘要?jiǎng)?chuàng)建”請(qǐng)求的平均處理成本低至0.27美元，與參考系統(tǒng)相比降低了60%。

上手使用

如果你已經(jīng)是Akamai Connected Cloud用戶，即可立即開始使用。只需選擇一個(gè)受支持的區(qū)域，然后打開計(jì)算實(shí)例方案表上的GPU選項(xiàng)卡，即可選擇要使用的實(shí)例。

如果尚未注冊(cè)，也可以通過下列方式創(chuàng)建自己的賬號(hào)并獲得免費(fèi)額度。

注意：使用Akamai GPU實(shí)例要求賬戶有著良好的歷史使用記錄，賬戶中不能包含促銷代碼。如果無法正常部署GPU實(shí)例，請(qǐng)聯(lián)系技術(shù)支持。

—————————————————————————————————————————————————

如您所在的企業(yè)也在考慮采購云服務(wù)或進(jìn)行云遷移，

點(diǎn)擊鏈接了解Akamai Linode的解決方案