開個(gè)新欄目

兩分鐘脫口秀

《我是戴小樂-集美貌與才華于一身》

服務(wù)器打游戲會(huì)更爽嗎？

關(guān)注“戴爾科技集團(tuán)”視頻號(hào)，觀看視頻

戴爾科技集團(tuán)

「 戴小樂聊IT 」正式和大家見面啦！從今天開始我們每周一期和大家來一場IT TALK SHOW~保你有趣、有料、有收獲😊今天，我們就來聊個(gè)好玩兒的——服務(wù)器能不能用來打游戲？點(diǎn)擊視頻👆集美貌與才華于一身的戴小樂為您解答

視頻號(hào)

如果你喜歡我，下期繼續(xù)聽我嘮嘮~

正如服務(wù)器是因其“用途”

而成為了服務(wù)器

跑游戲是可以

但就像趕鴨子上轎——到處飛

并不能給游戲性能

帶來任何提升

話說回來

即是在服務(wù)器里

也有很多門道

如果選錯(cuò)了類型

跑特定企業(yè)級(jí)應(yīng)用

依然不到發(fā)揮

比如跑AI就得用

專門的服務(wù)器

下面我們就來聊聊

跑AI需要怎樣的服務(wù)器

企業(yè)邁向AI的擔(dān)憂

根據(jù)Gartner《全球IT行業(yè)2020年預(yù)測》：

雖然只有35%的受訪者表示他們已經(jīng)部署了人工智能（比如NLP，ML，圖形化技術(shù)等），但仍有52%的受訪者表示，他們將在接下來的12個(gè)月內(nèi)進(jìn)行部署。

同時(shí)，IDC在2020年10月發(fā)布的《新興技術(shù)和趨勢的影響：人工智能》白皮書也顯示：

“截至2025年，90%的應(yīng)用程序預(yù)計(jì)將在5年內(nèi)使用人工智能技術(shù)，然而，與此同時(shí)，卻只有不到15%的組織正在活躍地使用人工智能技術(shù)。”

這種前后不一致的調(diào)查數(shù)據(jù)表明，企業(yè)在向AI解決方案的過渡中仍然具有著很大的挑戰(zhàn)。

[[393397]]

想解決問題，就要抓住關(guān)鍵，那么，企業(yè)在邁向AI解決方案時(shí)的難點(diǎn)在哪里呢？

關(guān)鍵在于AI人工智能算法對(duì)硬件架構(gòu)有著獨(dú)特的要求。

深度學(xué)習(xí)

理想的深度學(xué)習(xí)解決方案依賴GPU來開展最大化的并行處理，由高性能CPU來管理分發(fā)工作，并使用本地存儲(chǔ)作為暫存空間。

機(jī)器學(xué)習(xí)

基于CPU的機(jī)器學(xué)習(xí)技術(shù)依賴于眾多包含大量計(jì)算內(nèi)核和大內(nèi)存容量的服務(wù)器。

流分析

使用Spark內(nèi)存處理技術(shù)來進(jìn)行流分析，需要最高的CPU性能和大內(nèi)存容量，以便規(guī)避本地存儲(chǔ)的瓶頸。

推理

推理功能對(duì)CPU、本地存儲(chǔ)和吞吐量提出了極致的要求，以便在數(shù)據(jù)被捕獲時(shí)，將復(fù)雜的預(yù)測模型實(shí)時(shí)應(yīng)用于大量數(shù)據(jù)。

其實(shí)，系統(tǒng)工作時(shí)，AI工作負(fù)載的數(shù)據(jù)處理是一個(gè)循環(huán)的過程，它包含著數(shù)百萬個(gè)不那么復(fù)雜的計(jì)算，同時(shí)也需要進(jìn)行組織并行操作和快速移動(dòng)數(shù)據(jù)，而數(shù)據(jù)通過硬件系統(tǒng)及其組件的速度越快，就可以處理得越快。

此外，服務(wù)器中的每個(gè)組件（CPU、GPU、內(nèi)存、存儲(chǔ)）也必須保持和其它組件相近的速度來執(zhí)行任務(wù)，這樣才能消除瓶頸，提升處理的速度。

這就是為什么對(duì)于AI工作負(fù)載來說，最重要的一個(gè)因素是并行I/O吞吐量。因?yàn)锳I工作負(fù)載的速度只能與系統(tǒng)中最慢的組件的速度一樣快，所以優(yōu)化服務(wù)器中的組件就顯得非常重要，比如，汽車制造就是一個(gè)很好的例子。

[[393399]]

企業(yè)想要造一輛汽車，就必須有發(fā)動(dòng)機(jī)、底盤、懸架、車身等部件，而這些部件都是需要時(shí)間完成的。那么如果想組裝完成一輛汽車，除非這些組件全部完成生產(chǎn)，否則是無法進(jìn)行的。 

所以，其實(shí)完成一輛汽車生產(chǎn)的訂單時(shí)間，主要取決于其中耗時(shí)最長的組件生產(chǎn)時(shí)間。

而戴爾易安信PowerEdge XE8545，通過結(jié)合數(shù)據(jù)處理中的全部組件，最大程度上縮短了“汽車生產(chǎn)中耗時(shí)最長組件的時(shí)間”，充分提高了系統(tǒng)的工作效率，實(shí)現(xiàn)了在數(shù)據(jù)流和計(jì)算可能性方面的突破，從而在競品中脫穎而出。

人工智能基礎(chǔ)架構(gòu)的未來

戴爾科技致力于為客戶提供滿足各種需求的AI和ML解決方案。最新推出的PowerEdge XE8545就是一款人工智能工作負(fù)載的強(qiáng)大動(dòng)力引擎。

這是一款為優(yōu)化最新行業(yè)技術(shù)而打造的2路4U系統(tǒng)，由人工智能和數(shù)據(jù)分析驅(qū)動(dòng)的、最新的高性能計(jì)算就緒解決方案，使用時(shí)，它能讓用戶輕松地在一個(gè)系統(tǒng)上運(yùn)行人工智能、分析和高級(jí)計(jì)算等工作負(fù)載，同時(shí)可對(duì)企業(yè)的計(jì)算性能進(jìn)行大幅加速。

PowerEdge XE8545適用于開發(fā)、訓(xùn)練和部署先進(jìn)的機(jī)器學(xué)習(xí)模型，為復(fù)雜的高性能計(jì)算工作負(fù)載加速，或者托管加速的虛擬化服務(wù)。

 1   優(yōu)化的CPU和GPU性能

XE8545使用具備最多核心數(shù)量的第3代AMD EPYC™ Milan處理器，以及最高功率的NVIDIA A100，充分滿足客戶在數(shù)據(jù)處理過程中對(duì)于大容量和高性能的需求。

①XE8545將新一代AMD EPYC處理器的最多核心數(shù)量(128)與當(dāng)今可獲取的最高GPU內(nèi)存和帶寬相結(jié)合，突破了AI計(jì)算的邊界。

②XE8545使用一組靈活的虛擬化選項(xiàng)來托管多租戶環(huán)境：NVIDIA的vGPU軟件及新的多實(shí)例GPU (MIG) 功能。每個(gè)A100 GPU可劃分給多達(dá)7個(gè)實(shí)例，從而提供7倍于V100的性能，充分將利用率最大化。
③XE8545可選擇強(qiáng)勁的40GB/400W GPU或者具有空前高性能的80GB/500W GPU，同時(shí)保持高效風(fēng)冷的 (35°C/25°C)數(shù)據(jù)中心環(huán)境。

舉例來說，盡管XE8545已經(jīng)將ResNet50圖像分類訓(xùn)練到了最高質(zhì)量的精度，但花費(fèi)的時(shí)間卻還不到上一代PowerEdge系統(tǒng)的一半。 

▲MXNet Training Performance in Minutes (Time to Train, lower is better)

 2   加快I/O吞吐量

XE8545通過結(jié)合其全部組件（包括NVLink、PCIe Gen 4.0和NVMe SSD），實(shí)現(xiàn)了在數(shù)據(jù)流和計(jì)算可能性方面的突破，因而可以在競品中脫穎而出。

1.相比當(dāng)今的加速器，XE8545實(shí)現(xiàn)了 6-7倍的機(jī)器學(xué)習(xí)性能 (2倍的HPC性能) ：支持PCIe Gen 4 A100 SXM4 GPU，并通過低延遲無交換機(jī)設(shè)計(jì)提供最高的對(duì)等帶寬 (600GB/秒) 。

2.提升機(jī)器學(xué)習(xí)訓(xùn)練。通過稀疏矩陣的乘法運(yùn)算，XE8545實(shí)現(xiàn)了20倍的性能增進(jìn)，并提供了比前代產(chǎn)品高出2倍的600GB/秒GPU-GPU通信帶寬。

 3   簡化管理

[[393400]]

XE8545通過提供OpenManage全棧管理功能、標(biāo)準(zhǔn)深度機(jī)架以及空氣冷卻能力，簡化了數(shù)據(jù)中心的運(yùn)營。

①XE8545全面兼容iDRAC和Open Management Enterprise (OME)。因此，在使用過程中，企業(yè)可以通過集成Open Manage來實(shí)施、監(jiān)控和維護(hù)數(shù)據(jù)中心。

②通過標(biāo)準(zhǔn)深度機(jī)架和空氣冷卻 (35°C)機(jī)箱，XE8545支持企業(yè)隨時(shí)將創(chuàng)新技術(shù)集成到數(shù)據(jù)中心，避免了高昂成本的產(chǎn)生。

 4   通過集成的安全特性保護(hù)企業(yè)的數(shù)據(jù)中心

每臺(tái)PowerEdge服務(wù)器均具備高網(wǎng)絡(luò)彈性的架構(gòu)，從而將安全性深入集成到從設(shè)計(jì)到退役生命周期的每一個(gè)階段。

①PowerEdge可以強(qiáng)化安全性，支持AMD Secure Memory Encryption (SME) 和 Secure Encrypted Virtualization (SEV)。

②PowerEdge服務(wù)器可以使用戶在安全的平臺(tái)上運(yùn)行工作負(fù)載，支持加密受信任啟動(dòng)和硅信任根。

③PowerEdge服務(wù)器可以通過數(shù)字簽名的固件包來保持服務(wù)器固件的安全。

④通過偏移偵測和系統(tǒng)鎖定，PowerEdge服務(wù)器可偵測和糾正未經(jīng)授權(quán)的或惡意的更改。

⑤通過系統(tǒng)擦除功能，PowerEdge服務(wù)器可以安全快速地從存儲(chǔ)介質(zhì)擦除所有數(shù)據(jù)，包括HDD、SSD和系統(tǒng)內(nèi)存。

結(jié)語

XE8545是強(qiáng)大的PowerEdge GPU支持服務(wù)器，它可用于機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、高性能計(jì)算和GPU虛擬化。使用時(shí)，無需對(duì)其數(shù)據(jù)中心進(jìn)行重大更改，它為那些尋找最新加速器技術(shù)的客戶提供了絕佳的解決方案。

PowerEdge服務(wù)器代表著人工智能基礎(chǔ)架構(gòu)的未來，它充分發(fā)揮了硬件組件在所有方面的毫無妥協(xié)的潛力。

尊敬的讀者

戴爾盲盒專場，盛大開啟！

從家用、設(shè)計(jì)到商務(wù)辦公

多款產(chǎn)品一應(yīng)俱全

超值補(bǔ)貼唾手可得

先揭曉，再支付

百抽百中

快來掃描下方二維碼

或點(diǎn)擊文末閱讀原文

速速參與活動(dòng)

[[393401]]

相關(guān)內(nèi)容推薦：戴爾科技云平臺(tái) VCF on VxRail 助力公司業(yè)務(wù)無縫雙向熱遷移

文章來自公眾號(hào)戴爾易安信解決方案