近日，由華為云舉辦的Deep Learning Meetup活動(dòng)在華為杭州研究所舉行。來(lái)自愛(ài)羅智能公司、杭州電子科技大學(xué)、華為云EI產(chǎn)品部等相關(guān)業(yè)界專(zhuān)家與現(xiàn)場(chǎng)聽(tīng)眾，圍繞深度學(xué)習(xí)技術(shù)的發(fā)展方向和領(lǐng)域應(yīng)用等話題一起展開(kāi)了深入交流與討論。其中華為云EI專(zhuān)家給現(xiàn)場(chǎng)觀眾帶來(lái)了《華為云深度學(xué)習(xí)服務(wù)介紹及實(shí)踐》的主題演講，讓大家感覺(jué)干貨滿滿，黑科技不斷。那么，華為云深度學(xué)習(xí)平臺(tái)究竟有哪些黑科技呢？下面就給大家一一盤(pán)點(diǎn)。

[[225432]]
華為云EI專(zhuān)家現(xiàn)場(chǎng)講解華為云EI黑科技

多年積累 助力用戶降低深度學(xué)習(xí)訓(xùn)練門(mén)檻

隨著深度學(xué)習(xí)應(yīng)用的不斷推廣，各行各業(yè)的用戶都希望能夠利用深度學(xué)習(xí)技術(shù)來(lái)解決實(shí)際場(chǎng)景問(wèn)題。但是，深度學(xué)習(xí)模型訓(xùn)練需要具備一定的深度學(xué)習(xí)技術(shù)和編程能力，使得很多用戶雖有滿腔模型訓(xùn)練之志，卻不得不敗在深度學(xué)習(xí)的技術(shù)門(mén)檻上。

因此，如何讓不會(huì)深度學(xué)習(xí)編程的用戶，同樣能夠完成深度學(xué)習(xí)模型訓(xùn)練和模型應(yīng)用，就是深度學(xué)習(xí)應(yīng)用推廣所面臨的一個(gè)重大挑戰(zhàn)。華為云的深度學(xué)習(xí)服務(wù)，使用遷移學(xué)習(xí)技術(shù)，將華為針對(duì)多個(gè)典型客戶場(chǎng)景，所訓(xùn)練出的高性能的深度學(xué)習(xí)模型，預(yù)置在華為云深度學(xué)習(xí)服務(wù)中。行業(yè)用戶在訓(xùn)練自己的行業(yè)模型時(shí)，只需要使用華為云深度學(xué)習(xí)服務(wù)，用自己的行業(yè)數(shù)據(jù)對(duì)預(yù)置模型進(jìn)行重新訓(xùn)練，即可得到自己所需的行業(yè)模型。這整個(gè)操作過(guò)程只需2步操作即可完成，用戶不必具備任何深度學(xué)習(xí)技術(shù)和編程基礎(chǔ)。目前，華為云深度學(xué)習(xí)服務(wù)已經(jīng)內(nèi)置了包括提供圖像分類(lèi)、物體檢測(cè)等在內(nèi)的幾十種CNN/RNN神經(jīng)網(wǎng)絡(luò)算法模型，方便用戶進(jìn)行便捷模型訓(xùn)練。

破除分布式編程壁壘 分布式訓(xùn)練不再是難題

在實(shí)際應(yīng)用中，由于深度學(xué)習(xí)的網(wǎng)絡(luò)層復(fù)雜、訓(xùn)練數(shù)據(jù)規(guī)模龐大，訓(xùn)練時(shí)間非常長(zhǎng)，因此通常采用分布式計(jì)算來(lái)減少訓(xùn)練時(shí)間。但是，分布式開(kāi)發(fā)本身就具有一定的技術(shù)門(mén)檻，很多用戶并不具備分布式開(kāi)發(fā)能力。因此，如何解決用戶對(duì)單機(jī)代碼的分布式改造是深度學(xué)習(xí)應(yīng)用推廣所面臨的另一個(gè)重大挑戰(zhàn)。

華為云深度學(xué)習(xí)服務(wù)，提供了自研的的MoXing高層庫(kù)。用戶在使用MoXing庫(kù)進(jìn)行模型開(kāi)發(fā)時(shí)，只需聚焦業(yè)務(wù)邏輯代碼實(shí)現(xiàn)，無(wú)需關(guān)心分布式和單機(jī)版的問(wèn)題。一套代碼既可以運(yùn)行在單機(jī)模式，也可運(yùn)行在分布式模式，這樣就解決了不會(huì)分布式編程，卻需要進(jìn)行分布式訓(xùn)練的難題。同時(shí)，MoXing庫(kù)完全兼容TensorFlow、MXNet、Keras等主流開(kāi)源庫(kù)，給用戶提供多的選擇。

GPU集群加速 降低分布式訓(xùn)練時(shí)間

使用MoXIng高層庫(kù)解決分布式編程問(wèn)題后，還需要解決分布式訓(xùn)練線性加速比的問(wèn)題。由于深度學(xué)習(xí)需要使用海量數(shù)據(jù)來(lái)進(jìn)行模型訓(xùn)練，因此通常需要使用GPU集群來(lái)進(jìn)行分布式訓(xùn)練。但是，開(kāi)源的分布式訓(xùn)練框架，在保證模型收斂的情況下，***集群規(guī)模只支持10塊GPU。這意味著在進(jìn)行數(shù)據(jù)運(yùn)算時(shí)，即時(shí)使用更多的GPU，計(jì)算效果也只相當(dāng)于10塊GPU的能力。

華為云深度學(xué)習(xí)服務(wù)，基于系統(tǒng)軟硬件結(jié)合方案，搭載華為云的云容器引擎CCE、GPU高性能計(jì)算、對(duì)象存儲(chǔ)服務(wù)(OBS)、高性能網(wǎng)絡(luò)等能力，并通過(guò)混合并行、梯度壓縮、卷積加速、EASGD等技術(shù)加快模型訓(xùn)練速度。使得在1000塊GPU的大規(guī)模集群中，分布式訓(xùn)練線性加速比也能夠達(dá)到0.8，大大降低集群分布式訓(xùn)練時(shí)間。

一個(gè)平臺(tái)適用不同類(lèi)型用戶

對(duì)于深度學(xué)習(xí)的用戶群而言，不同的用戶，需求也不一樣。對(duì)于初級(jí)用戶而言，***在界面上拖拖拽拽，點(diǎn)幾下鼠標(biāo)就完成深度學(xué)習(xí)訓(xùn)練。而對(duì)于骨灰級(jí)的用戶，就是越自由，越開(kāi)放越好，這樣才能吸引骨灰級(jí)用戶的關(guān)注與使用，滿足高級(jí)用戶的定制化需求。

華為云深度學(xué)習(xí)服務(wù)充分考慮到了用戶的差異性，針對(duì)不同用戶的需求，提供不同的開(kāi)發(fā)環(huán)境。當(dāng)前華為云深度學(xué)習(xí)服務(wù)將用戶群分為從初級(jí)到骨灰級(jí)5個(gè)等級(jí)，針對(duì)不同等級(jí)的需求，華為深度學(xué)習(xí)服務(wù)提供不同的開(kāi)發(fā)環(huán)境。例如：對(duì)于初級(jí)用戶，提供了預(yù)置模型重訓(xùn)練功能，無(wú)需任何深度學(xué)習(xí)知識(shí)；對(duì)于入門(mén)級(jí)用戶，MoXing庫(kù)提供了多種模型的接口，提供給用戶使用；對(duì)于骨灰級(jí)用戶，則提供了完全開(kāi)放的開(kāi)發(fā)環(huán)境，用戶可自由選擇開(kāi)發(fā)方式，真正實(shí)現(xiàn)隨需選擇、自由定制，一個(gè)平臺(tái)滿足所有用戶的訴求。

除了這些黑科技外，華為云深度學(xué)習(xí)服務(wù)還在平臺(tái)管理、模型壓縮、二次開(kāi)發(fā)API等方面做了很多優(yōu)化?；诖耍脩艨梢越枇θA為云深度學(xué)習(xí)服務(wù)，降低深度學(xué)習(xí)訓(xùn)練和使用的難度。后續(xù)，華為云深度學(xué)習(xí)服務(wù)還會(huì)繼續(xù)上線更多黑科技，幫助企業(yè)用戶快速進(jìn)入探索智能世界的軌道。

點(diǎn)擊了解華為云深度學(xué)習(xí)服務(wù)：https://www.huaweicloud.com/product/dls.html