什么是數(shù)據(jù)中心，我們?nèi)绾问褂盟?更具體地說，數(shù)據(jù)中心有哪些不同類型，它們?yōu)槭褂盟鼈兊钠髽I(yè)提供哪些不同的用途?

這些問題看似簡單，但要得出令人滿意的答案卻出人意料地困難。就在過去一年左右的時(shí)間里，我們看到越來越強(qiáng)大的大型語言模型(LLM)正在支持新的生成式人工智能用例，這些用例在不久前看起來還像是科幻小說。從那時(shí)起，許多企業(yè)紛紛制定人工智能戰(zhàn)略，以確保他們充分利用這項(xiàng)強(qiáng)大的新技術(shù)的潛力。然而，由于過于關(guān)注他們可以利用人工智能做什么，許多企業(yè)卻遲遲沒有思考如何利用人工智能他們應(yīng)該這樣做，具體來說，這將如何改變數(shù)據(jù)中心的需求。

借助人工智能，傳統(tǒng)的數(shù)據(jù)中心分割不再適用

多年來，我們一直在區(qū)分?jǐn)?shù)據(jù)中心行業(yè)的兩大細(xì)分市場。一方面，通用托管數(shù)據(jù)中心承載著企業(yè)不再希望在其本地位置保留的工作負(fù)載。另一方面，高價(jià)值、高度互聯(lián)的站點(diǎn)通常位于人口稠密的地區(qū)。這些網(wǎng)絡(luò)密集的互連站點(diǎn)構(gòu)成了生態(tài)系統(tǒng)的核心，例如金融交易、游戲或高度依賴低延遲連接的任何其他生態(tài)系統(tǒng)。當(dāng)我們嘗試決定將人工智能工作負(fù)載放在哪里時(shí)，這種細(xì)分仍然對我們有用嗎?

當(dāng)企業(yè)考慮托管數(shù)據(jù)中心時(shí)，因?yàn)樗麄冋趶谋镜財(cái)?shù)據(jù)中心“提升和轉(zhuǎn)移”現(xiàn)有的應(yīng)用工作負(fù)載，決策通常以成本和效率為中心。由于他們的主要關(guān)注點(diǎn)是實(shí)現(xiàn)每個(gè)計(jì)算周期的最低成本，因此他們可能準(zhǔn)備在網(wǎng)絡(luò)密度與提供最低房地產(chǎn)和電力成本的位置之間進(jìn)行權(quán)衡。

我們一直認(rèn)為，這種一心一意地關(guān)注成本對于數(shù)字業(yè)務(wù)來說會適得其反。能夠在某些地點(diǎn)執(zhí)行某些工作負(fù)載是有價(jià)值的;在許多情況下，這意味著在主要人口中心的網(wǎng)絡(luò)密集地點(diǎn)附近部署基礎(chǔ)設(shè)施。為合作伙伴和終端用戶提供密集互連的數(shù)據(jù)中心可能會花費(fèi)更多的前期成本，但它們可以提供的商業(yè)價(jià)值足以彌補(bǔ)這一點(diǎn)。

如今，將數(shù)據(jù)中心視為一種簡單的商品可能特別有害，這在很大程度上是由于人工智能的重要性日益增加。一個(gè)不爭的事實(shí)是，如果想做好人工智能，基礎(chǔ)設(shè)施的定位很重要。人工智能模型生命周期依賴于具有不同基礎(chǔ)設(shè)施要求的不同工作負(fù)載。這意味著人工智能基礎(chǔ)設(shè)施應(yīng)該是分布式的，這一事實(shí)可能迫使我們重新評估我們看待數(shù)據(jù)中心市場不同領(lǐng)域的方式。

了解人工智能時(shí)代的數(shù)據(jù)中心細(xì)分

讓我們考慮如何應(yīng)用人工智能要求來實(shí)現(xiàn)更復(fù)雜的分割策略，而不是僅基于網(wǎng)絡(luò)密度的傳統(tǒng)兩段方法。人工智能對于數(shù)據(jù)中心的不同之處在于新一代GPU芯片組帶來的令人難以置信的功率密度要求。人工智能與數(shù)據(jù)中心的不同之處在于，新一代GPU芯片組對功率密度的要求令人難以置信。如果我們將功率密度作為第二個(gè)分割維度，我們最終得到一個(gè)簡單的2×2矩陣，垂直軸從低密度到高密度，而水平軸從高延遲到低延遲。

無差異化的數(shù)據(jù)中心

世界上很大一部分?jǐn)?shù)據(jù)中心可以最好地歸類為無差異化的。這些數(shù)據(jù)中心往往是過去基礎(chǔ)設(shè)施投資策略的產(chǎn)物。與在網(wǎng)絡(luò)密集的位置構(gòu)建數(shù)據(jù)中心不同，企業(yè)通常選擇在其大部分員工居住的位置(例如校園)構(gòu)建數(shù)據(jù)中心。同樣，服務(wù)提供商將辦公樓或倉庫轉(zhuǎn)換為數(shù)據(jù)中心，將從未用于此目的的房地產(chǎn)轉(zhuǎn)換為IT房地產(chǎn)。

雖然這些數(shù)據(jù)中心可以為一組給定的工作負(fù)載提供適合用途的功能，但如果新工作負(fù)載的功率密度要求急劇增加，會發(fā)生什么情況?升級站點(diǎn)以獲得更多冷卻和電力或采用液體冷卻等新冷卻技術(shù)有多容易?在人工智能戰(zhàn)略中依賴這些無差異化數(shù)據(jù)中心的企業(yè)可能會難以有效執(zhí)行這些戰(zhàn)略。

超大規(guī)模數(shù)據(jù)中心

當(dāng)需要非常高的密度，但不太關(guān)心低延遲互連時(shí)，那么超大規(guī)模數(shù)據(jù)中心是您的正確選擇。這些傳統(tǒng)上是主要云和即服務(wù)提供商的領(lǐng)域。企業(yè)無需自行構(gòu)建或部署新的高密度設(shè)備來支持其人工智能戰(zhàn)略，而是可以按即用即付的方式獲取這些超大規(guī)模數(shù)據(jù)中心之一的容量。

從人工智能的角度來看，超大規(guī)模數(shù)據(jù)中心傳統(tǒng)上與LLM培訓(xùn)工作負(fù)載相關(guān)，這些工作負(fù)載通常非常密集和計(jì)算密集型，但對延遲不太敏感。然而，如果說所有模型訓(xùn)練工作負(fù)載都應(yīng)該專門進(jìn)入超大規(guī)模數(shù)據(jù)中心，那就是錯誤的。正如我們稍后將看到的，在為人工智能工作負(fù)載選擇正確的位置時(shí)，始終應(yīng)該考慮到細(xì)微差別。

邊緣數(shù)據(jù)中心

顧名思義，邊緣數(shù)據(jù)中心部署在數(shù)字邊緣：靠近終端用戶高度集中的位置、應(yīng)用和設(shè)備。這種接近性很重要，因?yàn)橛性S多應(yīng)用和工作負(fù)載需要始終保持低延遲。

實(shí)際上，邊緣數(shù)據(jù)中心的功率密度需求并沒有像其他領(lǐng)域那樣快速增長。部署在邊緣數(shù)據(jù)中心的工作負(fù)載通常是網(wǎng)絡(luò)繁重的工作負(fù)載，其密度密集程度低于計(jì)算工作負(fù)載。

在人工智能方面，邊緣數(shù)據(jù)中心可以發(fā)揮作用。某些人工智能推理工作負(fù)載也可能具有非常低的延遲要求。考慮某些游戲用例或部署數(shù)字孿生來支持虛擬維護(hù)助手。在這些情況下，企業(yè)可能會選擇將人工智能推理部署到其邊緣數(shù)據(jù)中心。在其他情況下，如果延遲容忍度足夠，企業(yè)可能會選擇將其人工智能推理需求聚合到其核心互連中心，這使他們能夠大規(guī)模管理這些模型。

隨著企業(yè)開始推出人工智能戰(zhàn)略，他們意識到保持?jǐn)?shù)據(jù)源和處理位置之間距離較短的重要性。如果這兩個(gè)位置之間不接近，延遲將不可避免地導(dǎo)致延遲。這意味著隱藏在數(shù)據(jù)集中的洞察力將變得過時(shí)，這反過來又意味著人工智能模型的準(zhǔn)確性將受到影響。

核心數(shù)據(jù)中心

核心數(shù)據(jù)中心代表了現(xiàn)代數(shù)字基礎(chǔ)設(shè)施的基礎(chǔ)。它們通常位于網(wǎng)絡(luò)密度和距離為技術(shù)消費(fèi)者和技術(shù)提供商提供互連和最大化雙方業(yè)務(wù)價(jià)值的最佳機(jī)會的位置。從互連的核心數(shù)據(jù)中心開始，企業(yè)可以構(gòu)建其全球分布式數(shù)字基礎(chǔ)設(shè)施，以實(shí)現(xiàn)完整的邊緣到云方法。因此，他們可以簡化連接，最大限度地提高靈活性，并為利用人工智能等新興技術(shù)做好準(zhǔn)備。

就人工智能而言，核心數(shù)據(jù)中心可能不是最有可能放置大規(guī)模語言模型進(jìn)行訓(xùn)練的位置。這種情況更有可能發(fā)生在超大規(guī)模站點(diǎn)中，其中每個(gè)計(jì)算周期以一定的成本提供高功率密度。在人工智能推理方面，核心數(shù)據(jù)中心因其靠近其他數(shù)據(jù)源以及為用戶、設(shè)備和應(yīng)用提供的低延遲訪問而成為關(guān)鍵位置。

并非所有訓(xùn)練工作負(fù)載都大到足以最終進(jìn)入超大規(guī)模設(shè)施。許多推理工作負(fù)載可能對延遲不夠敏感，無法最終出現(xiàn)在邊緣位置。我們預(yù)計(jì)成熟的買家會在超大規(guī)模和核心地點(diǎn)之間根據(jù)他們的培訓(xùn)要求進(jìn)行權(quán)衡。同樣，他們將根據(jù)推理工作負(fù)載在邊緣和核心位置之間進(jìn)行權(quán)衡。

除了簡單的訓(xùn)練/推理二進(jìn)制之外，核心數(shù)據(jù)中心應(yīng)該成為任何人工智能基礎(chǔ)設(shè)施戰(zhàn)略的重要組成部分還有多種原因。隨著許多企業(yè)希望在分布式位置之間快速移動人工智能數(shù)據(jù)集，擁有正確的網(wǎng)絡(luò)基礎(chǔ)設(shè)施變得前所未有的重要。核心數(shù)據(jù)中心可以輕松訪問網(wǎng)絡(luò)服務(wù)提供商的密集生態(tài)系統(tǒng)，這意味著它們可以為追求網(wǎng)絡(luò)現(xiàn)代化計(jì)劃的企業(yè)提供理想的基礎(chǔ)。

核心數(shù)據(jù)中心還可以幫助企業(yè)建立云鄰近數(shù)據(jù)架構(gòu)以支持其人工智能工作負(fù)載。其中許多企業(yè)都希望使用公共云服務(wù)來幫助其人工智能工作負(fù)載提供可擴(kuò)展性、靈活性和可靠性。然而，如果他們不小心，使用公共云進(jìn)行人工智能可能會導(dǎo)致成本高昂、安全漏洞和數(shù)據(jù)失控等問題。

與云相鄰的數(shù)據(jù)架構(gòu)允許在低延遲的云上移動數(shù)據(jù)，從而能夠按需利用公共云服務(wù)，而不會承擔(dān)全部使用公共云的風(fēng)險(xiǎn)和缺點(diǎn)。