昨晚睡得好嗎？睡不好可以刷快手的《11 點睡吧》。這部當代人睡眠困境的微綜藝，總曝光量達到 107億，不但科普睡眠知識，更深度探討都市人的喜怒哀樂^[1]。驚人的曝光量背后，是快手對用戶畫像數(shù)據(jù)的精準分析，離不開強大技術(shù)支持下的推薦系統(tǒng)，得以讓優(yōu)質(zhì)的內(nèi)容被更多喜歡它的人看到。

作為超 3 億日活、日均千萬級短視頻上傳、強調(diào)社區(qū)普惠的短視頻 APP，快手推薦系統(tǒng)在大規(guī)模復(fù)雜業(yè)務(wù)中面臨著巨大性能挑戰(zhàn)。想要化解算力瓶頸，異構(gòu)計算是一個重要選項，這種使用不同類型指令集和體系架構(gòu)的計算單元組成系統(tǒng)的計算方式，能夠針對不同任務(wù)選擇最優(yōu)的計算架構(gòu)，從而充分揮各種計算機構(gòu)的優(yōu)勢，協(xié)同完成復(fù)雜的工作任務(wù)。

1、異構(gòu)計算助拳，緩解參數(shù)服務(wù)器瓶頸

快手作為短視頻內(nèi)容平臺，內(nèi)容生產(chǎn)、內(nèi)容理解、內(nèi)容分發(fā)、內(nèi)容消費、用戶互動這些環(huán)節(jié)，構(gòu)成了大規(guī)模的復(fù)雜業(yè)務(wù)，對算力產(chǎn)生更多元的需求。舉例來說：在推薦業(yè)務(wù)場景中，需要根據(jù)用戶畫像推薦感興趣的內(nèi)容，就要從海量信息中選擇與用戶特征相關(guān)的結(jié)果，再通過“排序”來劃分內(nèi)容的優(yōu)先級別。在這一過程中，參數(shù)服務(wù)器的作用非常重要，它負責存儲、處理海量數(shù)據(jù)特征以及排序模型參數(shù)，保證任務(wù)高效、準確地完成。

快手的推薦系統(tǒng)為了應(yīng)對海量數(shù)據(jù)沖擊，在架構(gòu)上分離了計算與存儲。參數(shù)服務(wù)器屬于存儲型服務(wù)，該服務(wù)要保存和實時更新上億規(guī)模的用戶畫像、數(shù)十億規(guī)模的短視頻特征、以及千億規(guī)模的排序模型參數(shù)。受限于容量和帶寬的參數(shù)服務(wù)器，還要支撐每秒數(shù)億次的 KV 請求，耗費大量 CPU 資源。

要解決此類瓶頸，最佳方案是使用不同計算設(shè)備處理不同負載。快手的LaoFe NDP 近數(shù)據(jù)架構(gòu)，在計算體系結(jié)構(gòu)上實現(xiàn)創(chuàng)新，使用英特爾? 至強?可擴展處理器、英特爾?? Agilex? FPGA 和英特爾?? 傲騰? 持久內(nèi)存，借助軟硬一體化、領(lǐng)域?qū)Ｓ眉铀倨髟O(shè)計，從而做到網(wǎng)絡(luò)、存儲、計算三重加速，為各個業(yè)務(wù)系統(tǒng)提供低延遲、高并發(fā)、高吞吐、低總體擁有成本的基礎(chǔ)資源。

2、持久內(nèi)存+FGPA 專用硬件，

確保三重加速創(chuàng)新

在網(wǎng)絡(luò)層面，LaoFe NDP 架構(gòu)將 CPU的網(wǎng)絡(luò)數(shù)據(jù)處理轉(zhuǎn)移到英特爾? Stratix 10 FPGA 上，同時基于該 FPGA 實現(xiàn)了“軟件定義遠程直接內(nèi)存訪問”協(xié)議（SD-RDMA），大幅降低了請求延時。

在存儲層面，該架構(gòu)打造了支持 SSD、英特爾? 傲騰? 持久內(nèi)存、以及 DRAM 的Key-Value 存儲引擎，將CPU 層面的存儲操作也轉(zhuǎn)移到 FPGA 中，最大程度發(fā)揮 FPGA 的能力，相比 CPU 方案，將存儲引擎的吞吐能力提升 5 倍以上。該引擎還利用英特爾? 傲騰? 持久內(nèi)存的特性，讓基于異構(gòu)存儲的索引系統(tǒng)幾乎達到純 DRAM 相同的性能指標，成本降低 30%。同時相比之前小時級的故障恢復(fù)速度，異構(gòu)存儲的索引系統(tǒng)只需幾分鐘就能重新上線。

LaoFe NDP 的計算加速仰仗 FPGA 作為領(lǐng)域?qū)Ｓ锰幚恚梢愿行У夭⑿刑幚頂?shù)據(jù)，提供更高效的內(nèi)存層次結(jié)構(gòu)與定制化的執(zhí)行單元，從而支持機器學習、深度學習和大數(shù)據(jù)等場景。英特爾?? FPGA 具備富于彈性的可編程硬件能力，延時低且可精確控制，單位算力功耗低、 片上內(nèi)存大，適合于快手延時要求高、批處理比較小、
并發(fā)性和重復(fù)性強的應(yīng)用場景。

快手LaoFe NDP 架構(gòu)在英特爾軟硬件優(yōu)化下，最終實現(xiàn)了如下優(yōu)勢：

■ 系統(tǒng)吞吐顯著提升，延時顯著降低：參數(shù)服務(wù)器的吞吐性能提升了 5-6 倍，整體請求延時降低了 70%-80%，提供更好的用戶體驗。

■ 更好地控制 TCO：FPGA 的強大性能提供遠超傳統(tǒng)方案的吞吐能力，僅需部署少量的服務(wù)器就能滿足特性的性能指標要求，替代比可達到 1：5，有效降低 TCO。

■ 降低性能抖動：基于CPU的軟件方案常因需要進行高頻率更新而出現(xiàn)性能抖動，而通過FPGA來處理負載，能大幅減少性能抖動。

通過快手的實踐能夠看出，以異構(gòu)計算加速不同負載，能夠顯著提升在推薦等場景下的系統(tǒng)吞吐與延時表現(xiàn)。未來，英特爾還會和快手等合作伙伴一起，推進面向未來數(shù)據(jù)中心的異構(gòu)參考架構(gòu)，通過CPU、IPU、XPU的產(chǎn)品組合以及軟件堆棧，以及智能網(wǎng)絡(luò)結(jié)構(gòu)，提供跨越整個數(shù)據(jù)管道的解決方案，高效挖掘海量數(shù)據(jù)中的智慧，讓用戶與用戶、用戶與內(nèi)容、用戶與商品可及時按需建立高效、有溫度的連接互動。

掃描下方二維碼或點擊“閱讀原文”了解更多案例詳情。

[1] 微內(nèi)容時代，快手娛樂憑借創(chuàng)新內(nèi)容搶先一步？

https://www.sohu.com/a/563124514_121321820

[2] 快手攜手英特爾，通過LaoFeNDP架構(gòu)加速異構(gòu)計算提供多元算力