美團技術(shù)沙龍第79期：美團搜索/推薦/廣告稀疏模型的端到端實踐
2023年11月25日 14:00 ～ 2023年11月25日 17:30
線上活動
| 關(guān)于美團技術(shù)沙龍
本期活動由清華大學(xué)-美團數(shù)字生活聯(lián)合研究院和深圳市美團機器人研究院聯(lián)合出品，美團技術(shù)團隊和美團科協(xié)主辦，每期沙龍邀請美團及其他互聯(lián)網(wǎng)公司的技術(shù)專家分享來自一線的實踐經(jīng)驗，覆蓋各主要技術(shù)領(lǐng)域。
/出品人/
興星，美團高級研究員
2016年初加入美團，從0到1搭建外賣商業(yè)團隊及技術(shù)體系，應(yīng)用于外賣/閃購/醫(yī)藥的搜索/推薦/品牌展示等多個廣告場景，多次獲得BG業(yè)務(wù)和技術(shù)突破獎。曾在搜狗商業(yè)、百度鳳巢任職，早年也曾獲得多項數(shù)據(jù)競賽冠軍。
| 活動簡介
AI時代，數(shù)據(jù)、算法、算力是三大核心要素，而算法工程作為運作載體，提供AI能力的業(yè)務(wù)價值變現(xiàn)。
美團作為一家科技零售公司，很早就在搜索、推薦、廣告方向踐行用AI“幫大家吃得更好，生活更好”，持續(xù)打磨算法體系和算法工程系統(tǒng)，以追求極致的用戶體驗。
本次技術(shù)沙龍，我們將與大家分享稀疏場景下的算法工程內(nèi)容，包括訓(xùn)練、特征、推理三個方向遇到的系統(tǒng)挑戰(zhàn)與取得的階段性成果。
| 日程安排
外部議程
| 分享介紹
黃軍，美團研究員
目前從事深度學(xué)習(xí)基礎(chǔ)架構(gòu)工作，曾從事大數(shù)據(jù)基礎(chǔ)架構(gòu)工作。
分享議題：《美團搜索/推薦/廣告場景的訓(xùn)練引擎實踐》
介紹美團通用大規(guī)模深度學(xué)習(xí)訓(xùn)練引擎的演進過程，關(guān)鍵演進技術(shù)包括：大規(guī)模稀疏參數(shù)支持，千億樣本訓(xùn)練，異構(gòu)硬件加速，大規(guī)模集群部署等。
王敬宇，北京郵電大學(xué)教授/博導(dǎo)
從事深度學(xué)習(xí)模型編譯、加速與分布化的工作，北京市青年英才，主持完成國家級項目10余項。
分享議題：《稀疏模型推理加速在美團推薦系統(tǒng)中的實踐》
在線推薦類模型中算子粒度過小，模型中使用的定制算子往往并未被主流的優(yōu)化工具支持，這使得TVM等推理加速工具難以對整個模型進行加速，造成模型的對應(yīng)圖結(jié)構(gòu)零碎，效率不高。本次分享主要介紹報告引擎優(yōu)化工作，以系統(tǒng)化的方式提供計算圖算力密度的評估機制，以及更多通?的算子融合與替換策略，獲得比手工優(yōu)化策略更通用的優(yōu)化策略，已經(jīng)部署于美團的真實業(yè)務(wù)，實現(xiàn)了深度學(xué)習(xí)推理服務(wù)加速。
亞劼，美團高級技術(shù)專家
曾帶領(lǐng)團隊從0-1建設(shè)了廣告特征、模型推理系統(tǒng)，在算法工作流、數(shù)據(jù)流、模型加速優(yōu)化有豐富的經(jīng)驗。
分享議題：《美團外賣廣告特征平臺實踐》
特征、樣本作為算法工作流程中重要的一環(huán)，數(shù)據(jù)質(zhì)量、數(shù)據(jù)生產(chǎn)效率直接影響了模型產(chǎn)出的好、快。本次分享，主要介紹美團外賣廣告在算法數(shù)據(jù)高時效、大規(guī)模驅(qū)動下，特征平臺的演進，尤其是在超長序列下，特征回溯、特征存儲的解決方案。
玉磊，美團高級技術(shù)專家
負(fù)責(zé)搜推機器學(xué)習(xí)引擎工作，在GPU加速訓(xùn)練和推理方面有多年經(jīng)驗，帶領(lǐng)團隊完成搜推機器學(xué)習(xí)訓(xùn)練、推理從CPU到GPU的切換。曾就職于百度鳳巢模型團隊。
分享議題：《美團搜索/推薦推理引擎實踐》
推理引擎是模型應(yīng)用的核心架構(gòu)，也是影響模型交付效果的最后一環(huán)。隨著模型復(fù)雜度的進一步提高，面向稀疏特征場景、以CPU為算力基礎(chǔ)的傳統(tǒng)稀疏模型推理引擎架構(gòu)，在算力上面臨著巨大的短板；同時，稀疏特征的規(guī)模也成為傳統(tǒng)搜推模型采用新硬件進行加速的核心制約因素。本次分享主要介紹美團搜索、推薦采用GPU進行推理加速的新架構(gòu)，內(nèi)容主要包括搜推模型的在線學(xué)習(xí)、稀疏特征加速處理、模型優(yōu)化、模型分發(fā)等推理引擎核心議題。
