公布全新定制芯片,Meta豪賭AI,更新基礎(chǔ)設(shè)施花費(fèi)創(chuàng)紀(jì)錄
5月19日消息,過去一年,社交媒體巨頭Meta致力于削減成本和裁員,但更新基礎(chǔ)設(shè)施的花費(fèi)卻創(chuàng)下了紀(jì)錄,這是為了在AI競(jìng)賽中保持領(lǐng)先地位。
當(dāng)?shù)貢r(shí)間周四,Meta發(fā)布了一系列新技術(shù),這包括一種新的定制芯片,能夠幫助更快地訓(xùn)練AI,以及一款編程工具,可為程序員提供開發(fā)產(chǎn)品的建議。此外,該公司還在改造其旗下數(shù)據(jù)中心,以便更輕松地部署AI技術(shù)。
Meta首席執(zhí)行官馬克·扎克伯格(Mark Zuckerberg)在一份電子郵件聲明中說:"這項(xiàng)工作反映了我們長(zhǎng)期的努力,將使我們?cè)诟鱾€(gè)領(lǐng)域中能夠更好地利用這項(xiàng)技術(shù),并取得更多的進(jìn)步?!?/p>
為了加速Facebook和Instagram上的推薦算法,Meta正在開發(fā)一款定制加速器芯片。此外,該公司還推出了一個(gè)專門為AI硬件設(shè)計(jì)的新數(shù)據(jù)中心。據(jù)Meta表示,他們已完成AI超級(jí)計(jì)算機(jī)的第二階段建設(shè),用于訓(xùn)練類似ChatGPT的大語言模型。
去年,Meta的資本支出創(chuàng)下了歷史新高,達(dá)到了314億美元,比2017年增加了4.5倍以上。扎克伯格曾稱今年是Meta的“效率年”,分析人士估計(jì),Meta今年的投資水平將與2022年相當(dāng),其中很多資金將用于改進(jìn)和擴(kuò)大AI基礎(chǔ)設(shè)施。
Meta AI研究主管金·哈澤爾伍德(Kim Hazelwood)表示:“雖然我們?cè)谔岣咝史矫嬗龅搅艘恍├щy,但這并不意味著在投資AI和提升效率之間存在直接的競(jìng)爭(zhēng)?!?/p>
一些AI更新顯然提高了Meta的內(nèi)部效率,這導(dǎo)致公司在最近幾個(gè)月內(nèi)裁掉了數(shù)千名員工。
CodeCompose是一款基于生成式AI的新型開發(fā)工具,可以為開發(fā)人員自動(dòng)完成編程工作或提供修改代碼的建議。Meta表示,目前已有5200名內(nèi)部程序員在使用CodeCompose,其中AI提出的編寫代碼建議中有22%被采納。
Meta還越來越多地使用AI來解決最大的業(yè)務(wù)問題。由于蘋果公司調(diào)整了隱私政策,很多廣告商的數(shù)字廣告精確定位目標(biāo)用戶更加困難,Meta計(jì)劃利用AI來猜測(cè)用戶的興趣。為了與短視頻平臺(tái)TikTok競(jìng)爭(zhēng),F(xiàn)acebook和Instagram也開始展示用戶并不關(guān)注的賬戶內(nèi)容,這需要一種算法來猜測(cè)用戶可能對(duì)什么感興趣。
市場(chǎng)研究公司CFRA Research分析師安吉洛·齊諾(Angelo Zino)在接受采訪時(shí)表示,投資者將會(huì)尋求直接的證據(jù)來證明這些改進(jìn),以證明大筆支出是合理的。
“很明顯,這些事情需要一些時(shí)間,不可能一蹴而就,” 齊諾談到Meta整體增加資本支出時(shí)表示?!翱隙〞?huì)有大量審核,確保能夠加速實(shí)現(xiàn)收入方面的一些回報(bào)?!?/p>
當(dāng)我們?cè)儐朅I模型時(shí),它們會(huì)做出回答,這個(gè)過程就是所謂的推理,這需要特定類型的運(yùn)算過程。Meta決定開發(fā)新的芯片MTIA(Meta Training and Inference Accelerator,意思是Meta訓(xùn)練和推理加速器),幫助完成內(nèi)部特定的工作,補(bǔ)充英偉達(dá)GPU的數(shù)量不足(即使已大量采購)。
Meta希望MTIA芯片能提升能力,為用戶預(yù)測(cè)更準(zhǔn)確、更有趣的原創(chuàng)和廣告內(nèi)容類型,從而讓人們花更多時(shí)間使用應(yīng)用程序并點(diǎn)擊更多廣告。
該公司還推出了第一款專門用于處理視頻和直播內(nèi)容的內(nèi)部專用集成電路(ASIC)。Facebook和Instagram用戶每天分享的短視頻已經(jīng)超過20億個(gè)。無論用戶使用何種設(shè)備觀看視頻,這款新型處理器都可以幫助用戶更快地顯示這些視頻,并且需要更少的流量。
Meta的硬件工程副總裁亞歷克西斯·比約林(Alexis Bjorlin)表示:“我們成功地對(duì)第一批芯片進(jìn)行了優(yōu)化、平衡和精準(zhǔn)調(diào)整,以適應(yīng)我們的推薦模型。”“我們清楚了解到生成式AI工作負(fù)載或其他相關(guān)需求,這些信息都盡在掌握?!?/p>
Meta社交媒體app使用的推薦引擎基于當(dāng)前的AI技術(shù),但未來生成式AI的運(yùn)行將依賴Meta的AI超級(jí)計(jì)算機(jī)Research SuperCluster。公司將利用這款超算訓(xùn)練大量的AI模型。
周四,Meta宣布已完成第二階段的建設(shè),訓(xùn)練了名為L(zhǎng)LaMA的大語言模型。這將成為公司建造虛擬現(xiàn)實(shí)平臺(tái)元宇宙的關(guān)鍵部分。
Meta一直致力于向外界開放其一些先進(jìn)技術(shù)。雖然其堆棧中的大部分硬件限內(nèi)部使用,但部分成果是開源的。和LLaMA模型一樣,由Meta超級(jí)計(jì)算機(jī)訓(xùn)練出來、可解十道國際奧數(shù)競(jìng)賽難題的AI模型也已與研究人員共享。代碼開發(fā)工具CodeCompose則基于Meta AI研究團(tuán)隊(duì)公開的技術(shù)成果構(gòu)建。此外,新推理芯片將有助于Meta繼續(xù)支持PyTorch,這是其創(chuàng)建的開源AI框架,并已轉(zhuǎn)移到Linux基金會(huì),以增加其獨(dú)立性。
盡管Meta多年來一直致力于開發(fā)AI工具,但扎克伯格仍然選擇將公司未來設(shè)立在更加模糊的虛擬現(xiàn)實(shí)愿景之上。投資研究機(jī)構(gòu)Third Bridge分析師斯科特·凱斯勒(Scott Kessler)表示,這種轉(zhuǎn)變受到了投資者的嚴(yán)厲審視,因此此次對(duì)AI基礎(chǔ)設(shè)施的深度投資可以幫助投資者重建對(duì)扎克伯格整體戰(zhàn)略的信心。
凱斯勒表示,當(dāng)行業(yè)競(jìng)相將AI融入業(yè)務(wù)之時(shí),“他們不想輸在起跑線上,”他說:“相比六到九個(gè)月前,現(xiàn)在更多人相信這種說法了。”