阿里云率先支持Llama2全系列訓練部署,助力企業(yè)快速打造專屬大模型
Llama2開源并支持免費商用,引發(fā)業(yè)界對開源大模型的熱切關(guān)注。7月25日,阿里云在國內(nèi)率先推出針對Llama2全系列版本的訓練和部署方案,歡迎所有開發(fā)者來阿里云上打造專屬大模型。
近日,Llama2大語言模型宣布開源,覆蓋70億、130億及700億參數(shù)版本。Llama2可免費用于研究場景和月活7億用戶以下的商業(yè)場景,為企業(yè)和開發(fā)者提供了大模型研究的新工具。然而,對Llama2的再訓練和部署仍存在較高門檻,尤其是針對效果更勝一籌的大尺寸版本。
為方便開發(fā)者群體,阿里云機器學習平臺PAI在國內(nèi)率先對Llama2系列模型進行深度適配,推出了輕量級微調(diào)、全參數(shù)微調(diào)、推理服務(wù)等場景的最佳實踐方案,助力開發(fā)者快速基于Llama2進行再訓練,搭建自己的專屬大模型。
阿里云牽頭發(fā)起的AI模型社區(qū)魔搭ModelScope,第一時間上架了Llama2系列模型。開發(fā)者可在魔搭社區(qū)Llama2模型頁面點擊“Notebook快速開發(fā)”,一鍵拉起阿里云機器學習平臺PAI,對模型進行云上開發(fā)和部署;在其他平臺下載的Llama2模型,也可使用阿里云PAI進行開發(fā)。
針對特殊的場景需求,開發(fā)者往往需使用微調(diào)訓練的方法對模型進行“調(diào)整”,以獲得特定領(lǐng)域的專業(yè)能力和知識。此時,PAI支持開發(fā)者在云上進行輕量級Lora微調(diào)或更深度的全參數(shù)微調(diào)。完成模型微調(diào)后,PAI支持開發(fā)者通過Web UI及API的方式部署Llama2,使模型可以通過網(wǎng)頁或嵌入應(yīng)用與使用者交互。
相比本地單機訓練Llama2,在阿里云上可完成對超大尺寸模型的深度開發(fā),且預(yù)置環(huán)境免運維,操作簡單便捷,同時開發(fā)者可獲得豐富的AI計算資源和極致彈性。本地單卡GPU只能完成Llama2 70億參數(shù)版本的輕量級Lora微調(diào)和推理,更大尺寸版本及更深度訓練均很難支撐。在阿里云上,通過PAI靈駿智算服務(wù)提供的分布式計算能力,可對Llama2全尺寸版本進行輕量級和全參數(shù)微調(diào),并進行高效部署和推理。
作為全球前三、亞洲第一的云廠商,阿里云是中國AI浪潮重要的引領(lǐng)者和服務(wù)者,已構(gòu)建完備的IaaS+PaaS+MaaS一體化AI服務(wù)。在基礎(chǔ)設(shè)施層,阿里云擁有國內(nèi)最強的智能算力儲備,靈駿智算集群具備最大十萬卡GPU規(guī)模擴展性,可承載多個萬億參數(shù)大模型同時在線訓練;在AI平臺層,阿里云機器學習平臺PAI提供AI開發(fā)全流程的工程能力,PAI靈駿智算服務(wù)支撐了通義千問等超大模型的訓練和應(yīng)用,可將大模型訓練性能提高近10倍,推理效率提升37%;在模型服務(wù)層,阿里云構(gòu)建了國內(nèi)最活躍的AI模型社區(qū)魔搭,并支持企業(yè)基于通義千問或三方大模型進行再訓練。
今年7月初,阿里云宣布,將把促進中國大模型生態(tài)的繁榮作為首要目標,向大模型創(chuàng)業(yè)公司提供包括模型訓練、推理、部署、精調(diào)、測評、產(chǎn)品化落地等在內(nèi)的全方位服務(wù),并在資金和商業(yè)化探索方面提供充分支持。