本文對(duì)基于適配器的可遷移推薦系統(tǒng)進(jìn)行了實(shí)驗(yàn)探索和深入研究。發(fā)現(xiàn)在文本推薦方面，基于適配器的可遷移推薦取得了有競(jìng)爭(zhēng)力的結(jié)果；在圖像推薦方面，基于適配器的可遷移推薦略落后于全量微調(diào)。后續(xù)本文對(duì)四種著名的適配器微調(diào)方法進(jìn)行了基準(zhǔn)測(cè)試，并深入研究了可能影響適配器微調(diào)在推薦任務(wù)中的幾個(gè)關(guān)鍵因素。論文題目：ExploringAdapterbasedTransferLearningforRecommenderSystems:EmpiricalStudiesandPracticalInsights論文鏈...

論文題目：PoSE:EfficientContextWindowExtensionofLLMsviaPositionalSkipwiseTraining論文鏈接：https:arxiv.orgabs2309.10400代碼鏈接：https:github.comdwzhupkuPoSE一、研究簡(jiǎn)介大型語(yǔ)言模型（LLMs）通常有一個(gè)預(yù)定義的上下文窗口大小，這限制了它們?cè)陂L(zhǎng)輸入的場(chǎng)景中的使用。為了使LLMs適應(yīng)更長(zhǎng)的輸入，通常需要用目標(biāo)長(zhǎng)度的樣本對(duì)其進(jìn)行微調(diào)（全長(zhǎng)微調(diào)），由此導(dǎo)致訓(xùn)練成本十分昂貴。舉例來(lái)說(shuō)，在PositionalInterpolation[...

最近在大型視覺(jué)語(yǔ)言模型（LVLMs）上的進(jìn)展使得語(yǔ)言模型能夠處理多模態(tài)輸入，但這需要顯著的計(jì)算資源，特別是在端側(cè)設(shè)備上進(jìn)行部署。本研究旨在通過(guò)采用高質(zhì)量訓(xùn)練數(shù)據(jù)，彌合傳統(tǒng)規(guī)模LVLMs與輕量版本之間的性能差距。為此，我們利用GPT4V構(gòu)建了一個(gè)高質(zhì)量的合成數(shù)據(jù)集，包含（1）具有詳細(xì)文本描述的圖文對(duì)；和（2）復(fù)雜的推理指令和詳細(xì)的答案。利用該訓(xùn)練數(shù)據(jù)，我們訓(xùn)練了一個(gè)輕量級(jí)的多模態(tài)模型ALLaVA3B，在同量級(jí)的LVLMs的12...

美團(tuán)、浙大等于近日推出了MobileVLMV2，其中包含參數(shù)量1.7B、3B、以及7B的一系列視覺(jué)語(yǔ)言模型。代碼與模型以及適配的端側(cè)推理方案都已開(kāi)源。論文地址：https:arxiv.orgabs2402.03766模型地址：https:huggingface.comtgv代碼地址：https:github.comMeituanAutoMLMobileVLM大模型涌向移動(dòng)端的浪潮愈演愈烈，作為第一個(gè)針對(duì)端側(cè)的視覺(jué)語(yǔ)言模型的工作，歸功于MobileVLM在小參數(shù)量下的強(qiáng)大性能和完善的端側(cè)實(shí)時(shí)運(yùn)行端側(cè)推理方案，Mob...

隨著大語(yǔ)言模型在現(xiàn)實(shí)場(chǎng)景中逐漸落地（例如ChatGPT和Gemini），其生成內(nèi)容的安全性也開(kāi)始逐漸被大眾關(guān)注。通常來(lái)講，我們希望大模型避免生成包含危險(xiǎn)內(nèi)容的回復(fù)，從而減少對(duì)用戶的不良影響，因此評(píng)測(cè)一個(gè)大模型的安全性并分析其弱點(diǎn)成為了一件急需完成的事情。上海人工智能實(shí)驗(yàn)室研究團(tuán)隊(duì)提出了新的大模型安全BenchmarkSALADBench。相比以往的Benchmarks，SALADBench有以下優(yōu)勢(shì)：包含三個(gè)層次結(jié)構(gòu)，數(shù)量超2萬(wàn)條的大規(guī)模分類數(shù)據(jù)...

引言可控文本生成（ControlledTextGeneration,CTG）是大語(yǔ)言模型（LargeLanguageModels,LLMs）文本生成的一個(gè)重要研究領(lǐng)域，旨在創(chuàng)造出符合特定標(biāo)準(zhǔn)或?qū)傩缘奈谋尽＿@包括調(diào)整文本的情緒傾向、確保內(nèi)容安全性、或滿足具體主題要求等。目前CTG實(shí)現(xiàn)的主流方式是結(jié)合有監(jiān)督微調(diào)（SupervisedFineTuning,SFT）和人類反饋強(qiáng)化學(xué)習(xí)（ReinforcementLearningfromHumanFeedback,RLHF）的范式，通過(guò)直接改變模型參數(shù)以適應(yīng)特定的輸出要求。...

單目動(dòng)態(tài)場(chǎng)景（MonocularDynamicScene）是指使用單眼攝像頭觀察并分析的動(dòng)態(tài)環(huán)境，其中場(chǎng)景中的物體可以自由移動(dòng)。單目動(dòng)態(tài)場(chǎng)景重建對(duì)于理解環(huán)境中的動(dòng)態(tài)變化、預(yù)測(cè)物體運(yùn)動(dòng)軌跡以及動(dòng)態(tài)數(shù)字資產(chǎn)生成等任務(wù)至關(guān)重要。隨著以神經(jīng)輻射場(chǎng)（NeuralRadianceField,NeRF）為代表的神經(jīng)渲染的興起，越來(lái)越多的工作開(kāi)始使用隱式表征（implicitrepresentation）進(jìn)行動(dòng)態(tài)場(chǎng)景的三維重建。盡管基于NeRF的一些代表工作，如DNeRF，Nerfies，Kp...