?ICLR 2024 | UTS提出全新聯(lián)邦推薦算法：從全面?zhèn)€性化過(guò)渡到加性個(gè)性化
這篇論文提出了一種新的聯(lián)邦推薦算法 FedRAP。FedRAP 在聯(lián)邦學(xué)習(xí)框架中同時(shí)針對(duì)用戶信息和項(xiàng)目信息實(shí)施雙邊個(gè)性化策略，以此來(lái)增強(qiáng)推薦系統(tǒng)在隱私保護(hù)和個(gè)性化推薦方面的表現(xiàn)。它通過(guò)逐步提高正則化權(quán)重，平滑地從全面?zhèn)€性化過(guò)渡到加性個(gè)性化。同時(shí)，F(xiàn)edRAP 還引入了對(duì)全局項(xiàng)目嵌入進(jìn)行稀疏化處理的策略，有效降低了通信開銷。
論文標(biāo)題：Federated Recommendation with Additive Personalization
論文鏈接：
??https://arxiv.org/abs/2301.09109??
代碼鏈接：
??https://github.com/mtics/FedRAP??
隨著對(duì)隱私保護(hù)需求的增加，聯(lián)邦學(xué)習(xí)環(huán)境下推薦系統(tǒng)的開發(fā)成為了構(gòu)建下一代互聯(lián)網(wǎng)服務(wù)架構(gòu)的新趨勢(shì)。但是，現(xiàn)有方法多是基于分布式推薦框架并附加隱私保護(hù)機(jī)制演化而來(lái)，這使得它們?cè)诼?lián)邦推薦系統(tǒng)中很難充分發(fā)揮個(gè)性化的潛力。為了解決這一問(wèn)題，本文提出了一種創(chuàng)新方法——聯(lián)邦推薦與加性個(gè)性化(FedRAP)，該方法通過(guò)分析用戶偏好和其對(duì)項(xiàng)目的個(gè)人理解來(lái)優(yōu)化推薦效果。FedRAP 的核心在于加性個(gè)性化技術(shù)，它通過(guò)將個(gè)性化的項(xiàng)目嵌入與所有用戶共同形成的稀疏全局項(xiàng)目嵌入相結(jié)合。
此外，為了緩解不同客戶端間項(xiàng)目嵌入的差異性可能導(dǎo)致的性能問(wèn)題，F(xiàn)edRAP 采用了逐步增加正則化權(quán)重的策略，并通過(guò)全局項(xiàng)目嵌入的稀疏化處理來(lái)減少通信負(fù)擔(dān)。在四個(gè)現(xiàn)實(shí)世界的推薦數(shù)據(jù)集上進(jìn)行的實(shí)驗(yàn)驗(yàn)證了 FedRAP 方法的有效性。
背景和動(dòng)機(jī)
近年來(lái)，推薦系統(tǒng)已經(jīng)成為一個(gè)重要的工具，它能夠向用戶推薦他們可能感興趣的新內(nèi)容，并且顯著地影響了我們的日常生活。這些系統(tǒng)一般都依賴中心服務(wù)器來(lái)收集并整合用戶的數(shù)據(jù)、活動(dòng)記錄和偏好信息，以此來(lái)訓(xùn)練出能夠做出精準(zhǔn)推薦的模型。
然而，用戶數(shù)據(jù)往往含有敏感的隱私信息，一旦上傳至服務(wù)器就可能面臨嚴(yán)重的隱私和安全風(fēng)險(xiǎn)。近期，一些隱私保護(hù)法規(guī)(例如 GDPR)更是明確要求用戶數(shù)據(jù)應(yīng)當(dāng)存儲(chǔ)于本地設(shè)備，而非上傳至云端服務(wù)器。
針對(duì)上述問(wèn)題，聯(lián)邦學(xué)習(xí)(FL)提供了一個(gè)潛在的解決方案。它通過(guò)在客戶端進(jìn)行本地模型訓(xùn)練，并將訓(xùn)練后的本地模型在服務(wù)器端進(jìn)行聚合，實(shí)現(xiàn)了數(shù)據(jù)的本地化和分布式全局模型訓(xùn)練。FL 已在多個(gè)應(yīng)用場(chǎng)景中取得顯著成效，比如谷歌鍵盤的查詢建議功能。然而，客戶端之間的數(shù)據(jù)異質(zhì)性可能會(huì)大幅延緩 FL 的收斂速度，導(dǎo)致客戶端漂移或者個(gè)別客戶端的全局模型性能下降。
為了在保護(hù)用戶隱私的同時(shí)促進(jìn)不同客戶端間的知識(shí)共享，學(xué)者們正在積極研究聯(lián)邦推薦系統(tǒng)(FRS)。FRS 能夠處理單個(gè)用戶的客戶端數(shù)據(jù)，以此來(lái)構(gòu)建用戶的個(gè)人資料。在此情境下，用戶的資料和評(píng)分?jǐn)?shù)據(jù)應(yīng)當(dāng)被保留在本地客戶端，而服務(wù)器則負(fù)責(zé)存儲(chǔ)項(xiàng)目信息。
聯(lián)邦推薦系統(tǒng)在保護(hù)用戶隱私的同時(shí)，還需要在通信成本和模型精度之間找到一個(gè)恰當(dāng)?shù)钠胶恻c(diǎn)，以便提供最優(yōu)化的推薦結(jié)果。然而，現(xiàn)有的方法往往忽略了用戶對(duì)相同項(xiàng)目的感知不同的問(wèn)題，即：不同用戶可能對(duì)同一項(xiàng)目有不同的偏好，并關(guān)注于項(xiàng)目的不同特性。
為了解決現(xiàn)有聯(lián)邦推薦系統(tǒng)中的這些問(wèn)題，本文提出了一種名為聯(lián)邦推薦與加性個(gè)性化(FedRAP)的新算法。FedRAP 通過(guò)將加性個(gè)性化技術(shù)應(yīng)用于項(xiàng)目嵌入，并通過(guò)使全局項(xiàng)目嵌入變得稀疏來(lái)減少通信成本和延遲。
此外，F(xiàn)edRAP 還采用了一種逐漸變化的參數(shù)調(diào)整方法，以平衡全局知識(shí)共享和本地個(gè)性化之間的權(quán)衡。FedRAP 遵循水平聯(lián)邦學(xué)習(xí)的假設(shè)，即：不同客戶端擁有獨(dú)特的用戶和數(shù)據(jù)集，但共享相同的項(xiàng)目。具體而言，F(xiàn)edRAP 的主要貢獻(xiàn)包括：
- 雙邊個(gè)性化：FedRAP 為每個(gè)客戶端提供了私有的用戶嵌入，同時(shí)通過(guò)將與用戶相關(guān)的本地項(xiàng)目嵌入與在服務(wù)器上聚合更新的全局項(xiàng)目嵌入相加，實(shí)現(xiàn)了項(xiàng)目的加性個(gè)性化。
- 雙重正則化策略：一方面 FedRAP 鼓勵(lì)稀疏性以減少通信開銷，另一方面 FedRAP 確保本地和全局項(xiàng)目信息的多樣性以保證其互補(bǔ)性。
- 逐漸變化的正則化權(quán)重：為了應(yīng)對(duì)早期訓(xùn)練中加性個(gè)性化可能帶來(lái)的性能損失，F(xiàn)edRAP 采取逐步增加正則化權(quán)重的方法，來(lái)將完全個(gè)性化逐漸過(guò)渡到加性個(gè)性化。
因此，F(xiàn)edRAP 能夠利用客戶端本地存儲(chǔ)的部分評(píng)分?jǐn)?shù)據(jù)，預(yù)測(cè)用戶對(duì)未評(píng)分項(xiàng)目的評(píng)分，同時(shí)兼顧項(xiàng)目的全局視角和用戶特定視角。在六個(gè)真實(shí)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，F(xiàn)edRAP 在聯(lián)邦推薦領(lǐng)域顯著優(yōu)于現(xiàn)有方法。
聯(lián)邦推薦與加性個(gè)性化(FedRAP)
為了便于理解和闡述，我們?cè)诖瞬徽归_討論具體的公式細(xì)節(jié)，更多深入的內(nèi)容請(qǐng)參閱原始論文。
因此，F(xiàn)edRAP 具有如下所示的框架圖。
具體來(lái)講，F(xiàn)edRAP采用以下策略：
實(shí)驗(yàn)
數(shù)據(jù)集：為了評(píng)估 FedRAP 的性能，本文在六個(gè)熱門的推薦系統(tǒng)數(shù)據(jù)集上進(jìn)行了全面的實(shí)驗(yàn)研究，這些數(shù)據(jù)集分別是：MovieLens-100K(簡(jiǎn)稱 ML-100K)、MovieLens-1M(簡(jiǎn)稱 ML-1M)、Amazon-Instant-Video(簡(jiǎn)稱 Video)、LastFM-2K(簡(jiǎn)稱 LastFM)、Ta Feng Grocery(簡(jiǎn)稱 TaFeng)和 QB-article。
前四個(gè)數(shù)據(jù)集中包括的評(píng)分范圍是 1-5。鑒于本文的研究目標(biāo)是對(duì)包含隱式反饋的數(shù)據(jù)進(jìn)行推薦預(yù)測(cè)，本文將這些數(shù)據(jù)集中所有大于 0 的評(píng)分均設(shè)定為 1。而 TaFeng 和 QB-article 兩個(gè)數(shù)據(jù)集包含了基于用戶交互日志的隱式反饋信息。在每個(gè)數(shù)據(jù)集中，我們僅考慮了那些至少對(duì) 10 個(gè)項(xiàng)目做出評(píng)價(jià)的用戶。
基線：本文通過(guò)與中心化和聯(lián)邦學(xué)習(xí)設(shè)置中幾種先進(jìn)方法的對(duì)比來(lái)驗(yàn)證 FedRAP 的有效性，這包括 NCF、LightGCN、FedMF、FedNCF 和 PFedRec。具體的實(shí)驗(yàn)細(xì)節(jié)，請(qǐng)參考原始論文。
評(píng)價(jià)指標(biāo)：本研究采用了命中率(HR@K)和歸一化折扣累積增益(NDCG@K)作為評(píng)價(jià)指標(biāo)，并將 K 設(shè)置為 10。所有的實(shí)驗(yàn)都進(jìn)行了五次重復(fù)，以確保結(jié)果的可靠性，并報(bào)告了實(shí)驗(yàn)結(jié)果的平均值及其標(biāo)準(zhǔn)偏差。
3.1 主要結(jié)果
上圖的實(shí)驗(yàn)結(jié)果顯示，在使用的六個(gè)數(shù)據(jù)集中，F(xiàn)edRAP 在絕大多數(shù)情況下都超過(guò)了其他方法，且在所有聯(lián)邦學(xué)習(xí)方法中表現(xiàn)最為突出。這種卓越表現(xiàn)可能歸因于 FedRAP 在用戶和項(xiàng)目信息上執(zhí)行的雙邊個(gè)性化策略。
相比于 PFedRec，F(xiàn)edRAP 之所以展現(xiàn)更好的性能，是因?yàn)樗趥€(gè)性化項(xiàng)目信息的同時(shí)，能夠有效保留項(xiàng)目的共性信息，避免了潛在的信息丟失。而 CentRAP 在所有數(shù)據(jù)集中的表現(xiàn)略勝 FedRAP 一籌顯示了 FedRAP 在所采用的數(shù)據(jù)集中潛在的性能上限。
此外，我們還研究了 FedRAP 的收斂速度，通過(guò)比較 ML-100K 數(shù)據(jù)集上各方法(除了 CentRAP 外)在訓(xùn)練過(guò)程中每次迭代的表現(xiàn)。下圖的結(jié)果展示了 FedRAP 的性能優(yōu)勢(shì)，但同時(shí)也指出，由于 FedRAP 的復(fù)雜性高于 PFedRec，其達(dá)到收斂狀態(tài)需要更多的迭代次數(shù)。
3.2 項(xiàng)目信息的可視化
更多實(shí)驗(yàn)結(jié)果請(qǐng)見(jiàn)原論文。
結(jié)論
本文提出了一種名為 FedRAP 的方法，通過(guò)同時(shí)實(shí)現(xiàn)用戶信息個(gè)性化和項(xiàng)目信息的加性個(gè)性化，做出了雙邊個(gè)性化的聯(lián)邦推薦。
FedRAP 通過(guò)逐漸增加正則化權(quán)重，實(shí)現(xiàn)了從完全個(gè)性化到項(xiàng)目信息加性個(gè)性化的課程，以減輕在訓(xùn)練早期使用加性個(gè)性化引起的性能下降。此外，通過(guò)對(duì)全局項(xiàng)目嵌入施加稀疏性約束來(lái)移除無(wú)用的推薦信息，這也有助于減少通信成本。
由于客戶端在每次迭代中只上傳更新的全局項(xiàng)目嵌入到服務(wù)器，因此 FedRAP 避免了用戶信息的泄露。通過(guò)在 6 個(gè)廣泛使用的真實(shí)世界推薦數(shù)據(jù)集上進(jìn)行的比較實(shí)驗(yàn)和大量的消融研究，F(xiàn)edRAP 證明了其有效性。此外，由于 FedRAP 的簡(jiǎn)單性，探索其在其他聯(lián)邦場(chǎng)景中的應(yīng)用將是有趣的。
本文轉(zhuǎn)載自 ???PaperWeekly??，作者： 李志偉
